Assistant IA médical : l’utiliser sans perdre le contrôle clinique

Ce que couvre ce guide

Un « assistant » dans un logiciel de santé soulève une seule vraie question. La question utile pour un directeur médical n’est pas ce que l’assistant sait faire, mais ce qu’il n’a pas le droit de faire, qui décide, et ce que l’on peut relire après coup. Ce guide propose une méthode de cadrage, puis montre ce que les écrans conçus de 1001care en font : un assistant propose, une personne décide.

Données synthétiques. Les écrans sont des maquettes ; aucun fournisseur de modèle n’est connecté et aucune donnée réelle n’a été traitée. Nous ne revendiquons aucune précision, aucune qualité de prédiction, aucune certification.

En bref

• Un assistant propose : une carte avec « Accepter · Modifier · Rejeter ». Une personne décide.
• Il travaille dans l’accès de la personne pour laquelle il agit, jamais au-delà.
• Il ne rédige aucun acte clinique : ni diagnostic, ni prescription, ni dose, ni interprétation de résultat, ni priorité de tri.
• Aucun assistant n’est autonome par défaut. Relever son niveau est réservé : au directeur médical pour tout ce qui touche aux soins, à l’administrateur SI pour les tâches administratives. Chaque changement est journalisé.
• Chaque proposition et chaque décision sont inscrites dans un journal. Le fournisseur du modèle peut être changé, avec une option locale ; ce qui peut quitter l’établissement se règle par niveaux, à valider avec un conseil.

Qui fait quoi

L’établissement garde ses rôles cliniques. 1001care fournit le logiciel ; il ne prend aucune décision médicale et un assistant n’en prend pas non plus.

Les étapes

1. Lister les usages avant de choisir un outil

Commencez par une page : quelles tâches voulez-vous alléger, et lesquelles ne doivent jamais être déléguées ? 1001care dessine des propositions dans plusieurs modules. Les voici telles que les écrans les montrent, rien de plus.

Deux fonctions sont étiquetées « Plus tard » : la rédaction de notes depuis l’audio (non dessinée) et un assistant pour le patient dans l’application, dont l’aperçu répond aux questions pratiques, cite sa source, refuse toute question médicale et propose d’écrire au secrétariat ou de parler à une personne.

2. Poser la règle : proposer, jamais décider

La carte de proposition est le point de contrôle. Elle dit ce que l’assistant propose, pourquoi, d’après quelle source, et offre trois actions : accepter, modifier, rejeter. Tant qu’une personne n’a pas décidé, rien n’est envoyé, classé ni appliqué. Exigez la même chose de tout outil : si la proposition peut être appliquée sans clic humain, le niveau est déjà trop haut.

3. Garder l’assistant dans l’accès de la personne

Un assistant ne doit voir ni faire plus que la personne ou la fonction pour laquelle il travaille. Dans la grille d’accès de 1001care, la ligne « assistants » n’a qu’un niveau, « proposer », limité au cas en cours, et des interdictions explicites là où se prennent les décisions cliniques. Il ne peut pas changer son propre niveau d’autonomie. Pour le reste des droits, voyez Contrôler qui voit quoi dans le dossier patient.

4. Interdire à l’assistant tout acte clinique

C’est la règle la plus simple et la plus importante. Dans 1001care, les commandes cliniques (diagnostic, résultat, priorité de tri, demande d’examen, prescription, dose) refusent un assistant comme auteur. L’écran Agents et autonomie l’affiche en clair : « Actes cliniques : aucun », aucun niveau d’autonomie n’existe pour un acte clinique. L’écran d’Administration des médicaments précise qu’il ne propose aucune dose ; la Dispensation de la pharmacie ne propose ni dose, ni substitution et ne signale aucune interaction.

5. Ne rien rendre autonome par défaut, et choisir le niveau par assistant

L’écran Agents et autonomie de la console d’administration liste chaque assistant avec son domaine, son niveau, son niveau de données, sa part de propositions acceptées et son état. Quatre niveaux existent dans 1001care : L0 « informe », L1 « suggère », L2 « agit avec annulation », et L3 « agit seul », qui n’est proposé pour aucun assistant. Chaque assistant a un plafond et la raison de ce plafond (par exemple : fusionner deux dossiers exige toujours deux personnes). Une hausse refusée dit pourquoi, avec la règle.

Qui relève un niveau ? Le directeur médical pour tout assistant proche des soins, l’administrateur SI pour un assistant administratif. Le taux d’acceptation sert d’information pour décider, pas de preuve de justesse : il mesure combien de propositions les équipes suivent.

6. Tenir un journal que l’on peut relire

L’écran Journal des agents garde, pour chaque proposition : la date, l’assistant, vers quel modèle elle est partie (local ou externe), le niveau de données, la proposition et la décision d’une personne. Le détail montre les champs envoyés, la réponse du modèle et la décision. Le contenu envoyé n’est pas conservé : seuls la liste des champs et la réponse le sont. L’indicateur « envois hors établissement » est marqué « Non connecté ». Le journal d’accès complète : il dit qui a ouvert quel dossier.

7. Choisir le fournisseur et le niveau de données

L’écran Fournisseurs et modèles indique quel modèle sert chaque assistant, jusqu’à quel niveau de données et ce qui se passe s’il ne répond plus : repli sur le modèle local ou pause. Le fournisseur se change sans changer l’assistant, et une option locale existe pour un établissement qui ne veut aucun envoi à l’extérieur.

L’écran Niveaux de confidentialité distingue : niveau 0 (la demande et des listes de champs, sans donnée patient), niveau 1 (un extrait pseudonymisé, calculé sur place), niveau L (un modèle local : rien ne quitte le serveur de l’établissement) et niveau 2 (données identifiantes vers un fournisseur externe, sous contrat), fermé dans 1001care. Le consentement du patient est vérifié avant le niveau. Chaque usage a sa grille : permis, désactivé ou fermé. Tout envoi vers un fournisseur externe, hébergement et transfert à l’étranger compris, est à valider avec un conseil.

8. Vérifier que le travail continue sans l’assistant

Coupez l’assistant et regardez si le service tient. Dans 1001care, le même geste reste faisable à la main, et un fournisseur qui ne répond plus ne bloque rien : l’écran dit que les assistants concernés passent sur le modèle local ou en pause, que le travail continue à la main et que rien n’est perdu.

En vidéo

Ce que le logiciel fait, ce que les personnes décident

Le logiciel

• Prépare une proposition avec sa raison et sa source.
• Reste dans l’accès de la personne concernée.
• Refuse tout acte clinique à un assistant et tout changement de son propre niveau.
• Inscrit chaque proposition, chaque décision et chaque changement de niveau.

Les personnes

• Décident chaque proposition : accepter, modifier ou rejeter.
• Posent le diagnostic, prescrivent, valident et signent.
• Relèvent ou abaissent le niveau d’un assistant (directeur médical, administrateur SI).
• Choisissent le fournisseur et ce qui peut quitter l’établissement.

Ce qui se règle avec votre établissement

Les écrans montrent des réglages d’exemple. Chaque établissement choisit les assistants actifs, leur niveau dans la limite de leur plafond, les usages permis par niveau de données, le fournisseur, et qui relit le journal. Restent fixes dans 1001care : les actes cliniques demeurent aux cliniciens et au laboratoire ; un assistant ne fait que proposer dans les soins, sauf si le directeur médical relève son niveau ; le compte rendu signé reste la source de vérité.

Questions à poser à un conseil :

• Un envoi de données pseudonymisées ou d’un extrait vers un fournisseur externe est-il possible, à quelles formalités auprès de la CNDP, avec quel hébergement et quels transferts à l’étranger ?
• Quelle est la qualité du fournisseur du modèle : sous-traitant, ou autre, et quel contrat ?
• Comment informer les patients de l’usage d’assistants, et quel libellé de consentement ?
• Que change le secret professionnel pour un assistant qui lit un dossier au nom d’un utilisateur ?

Les données de santé sont des données sensibles au sens de la loi 09-08. Ce guide ne remplace ni l’avis d’un conseil, ni les instructions de la CNDP, ni celles des ordres professionnels.

Questions fréquentes

Voir la démonstration

• Console d’administration : agents et autonomie, niveaux de confidentialité, journal, fournisseurs.
• Admissions et lits : une proposition de lit et sa confirmation.
• Facturation : actes oubliés, code proposé, montants calculés par les règles.
• Patients : doublons et fusion à deux personnes.
• Bloc opératoire : pré-remplissage du compte rendu que le chirurgien signe.
• Termes : journal d’accès · compte rendu signé