IA en rédaction médicale : la vigilance ne doit pas porter que sur les hallucinations, les omissions aussi restent un risque

Des chercheurs de Stanford Health Care ont développé « Draft Clinical Documentation », un outil d’intelligence artificielle générative intégré au dossier médical électronique, capable de produire un premier brouillon du résumé chronologique d’hospitalisation destiné au compte rendu de sortie. Ils ont mené une étude prospective de 10 semaines, portant sur 331 patients et 384 sorties d’hospitalisation, pour lesquelles l’outil a produit 1 274 brouillons. Les médecins conservaient le contrôle du document final : ils pouvaient accepter, modifier ou rejeter les propositions avant validation. Les auteurs ont analysé la fréquence d’utilisation des brouillons, les erreurs relevées par les cliniciens et leurs conséquences potentielles, ainsi que l’effet du dispositif sur la charge documentaire.

Résultats

Les médecins ont intégré les propositions de l’outil dans 57 % des comptes rendus finaux. Sur les 100 résumés ayant fait l’objet d’une évaluation détaillée, les cliniciens ont relevé 25 omissions, 20 inexactitudes et 2 hallucinations, aucune jugée susceptible d’entraîner un dommage grave ou le décès d’un patient. Les médecins rapportent une amélioration significative de leur score de burn-out (de 1,75 à 1,20 en moyenne), tandis que la diminution du temps consacré à la rédaction des comptes rendus n’était pas significative.

Un déplacement du risque : moins d’hallucinations, mais des omissions qui persistent

Les auteurs soulignent explicitement que leur architecture de travail a permis de limiter les hallucinations, mais que les omissions restent le principal type d’erreur, un changement de nature du risque à surveiller, plutôt qu’une disparition du risque. Pour les réduire, ils estiment que l’IA devra s’appuyer sur une part plus importante des informations contenues dans le dossier médical électronique, et pas seulement sur les notes rédigées par les soignants.

Un résultat qui dissocie bénéfice perçu et gain de temps

Le point le plus contre-intuitif de l’étude tient à la dissociation entre les deux indicateurs mesurés : l’amélioration du score de burn-out est significative, alors que la réduction du temps consacré à la rédaction ne l’est pas. Le bénéfice observé ne provient donc pas principalement d’un gain de temps mesurable, mais d’un allègement de charge perçue par les médecins. Les auteurs concluent qu’un flux de travail fondé sur un grand modèle de langage peut générer des résumés cliniques sûrs et utiles en pratique, tout en appelant à des études de plus grande ampleur pour confirmer ces observations dans d’autres établissements et spécialités.

Source : JAMA Network Open, vol. 9, n°5, e2616556 (2026) · Grolleau F, Liang AS, Keyes T, et al., « Physician-Reported Safety Outcomes of AI-Generated Hospital Course Summaries » · fiabilité : publication à comité de lecture.

Dernières brèves