Les outils d’IA générative destinés aux cliniciens changent progressivement la manière dont les médecins accèdent à l’information médicale.
Graham McMahon (médecin endocrinologue américain spécialisé dans l’éducation médicale et l’évaluation des compétences des médecins) décrit, dans son édito, une nouvelle génération d’outils fondés sur les grands modèles de langage, capables de produire en temps réel des recommandations cliniques personnalisées. Ces systèmes sont utilisés à la fois comme aides à la décision et comme ressources pédagogiques directement intégrées au soin.
Selon lui, leur diffusion rapide ouvre une nouvelle phase de la formation médicale continue, caractérisée par un apprentissage immédiat, contextualisé et intégré à la pratique.
Des réponses rapides et structurées
Graham T. McMahon explique avoir testé plusieurs outils récemment commercialisés auprès des cliniciens. Les réponses générées lui apparaissent souvent « directionnellement correctes », structurées et accompagnées de références, avec un ton proche d’une consultation experte.
Ces systèmes peuvent donc réduire certaines variations de pratique, accélérer l’accès à des synthèses de littérature et soutenir la prise de décision au lit du patient.
Mais l’auteur souligne aussi plusieurs limites observées lors de ses tests :
- Certaines réponses omettent des nuances importantes.
- D’autres contiennent des erreurs susceptibles d’affecter la prise en charge.
- Le problème réside moins dans la fréquence de ces erreurs que dans leur présentation.
- Car même lorsqu’elles sont inexactes, les réponses restent fluides, cohérentes et persuasives.
Cette combinaison entre rapidité, confiance apparente et intégration dans le flux clinique soulève une question :
Les médecins évaluent-ils encore ces recommandations avec le même niveau d’esprit critique qu’un article scientifique ou l’avis d’un confrère ?
Une formation médicale de plus en plus intégrée au soin
Son édito décrit une évolution du modèle traditionnel de formation continue. Historiquement séparée du moment de soin, celle-ci pourrait désormais devenir un « juste-à-temps », contextualisée et personnalisée.
Les systèmes concernés incluent des interfaces conversationnelles basées sur des LLM, des outils de synthèse automatisée de littérature scientifique ou encore des systèmes d’aide à la décision clinique.
Dans ce modèle, chaque question clinique devient potentiellement une situation d’apprentissage. Les outils pourraient identifier des zones d’incertitude, détecter des requêtes récurrentes et proposer des parcours pédagogiques ciblés.
Pour l’auteur, cette convergence progressive entre aide à la décision et apprentissage transforme la manière dont les médecins actualisent leurs connaissances.
Illusion de compréhension et biais d’automatisation
Cependant, l’auteur insiste sur plusieurs risques cognitifs associés à ces outils.
- Le premier est « l’illusion de profondeur explicative » : la tendance à surestimer sa compréhension lorsqu’une explication paraît claire et cohérente. Les IA génératives renforcent ce phénomène en produisant des réponses convaincantes.
- L’auteur évoque également le biais d’automatisation, c’est-à-dire la tendance à accorder davantage de crédit à une recommandation issue d’un système automatisé, particulièrement dans des environnements soumis à une forte pression temporelle.
- Ces risques sont accentués par l’opacité des systèmes agentiques complexes, dont les mécanismes internes restent difficiles à interroger pour les utilisateurs.
L’auteur décrit ainsi une forme de « séduction épistémique », à savoir l’acceptation d’une information non parce qu’elle a été rigoureusement évaluée, mais parce qu’elle paraît fluide, cohérente et rassurante.
Le risque d’une perte progressive des compétences cliniques
L’auteur identifie également un risque de « deskilling », c’est‑à‑dire d’érosion des compétences professionnelles. Le raisonnement clinique repose, rappelle-t-il, sur des processus actifs : confrontation à l’incertitude, réflexion, reconnaissance de patterns et synthèse autonome des connaissances.
Si les médecins délèguent progressivement ces tâches cognitives aux systèmes d’IA, ils pourraient devenir performants dans l’usage des outils, mais moins confiants dans leur propre jugement.
Une menace pour les dimensions collectives de l’apprentissage
L’apprentissage clinique se construit historiquement à travers les échanges entre pairs, le mentorat, la confrontation de points de vue et les discussions collectives. Or les usages actuels des IA génératives reposent souvent sur des interactions individuelles et silencieuses entre le clinicien et l’algorithme. Pour l’auteur, un modèle d’apprentissage exclusivement individualisé risquerait d’appauvrir la construction du jugement clinique et de réduire les opportunités de réflexion collective.
Des inquiétudes sur l’influence commerciale
Le texte aborde également les enjeux de gouvernance et d’indépendance. Nombre de ces outils étant développés dans des environnements commerciaux, Graham McMahon alerte sur le risque de biais dans la manière dont certaines options thérapeutiques pourraient être présentées ou hiérarchisées. Même des influences discrètes, liées à des partenariats commerciaux ou à des mécanismes de recommandation opaques, pourraient selon lui orienter les décisions médicales.
Former les médecins à l’évaluation critique des IA
Face à ces transformations, Graham T. McMahon considère que l’intégration de l’IA dans la formation médicale augmente, plutôt qu’elle ne réduit, la responsabilité professionnelle.
Les médecins devront conserver une « humilité épistémique », en gardant à l’esprit que ces outils peuvent autant assister qu’induire en erreur. L’auteur appelle ainsi à une formation explicite sur le fonctionnement des systèmes d’IA générative, leurs limites et leurs modes d’échec fréquents.
Vers une formation continue pilotée par les données
L’éditorial envisage enfin un futur où la formation médicale continue serait intégrée de manière permanente à la pratique clinique. Les systèmes pourraient identifier les domaines d’incertitude d’un praticien, proposer des contenus personnalisés et même exiger des phases de réflexion avant l’obtention de crédits de formation.
Pour Graham T. McMahon, l’enjeu est désormais de faire de l’IA un outil d’extension des capacités d’apprentissage des médecins.
