L’IA “transforme la cognition, redistribue l’attention, et déplace la responsabilité”. Par conséquent le risque est qu’à force de lui déléguer des tâches, on finisse par déléguer une partie de ce que les professionnels “sont capables de penser”. Or “la responsabilité médicale, la décision clinique, la cognition, ne peuvent être déléguées”. “Décider, est un acte intellectuel et moral, pas un simple calcul”, de sorte que l’humain “doit rester le maitre”.
Le texte invite à considérer l’IA “pour ce qu’elle est” à savoir un “assistant virtuel”, voire un “interne virtualisé” en phase de maturation, “un collaborateur sans conscience”. Il cite le psychologue suisse Jean Piaget pour qui l’intelligence, “n’est pas ce que l’on sait,” mais “ce que l’on fait quand on ne sait pas”.
Prévenir la perte de compétence
Le think tank juge indispensable de “développer et conserver les compétences cliniques analytiques” à savoir l’analyse sémiologique, l’élaboration d’un diagnostic différentiel, la capacité à justifier une décision thérapeutique, la lecture non assistée d’examens (imagerie, ECG, biologie). Pour accompagner cette préconisation, il envisage des “indicateurs de compétence et de perte de compétence, performants sans être intrusifs, permettant de suivre l’éventuel impact de l’automatisation sur l’apprentissage”.
La formation à l’IA doit s’axer vers des compétences spécifiques mais aussi sur la vigilance de l’esprit critique et la qualité d’interprétation des résultats, avec préservation des savoir-faire humain : cette approche devra être intégrée aux enseignements fondamentaux de tous les métiers de la santé, en formation initiale, comme en formation continue. A cet égard une pédagogie innovante autour de l’IA en santé s’impose comme une nécessité.
Un “indice d’acceptabilité professionnelle”
Pour “éclairer la boîte noire de l’IA générative”, le think tank propose de créer un indice d’acceptabilité professionnelle (IAP) porté par des sociétés savantes, pour “orienter les choix d’outils dans les équipes”. Simple et mesurable, utilisable par tous, il serait facilement mis à jour, permettant de comparer les outils selon plusieurs critères : lisibilité, explicabilité, fiabilité perçue, charge cognitive induite, niveau de délégation accepté, Ecoscore.
Le think tank demande d’intégrer dans le code de déontologie l’obligation d’informer sur l’usage d’une IA dans la décision de soin proposée, et d’inscrire l’information sur l’IA dans les recueils de consentement et les supports d’information. Pour lui cette transparence “contribue à prévenir la défiance et à maintenir un cadre éthique compatible avec l’autonomie, la bienfaisance, la non-malfaisance, et la justice”.
En tant que patient, il est recommandé de “douter, vérifier, contextualiser” et notamment de ne pas “surestimer les capacités” de l’IA et de réaliser que les applications actuelles en santé “s’apparentent, en l’état, à des expériences en conditions réelles menées sans consentement explicite”. On ne doit pas non plus “ignorer les intérêts économiques sous-jacents”.
Intégrer la sobriété numérique
Pour “intégrer la sobriété numérique et une évaluation environnementale dans les cahiers des charges, conformément à la loi ‘climat et résilience’”, le think tank souligne que l’enjeu est d’utiliser l’IA en santé “là où son bénéfice clinique dépasse son coût énergétique” avec des modèles “ayant une dépense énergétique adapté à la tâche demandée”, et mutualiser les infrastructures, dans “l’esprit du RGPD” qui impose de limiter les données traitées à ce qui est strictement nécessaire au résultat attendu. Il faudra à cet égard “exiger que les Conditions Générales d’Utilisation d’une application d’IA informent clairement l’usager sur l’empreinte environnementale de l’outil” et rendre obligatoire une évaluation du rapport bénéfice/impact carbone dans les projets et appels d’offres IA, avec par exemple, un “éco- score” automatique associé à chaque requête.
Le Think tank exige une “traçabilité Humaine” dans toute décision assistée par IA, estimant que la fraternité et la dignité impliquent de ne pas substituer les métiers du soin par des agents artificiels dans les situations relationnelles critiques. “L’humain doit garder le premier et le dernier kilomètre de la réflexion” conclut-il.