Entre potentiel médical et défis éthiques de la GenAI
La GenAI regroupe des modèles capables de créer des contenus réalistes, des textes aux images médicales. Son potentiel en santé est immense : soutien aux diagnostics, génération de données synthétiques pour la recherche, assistance en formation médicale et aide à la prise de décision clinique. Cependant, en raison de la sensibilité des données traitées, ces applications exacerbent les risques liés à la confidentialité, la sécurité et la précision des informations.
Les technologies comme les grands modèles de langage (LLM) peuvent améliorer l’accessibilité aux soins, mais elles présentent aussi des dangers : divulgation non intentionnelle de données personnelles, génération d’informations erronées (hallucinations) ou biaisées et vulnérabilité aux cyberattaques (manipulation de l’information). Bien que les préoccupations éthiques autour de ChatGPT soient largement débattues, l’étude, publiée en septembre et revue en novembre dans le journal The Lancet Digital Health, révèle que d’autres formes de GenAI, comme les réseaux antagonistes génératifs (GAN) utilisés pour générer des images médicales ou des données structurées, sont souvent négligées dans les discussions éthiques.
9 principes éthiques pour guider l’usage de la GenAI en santé :
Pour une adoption éthique et responsable de la GenAI, l’étude met en avant neuf principes clés :
1️⃣ Responsabilité : Assurer une clarté sur la responsabilité légale des résultats produits par la GenAI, notamment en cas d’erreur clinique ou de biais introduits par l’IA.
2️⃣ Autonomie : Respecter la capacité des patients à prendre des décisions éclairées, en les informant sur l’utilisation de l’IA dans leur prise en charge.
3️⃣ Équité : Éviter les biais dans les décisions médicales pour garantir un accès équitable aux soins, en particulier pour les populations sous-représentées.
4️⃣ Intégrité : Maintenir l’intégrité des données et reconnaître la propriété intellectuelle dans les recherches basées sur la GenAI.
5️⃣ Non-malfaisance : Minimiser les risques de préjudice pour les patients en garantissant la fiabilité et la précision des informations générées.
6️⃣ Confidentialité : Protéger la confidentialité des données sensibles des patients, en prévenant les fuites de données dans les échanges avec la GenAI.
7️⃣ Sécurité : Renforcer la sécurité des systèmes de GenAI pour limiter les cyberattaques et préserver l’intégrité des données.
8️⃣ Transparence : Assurer une transparence dans les algorithmes de GenAI, notamment dans les processus de prise de décision, pour éviter l’opacité des « modèles boîtes noires ».
9️⃣ Confiance : Établir une confiance durable entre les utilisateurs et les technologies de GenAI en validant les performances des modèles et en garantissant leur pertinence clinique.
Ces principes constituent le socle de la TREGAI Checklist (Transparent Reporting of Ethics for Generative AI), un outil permettant d’intégrer et de suivre ces considérations éthiques de manière systématique dans la recherche en santé.
Un cadre d’évaluation pour une recherche éthique en GenAI
Pour pallier l’absence de standards clairs, l’étude propose la TREGAI Checklist, une grille d’évaluation systématique des implications éthiques. Celle-ci vise à guider non seulement les chercheurs, mais aussi les comités de publication et de financement, afin d’encourager une adoption et un développement responsable de la GenAI en santé. En demandant aux chercheurs de documenter et d’analyser en détail les enjeux éthiques potentiels, la checklist facilite la prise de décision éclairée et encourage des pratiques responsables.
Cette grille encourage les chercheurs à évaluer, pour chaque application de GenAI, l’éthique des modèles utilisés, en distinguant notamment les modalités de données (texte, image, données structurées) et en adaptant les principes éthiques en fonction des spécificités des applications. Par exemple, dans le cas des LLMs, l’accent est mis sur la transparence et la précision pour éviter les biais et les hallucinations. Quant aux GAN, utilisés pour générer des données visuelles en médecine, la checklist aide à contrôler la qualité des données synthétiques et leur utilité dans les recherches cliniques.
Les limites et perspectives d’évolution de la TREGAI Checklist
Bien que la checklist représente une avancée importante, elle présente certaines limites, notamment en ce qui concerne les applications de GenAI multimodales qui combinent plusieurs types de données (comme les images et les rapports médicaux). L’étude recommande une adaptation continue de la checklist, pour répondre aux besoins spécifiques des nouvelles applications de la GenAI. En effet, les modèles multimodaux, de plus en plus utilisés dans d’autres domaines, soulèvent des questions encore plus complexes d’évaluation éthique et technique, en particulier dans des domaines comme la neuro-imagerie.
L’étude propose également de collaborer avec des experts en éthique pour renforcer la pertinence et la sensibilité des évaluations. La checklist est conçue pour évoluer avec le développement des technologies de GenAI, et un comité est en charge de la maintenir à jour et de l’adapter aux nouvelles découvertes et réglementations.
Vers une adoption éthique et responsable de la GenAI en santé :
La GenAI ouvre des perspectives passionnantes pour le secteur de la santé, mais sans cadre éthique rigoureux, elle pourrait nuire aux patients, aux chercheurs et à l’ensemble du secteur. La TREGAI Checklist apporte une réponse aux dilemmes éthiques de la GenAI, en plaçant la transparence, la sécurité et la responsabilité au centre des préoccupations. Conçu en tant que guide, elle vise non seulement à encadrer les développements actuels, mais aussi à inspirer des pratiques de recherche et d’innovation plus responsables.
* Generative artificial intelligence and ethical considerations in health care: a scoping review and ethics checklist
Ning, Yilin et al.
The Lancet Digital Health, Volume 6, Issue 11, e848 – e856
