La transformation du système de santé s’associe à une utilisation plus importante des outils numériques et à une intégration plus forte de l’intelligence artificielle (IA) dans les pratiques. Or, cette dernière présente des enjeux éthiques, qui doivent être traités dans ce nouveau contexte et s’inscrire dans un cadre réglementaire, actuellement insuffisant. C’est le point sur lequel insistent Jacques Lucas, président de l’Agence du numérique en santé (ANS), Judith Melh (Ethik IA) ou encore David Gruson, intervenus le 14 janvier 2020 lors du séminaire de la Chaire Santé de Sciences Po, animé par Etienne Grass.
« Il existe un double impératif, un principe éthique de bienfaisance, de dignité de la personne, d’autonomie de la personne et de justice », note Jacques Lucas, qui annonce par ailleurs que le Heath Data Hub devrait créer un engagement citoyen sur les aspects éthiques. « Il faut une place dans l’interdisciplinarité dans un objectif de validation et de la fiabilité des algorithmes, et ce, à tous les stades de la conception de l’algorithme », sans oublier le patient, souligne de son côté le Pr. Marie-France Mamzer, PU-PH spécialisée en éthique et en médecine légale à la faculté de médecine de l’université Paris-Descartes.
La nécessaire émergence des questions éthiques de l’IA dans le débat public
Il existe un consensus sur la nécessité de traiter les questions afférentes à l’intelligence artificielle (IA). En effet, malgré les risques éthiques qu’elle sous-tend, l’IA est un outil fondamental dans la transformation du système de santé, autant pour le bénéfice des patients que pour les aspects médico-économiques, comme le rappelle Jacques Lucas en mentionnant l’avis 130 du Comité consultatif national d’éthique (CCNE) : « On ne saurait adopter une position hostile à ces nouvelles technologies numériques. En raison des risques dont elles sont porteuses (…), il serait contraire de ne pas favoriser leur développement si elles peuvent bénéficier à la santé de tous et aider à la rationalisation des coûts ». Par ailleurs, l’IA est un outil de support non seulement facilitant le quotidien des professionnels de santé dans leurs diagnostics et qui constitue une opportunité pour détecter davantage de pathologies rapidement (Pr Marie-France Mamzer) mais également un accélérateur pour la recherche.
Le traitement de ces enjeux doit s’inscrire dans un cadre réglementaire, actuellement insuffisant
Le traitement de ces enjeux doit s’inscrire dans un cadre réglementaire, aujourd’hui insuffisant. Il faut toutefois veiller à ne pas tomber dans la sur-réglementation, qui serait alors trop limitante.
Ces questions d’ordre éthiques sont d’autant plus importantes qu’il existe un enjeu pour gagner la confiance de la société, méfiante à l’usage des nouvelles technologies, qui doit être informée et éduquée sur ces enjeux. Jacques Lucas annonce que le Heath Data Hub devrait créer un engagement citoyen sur les aspects éthiques.
La nécessaire intervention du cadre réglementaire et juridique
Le cadre législatif se base sur deux principes (avis 129 du CCNE) :
- l’information du patient de l’incorporation de l’IA dans son parcours de soins ;
- la supervision de l’IA par l’humain pour assurer « un pilotage de qualité ».
L’article 11 de loi bioéthique complète alors les principes énoncées par la loi RGPD.
Le RGPD prévoit l’intervention humaine pour les cas de profilages et « les prises de décisions automatisées »
Anaïs Person, doctorante en droit de la santé et déléguée à la protection des données, note que le traitement des données de santé est autorisé par le RGPD, dans un cadre limitant de légalité (chaque traitement de donnée doit avoir une base légale), de loyauté (hébergement agrée donnée de santé) et de transparence (sécurité). Information préalable, consentement et intervention humaine sont nécessaires pour l’utilisation des données personnelles de santé.
Le RGPD prévoit l’intervention humaine pour les cas de profilages et « les prises de décisions automatisées ». Les personnes concernées ont « au moins le droit d’obtenir une intervention humaine (fait écho à la garantie humaine de la loi bioéthique) de la part du responsable de traitement, d’exprimer son point de vue ou de contester la décision », et ce, a posteriori du traitement et à la demande de la personne concernée, explique-t-elle, précisant que cette mention est prévue pour le développement d’offres individualisées de la part des assureurs, à l’instar d’autres pays, qui seront basées sur des données de santé et bien-être, fournies par les assurés.
La loi bioéthique prévoit la garantie humaine dans le cadre de l’utilisation de l’IA
L’article 11 de la loi bioéthique prévoit la garantie humaine dans le cadre de l’utilisation de l’IA. Actuellement en cours d’examen au Sénat, le texte ne devrait pas être stabilisé après la première lecture, alors qu’il se concentre davantage sur les données de santé.
David Gruson estime que certains alinéas sont imparfaits et qu’il existe 2 lectures de l’article relatif à la garantie humaine :
- le principe de garantie humaine s’appliquera à tous les concepteurs de façon immédiate ;
- « Le législateur ne prescrit pas les modalités d’exécution du principe », c’est-à-dire que les modalités d’application seront souples. Il estime qu’elles seraient bénéfiques à tous si elles étaient établies en co-construction.
Ce principe de garantie humaine s’étend autant au national (application médicale) qu’à l’international : la task force « régulation de l’IA » à l’OMS devrait prochainement émettre une recommandation à ce sujet. Le concept est également actuellement repris par la FDA. David Gruson suggère que les modalités d’application de la loi soient rapidement définies pour ne pas « que le standard soit ré-interprété par les acteurs qui n’auraient pas le même degré d’exigence analytique que ce qui nous anime ».
La garantie humaine peut être vérifiée par le concepteur de l’algorithme et par un collège d’experts
Judith Mehl explique que la garantie humaine peut être vérifiée notamment à 2 niveaux et à différents moments des processus de développement et d’utilisation de l’IA :
- par le concepteur de l’algorithme ;
- par un collège d’experts.
Elle mentionne une expérimentation de l’Union française pour la santé bucco-dentaire (UFSBD) dans certains Ehpad : un algorithme permet de détecter les risques bucco-dentaires des résidents via un logiciel qui photographie leur bouche. Ces résultats sont ensuite vérifiés par un dentiste et un Collège qui étudie des cas.
Ethik IA encourage la mise en place de ses collèges par les utilisateurs des solutions algorithmiques.
La responsabilité du médecin pourrait être engagée s’il n’utilise pas l’IA
Jacques Lucas revient de son côté sur la question de la responsabilité du médecin, qui pourrait potentiellement être engagée s’il n’utilise pas l’IA. Il appelle les différences instances compétentes, y compris savantes, à se prononcer sur ce sujet.
L’IA pourrait paradoxalement être une parade aux biais cognitifs
Les biais font partis des risques dans l’utilisation de l’IA. En effet, les logiciels auto-apprenants (machine learning) peuvent intégrer des codes discriminatoires. Il a été rappelé au cours du séminaire que les biais, imputés à l’IA, peuvent également émaner de la subjectivité de la personne.
Paradoxalement, l’IA pourrait être une parade aux biais cognitifs, de différentes natures et présents dans les décisions médicales que le Pr Marc Bardou (CHU de Dijon, Santé Publique France) étudie et qui correspondent à des déviations du cadre de la pensée involontaire.
Selon Mehdi Benchoufi, professeur d’épidémiologie, la reproductibilité est actuellement une problématique dans la qualité des études de recherche et qui pose la question de la généralisabilité. Cet enjeu est lié en particulier à la conception des algorithmes :
- les algorithmes sont basés sur des données de la littérature scientifique qui sont actuellement de qualité faible voire controversée ;
- les données manquantes ou corrompues sont remplacées par des données fictives ;
- l’algorithme n’est pas pas préparé à toutes les situations envisageables ;
- biais de contrôle : l’humain se considère comme infaillible alors que des biais de subjectivité sont à prendre en compte ;
- la nécessité d’avoir une traçabilité forte : la blockchain assure la chronologie.
Les solutions proposées sont l’accompagnement de la conception par l’humain comme le transfer flow de Google, une co-construction avec des professionnels de santé, un recours à l’open source ou à la blockchain ainsi que trouver des échantillons plus représentatifs.
L’interdisciplinarité promue
Les personnes présentes se sont accordées pour promouvoir l’interdisciplinarité dans le champ de l’éthique de l’IA, déjà explicités par différents engagements :
- Chaire d’enseignement autour de l’IA en santé prévue pour différents professionnels de santé par Paris-Descartes et DU universitaire ouvert ;
- engagement des professionnels de santé et interdisciplinarité : Pr Marie-France Mazmer et Pr Stéphanie Allassonnière (Paris-Descartes) ;
- consultation publique ouverte par l’HAS sur la grille d’analyse pour l’évaluation des solutions d’algorithmes considérés comme dispositifs médicaux : 30 retours à ce jour ;
- ouverture d’un séminaire interdisciplinaire par la Chaire Santé de Science Po sur les questions de l’éthique et l’IA.
