L’initiative Ethik-IA organisait au Sénat, le lundi 2 juillet 2018, un séminaire intitulé « Pour une régulation positive de l’IA et de la robotisation en santé : le temps est compté ! ».
Health & Tech Intelligence vous propose une synthèse en deux parties des interventions de la table-ronde intitulée « IA, robotisation, certification et normalisation : quelles clés de régulation ? ».
Cette première table-ronde réunissant les personnalités suivantes : Dr Isabelle ADENOT, Membre du Collège de la Haute autorité de santé ; Thomas LONDON, Directeur Santé chez Mc Kinsey ; Pr Lydia MORLET, Institut Droit Santé Paris-Descartes ; Fabrice WAECHTER, Président de l’ADIJ ; David FAJOLLES, Professeur Affaires publiques Sciences Po Paris ; Michel BALLEREAU, Président COS AFNOR, Délégué général FHP ; Magali LEO, Renaloo ; Yvanie CAILLE, Directrice générale de l’INDS ; Jérôme CHEVILLOTE, Directeur General Electrics France.
Face à l’IA, « l’intelligence humaine doit rester décisionnaire », M. Lenoir-Salfati, Directrice de l’Agence nationale du DPC
Une étude récente a montré qu’un système d’IA commettait moins d’erreurs que des dermatologues lors du diagnostique du mélanome
En guise d’introduction, Michèle Lenoir-Salfati, Directrice générale de l’Agence nationale du développement professionnel continu, a évoqué les conséquences de l’irruption de l’intelligence artificielle sur les ressources humaines hospitalières, médicales et médico-sociales.
L’IA fait désormais partie intégrante de la recherche et de la pratique médicales. L’intervenante évoque une étude, parue le 28 mai 2018 dans la revue Annals of Oncology, intitulée « Man against machine: diagnostic performance of a deep learning convolutional neural network for dermoscopic melanoma recognition in comparison to 58 dermatologists », dont les conclusions montrent deux choses :
- l’IA est capable d’assurer le dépistage du mélanome ;
- elle le fait également « mieux » que la quasi totalité des 58 dermatologues sollicités dans le cadre de cette enquête.
Les chercheurs en concluent donc à l’utilité du recours à l’IA par les professionnels de santé lors de la phase de diagnostique clinique.
Les modalités de raisonnement des IA sont « opaques »
« L’irruption de l’intelligence artificielle interroge l’expérience professionnelle. Elle étonne, fascine et inquiète » les professionnels amenés à y recourir. Michèle Lenoir-Salfati.
La Directrice générale de l’Agence nationale du Développement professionnel continu met en évidence trois difficultés induites par l’IA pour les professionnels agissant de les champs médical et médico-social :
- Quelle confiance faut-il accorder aux outils de l’intelligence artificielle ?
- L’IA utilise des algorithmes de deep learning dont le fonctionnement n’est que partiellement compris. Leurs concepteurs admettent qu’il existe une « opacité » constitutive de cet apprentissage profond (deep learning) et qu’ils ignorent les modalités de raisonnement d’une IA ;
- A ce titre, « l’intelligence humaine doit rester décisionnaire » rappelle l’intervenante, ce qui nécessite d’entretenir et de pérenniser le dialogue interdisciplinaire entre les logiciens, éditeurs, concepteurs, informaticiens et éthiciens.
- Il convient par ailleurs « de former les professionnels de santé aux enjeux, usages et outils de l’IA », ce qui n’est pas le cas aujourd’hui, rappelle Mme Lenoir-Salfati.
- L’Agence nationale du DPC a, à ce titre, pris un arrêté relatif au développement professionnel pour y intégrer l’IA et ses usages. Sa parution au Journal Officiel est imminente ;
- L’Agence nationale du DPC entend également élaborer des référentiels d’usages, de compétences et de formation à destination des professionnels, et mobiliser de nouvelles ressources pour développer ses compétences en matière d’IA sur les volets théoriques et pratiques.
- Enfin, les professionnels de santé doivent être en mesure de faire face à ces évolutions. L’oratrice considère que l’IA aura des conséquences sur la répartition des compétences entre professionnels de santé.
- Des protocoles de coopérations doivent ainsi voir le jour, inspirés notamment de l’article 59 de la loi portant réforme de l’hôpital et relative aux patients, à la santé et aux territoires (dite loi « HPST ») ;
- L’IA sera un « levier de nouvelles prises en charge interdisciplinaires », conclut-elle.
Table-ronde 1 : IA, robotisation, certification et normalisation : quelles clés de régulation ?
Session coordonnée par Maître Delphhine JAAFAR (Cabinet Vatier) et Julia PETRELLUZZI (Ethik IA)
Selon quelle périodicité évaluer des technologies en évolution constante ? – Dr Isabelle ADENOT, Membre du Collège de la Haute Autorité de Santé
De la conception à l’utilisation des algorithmes
Cette position exprimée par le Dr Adenot lors du colloque, est complétée par la « Contribution de la HAS aux débats des Etats-généraux des lois de Bioéthique » (audition du 27 avril 2018), dont le contenu est accessible ici.
Mme Adenot rappelle que de nombreuses normes existent pour la conception et la gestion de logiciels et dispositifs médicaux. Il en va autrement pour la conception et la gestion des algorithmes d’intelligence artificielle. « Il n’existe en effet pas de disposition spécifique à l’IA », rappelle la HAS lors de son audition du 27 avril 2018.
Cependant, les dispositions de la loi informatique et libertés (article 34) et du RGPD s’appliquent à l’IA, car il s’agit de traitement de données, notamment concernant les obligations du responsable de traitement sur la qualité des données.
La HAS recommandait à ce titre que :
- les acteurs soient formés, y compris à l’éthique ;
- des bonnes pratiques de développement de l’IA soient édictées, et qu’un cadre normatif soit éventuellement créé ;
- que la recherche IA soit encouragée, y compris dans le domaine éthique.
L’évaluation de l’algorithme
Plusieurs questions se posent pour la HAS quant à l’évaluation des algorithmes :
- La question du périmètre de l’évaluation
La finalité de l’évaluation réalisée par la HAS est d’identifier et de quantifier les bénéfices cliniques pour le patient et la collectivité de toute intervention en santé. Le processus de production de cette intervention est toutefois exclu du champ d’évaluation de la HAS.
- La question du rythme et de la fréquence de l’évaluation
Comment évaluer des technologies évolutives ? S’agissant de logiciels et d’algorithmes en constante évolution par adjonction de nouvelles données, Isabelle Adenot considère que l’évaluation devrait théoriquement intervenir en continu afin de rendre compte « réellement » du service rendu par l’outil. Cela s’avère délicat, sauf à opérer par « versioning » ou « intégrer les apports de l’intelligence artificielle au cœur même de l’évaluation », rappelle la HAS dans sa contribution aux Etats généraux de la Bioéthique.
Ainsi, « le fabricant ou le fournisseur doit se voir imposer de réaliser des contrôles et des évaluations périodiques et traçables, pour garantir l’absence de dégradation de son « produit » », à travers notamment une « garantie de non régressivité », préconisée par Isabelle Adenot.
- La question de la finalité des outils d’intelligence artificielle
La finalité des outils d’intelligence artificielle doit être prédéterminée et l’absence de modification (comme le prévoient la loi Informatique et Libertés et le RGPD) doit être garantie, afin d’éviter que l’intelligence artificielle apprenante invente des recoupements de données indésirables.
