Des promesses d’efficacité et des défis éthiques
Dédié à l’IA en santé, ce deuxième rapport thématique de la délégation sénatoriale à la prospective a été publié le 21 mai 2024. Les rapporteurs (Christian Redon-Sarrazy, sénateur socialiste de la Haute-Vienne, et Anne Ventalon, sénatrice apparentée Les Républicains de l’Ardèche) rappellent dans leur introduction que les dépenses publiques en santé et en activités médicales représentent près de 10 % du produit intérieur brut (PIB) en France, ce qui fait de ce secteur un domaine essentiel du service public. En raison de la production massive de données dans le secteur de la santé et de la complexité de leur traitement, l’IA est perçue comme “une aide précieuse pour la pratique médicale”. Cependant, selon le rapport, la transformation rapide qu’elle induit ouvre “de nouveaux champs d’interrogations sur l’éthique, tant la perspective d’une médecine totalement mécanisée et déshumanisée est jugée inacceptable”.
La technologie de l’IA étant désormais disponible, les deux sénateurs estiment qu’il est ” illusoire de penser qu’on pourra
échapper aux risques qu’elle comporte par des interdictions”. Toute technologie performante étant forcément utilisée, le véritable enjeu pour eux est de créer un cadre de régulation afin d’en tirer le meilleur parti. Un cadre qui se met progressivement en place, et “l’adoption de l’AI Act à l’échelle européenne constitue à cet égard une étape importante”.
Le juste milieu entre un “techno-enthousiasme excessif” et un “techno-pessimisme” :
Sans chercher à fournir une analyse exhaustive des technologies d’IA dans le domaine de la santé, le rapport essaie d’identifier les différents scénarios de déploiement de l’IA, “en s’appuyant sur les utilisations déjà existantes ou celles actuellement développées par des startups en lien avec les professionnels de santé”. Il insiste par ailleurs sur la nécessité d’éviter aussi bien un “techno-enthousiasme excessif” qui verrait dans l’IA une panacée pour le système de santé, que le “techno-pessimisme” qui surestimerait les difficultés et les risques liés aux adaptations nécessaires pour un déploiement généralisé des outils basés sur l’IA. Les rapporteurs prônent ainsi une approche équilibrée pour maximiser les bénéfices de l’IA tout en minimisant ses inconvénients.
L’exigence de la confiance :
L’IA a le potentiel de transformer radicalement les modes de vie et de travail dans nos sociétés modernes, comparable aux révolutions technologiques passées comme l’électricité et Internet. Dans le secteur public, cependant, les expérimentations restent limitées et les discours prudents. L’IA générative pourrait améliorer l’efficacité et l’accessibilité des services publics, en les rendant plus équitables et personnalisés. Pour que l’IA soit adoptée avec succès, il est essentiel que les citoyens et les agents publics aient confiance en cette technologie. Cette confiance repose sur la connaissance des possibilités et des limites de l’IA, ainsi que sur des garanties de respect des droits, des libertés et de l’intégrité administrative et démocratique.
4 axes de recommandations
Les rapporteurs considèrent qu’à l’avenir, “l’économie de la santé et celle du numérique seront davantage imbriquées”, et concluent en soulignant que “l’enjeu d’une IA souveraine n’est pas à négliger dans les politiques publiques nationale et européenne”. Pour une IA en santé efficace et juste, ils ont identifié 4 axes de travail pour la France :
1️⃣ Développer une culture de l’IA en santé par la formation initiale et continue des soignants :
La formation à l’IA doit être intégrée aux cursus universitaires pour les médecins et les professions paramédicales. Il est également nécessaire de renforcer la formation continue pour les personnels de santé en poste. De plus, un nouveau métier d’opérateur de l’IA en santé pourrait émerger pour gérer la complexité et assurer une médiation entre les acteurs du système.
2️⃣ Accélérer l’accès des chercheurs et des startups aux données secondaires de santé :
Il est essentiel d’adopter des normes d’interopérabilité pour les producteurs de données de santé afin de faciliter les croisements de données et de renforcer le rôle du Health Data Hub comme fédérateur des différentes bases de données. De plus, des contrats types pourraient lever les obstacles contractuels entre producteurs et utilisateurs de données, en définissant des normes de partage de la valeur.
3️⃣ Construire un cadre éthique robuste de l’IA en santé :
Patients et soignants doivent comprendre précisément la portée et les limites des solutions d’IA disponibles. Les exigences éthiques doivent être intégrées dès la conception des dispositifs d’IA (ethics by design) et incluses dans la formation des soignants. Ces exigences doivent également être traduites juridiquement et appliquées concrètement. Les instances nationales de contrôle, comme la CNIL en France, doivent disposer de moyens renforcés pour mener des investigations et appliquer des sanctions efficaces.
4️⃣ Financer efficacement la “course à l’IA” :
L’objectif de créer un écosystème autonome en IA pour la santé implique également l’accélération du projet de cloud sécurisé souverain. Cela garantirait que les données de santé, tout comme les données de sécurité et fiscales, ne soient pas exposées au risque de transmission à des puissances étrangères. De plus, pour que la course à l’IA bénéficie concrètement aux patients, il est important de trouver un modèle économique durable pour financer ces nouveaux outils au-delà des investissements initiaux. Une approche envisageable serait de dédier des fonds spécifiques au secteur hospitalier, sur le modèle du financement des missions d’intérêt général, afin de favoriser l’acquisition et la maintenance de solutions logicielles performantes.











