Placé sous l’égide du Comité consultatif national d’éthique (CCNE), le CNPEN a été installé en 2019. Son rôle consiste à :
- rendre des avis sur les saisines qui lui sont confiées ;
- éclairer le débat public sur les enjeux d’éthique du numérique ;
- et rédiger des propositions relatives à la pérennisation de la réflexion nationale sur l’éthique du numérique.
Depuis le lancement de ChatGPT et l’accélération des systèmes d’intelligence artificielle générative (IAG), dans la santé comme dans tous les secteurs économiques, plusieurs interrogations éthiques se posent. Dans ce sens, le CNPEN a rendu son Avis n°7, portant sur les enjeux éthiques de ces systèmes. Ce dernier ce décline en 3 grands axes, sur lesquels H&TI revient en détails dans cet article :
- 1) les enjeux d’éthique ;
- 2) les enjeux juridiques ;
- 3) et les enjeux écologiques et environnementaux.
1) Sur les enjeux éthiques
Les transformations technologiques, notamment celles liées à l’IAG, suscitent à la fois espoirs et craintes dans la société. Cependant, la société a du mal à anticiper pleinement les conséquences de ces avancées, soulevant ainsi des questions éthiques et sociales dans les débats sur leur réglementation.
Le CNPEN recommande :
- d’analyser éthiquement les choix technologiques lors de la conception des systèmes d’IA générative. Si des tensions éthiques sont détectées, envisager méthodiquement des solutions techniques pour les résoudre, puis évaluer ces solutions dans des contextes d’utilisation réels ;
- d’éviter les excès de contrôle (overpolicing) des modèles par les concepteurs ;
- de créer une entité souveraine dédiée à la recherche et à la formation sur “IA, science et société” ;
- et faire preuve de prudence dans la vitesse d’adoption des systèmes d’IA générative et prévoir des évaluations préalables et continues.
Par ailleurs, le CNPEN identifie 7 problématiques éthiques pour lesquels il élabore 12 préconisations :
Rapport à la vérité et absence de signification :
- Utiliser des sources de qualité pour l’apprentissage des systèmes d’IAG.
- Tenir compte des effets des choix des hyperparamètres des modèles.
Manipulation de l’utilisateur sans responsabilité :
- Évaluer les biais connus des modèles à base de jeux d’essais standardisés.
- Mutualiser les pratiques d’utilisation des systèmes d’IAG.
Maintien des distinctions :
- Implémenter une solution technique, comme un code en filigrane (“watermark“), pour permettre à l’utilisateur de distinguer le résultat d’un modèle d’une production humaine.
- Amplifier les recherches sur les codes en filigrane.
Projection de qualités humaines :
- Mettre en œuvre des mécanismes de contrôle et de filtrage spécifiques pour réduire la projection des qualités humaines sur les systèmes d’IAG.
- Informer l’utilisateur des biais potentiels de l’anthropomorphisation.
Comportements émergents :
- Étudier les comportements émergents et les effets inconnus des modèles.
Multilinguisme et dominance d’une langue :
- Concevoir les systèmes d’IAG dans différentes langues reflétant la diversité des cultures.
Éducation et conséquences sur l’apprentissage humain :
- Faciliter la prise en main du système grâce au paramétrage des systèmes d’IA par les utilisateurs.
- Utiliser les systèmes d’IAG pour l’éducation.
Question de libre accès et de logiciel ouvert :
- Conditionner le libre accès des modèles de fondation à la prise de conscience par leurs concepteurs des enjeux d’ouverture et des risques de mésusage.
- Expliciter et appliquer des critères de transparence et d’évaluation.
2) Sur les enjeux juridiques
Les règles juridiques imposées aux systèmes d’IAG et aux modèles de fondation :
- Considérer les modèles de fondation mis sur le marché et les systèmes d’IAG comme des systèmes à haut risque.
- Attribuer la responsabilité légale aux fournisseurs des modèles de fondation et aux déployeurs d’applications spécifiques d’IAG à partir de ces modèles, avec une extension de la responsabilité morale aux concepteurs et développeurs.
Le RGPD en lien avec les systèmes d’IAG :
- Produire des lignes directrices par le Comité européen de protection des données pour articuler le règlement sur l’IA avec le RGPD, afin de préciser l’interprétation de ce dernier dans le contexte du développement de l’IAG en Europe.
Le droit d’auteur en lien avec les systèmes d’IAG :
- Élaborer des règles juridiques et un questionnement éthique sur la collecte, le stockage et la réutilisation des traces linguistiques des interactions entre les modèles de langue et les êtres humains, similaire à l’encadrement des données à caractère personnel.
- Engager des recherches scientifiques, des réflexions pluridisciplinaires et des discussions entre États sur l’adaptation du droit existant en matière de droit d’auteur aux techniques d’IAG.
3) Sur les enjeux écologiques et environnementaux
Impact environnemental de l’IAG :
- Développer une métrique de l’empreinte environnementale des systèmes d’IAG et des modèles de fondation.
- Exiger plus de transparence sur les effets sur l’environnement de la part des concepteurs.
👉 Résumé
Les préconisations du CNPEN sur les enjeux liés à la conception, la recherche et la gouvernance des systèmes d’IAG :

En 2022, l’Avis n°4 du CNPEN portait sur l’IA et le diagnostic médical
Pour répondre à une précédente saisine formulée dans la lettre de mission du Premier ministre, un groupe de travail rassemblant des membres du CCNE et du CNPEN s’est penché sur la question du diagnostic médical et l’IA. Son avis, qui a été rendu en novembre 2022, présentait les conclusions suivantes :
- Les systèmes d’IA pour le diagnostic médical (SIADM) offrent des avantages significatifs, permettant de détecter des lésions invisibles à l’œil humain et de traiter rapidement les cas répétitifs, libérant ainsi du temps médical pour des interactions plus approfondies avec les patients.
- Certains SIADM contribuent également à repenser l’organisation des soins, améliorant ainsi les phases d’accueil des patients à l’hôpital.
- Cependant, l’utilisation des technologies d’IA dans le diagnostic médical soulève plusieurs enjeux éthiques, notamment concernant le respect de la personne et la nécessité d’un traitement équitable pour tous les individus.
- Ces tensions éthiques mettent en lumière la nécessité de concilier une approche individualisée avec une considération équitable de l’ensemble des personnes concernées, associant ainsi les dimensions singulières et algorithmiques de la prise en charge médicale.
- En conclusion, le CCNE et le CNPEN soulignent l’émergence de nombreux développements en IA dans le domaine de la prévention sanitaire, appelant à une réflexion complémentaire pour couvrir ces questions connexes et intégrer une approche holistique dans la gestion des défis éthiques liés à l’IA en santé.
