Le Comité consultatif national d’éthique pour les sciences de la vie et de la santé (CCNE) « a été chargé par le Premier ministre de constituer un comité pilote d’éthique du numérique ». C’est ce qu’annonce l’instance dans un communiqué daté du 2 décembre 2019, précisant que le comité sera dirigé par Claude Kirchner, directeur de recherche émérite Inria, et tiendra sa première réunion plénière le 4 décembre 2019.
Le nouveau comité sera chargé, selon la volonté de Matignon, de remettre des premières contributions sur l’éthique du numérique et de l’intelligence artificielle (IA) et de « déterminer les équilibres pertinents pour l’organisation du débat sur l’éthique des sciences et technologies du numérique et de l’IA ».
Les premiers travaux du comité pilote porteront sur 3 saisines, dont l’une porte sur « le diagnostic médical et l’intelligence artificielle ». Elle se propose notamment :
• « de discuter la tension entre proposition de décision algorithmique et garantie humaine » ;
• « de se demander quels sont les risques encourus lorsqu’on ne suit pas le ‘conseil’ d’un algorithme de prédiction » ;
• « de promouvoir la transparence et l’explicabilité du fonctionnement de ces algorithmes tant pour les professionnels de santé que pour les usagers du système de santé ».
Une autre saisine concerne « les agents conversationnels » (chatbots) dont les enjeux éthiques concernent « la transparence sur le traitement des données récoltées », « le respect des individus », « la commodité de [leur] utilisation » ou « la mise en œuvre de stratégies d’influence par de tels agents ». La troisième saisine porte sur « le véhicule autonome ».
Membres du comité pilote éthique du numérique
Le CCNE publie sur son site une liste de 27 membres du comité pilote éthique du numérique, qui inclut notamment :
- des chercheurs en intelligence artificielle (IA) : Gilles Adda (CNRS), Jean-Gabriel Ganascia (CNRS), Serena Villata (CNRS), Laurence Devillers (CNRS, membre de la Cerna, Commission de réflexion sur l’éthique de la recherche en science et technologies du numérique d’Allistene) ;
- des juristes spécialistes du numérique : Theodore Christiakis (CNnum) Claire Levallois-Barth (IMT/Cerna), Célia Zolynski (Paris 1) ;
- des spécialistes de l’éthique : Gilles Dowek (Inria), Emmanuel Hirsch (Espace éthique IDF), Catherine Tessier (Onera/Cerna) ;
- des personnalités politiques : Valeria Faure Muntian, députée LREM et membre de l’Opecst, Karine Dognin-Suze, Vice-présidente de la Métropole de Lyon chargée du numérique et membre du CNNUm ;
- David Gruson (Jouve) ;
- Tristan Nitot, dirigeant de la société Qwant ;
- Jean-François Delfraissy, président du CCNE ;
- la présidente ou le secrétaire général de la Cnil.
Le président du comité pilote, Claude Kirchner, est membre du CCNE et de la Cerna et a été copilote en 2018 du groupe de travail « numérique et santé » du CCNE.
Vers un comité pérenne sur l’éthique du numérique ?
Le comité prévoit de travailler « en lien avec plusieurs organisations », dont la Cnil, l’Inria, le CNRS, la CPU (Conférence des présidents d’université), les Académies des sciences et des technologies, le CNNum ainsi que des comités d’éthique français et étrangers.
Le communiqué annonce que le Comité pilote d’éthique du numérique remettra début 2021 « le bilan de ses activités » au Président du CCNE. Le CCNE émettra alors des recommandations sur « les modalités d’un éventuel comité pérenne d’éthique du numérique» .
Le CNNE souligne que cette création s’inscrit dans la stratégie nationale d’intelligence artificielle et dans la continuité des recommandations du rapport de Cédric Villani remis en mars 2018 (Donner un sens à l’intelligence artificielle) ainsi que de l’Avis 129 du CCNE (septembre 2018), qui propose « de jouer un rôle d’aide à la constitution d’un futur comité d’éthique du numérique, spécialiste des enjeux numériques dans leur globalité ».