La Commission Nationale de l’Informatique et des Libertés a présenté le 15 décembre 2017 à Mounir Mahjoubi, Secrétaire d’Etat chargé du Numérique et Cédric Villani, chargé par le gouvernement d’une mission sur l’intelligence artificielle, les résultats d’une vaste consultation lancée au mois de janvier 2017 sur la question de l’IA.
Le rapport sur « Les enjeux éthiques des algorithmes et de l’intelligence artificielle : Comment permettre à l’homme de garder la main » pose deux principes fondamentaux – loyauté et vigilance – et six recommandations opérationnelles à destination tant des pouvoirs publics que des diverses catégories de la société civile.
Des champs d’exploration variés
Le rapport s’appuie sur les résultats d’un débat public ouvert et décentralisé que la CNIL a animé de janvier à octobre 2017. 3 000 personnes ont participé à 45 manifestations tenues à l’initiative de 60 partenaires en France et aux États-Unis. Une concertation citoyenne a également été organisée à Montpellier le 14 octobre 2017 pour compléter la démarche.
Médias, vie publique et politique, éducation, culture, santé, justice, sécurité et défense, banque et finance, emploi et recrutement ont été abordés comme champs d’exploration des algorithmes et de l’intelligence artificielle par les partenaires : des instituts de recherches, des institutions publiques, des fédérations professionnelles, des syndicats, des ordres d’avocat, des hôpitaux, des think tanks, des entreprises, etc.
Deux principes pourraient s’inscrire dans une nouvelle génération de garanties et de droits fondamentaux à l’ère numérique
Le principe de loyauté
La CNIL estime que tout algorithme, qu’il traite ou non des données personnelles, doit être loyal envers ses utilisateurs, non pas seulement en tant que consommateurs, mais également en tant que citoyens, voire envers des communautés ou de grands intérêts collectifs dont l’existence pourrait être directement affectée.
Le principe de vigilance/réflexivité
Il s’agit d’organiser une forme de questionnement régulier, méthodique et délibératif à l’égard de ces objets mouvants. Ce principe constitue une réponse directe aux exigences qu’imposent ces objets technologiques du fait de leur nature imprévisible (inhérente au machine learning), du caractère très compartimenté des chaînes algorithmiques au sein desquels ils s’insèrent et, enfin, de la confiance excessive à laquelle ils donnent souvent lieu. C’est l’ensemble des maillons de la chaîne algorithmique (concepteurs, entreprises, citoyens) qui doivent être mobilisés pour donner corps à ce principe, au moyen de procédures concrètes – par exemple, des comités d’éthique assurant un dialogue systématique et continu entre les différentes parties-prenantes.
Les 6 recommandations opérationnelles
Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique » (concepteurs, professionnels, citoyens)
L’alphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine.
Rendre les systèmes algorithmiques compréhensibles
En renforçant les droits existants et en organisant la médiation avec les utilisateurs.
Travailler le design des systèmes algorithmiques au service de la liberté humaine
Pour contrer l’effet « boîtes noires ».
Constituer une plateforme nationale sur les enjeux éthiques des algorithmes et de l’intelligence artificielle d’audit des algorithmes
Encourager la recherche sur l’IA éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général
Renforcer la fonction éthique au sein des entreprises
Par exemple, l’élaboration de comités d’éthique, la diffusion de bonnes pratiques sectorielles ou la révision de chartes de déontologie peuvent être envisagées.
Le rapport complet est disponible via ce lien.