Le Nuffield Council on Bioethics a publié une note le 15 mai 2018 sur les grands enjeux éthiques que représente l’intelligence artificielle. Conscient des immenses espoirs suscités par cette révolution dans le domaine de la santé, le comité britannique passe en revue les questions de responsabilité, de fiabilité des données et de risque d’isolement des patients et appelle de ses vœux une gouvernance capable à la fois de stimuler l’innovation et de respecter les intérêts de chacun.
Les ambitions britanniques sur l’IA
Le gouvernement britannique a récemment annoncé son ambition de devenir une nation leader dans le domaine de l’intelligence artificielle. En avril, un accord de plus d’un milliard de livres a été signé entre le gouvernement et des entreprises privées pour développer ce secteur. Cet investissement se justifie par les espoirs majeurs que suscite l’intelligence artificielle.
Dans le domaine de la santé, l’IA peut tout à la fois rendre les soins plus efficaces, réduire les erreurs de diagnostic, faciliter l’autonomie des patients ou encore aider à trouver de nouveaux médicaments. Cependant, ce potentiel ne doit pas masquer les inquiétudes que provoquent ce type de partenariat public-privé, ni même les enjeux éthiques liés à l’IA.
Derrière les espoirs, les craintes
C’est la raison pour laquelle le Nuffield Council on Bioethics a publié le 15 mai 2018 une note de huit pages passant en revue les questions éthiques et sociales. Le comité pointe tout d’abord du doigt les limites de cette technologie. » Les humains ont des qualités que les systèmes d’IA pourraient ne pas posséder authentiquement, comme la compassion, écrivent les auteurs du rapport. La pratique clinique implique souvent des jugements complexes et des capacités que l’IA est actuellement incapable de reproduire, comme les connaissances contextuelles et la capacité de lire les indices sociaux. »
La liste des grands enjeux éthiques
Le Nuffield Council on Bioethics passe ensuite en revue les différents enjeux éthiques :
Bien que l’IA soit en mesure de réduire les biais et les erreurs humaines, elle peut aussi refléter et renforcer les biais contenus dans les données utilisées pour établir les algorithmes. Cela pourrait conduire à des discriminations liées au sexe, à l’origine ethnique, à l’ handicap et à l’âge. Les auteurs du rapport se font l’écho de la proposition qui consisterait à renforcer la diversité parmi les développeurs pour éviter que des préjugés ne se glissent dans les algorithmes.
Les résultats des systèmes d’intelligence artificielle peuvent se révéler difficiles à valider. Tout d’abord, parce que les propriétaires de certains systèmes peuvent vouloir maintenir le secret autour de leur technologie et par ailleurs parce que l’apprentissage automatique génère continuellement de nouveaux paramètres. Pour les membres du comité d’éthique, cette opacité soulève la question de la responsabilité des décisions prises par l’IA et la manière dont les personnes lésées peuvent demander réparation.
Si l’IA contribue parfois à maintenir à domicile des personnes atteintes de maladie chronique, et donc renforce leur autonomie et leur dignité, cette même technologie suscite des craintes inverses. « Des craintes en terme de perte de contact humain et d’isolement social accru sont apparues lorsque l’IA remplace les équipes soignantes ou les aidants familiaux », écrivent les auteurs du rapport. Ils ajoutent que ces systèmes « pourraient avoir un impact négatif sur l’autonomie individuelle, par exemple s’ils restreignent les choix basés sur des calculs de risque. Si les systèmes d’IA sont utilisés pour établir un diagnostic ou concevoir un plan de traitement, mais que le professionnel de la santé est incapable d’expliquer comment ils y sont arrivés, cela pourrait restreindre le droit du patient à prendre des décisions libres et éclairées sur leur santé. »
- L’impact sur les professionnels de santé
Les soignants peuvent se sentir remis en cause dans leur autorité. En outre, le recours à l’IA pourrait justifier l’emploi de personnels moins qualifiés, ce qui pourrait être préjudiciable en cas de défaillance de la technologie. « L’IA pourrait rendre les professionnels de la santé négligents, et moins susceptibles de vérifier les résultats et de contester les erreurs », craignent les éthiciens britanniques.
- La protection des données
Les données de santé font l’objet de législations très protectrices, mais des informations d’ordre social pourraient être utilisées pour en savoir plus sur la santé des individus. Le Nuffield Council of Bioethics plaide donc pour que la loi aille au-delà du cadre actuel afin de tenir compte des attentes du public quant à l’utilisation de leurs données confidentielles.
Vers quelle gouvernance ?
Les auteurs de la note plaident donc en faveur d’une régulation de l’intelligence. Bien que cette technologie se développe rapidement et dans le monde de l’entreprise, la question clé est celle de la gouvernance. La protection des données fait par exemple déjà l’objet d’une réglementation, mais le comité d’éthique s’interroge : l’IA doit-elle faire l’objet d’une réglementation propre ou faut-il encadrer chaque domaine et examiner l’impact de chacun sur l’IA ?
Les capacités éthiques des machines
Enfin, les systèmes d’IA les plus avancés effectuent des tâches sans aucune intervention humaine. Par conséquent, seront-ils aussi capables de prendre des décisions éthiques ? « Cela fait l’objet de nombreux débats philosophiques, soulevant des questions sur le fait de savoir si et comment les valeurs ou les principes éthiques peuvent être codés ou appris par une machine; et si les droits qui s’appliquent aux humains peuvent ou devraient s’appliquer aux machines, ou si de nouveaux principes éthiques pourraient être nécessaires », concluent les auteurs.