Les robots sociaux envahissent nos vies
Pour rompre l’isolement des personnes âgées, de nombreux ehpad ont adopté Paro, la peluche phoque. Ce robot émotionnel a pour but de véhiculer les bénéfices de la thérapie animalière auprès notamment des personnes souffrant de la maladie d’Alzheimer. Très populaire, ce robot ne fait cependant pas l’unanimité. Certains établissements préfèrent l’original à la copie, et accueillent donc des chiens et des chats. Ces différences d’approche illustrent la question sur laquelle le comité d’éthique du CNRS (Comets) s’est penché. Quelle est la place que nous devons accorder aux robots sociaux ? Il a publié son avis* le 1er juillet dernier.
Trop humains ?
Certes, plusieurs recommandations éthiques ont déjà été formulées sur les chatbots et autres agents conversationnels mais « toutes ces réflexions ont toutefois trop souvent négligé un phénomène qui accompagne l’usage croissant de certains de ces robots, à savoir l’attachement aux robots dits « sociaux », indique Christine Noiville, la directrice du Comets. La question est centrale puisque ces dispositifs ressemblent à des humains : ils parlent, ils détectent nos émotions et en simulent à leur tour… Résultat : « L’utilisateur tend alors à attribuer à la machine des capacités humaines (intelligence, conscience, bienveillance, empathie), à se projeter dans une interaction affective avec elle, à développer l’illusion que se noue un lien intime et de confiance entre elle et lui, voire à s’y attacher, » écrivent les auteurs de l’avis. Des risques d’emprise, d’addiction, de désocialisation, et surtout de manipulation sont donc pointés du doigt par le Comets. Alors que ces robots visent à nous apporter du bien-être, à combler des manques affectifs, ces derniers pourraient en effet avoir des effets pervers, nous éloigner des humains et nous faire croire que nos vrais amis sont ces robots.
Face à de tels dangers, le Comets interpelle donc les chercheurs, les incitant à s’interroger sur « l’utilité de mettre au point des robots sociaux expérimentaux mimant le plus possible l’humain, jusqu’à ses hésitations dans le langage, l’expression des émotions. »
Le CNRS interpelle les chercheurs
Le Comets a donc formulé 5 recommandations en direction de la recherche publique :
- développer des formations aux enjeux éthiques (dans les cursus scientifiques et techniques et pour les personnels de recherche concernés), et se familiariser davantage avec la littérature internationale consacrée à ces questions et en débatte collectivement ;
- s’interroger sur les finalités de la recherche, des applications et des choix de conception, comme sur les avantages et les inconvénients à donner aux robots une forme ou un comportement humanoïde ou des capacités à capter et à simuler les émotions ;
- mener des études scientifiques de long terme et à grande échelle sur : – les relations que les utilisateurs nouent avec « leurs » robots sociaux et sur les incidences en termes de cognition, de psychisme, d’attachement, d’autonomie d’actions et de décisions ; – les effets du déploiement des robots sociaux sur les relations entre humains ;
- renforcer les recherches interdisciplinaires et indépendantes associant aux travaux en informatique, en robotique, en sciences du comportement, du traitement du langage, etc., des recherches en psychologie, neurosciences, linguistique, sociologie, droit, éthique, philosophie, anthropologie ;
- créer un observatoire pour collecter à grande échelle et à long terme les données relatives à l’utilisation de robots sociaux.
Concernant la ressemblance des robots sociaux avec les humains, plusieurs études ont été menées sur le sujet, dont une qui devrait interpeller les concepteurs de ces dispositifs. Parue dans Plos One en novembre 2023, elle révèle que les robots sociaux peuvent être victimes de violences de la part de leurs utilisateurs et surtout que les mieux acceptés étaient ceux qui ressemblaient… le moins à des humains.
*Avis du COMETS « Le phénomène d’attachement aux robots dits « sociaux ». Pour une vigilance de la recherche scientifique »




