Articles

  • Danemark : une IA prédit le comportement du patient et son espérance de vie ?

    Prédire la date de décès d’un individu ?

    Life2vec, un algorithme basé sur l’IA, prétend être en mesure de prédire la date de décès d’un individu avec un taux de réussite de 78,8 %. Cependant, les fondateurs de Life2vec soulignent que ce résultat doit être mis en contexte. La cohorte utilisée pour l’entraînement et les tests de l’algorithme est composée d’individus âgés de 35 à 65 ans, présentant ainsi une très faible probabilité de décès.

    Les données sont divisées en deux parties :

    • Les données d’entraînement : elles servent à enseigner au modèle les corrélations présentes dans les données. Elles comprennent notamment les données de formation, qui représentent la majorité des données.
    • Les données de test : elles permettent d’évaluer les performances du modèle.

     

    En utilisant les données d’entraînement, le modèle apprend des informations des années 2008 à 2015 pour différencier les résultats réels en matière de vie et de décès des personnes figurant dans les données de formation au cours de la période 2016 à 2020. Le modèle entraîné est ensuite testé sur les données de test, soit un échantillon de 100 000 individus. Ce modèle fait ensuite une prédiction avec les données de 2008 à 2015, et les chercheurs vérifient si celles-ci correspondent à la réalité.

    La précision en pourcentage est définie sur le nombre de prédictions correctes par rapport au total des prédictions. Comme la cohorte est jeune, la majorité des personnes survivent (plus de 95 %).

    Afin de rééquilibrer l’ensemble de données, les chercheurs ajoutent 50 000 individus ayant survécu et 50 000 ayant décédé. Dans cet ensemble de données équilibré, une estimation aléatoire obtiendrait une précision de 50 %. Lorsque les chercheurs exécutent leur algorithme sur cet ensemble de données équilibré, ils obtiennent une précision de 78,8 %.

    Les chercheurs précisent qu’ils ne prédisent pas la durée de vie des individus, mais testent plutôt la mortalité au cours des 4 prochaines années pour une jeune cohorte d’individus.

    Un outil pour mieux comprendre le comportement humain

    Les modèles d’IA utilisés par Life2vec sont des algorithmes conçus pour identifier les schémas dans le langage. En appliquant cette technologie aux séquences d’événements de la vie humaine, les chercheurs peuvent détecter des moments complexes dans les parcours de vie, tels que le risque d’obésité ou de cancer, le niveau de revenu, les études ou le mariage, par exemple. L’ordre des événements dans une vie revêt une importance capitale, comme aux États-Unis, où avoir un emploi dans le secteur de la santé avant de tomber malade peut avoir un impact très différent que de tomber malade sans couverture médicale.

    Ces modèles et les relations entre les événements de la vie sont représentés sous forme mathématique dans des espaces d’intégration. Les algorithmes analysent des séquences de vie et apprennent la structure de ces espaces. Life2vec se distingue sur trois axes majeurs :

    • efficacité accrue : Life2vec démontre que la performance de son algorithme capture des modèles pertinents dans les données ;
    • analyse des espaces d’intégration : Les chercheurs s’intéressent particulièrement à l’étude de ces espaces, révélant des informations précieuses sur les schémas sous-jacents aux événements de la vie ;
    • meilleure compréhension du comportement humain : L’objectif ultime est de tirer parti de ces modèles pour mieux comprendre les individus, leurs comportements et la société dans son ensemble.

     

    Cependant, l’algorithme développé par les chercheurs danois soulève des préoccupations éthiques, notamment en matière de confidentialité, de discrimination (algorithme biaisé) et d’autonomie. En prédisant la vie des gens, il enlève ainsi leur liberté de choix.

     

  • Diabète : les données des objets connectés peu exploitées en amont des téléconsultations (étude)

    Comprendre les impacts de la télésanté sur la gestion du diabète

    Les inégalités d’accès aux soins peuvent être très néfastes pour les personnes atteintes de diabète. En effet, un retard dans le traitement de cette pathologie peut entraîner des complications comme des maladies cardiovasculaires, une insuffisance rénale, une cécité, ou un recours à des amputations. Depuis la pandémie de Covid-19, l’utilisation de la télésanté s’est répandue et permet aux personnes n’ayant pas accès facilement aux soins, comme les personnes habitants dans des zones dites de déserts médicaux, d’avoir une alternative et d’être suivis par des professionnels de santé à distance.

    Dans le cadre d’une étude réalisée par 4 centres médicaux universitaires de l’université de Californie (UC Davis Health, UCSF Health, UCLA Health et UC San Diego Health), les chercheurs ont tenté de comprendre les impacts négatifs comme positifs que pouvait avoir l’usage de la télésanté dans la gestion du diabète de type 1 et de type 2. Pour ce faire, ils ont interrogés les cliniciens et du personnel qui prodiguent, par le biais de la télésanté, des soins aux personnes atteintes de diabète, afin de comprendre comment la télésanté est utilisée dans la gestion du diabète, les problèmes qu’ils ont rencontrés, les pratiques qu’ils mettent en place pour faciliter les consultations, ainsi que leurs attentes pour l’avenir. Les résultats de cette étude ont été publiés dans les Diabetes Journals de l’American Diabetes Association, le 19 avril 2024.

    Récolter les données des patients en amont des téléconsultations

    Les deux principaux constats dressés par cette étude concernent l’optimisation des opérations de télésanté pour la gestion du diabète et l’amélioration de la prise en charge du diabète par la téléconsultation. Pour ce qui est de l’optimisation des opérations de télésanté, les personnes interrogées ont indiqué que l’accès à distance des données de suivie contenues dans les appareils des patients, tels que les glucomètres connectés, permet de préparer la consultation en amont et que les difficultés rencontrées pour le moment concernent la difficultés de planifier un suivi par le biais de téléconsultation et la difficulté à mettre en place un travail en équipe à distance des professionnels de santé.

    Du côté de l’amélioration de la prise en charge du diabète grâce à la téléconsultation, les personnes interrogées ont indiqué que la télésanté offre aux soignants des opportunités de comprendre l’environnement familial du patient et de lui fournir une éducation préventive pertinente, qu’elle offre la possibilité d’examiner ensemble les données des patients grâce au partage d’écran, ce qui peut améliorer les connaissances thérapeutiques tant pour les patients que pour les cliniciens. Le point à améliorer selon eux est l’attention du patient lors de la téléconsultation, puisque ce dernier n’est pas aussi concentré lorsqu’il est en consultation à distance que lorsqu’il est en examiné en direct chez le médecin.

    Par le biais de cette étude, les chercheurs recommandent 3 axes stratégiques pour faciliter le suivi des patients atteints de diabète grâce à la télésanté :

    • la mise en place d’une équipe dédiée à la collecte et à l’analyse des données contenues dans les objets connectés des patients afin de réaliser un pré-diagnostic avant même le début de la téléconsultation : les chercheurs ont indiqué que cela permettrait de faire gagner du temps aux cliniciens lors des téléconsultations et d’éviter de reprogrammer inutilement les rendez-vous ;
    • l’optimisation des flux de travail grâce à la planification des consultations de suivi pour éviter les ruptures dans le parcours du patient ; 
    • la mise en place d’une équipe de cliniciens en plus du médecin spécialiste du diabète qui s’occupe du patient, comme une infirmière, un diététiste, un pharmacien ou un éducateur, pour un suivi plus précis.

     

    Les chercheurs précisent néanmoins que la limite à cette étude est que les patients atteints de diabète qui sont suivis par téléconsultation n’ont pas été interrogés. Ils insistent donc sur le fait que la prise en compte de l’expérience des patients est importante pour bâtir des axes stratégiques les plus précis possibles pour une meilleure prise en charge à distance des diabétiques.

     

     

    * From Surviving to Thriving: A Qualitative Study of Adapting Telehealth Systems for Specialty Diabetes Care Across Four California Medical Centers.

    Sarah C. Haynes, Miriam Sarkisian, Aaron B. Neinstein, Jenise C. Wong, Polly F. Teng, James P. Marcin, Stephanie S. Crossen

    Clin Diabetes 2024; cd230108. https://doi.org/10.2337/cd23-0108

  • Dépendance : Autonomia, une plateforme technologique ouverte aux innovations

    Les utilisateurs au centre de l’écosystème santé

    Alors que le marché des innovations cliniques et technologiques en faveur des personnes en perte d’autonomie se développe, se pose la question de leur utilisation effective et de leur adaptation aux besoins. Les promoteurs de solutions innovantes, chercheurs ou entreprises, ne disposent pas toujours des moyens pour valider à grande échelle leur produit avant la mise en service, ni pour évaluer leur usage dans le temps.

    Cette problématique concerne aussi bien les solutions technologiques proposées à domicile qu’en établissement médicosocial. A l’hôpital, les solutions proposées sont principalement cliniques mais nécessitent également une évaluation de leur effets et incidences sur les patients sur une durée suffisamment longue.

    La création d’Autonomia correspond à la volonté de “placer l’utilisateur au centre de l’écosystème de l’innovation” selon différents axes tels que, par exemple, mieux vieillir, mieux respirer, mieux se déplacer, mieux récupérer. Elle vise à donner aux promoteurs de solutions innovantes le moyen de les tester sur des sujets concernés (patients, professionnels de santé, grand public) et de les évaluer en milieux de vie reconstitués.

    L’objectif final est une mise à disposition des innovations, de façon accélérée et sure, au profit des utilisateurs.

    Une plateforme alliant recherche universitaire et médicale

    Sorbonne-Université et l’AP-HP se sont associées dans une unité mixte de service (UMS) afin de mettre des moyens humains et matériels à disposition des chercheurs et de les accompagner.

    Sorbonne-Université participe au projet avec ses trois facultés, qui couvrent tous les champs de la recherche en autonomie : la faculté de santé à la Pitié-Salpêtrière pour la médecine, Jussieu et sa faculté d’ingénierie et la Sorbonne pour les lettres et sciences humaines. L’AP-HP apporte ses médecins et ses patients susceptibles de participer au projet.

    Les patients de l’AP-HP seront présentés par les cliniciens souhaitant utiliser les services de la plateforme pour leur recherche. Il n’est pas exclu que les associations se manifestent spontanément pour tout sujet innovant en relation avec la perte d’autonomie ou les situations de handicap.

    Autonomia proposera un fast track d’accompagnement aux chercheurs, tant pour la construction de leur protocole de recherche que pour la demande d’avis au Comité de protection des personnes (CPP) et la rédaction de leurs contrats industriels.

    La plateforme est implantée à Ivry-sur-Seine au sein de l’hôpital Charles-Foix AP-HP, sur une surface de 1 600 m2, rénovée grâce au Contrat de Plan Etat-Région à hauteur de 6 M€. Ce vaste espace permet de reconstituer des milieux de vie tels que le domicile, la chambre d’hôpital, le cabinet médical, la télémédecine, et même une rue en extérieur. Des équipements spécialement connectés, tels un escalier et la plateforme d’analyse du mouvement, peuvent transmettre en temps réel des informations sur les difficultés rencontrées par les utilisateurs et leur traduction en terme médicaux. Trois laboratoires polyvalents sont réservés pour que des chercheurs puissent les investir avec leur propre matériel.

    Autonomia hébergera le temps nécessaire les chercheurs, qui y évalueront leurs innovations, parallèlement et en complément de leurs laboratoires ou structures d’origine.

    Un projet du Programme d’investissement d’avenir

    Autonomia est lauréat de l’appel à projets Sesame-Filières IdF-France 2030 (soutien à la structuration de filières stratégiques franciliennes et au développement de plateformes technologiques ouvertes aux PME/ETI), qui s’inscrit dans le volet régionalisé du Programme d’Investissement d’Avenir et est opéré par Bpifrance. Cet appel à projet, financé par l’État et la Région Île-de-France, est destiné à renforcer la compétitivité scientifique et technologique des filières stratégiques, en s’appuyant sur les capacités scientifiques et technologiques des établissements d’enseignement supérieur et de recherche. Il vise à faciliter le recours à des moyens de production ou des infrastructures partagées, notamment par la création de plateformes technologiques ouvertes aux PME/ETI.

    📌 Autonomia est une plateforme technologique totalement ouverte :

    Médecins et chercheurs des organismes publics, privés ou en entreprise, associations de patients peuvent y avoir accès. Cette proximité favorisera l’émergence de nouveaux partenariats en faveur d’une innovation plus efficace, renforçant la compétitivité.

    Un modèle économique équilibré à 5 ans :

    Actuellement bénéficiaire de fonds publics, Autonomia ambitionne de devenir autonome financièrement dans un délai de 5 ans. La plateforme se financera en facturant ses prestations de service selon trois tarifs différents :

    • Pour les chercheurs de Sorbonne-Université  et de l’AP-HP ;
    • Pour les chercheurs des autres organismes publics ;
    • Pour les industriels.

    Une ouverture aux chercheurs en janvier 2025 :

    Les travaux sont achevés et les équipements en cours d’installation ; les premiers chercheurs seront accueillis en janvier 2025.

    Une équipe pluridisciplinaire de 20 personnes est en cours de recrutement pour la gestion de la structure et l’accompagnement des chercheurs dans les procédures de validation et de valorisation de la recherche.

    La plateforme a lancé un appel à manifestation d’intérêt portant sur l’innovation en faveur de l’autonomie des personnes, quels que soient leur âge et l’origine de la perte d’autonomie et quel que soit le niveau d’avancement du projet. Outre la mise à disposition de moyens matériels, les lauréats bénéficieront d’un financement de leurs besoins en équipement à hauteur de 100 000€.

     

  • Belgique / santé mentale : le CSS émet 12 recommandations sur les applis numériques

    Un écart entre la demande et l’offre numérique

    Dans son rapport intitulé “Interventions et applications numériques de santé mentale”, le Conseil supérieur de la santé (CSS) belge (quivalent de la Haute autorité de santé en France) formule 12 recommandations pour améliorer l’utilisation des innovations. En Belgique, l’accès au traitement n’est pas optimal pour de nombreuses personnes. L’écart entre la demande et l’offre des soins est lié à différentes causes (manque de services, listes d’attente trop longues, stigmatisation et attitudes négatives à l’égard des soins de santé mentale, etc.). C’est dans ce contexte que le CSS souhaite encadrer la santé mentale numérique, en se basant sur les données de recherche et une adaptation au contexte du pays.

    Vu l’évolution rapide dans le domaine, le rapport se concentre sur les technologies les plus utilisées, à savoir “les programmes sur ordinateur, les smartphones et les environnements numériques multiplateformes”. Une distinction est faite entre les différentes utilisations dans la pratique clinique comme suit :

    • les interventions autonomes d’auto-assistance ;
    • les interventions guidées avec un soutien professionnel minimal ;
    • et les interventions mixtes (technologie mélangée à la pratique conventionnelle).

     

    Les 12 recommandations du CSS

    Ces recommandations s’adressent aux décideurs politiques ainsi qu’à toutes les parties prenantes de la santé mentale. Elles sont classées par ordre de priorité comme suit  :

    1️⃣ Veiller à ce que les interventions et les applications numériques ne soient pas mises en œuvre de manière isolée : les applications numériques se révèlent être des outils précieux pour les professionnels des services de santé mentale Elles doivent être utilisées et mises en œuvre dans un contexte de soins de santé sûrs et sécurisés, en assurant un accès facile aux soins de routine, permettant au réseau de soutien du patient d’être impliqué et de fournir un soutien humain si nécessaire (en ligne, guidé ou mixte).

    2️⃣ S’assurer que les professionnels des services de santé mentale peuvent compter sur des compétences numériques suffisantes, en veillant à les intégrer dans les études et la formation continue.

    3️⃣ Permettre le financement structurel d’interventions et d’applications numériques rentables, en veillant à ce que des fonds soient alloués au développement d’outils numériques, mais aussi à leur entretien et à leur maintenance.

    4️⃣ Souligner l’importance de commencer le développement d’interventions numériques et d’applications en pensant aux patients, en visant l’inclusion dès la conception et en s’assurant que les utilisateurs finaux soient impliqués à chaque étape du développement (quel que soit leur genre, origine ethnique, situation socio-économique ou autre).

    5️⃣ Créer un réseau pour positionner les interventions et les applications numériques dans le cadre des soins intégrés : cela doit impliquer tous les acteurs tels que les universités, les cliniciens, les hôpitaux, les organisations sociales, les pairs et la communauté.

    6️⃣ Assurer un financement adéquat de la recherche pour préserver la qualité, garantie par une recherche continue sur l’efficacité, l’acceptabilité, la facilité d’utilisation, l’accessibilité et la rentabilité des interventions numériques et des applications.

    7️⃣ Faciliter l’interopérabilité et la connectivité : les interventions et les applications numériques devraient pouvoir se connecter aux plateformes de santé en ligne comme Vitalin et E-santé Wallonie.

    8️⃣ Soutenir les développeurs d’interventions et d’applications numériques, diffuser des solutions fondées sur des données probantes dans la pratique et les accompagner financièrement.

    9️⃣ Axer les interventions et les applications numériques avant tout sur leur caractère mobile, notamment avec les smartphones largement plébiscités par l’ensemble de la population.

    1️⃣0️⃣ Se concentrer sur les mécanismes de fonctionnement, ainsi que sur le bien-être général et l’amélioration de la qualité de vie dans les résultats clés.

    1️⃣1️⃣ Faciliter l’extension de l’expertise au niveau national : les disparités en Belgique soulignent la nécessité d’une stratégie plus cohérente et unifiée au niveau national afin d’assurer un développement équilibré des applications et interventions numériques pour la santé mentale.

    1️⃣2️⃣ Formuler des attentes minimales pour les professionnels des services de santé mentale : ces derniers devraient utiliser les interventions numériques et les applications de manière plus explicite (objectif d’ici 2030), même si les professionnels services de santé mentale restent les garants pour déterminer ce qui convient le mieux à chaque patient.

     

  • USA : IA et impression 3D pour traiter le cancer du sein (partenariat Ricoh-Simbiosys)

    Des modèles 3D de tumeurs mammaires

    Le spécialiste de la conception de dispositifs médicaux (DM) sur mesure, Ricoh 3D for Healthcare, a annoncé un nouveau partenariat avec Simbiosys, une entreprise spécialisée dans l’IA et de la modélisation informatique. Objectif : exploiter le potentiel de l’IA et de l’impression 3D pour développer des solutions qui pourraient faciliter le traitement et la prise en charge du cancer du sein.

    Les premiers modèles de tumeurs mammaires imprimés en 3D ont été développés grâce à l’analyse intelligente d’images de mammographie croisées à d’autres données cliniques. Ils ont été présentés lors de la conférence de l’American Society of Breast Surgeons (ASBRS), qui a eu lieu en Floride du 10 au 14 avril 2024.

    Des avantages chirurgicaux attendus

    Le fruit de ce partenariat étant encore en cours développement, la technologie de Ricoh et Simbiosys n’a pas encore été approuvée par la Food and Drug Administration (FDA) pour une utilisation clinique. Cependant, les avantages potentiels de la modélisation 3D, revendiqués par les deux entreprises, pourraient être considérables :

    Une chirurgie plus précise et rapide :

    Les chirurgiens peuvent utiliser les modèles 3D pour mieux planifier et exécuter leurs interventions chirurgicales. Cela peut permettre des interventions plus précises et plus rapides, faisant gagner jusqu’à 62 minutes et générant des économies moyennes de 3 720 dollars.

    Des soins plus personnalisés :

    Les modèles 3D peuvent être utilisés pour créer des thérapies et des implants personnalisés pour chaque patiente, améliorant ainsi l’efficacité du traitement et réduisant les effets secondaires.

    Une meilleure communication médecin-patient :

    Les modèles 3D peuvent être utilisés pour aider les patientes à mieux comprendre leur cancer et les options thérapeutiques disponibles. S’appuyant sur le principe selon lequel “l’innovation passe par l’information”, tous les hôpitaux peuvent accéder à ces modèles 3D pour réaliser des simulations anatomiques, offrant la possibilité de mettre en place des approches innovantes et rares.

     

  • Cybersécurité : l’Anssi publie un guide pour la sécurité des systèmes de l’IA générative (35 recommandations)

    La Gen AI, de précieux bénéfices et de nouvelles menaces

    Depuis novembre 2022 et l’avènement de ChatGPT (OpenAI), l’intelligence artificielle générative (Gen AI) est utilisée dans de nombreux secteurs que ce soit la santé, l’éducation ou encore la finance. Et comme tous les systèmes, à l’instar des systèmes d’information, ceux de Gen AI emporte leurs spécificités et leur lot de menaces. Dans son guide “recommandations de sécurité pour un système d’IA générative” publié le 29 avril 2024, l’Agence nationale de la sécurité des systèmes d’information (Anssi) explique que la complexité des systèmes de Gen AI nécessite des mesures de sécurisations spécifiques lors :

    • de la première phase d’entraînement du modèle d’IA à partir de données spécifiquement choisies ;
    • de la phase d’intégration et de déploiement ;
    • de la phase de production opérationnelle dans laquelle les utilisateurs peuvent accéder au modèle d’IA entraîné, par l’intermédiaire du système d’IA. 

    En fonction de la sensibilité des données et de la criticité du système d’IA dans sa finalité, les développeurs de systèmes de Gen AI vont donc être obligés de mettre en place des mesures de sécurité qui peuvent aller de la protection des données d’entrainement des modèles, au renforcement du modèle d’IA pour éviter des attaques de plus en plus, ou encore à la sécurisation des interactions du système d’IA avec d’autres applications ou composants du SI.

    Les systèmes de Gen AI en proie à 3 grandes catégories d’attaques :

    Avant d’énumérer ses 35 recommandations, l’Anssi explique que l’attaque d’un système de Gen AI peut atteindre sa confidentialité, son intégrité, sa disponibilité ou encore sa traçabilité et avoir comme potentiels impacts le ternissement de la réputation de services exposés au grand public par l’altération du bon fonctionnement des systèmes d’IA générative, l’exfiltration de données sensibles depuis des systèmes d’IA générative, ou encore la latéralisation d’une attaque vers d’autres applications métier interconnectées aux systèmes d’IA générative, comme une application de messagerie interne par exemple.

    Pour l’Anssi, il y a 3 grandes catégories d’attaques des systèmes de Gen AI :

    • les attaques par manipulation, qui consistent “à détourner le comportement du système d’IA en production au moyen de requêtes malveillantes”, ce qui peut provoquer “des réponses inattendues, des actions dangereuses ou un déni de service” (scénarios 1 et 3)  ;
    • les attaques par infection, qui consistent “à contaminer un système d’IA lors de sa phase d’entraînement, en altérant les données d’entraînement ou en insérant une porte dérobée” (scénarios 2, 4 et 6) ;
    • les attaques par exfiltration, qui consistent “à dérober des informations sur le système d’IA en production, comme les données ayant servi à entraîner le modèle, les données des utilisateurs ou bien des données internes du modèle (scénario 4)”.

     

    Scénarios d’attaques sur un système d’IA générative dans un SI - Anssi
    Scénarios d’attaques sur un système d’IA générative dans un SI – Anssi

    Des recommandations pour chaque phase de vie de la Gen AI

    Afin de garantir la meilleure protection des systèmes de Gen AI, l’Anssi recommande de mettre en place des mesures de sécurisations générales, ainsi que spécifiques à chacune de leurs phases de vie : l’entrainement, l’intégration et le déploiement, et lors de la production opérationnelle de contenus.

    Les recommandations générales doivent permettre de se prémunir au maximum “d’une attaque dite supply-chain-attack visant des composants nécessaires au bon fonctionnement du système d’IA”. Parmi ces recommandations on retrouve l’utilisation des formats de modèles d’IA sécurisés, la prise en compte les enjeux de confidentialité des données dès la conception du système d’IA, l’hébergement du système d’IA dans des environnements de confiance cohérents avec les besoins de sécurité, ou encore l’implémentation d’une passerelle internet sécurisée dans le cas d’un système d’IA exposé sur internet.

    📌 Pour ce qui est des recommandations pour la phase d’entraînement : l’Anssi part du postulat que l’utilisateur pourrait potentiellement avoir accès aux données d’entraînement du modèle : elle recommande donc de réduire les risques liés à la confidentialité des données d’entraînement en entraînant le modèle d’IA uniquement avec des données légitimement accessibles par les utilisateurs, en protégeant en intégrité les données d’entraînement du modèle d’IA, ou encore en ré-entrainant pas le modèle d’IA qui est en production.

    📌 Pour garantir un environnement de déploiement sécurisé : l’Anssi recommande pour la phase de déploiement de sécuriser la chaîne de déploiement en production des systèmes d’IA, de prévoir des audits de sécurité des systèmes d’IA avant déploiement en production, ainsi que des tests fonctionnels métier des systèmes d’IA avant déploiement en production.

    📌 Pour protéger en profondeur les données utilisées par le système d’IA lors de la phase de production de contenu : l’Anssi indique qu’il est recommandé “d’étudier la possibilité de détecter ou de bloquer certaines requêtes malveillantes ayant par exemple pour objectif d’extraire des informations du modèle ou des données additionnelles”. Cela peut se concrétiser par la protection du système d’IA en filtrant les entrées et les sorties des utilisateurs, le cloisonnement du système dans un ou plusieurs environnements techniques dédiés, ou encore par la sécurisation des interactions du système d’IA avec d’autres applications métier.

    Les 35 recommandations de l’Anssi :

    L’Anssi a classé ses 35 recommandations en 7 parties :

    Les recommandations générales :

    • Intégrer la sécurité dans toutes les phases du cycle de vie d’un système d’IA ;
    • Mener une analyse de risque sur les systèmes d’IA avant la phase d’entraînement ;
    • Évaluer le niveau de confiance des bibliothèques et modules externes utilisés dans le système d’IA ;
    • Évaluer le niveau de confiance des sources de données externes utilisées dans le système d’IA ;
    • Appliquer les principes de DevSecOps sur l’ensemble des phases du projet ;
    • Utiliser des formats de modèles d’IA sécurisés ;
    • Prendre en compte les enjeux de confidentialité des données dès la conception du système d’IA ;
    • Prendre en compte la problématique de besoin d’en connaître dès la conception du système d’IA ;
    • Proscrire l’usage automatisé de systèmes d’IA pour des actions critiques sur le SI ;
    • Maîtriser et sécuriser les accès à privilèges des développeurs et des administrateurs sur le système d’IA ;
    • Héberger le système d’IA dans des environnements de confiance cohérents avec les besoins de sécurité ;
    • Cloisonner chaque phase du système d’IA dans un environnement dédié ;
    • Implémenter une passerelle Internet sécurisée dans le cas d’un système d’IA exposé sur Internet ;
    • Privilégier un hébergement SecNumCloud dans le cas d’un déploiement d’un système d’IA dans un Cloud public ;
    • Prévoir un mode dégradé des services métier sans système d’IA ;
    • Dédier les composants GPU au système d’IA ;
    • Prendre en compte les attaques par canaux auxiliaires sur le système d’IA.

    Les recommandations pour la phase d’entraînement :

    • Entraîner un modèle d’IA uniquement avec des données légitimement accessibles par les utilisateurs ;
    • Protéger en intégrité les données d’entraînement du modèle d’IA ;
    • Protéger en intégrité les fichiers du système d’IA ;
    • Proscrire le ré-entraînement du modèle d’IA en production.>

    Les recommandations pour la phase de déploiement : 

    • Sécuriser la chaîne de déploiement en production des systèmes d’IA ;
    • Prévoir des audits de sécurité des systèmes d’IA avant déploiement en production ;
    • Prévoir des tests fonctionnels métier des systèmes d’IA avant déploiement en production.

    Les recommandations pour la phase de production : 

    • Protéger le système d’IA en filtrant les entrées et les sorties des utilisateurs ;
    • Maîtriser et sécuriser les interactions du système d’IA avec d’autres applications métier ;
    • Limiter les actions automatiques depuis un système d’IA traitant des entrées non-maîtrisées ;
    • Cloisonner le système d’IA dans un ou plusieurs environnements techniques dédiés ;
    • Journaliser l’ensemble des traitements réalisés au sein du système d’IA.

    Les recommandations pour le cas particulier de la génération de code source assistée par l’IA :

    • Contrôler systématiquement le code source généré par IA ;
    • Limiter la génération de code source par IA pour des modules critiques d’applications ;
    • Sensibiliser les développeurs sur les risques liés au code source généré par IA.

    La recommandation pour le cas particulier des services d’IA grand public exposés sur internet : 

    • Durcir les mesures de sécurité pour des services d’IA grand public exposés sur internet.

    Les recommandations pour le cas particulier de l’utilisation de solutions d’IA générative tierces :

    • Proscrire l’utilisation d’outils d’IA générative sur Internet pour un usage professionnel impliquant des données sensibles ;
    • Effectuer une revue régulière de la configuration des droits des outils d’IA générative sur les applications métier.

     

  • Etude : un besoin de transparence dans les échanges avec des chatbots (Jama)

    Quand les chatbots singent les humains

    Les agents conversationnels basés sur l’intelligence artificielle (IA), connus sous le nom de chatbots, sont aujourd’hui utilisés par les systèmes de santé. Et la tendance consiste à concevoir des chatbots avec des fonctionnalités qui facilitent les interactions semblables à celles des humains. Cela peut constituer un gain de temps pour le professionnel de santé, un meilleur contrôle du suivi patients et donc optimiser la relation entre le médecin et son patient. Cependant, peu d’études ont permis de déterminer comment ces caractéristiques anthropomorphiques étaient perçus par les malades. Et ces derniers ont-ils bien conscience d’échanger avec un assistant virtuel non supervisé, c’est-à-dire non surveillé par des humains ?

    La relation médecin-patient à l’heure de l’IA

    Des chercheurs américains du Anschutz Medical Campus de l’université du Colorado ont donc élaboré un sondage auprès des utilisateurs de chatbots ayant échangé au moins 3 messages avec l’agent conversationnel d’un grand système de santé entre juillet 2022 et septembre 2023. Etant donné que les données internes du dossier de santé électronique suggéraient que les utilisateurs seraient principalement blancs (76,8 %), les auteurs de l’étude ont mis au point une stratégie d’échantillonnage visant à comparer les perceptions des utilisateurs blancs non hispaniques à celles d’autres origines ethniques. Le fait d’être capable d’identifier correctement le chatbot comme une application logicielle non supervisée a été analysée en fonction de l’éducation, de la race et de l’origine ethnique, du sexe, du revenu et de l’âge.

    Les résultats de cette étude ont été publiés le 30 avril dans le Jama Network Open.

    Résultats : la conscience d’échanger avec un chatbot dépend de l’origine sociale

    •  Les utilisateurs de chatbots ayant répondu à l’enquête étaient âgés de 49,3 ans en moyenne, 68,6% étaient de sexe féminin, 62,4 % ont déclaré être de race et d’origine ethnique blanches non hispaniques et 37,4 % ont déclaré être d’autres races et origines ethniques.
    • 33,9 % ont classé incorrectement le chatbot.
    • Lorsqu’ils ont été informés du manque de supervision, 11,5 % ont estimé avoir été trompés.
    • Les utilisateurs ayant plus de 4 ans d’études supérieures avaient environ 6 fois plus de chances d’identifier correctement le chatbot comme non supervisé par rapport aux répondants ayant un niveau d’éducation secondaire ou moins.
    • Les utilisateurs blancs non hispaniques avaient 1,6 fois plus de chances (par rapport aux autres races et origines ethniques de repérer qu’il s’agissait d’un agent purement virtuel.

    Même si le caractère d’”assistant virtuel” du chatbot a été révélé au cours de l’étude, nous observons que des patients se sentent trompés. « Heureusement », il ne s’agit que d’une minorité, néanmoins, les chercheurs estiment qu’« une divulgation adéquate peut être particulièrement importante pour les groupes marginalisés par le système de santé, pour qui la confiance est déjà fragile, afin d’éviter de contribuer à la méfiance. »

    Etre plus transparent pour éviter la méfiance

    Les politiques fédérales récentes mettent d’ailleurs l’accent sur la transparence et le marquage des contenus générés par l’IA. Mais ce n’est sans doute pas suffisant. C’est pourquoi les auteurs ce travail plaident pour que des recherches supplémentaires soient menées. A leurs yeux, elles sont « nécessaires pour identifier les meilleures pratiques pour informer les utilisateurs et explorer comment la perception erronée des chatbots affecte la confiance des utilisateurs, l’utilisation et la satisfaction des chatbots et des systèmes de santé qui les utilisent. »

     

     

    * Patient Perceptions of Chatbot Supervision in Health Care Settings

    Ellis J, Hamer MK, Akerson M, et al.

    JAMA Netw Open. 2024;7(4):e248833. doi:10.1001/jamanetworkopen.2024.8833

     

  • DMN : la HAS change sa plateforme de dépôt de demandes d’évaluation en vue d’un remboursement

    Centraliser tout le processus d’évaluation de DMN

    Alors que la plateforme Evatech permettait de déposer auprès de la HAS tout dossier relatif à la liste des activités de télésurveillance médicale (inscription, renouvellement, modification d’inscription, radiation), depuis le 1er mai 2024, il n’est plus possible d’y déposer de dossier. La plateforme a été remplacée par Sesame, qui est elle aussi une plateforme de la Haute autorité de santé (HAS).

    Cette nouvelle plateforme se veut plus complète que la précédente. En effet, elle permet à tous les demandeurs d’évaluation relatives à la liste des activités de télésurveillance médicale (LATM) et aux dossiers de prise en charge anticipée numérique (Pecan) de :

    • déposer les dossiers de demandes d’évaluation de dispositif médical numérique (DMN) auprès de la HAS et du ministère (dépôt unique) ;
    • suivre l’instruction des dossiers ;
    • échanger avec la HAS et le ministère au sujet des démarches en posant des questions, apportant des précisions ou complétant une démarche en cours, recevant des correspondances et des documents de la part de la HAS et du ministère en cours d’instruction.

    En plus de permettre le dépôt de dossier d’évaluation de DMN en vue de leur remboursement, la plateforme Sesame permet aussi le dépôt anticipé de dossier pour les médicaments.

    Le contenu du dossier à déposer ne change pas

    Ce changement de plateforme facilite donc le suivi de la demande d’évaluation des DMN en vue de leur remboursement, mais ne change pas le contenu du dossier à déposer. Une fois le compte Sesame créé, le demandeur peut déposer les pièces justificatives directement lors du remplissage des démarches dans les emplacements correspondants, par l’ajout de pièces jointes. Si un complément de dossier doit être apporté, la HAS indique que le dépôt des pièces complémentaire se fait sur Sésame via le bouton « compléter » présent sur la page du dossier déjà déposé sur la plateforme.

    Le paiement des taxes se fait lui aussi, comme avant le 1er mai, par le biais d’un virement sur le compte bancaire de la DCST lors de la validation du dépôt par la HAS, même si l’Autorité précise sur son site que “le montant et les modalités de paiement des taxes dues pour les demandes LATM et Pecan ne sont pas encore connues”.

     

  • Neurotechnologies : vers l’élaboration d’un cadre éthique mondial pour 2025 (Unesco)

    Des recommandations pour prévenir les dangers

    Alors que l’utilisation des neurotechnologies, telle que la médecine bioélectronique ou l’imagerie cérébrale, est de plus en plus importante à cause de l’augmentation des personnes atteintes de troubles mentaux (1 personne sur 8 dans le monde) ou de maladies neurologiques (1 personne sur 3), l’aspect éthique de cette utilisation est aussi questionné. Après s’être penché sur cette question dans un rapport publié en 2021, l’Organisation des Nations unies pour l’éducation, la science et la culture (Unesco), souhaite mettre en place un instrument international pour développer un cadre autour de l’éthique des neurotechnologies.

    Lors de la 42e session de la conférence générale de l’Unesco qui s’est tenue en novembre 2023, la Directrice générale de l’organisation, Audrey Azoulay, a rappelé les principaux dangers des neurotechnologies, à savoir la manipulation et l’émulation du cerveau ou encore leur combinaison avec l’intelligence artificielle qui peut “devenir une menace pour les notions d’identité et de dignité humaines, de liberté de pensée, d’autonomie, de vie privée et de bien-être”. Pour contrôler l’utilisation des neurotechnologies et bâtir un cadre éthique, elle a profité de cette conférence pour convoquer un groupe multidisciplinaire de 24 experts de haut niveau (GEAH), afin de préparer un premier projet de la recommandations sur la question.

    Un texte international adopté en 2025 ?

    Après avoir mis l’accent sur cinq grands défis éthiques – que sont l’intégrité cérébrale/mentale et la dignité humaine, l’intégrité personnelle et la continuité psychologique, l’autonomie, l’intimité mentale, l’accessibilité et la justice sociale – et avoir invité les états membres de l’organisation à garantir le respect des droits cérébraux par le biais de ses recommandations dans son rapport de 2021, l’Unesco est sur le point de franchir une nouvelle marche en matière d’éthique des neurotechnologies. En effet, les 24 experts convoqués par Audrey Azoulay en novembre 2023 se sont réunis du 22 au 26 avril 2024 à Paris au siège de l’Unesco pour commencer à préparer ce premier projet.

    Cette préparation devrait continuer jusqu’au mois de juillet par le biais de consultations mondiales, régionales et nationales en vue de “recueillir les avis d’un large éventail de parties prenantes clés et d’intégrer des perspectives pluralistes dans le projet de recommandation, garantissant ainsi un processus d’élaboration ouvert et inclusif”, avant la deuxième réunion à Paris du GEAH en août 2024.

    L’étape suivante sera la communication aux états membres de l’Unesco du premier projet d’instrument normatif, d’ici septembre 2024, “ouvrant ainsi le processus de consultation intergouvernementale qui se déroulera jusqu’en 2025”. Quatre ans après la première étape de ce projet éthique sur les neurotechnologies, l’Unesco indique que “le texte final de la recommandation sera présenté pour adoption en novembre 2025 lors de la 43e session de la conférence générale” par les 194 pays membres de l’organisation.

     

  • USA : Walmart ferme ses 51 centres de santé et son offre de téléconsultation faute de rentabilité

    Pas de rentabilité, gestion trop complexe et hausse des coûts de production :

    Cette décision de fermeture intervient après l’annonce en mars 2024 de l’ouverture de 22 nouveaux sites en 2024. Après l’arrêt de l’activité de Amazon Care en 2022, CVS Health a commencé aussi en 2024 à fermer des dizaines de ses pharmacies dans les magasins Target, et Walgreens a annoncé qu’elle fermerait 160 de ses centres de soins  primaires en 2024.

    La construction et le lancement de centres de soins primaires à partir de zéro a toujours été difficile, demandant un fort investissement initial. La rémunération à l’acte pour les soins primaires est une activité à faible marge et axée sur le volume. La rentabilité peut être atteinte soit par une large consommation de soins par une population très large, soit par un suivi régulier et sur toutes les pathologies des patients. Aujourd’hui, ce n’est pas le cas.

    Walmart a également annoncé la fermeture de son service de télésanté Walmart Health Virtual Care, lancé en 2022.  Cette décision intervient alors que les téléconsultations sont en baisse constante depuis la pandémie, malgré des mesures élargissant les prises  en charge des télésoins adoptées en 2023, notamment pour la télésurveillance  et la santé mentale. Des données récentes des Centers for Medicare et Medicaid Services montrent que les visites de télésanté diminuent en 2023 sur l’ensemble des Etats-Unis.