Coumau Cécile

  • Etude : un outil d’IA capable d’atténuer les biais dans les ensembles de données (JMIR)

    Détecter les biais au niveau des data

    Les algorithmes d’IA en santé sont souvent accusés de reproduire ou d’amplifier des biais discriminatoires (par exemple selon la race, le sexe ou l’âge). En effet, certains groupes démographiques peuvent être sous-représentés, et certaines maladies peuvent se manifester différemment ou être surdiagnostiquées selon les populations. L’existence de ces biais freinent l’utilisation en clinique des outils d’IA. Il existe des outils pour réduire ces biais, mais ils agissent surtout au niveau des modèles, pas des données.

    AEquity identifie trois biais fréquents avant l’entraînement des modèles d’IA en santé

    Sous-échantillonnage, labels inadaptés, groupes complexes

    C’est pourquoi des chercheurs de l’Icahn School of Medicine at Mount Sinai ont développé AEquity, un outil qui aide à détecter et à corriger les biais dans les ensembles de données de santé avant leur utilisation dans l’entraînement de modèles d’intelligence artificielle (IA) et d’apprentissage automatique. Concrètement, les chercheurs l’ont conçu autour d’un principe simple : mesurer la difficulté d’apprentissage des données selon les groupes. Ils commencent par prendre un petit sous-échantillon équilibré des données (par exemple 3 à 10 %). Et en suivant la vitesse à laquelle le modèle apprend pour chaque groupe (ex. hommes vs femmes, Noirs vs Blancs), ils calculent un score appelé. Si un groupe a besoin de beaucoup plus d’exemples pour atteindre le même niveau de performance, cela signale un biais. Ensuite, AEquity parvient à identifier la source du problème :

    • Un mauvais choix de label choisi (mal adapté, comme “coûts de santé”),
    • le sous-échantillonnage (trop peu de données pour un groupe),
    • la complexité d’un groupe (plus hétérogène, donc plus dur à modéliser).

    Une fois ce travail effectué, les chercheurs pourraient corriger le dataset avant même d’entraîner l’IA.

    L’équipe a ensuite testé AEquity sur différents types de données médicales : images, dossiers de patients et une grande enquête de santé publique (National Health and Nutrition Examination Survey) sur les coûts de santé, en utilisant divers modèles d’apprentissage automatique.

    Les résultats de cette étude ont été publiés le le 4 septembre dans le Journal of Medical Internet Research.

    Résultats : des biais réduits de 80%

    • Quand on utilisait les coûts comme critère, l’algorithme sous-estimait les besoins des patients noirs. Le bon critère était le nombre de maladies chroniques. Ainsi, la différence entre patients noirs et blancs disparaît quasiment.
    • Sur les radiographies thoraciques, AEquity a permis de réduire les écarts de performance entre patients noirs et blancs de 29 % à 96,5 % selon le diagnostic.
    • Sur les données issues de la National Health and Nutrition Examination Survey, AEquity a révélé un biais de label (le meilleur critère est la mortalité à 5 ans) et un biais de complexité (la combinaison race + mortalité est plus difficile à apprendre).
    • En suivant ses recommandations (bon critère + collecte ciblée de patients noirs), le biais entre patients noirs et blancs a été réduit d’environ 80 %.

    Ces résultats suggèrent qu’AEquity pourrait être utile aux développeurs, aux chercheurs et aux autorités de régulation. D’autant qu’il peut as’daptable à un large éventail de modèles d’apprentissage automatique, depuis des approches simples jusqu’aux systèmes avancés qui alimentent les grands modèles de langage. Et il peut s’appliquer à de petits comme à de grands ensembles de données.

    « Cette recherche marque une évolution cruciale de notre vision de l’IA en santé : non plus seulement comme outil d’aide à la décision, mais comme moteur d’amélioration de la santé dans toutes les communautés que nous servons », a déclaré le Dr David Reich, président du Mount Sinai Hospital. « En identifiant et en corrigeant les biais au niveau des ensembles de données, nous traitons le problème à la racine avant qu’il n’affecte la prise en charge. C’est ainsi que nous renforçons la confiance des communautés envers l’IA et veillons à ce que les innovations qui en découlent améliorent les résultats pour tous les patients, et pas seulement pour ceux qui sont le mieux représentés dans les données.»

    “Une partie de la solution”

    Cependant, pour corriger certains biais, AEquity recommande de collecter plus de données dans un groupe spécifique. Or, en pratique, recruter des patients sous-représentés est coûteux et parfois difficile. Et il reste limité à certaines tâches sans fournir d’explication causale.

    Le Dr Girish Nadkarni, dernier auteur de l’étude, a d’ailleurs précisé, que de tels outils ne constituaient qu’« une partie de la solution ». Si nous voulons que ces technologies servent réellement tous les patients, nous devons associer les avancées techniques à des changements plus profonds dans la manière dont les données sont collectées, interprétées et appliquées en santé. Tout repose sur la qualité des données, c’est le socle. »

    *Detecting, Characterizing, and Mitigating Implicit and Explicit Racial Biases in Health Care Datasets With Subgroup Learnability: Algorithm Development and Validation Study

    Gulamali F, Sawant AS, Liharska L, Horowitz C, Chan L, Hofer I, Singh K, Richardson L, Mensah E, Charney A, Reich D, Hu J, Nadkarni G
    J Med Internet Res 2025;27:e71757

  • Etude : L’IA générative, un assistant pour la communication des résultats médicaux (Jama)

    Vulgariser les résultats médicaux grâce à l’IA

    Décrypter les résultats d’examens et les rendre intelligibles pour les patients fait partie du rôle du médecin. Aux Etats-Unis, une loi de 2016 (21st Century Cures Act), en impose la communication immédiate. Cette volonté d’amélioration de la transparence oblige donc les cliniciens à choisir les bons mots pour ne pas accroitre l’anxiété des patients. Afin que cela n’augmente pas trop la charge de travail et l’épuisement professionnel des médecins, des outils comme l’IA sont envisagés.
    C’est pourquoi des chercheurs de l’université de Stanford ont souhaité évaluer l’acceptabilité clinique des outils d’IA générative pour la communication patient-médecin. Les médecins sont-ils prêts à déléguer une partie de cette tâche à une IA ?

    Pour répondre à cette question, les chercheurs ont développé un outil intégré au dossier médical électronique pour générer des brouillons de commentaires de résultats. C’est Claude 3.5 Sonnet (Anthropic) qui a été sélectionné comme modèle de langage pour ce pilote « en raison de son temps de réponse supérieur, de sa fidélité aux instructions de prompt et de sa capacité à générer des commentaires ressemblant à ceux des cliniciens », précisent les auteurs de l’étude. Au total, 244 médecins de soins primaires ont utilisé l’outil au moins une fois. Ils ont été invités à participer par vagues successives de 4 semaines, puis à répondre après 4 ou 8 semaines à une enquête. But de l’opération : mesurer la facilité d’utilisation, l’utilité et le gain de temps perçu.

    Les résultats de cette enquête ont été publiés le 22 août dans le Jama Network Open.

    Résultats : un outil qui pousse à la communication

    • 84,9 % des médecins ont trouvé l’outil facile à utiliser.
    • L’IA a été particulièrement appréciée pour les résultats de laboratoire (72 %) et d’imagerie (63 %).
    • 58,1 % ont déclaré utiliser fréquemment l’outil
    • 53,8 % ont estimé qu’il était prêt à être largement mis en œuvre
    • 41,9 % ont déclaré être motivés à envoyer plus fréquemment des commentaires sur les résultats aux patients.
    • 72% estiment que les explications sont améliorées grâce à l’IA
    • Le gain de temps était d’un peu plus d’une minute par commentaire.

    Ces résultats démontrent « l’utilité d’un outil d’IA générative pour rédiger des explications sur les résultats des tests, en soulignant sa facilité d’utilisation, son efficacité améliorée et la meilleure qualité des explications. » Autre aspect non négligeable : en facilitant ainsi le travail des cliniciens, ces derniers sont plus enclins à faire un retour à leurs patients.

    Les médecins gardent la main

    Il est important de souligner par ailleurs que les brouillons rédigés par l’IA ne sont pas envoyés directement au patient. « Chacun est examiné et, si nécessaire, modifié, avant que le médecin n’envoie la note,” précisent les chercheurs. Ainsi, le médecin garde le contrôle final sur la communication médicale et valide l’exactitude. Il peut aussi adapter le ton et le contenu selon sa relation avec le patient. C’est donc bien un outil d’assistance plutôt qu’un système automatisé de communication directe avec les patients.

    Cependant, dans les réponses libres, les cliniciens ont fait des commentaires négatifs liés à l’exactitude et à l’exhaustivité du contenu. Ils ont donc formulé des suggestions pour optimiser l’outil comme inclure davantage d’informations contextuelles sur les patients issues des notes de consultation récentes. Ils suggèrent aussi des pistes pour améliorer l’intégration dans le flux de travail, en mettant, par exemple, à jour les brouillons de manière séquentielle pour les résultats publiés au fil du temps.

    *Clinician Perspectives on AI-Generated Drafts of Patient Test Result Explanations.

    Shah SJ, Nair A, Murtagh K, et al. JAMA Netw Open. 2025;8(8):e2528794. doi:10.1001/jamanetworkopen.2025.28794

  • Dépistage cardiaque, coloscopie, information vaccinale : plusieurs études publiées en juillet-août 2025 éclairent les apports de l’IA dans la pratique médicale

    Un ECG transformé en outil de dépistage : une IA d’analyse d’ECG avec 77 % de précision contre 64 % pour les cardiologues

    Dans Nature du 17 juillet 2025, l’équipe de Columbia University a publié « Deep learning echocardiography at scale ». L’algorithme EchoNext a été entraîné sur plus de 1,2 million de paires d’ECG et d’échocardiogrammes, issus de 230 000 patients d’un grand système hospitalier new-yorkais. Testé ensuite sur 3 200 ECG en double aveugle, il a atteint 77 % de précision dans la détection de maladies cardiaques structurelles, contre 64 % pour un panel de 13 cardiologues. L’analyse rétrospective montre qu’environ 3 400 patients à risque auraient pu être identifiés plus tôt.

    Ce résultat est majeur : l’ECG, examen de routine peu coûteux, pourrait devenir un outil de dépistage précoce de masse pour des pathologies cardiaques souvent silencieuses. Mais les auteurs restent prudents : « Ces résultats soutiennent le potentiel de l’intelligence artificielle pour élargir l’accès au dépistage des maladies cardiaques à grande échelle », écrivent-ils, tout en rappelant que l’étude n’a porté que sur une population spécifique et devra être confirmée ailleurs. Pour l’instant, EchoNext n’est pas un dispositif médical homologué mais une preuve de concept prometteuse.

    Quand l’IA fragilise les compétences : une baisse de 21 % du taux de détection observée après retrait de l’assistance

    Le 12 août 2025, The Lancet Gastroenterology & Hepatology a publié « Long-term consequences of AI-assisted colonoscopy on adenoma detection rate », une étude multicentrique menée en Pologne. Dix-huit gastro-entérologues ont été suivis dans quatre hôpitaux après plusieurs mois d’utilisation d’outils d’aide à la détection d’adénomes lors de coloscopies. Si l’IA améliore la performance immédiate, l’expérience révèle un effet inattendu : une fois privés de l’outil, les praticiens voient leur taux de détection chuter de 28,4 % à 22,4 %.

    Les auteurs alertent : « Une exposition continue à l’IA pourrait réduire le taux de détection des adénomes (ADR) des coloscopies standard sans assistance IA, suggérant un effet négatif sur le comportement de l’endoscopiste. » Autrement dit, l’IA peut induire une forme de dépendance et réduire la vigilance clinique. Cette notion de deskilling n’est pas nouvelle — on la retrouve dans l’aviation ou certaines industries automatisées — mais c’est la première fois qu’elle est documentée de façon rigoureuse en médecine digestive. L’étude, limitée à un pays et un petit échantillon, demande à être reproduite, mais elle rappelle que l’intégration de l’IA suppose aussi d’adapter la formation continue pour maintenir les compétences humaines.

    Crédibilité des informations vaccinales : une étude compare 200 requêtes entre moteurs de recherche et IA génératives

    Enfin, une équipe internationale a publié en juillet 2025 dans Public Health l’article « How does the credibility of vaccine information compare across traditional search engines and AI-based conversational agents? ». Les chercheurs ont comparé la qualité de réponses données à 200 requêtes sur la vaccination par quatre moteurs de recherche (Google, Bing, Yahoo, DuckDuckGo) et deux agents conversationnels d’IA (ChatGPT et Bard).

    Les résultats montrent que la crédibilité globale est comparable, mais que les différences résident dans la présentation et la traçabilité des informations. Les moteurs orientent le plus souvent vers des sites institutionnels comme l’OMS, le CDC ou le NHS. Les agents d’IA, eux, fournissent parfois des réponses pédagogiques mais sans références explicites. « La crédibilité globale des interfaces d’IA génératives et des moteurs de recherche traditionnels est semblable, mais les interfaces d’IA génératives fournissent rarement des sources et des liens externes vers des informations de haute qualité », écrivent les auteurs.

    Pour les chercheurs, l’enjeu n’est pas de disqualifier ces outils, mais de rappeler qu’ils ne garantissent pas, à ce stade, la fiabilité systématique des contenus en santé publique. L’étude reste limitée au champ vaccinal et aux versions testées en 2025, mais elle met en lumière une question cruciale : quelle confiance accorder aux informations de santé produites par l’IA générative ?

    Ces trois études illustrent les différentes facettes de l’IA appliquée à la santé : des bénéfices tangibles (le dépistage cardiaque), des risques inattendus (la perte de compétence), et des incertitudes persistantes (la qualité de l’information diffusée). L’intégration de l’IA dans la pratique médicale et la santé publique requiert encore et toujours des validations indépendantes, un encadrement méthodologique et une formation adaptée. Des préalables indispensables pour afin que les promesses se traduisent en bénéfices concrets et durables pour les patients et les soignants.

    Première validation clinique d’un médicament découvert grâce à l’IA : résultats encourageants pour le rentosertib

    Le rentosertib (ISM001-055), développé par la biotech Insilico Medicine grâce à l’intelligence artificielle, est devenu en juillet 2025 le premier candidat médicament découvert par IA à obtenir une validation clinique, avec des résultats de phase IIa jugés encourageants dans la fibrose pulmonaire idiopathique. Publiée dans Nature Medicine, l’étude montre qu’une enzyme cible, identifiée par IA générative, a permis de concevoir une molécule en un temps record : 18 mois pour passer de la découverte à la phase préclinique, puis moins de 30 mois pour atteindre la phase I. Testé chez 71 patients, le traitement a présenté un profil de tolérance globalement comparable au placebo, malgré des effets indésirables hépatiques et électrolytiques. Les données suggèrent une amélioration de la fonction respiratoire à certaines doses, notamment chez les patients ne recevant pas d’antifibrotique associé. Insilico souligne que cette avancée valide l’apport de l’IA dans la rationalisation de la R&D pharmaceutique, même si des essais plus larges et internationaux restent nécessaires pour confirmer son efficacité.

    A generative AI-discovered TNIK inhibitor for idiopathic pulmonary fibrosis: a randomized phase 2a trial

    * Detecting structural heart disease from electrocardiograms using AI. Nature 644, 221–230 (2025)

    Poterucha, T.J., Jing, L., Ricart, R.P. et al.

    **Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study

    Budzyń, Krzysztof et al.

    The Lancet Gastroenterology & Hepatology

    ***How does the credibility of vaccine information compare across traditionnal search engines and AI-based conversational agents?

    Amalie Dyda, Kristian Stanceski, Alexa Dakiniewich, Angela Pan, Adam G. Dunn

    Public Health, août 2025

     

  • Etude : l’évaluation des dispositifs médicaux numériques en voie d’harmonisation en Europe (Nature)

    Les dispositifs médicaux numériques (DMD) sont en pleine explosion : applis, IA, objets connectés… Mais les cadres d’évaluation ne sont pas harmonisés entre les pays européens. Résultat : un DMD peut être remboursé en Allemagne, mais pas reconnu en France ; les fabricants sont perdus dans les exigences variables et les autorités de santé peinent à juger ces outils correctement. Ce flou freine l’adoption d’innovations utiles ou, à l’inverse, facilite la circulation de dispositifs présentant des risques.

    La réglementation européenne entre en vigueur

    Il apparaît donc urgent de structurer, fiabiliser et d’harmoniser l’intégration des technologies numériques dans les systèmes de santé européens. Pour protéger les patients, orienter les décideurs et guider les innovateurs. C’est pourquoi l’Union européenne a lancé un processus commun d’évaluation des technologies de santé à partir de 2025. Les États membres et leurs agences d’évaluation y travaillent. La European Taskforce for Harmonised Evaluation of Digital Medical Devices (EvalEUDMD) vient de publier dans Nature Digital Medicine le fruit de son travail. Ils ont élaboré :

    • Une grille de classification permettant de classer les DMN selon leur finalité (prévention, diagnostic, suivi, traitement, aide à la décision clinique, parcours de soins…), leur niveau de risque, et leur mode d’utilisation.
    • Une matrice de preuve : un outil destiné à indiquer quels types de preuves sont nécessaires pour évaluer un dispositif médical numérique en fonction de sa catégorie après une enquête auprès de 10 agences Health Technology Assesment de 9 pays européens (Belgique, Allemagne, France, Autriche, Danemark, Finlande, Norvège, Suède, Portugal)

    4 catégories de dispositifs médicaux numériques

    L’article fournit ensuite des outils concrets pour structurer et faire converger les critères d’évaluation des dispositifs médicaux numériques en UE, en proposant une classification claire et des exigences de preuve adaptées à chaque type de dispositif. L’ensemble a été validé sur 136 DMD, répartis selon les catégories, afin d’en tester l’applicabilité réelle. Ce travail a abouti à la création de la CEUGrid-DMD, incluant 4 catégories de taxonomie (la finalité du DMD, le bénéficiaire ciblé, l’autonomie du système (ex. IA autonome vs outil d’aide) et le niveau d’intervention humaine requis.

    Le règlement européen d’évaluation des Technologies de Santé, entré officiellement en vigueur en janvier, commence donc à prendre forme. Sa mise en œuvre se fera progressivement sur plusieurs années (jusqu’à 2030 pour certaines classes de technologies). D’autant que comme le soulignent les auteurs de l’étude, « à ce jour, peu d’États membres ont mis en place des cadres d’évaluation institutionnalisés pour les DMD ».

    “La production de preuves, un défi”

    Pour souligner l’enjeu de ce travail d’harmonisation, ces derniers ajoutent que “la production de preuves pour accélérer l’adoption des DMD constitue un défi… La Matrice de preuves, qui combine classification des DMD et besoins en génération de preuves, représente une première étape vers un plan structuré de production de preuves, afin de compenser le manque de visibilité dont disposent les entreprises quant aux exigences pour l’accès au marché en Europe.”

    Enfin, même si ce cadre commun s’applique de manière obligatoire uniquement à certaines technologies – notamment les médicaments innovants (anticancéreux, thérapies avancées) et les dispositifs médicaux de haut risque – les auteurs indiquent que leur travail devrait permettre aux états membres de collaborer volontairement sur d’autres technologies.

    *Classification grid and evidence matrix for evaluating digital medical devices under the European union landscape. Boers, M., Rochereau, A., Stuwe, L. et al.  npj Digit. Med. 8, 304 (2025). https://doi.org/10.1038/s41746-025-01697-w

     

  • Point de vue : les études sur l’IA médicale souffrent de trop petits échantillons de données (Lancet)

    Performances limitées par des échantillons trop restreints

    L’intérêt croissant pour l’intelligence artificielle dans la recherche en santé s’accompagne progressivement de la publication de bonnes pratiques afin que les algorithmes respectent des standards rigoureux. L’un des aspects les plus importants est la détermination de la taille d’échantillon dans les études en IA. Or, comme le souligne une équipe internationale de chercheurs, cet aspect-là est « souvent négligé ».

    Dans un point de vue publié le 2 juin dans The Lancet Digital Health, des chercheurs de l’université de Birmingham, d’Oxford, de Cambridge (UK) mais aussi d’Utrecht (Pays-Bas) et de Liévain (Belgique) relève les raisons pour lesquelles une taille d’échantillon insuffisante affecte l’entraînement, l’évaluation et les performances des modèles et aborde les obstacles à la constitution de tailles d’échantillon adéquates en recherche IA dans le domaine de la santé.

    La taille de l’échantillon justifiée dans 20% des études

    Tout d’abord, les auteurs de l’article notent que « les études basées sur l’IA justifient rarement le choix de leur taille d’échantillon ». Par exemple, une revue des études sur des modèles d’apprentissage automatique a montré que 82% (125 sur 152) des études publiées dans des revues médicales générales ne comportaient aucune justification de taille d’échantillon. Pourtant, dès 2015, des recommandations demandent explicitement aux auteurs d’expliquer comment la taille de l’étude a été déterminée ont été publiées. Ce manque de rigueur scientifique est lourd de conséquences. Les chercheurs en dressent la liste :

    • Les petits échantillons capturent mal la diversité de la population cible.
    • Les petits échantillons génèrent des prédictions très variables d’un individu à l’autre.
    • Les modèles distinguent moins bien les patients à risque de ceux qui ne le sont pas.
    • Les risques prédits ne correspondent pas aux risques observés. Ce qui induit une mauvaise calibration pouvant entraîner des décisions cliniques inappropriées (surtraitement ou sous-traitement).
    • L’utilité clinique de ces modèles est réduite.

    Un manque de formation statistique

    Malgré diverses recommandations, ces lacunes persistent. Et ce pour plusieurs raisons, comme l’expliquent les chercheurs. Ils soulignent l’absence de formation statistique dans la recherche en IA santé mais aussi le fait qu’« une idée reçue courante en IA est que les calculs de taille d’échantillon sont inutiles ou contournés par les méthodes modernes. » En effet, beaucoup de chercheurs pensent que “plus on a de données, mieux c’est”. Or, il faut penser en termes de qualité, diversité, et de taille adaptée à l’objectif.

    Les auteurs de l’article formulent plusieurs recommandations :

    • « Les formations en IA et en science des données appliquées à la santé doivent promouvoir une culture de recherche rigoureuse, intégrant une expertise statistique et une conception d’étude robuste, y compris les protocoles et le calcul de taille d’échantillon. »
    • Plutôt que d’utiliser 70 % des données pour entraîner le modèle et 30 % pour tester sa performance, ils préconisent d’utiliser toutes les données disponibles pour construire le modèle et tester sa performance en rejouant plusieurs fois l’apprentissage sur des échantillons différents.
    • Ils appellent aussi à la vigilance des bailleurs de fonds pour qu’ils ne financent pas des études avec une taille d’échantillon inadéquate.
    • En cas de maladie rare, difficile de réunir des échantillons importants. Il faut donc «se concentrer sur un nombre limité de prédicteurs et être transparent sur l’incertitude ».

    En conclusion, les chercheurs rappellent qu’augmenter la taille d’échantillon ne corrige pas tous les biais. Même les modèles entraînés sur de grandes bases doivent être mis à jour régulièrement pour rester valides dans de nouveaux contextes. Et donc servir en clinique…

    * Importance of sample size on the quality and utility of AI-based prediction models for healthcare

    Riley, Richard D et al.

    The Lancet Digital Health, Volume 0, Issue 0, 100857

    https://www.thelancet.com/journals/landig/article/PIIS2589-7500(25)00021-4/fulltext?rss=yes

     

  • Etude : les applications mobiles ne tiennent pas compte de la multimorbidité (Jama)

    Les résultats, publiés le 25 avril, dans le Jama Network Open**, montrent que les technologies de santé numérique (TSN) ne sont pas adaptées à ces situations. Leur utilisation peut donc constituer un fardeau.

    Les TSN adaptées à la réalité ?

    Surveiller les patients à distance, détecter des événements importants, fournir des conseils mais aussi des interventions personnalisées en temps réel… Les missions des technologies de santé numérique sont multiples. Leur approche centrée sur la vie quotidienne du patient, où les données physiologiques et comportementales sont surveillées et intégrées aux décisions cliniques, doit faciliter la vie des médecins et bien sûr des malades. Qu’en est-il réellement ? La question mérite d’être posée dans la mesure où l’adoption des TSN par les patients atteints de maladies chroniques reste limitée.

    148 outils identifiés, mais peu adaptés à la multimorbidité

    Une équipe de chercheurs a formulé l’hypothèse que l’un des freins possibles réside dans le fait que la majorité des TSN sont conçues pour une seule pathologie, alors que près de 50 % des patients atteints de maladies chroniques présentent plusieurs affections concomitantes (par exemple, 82 % des patients diabétiques ont au moins une autre maladie chronique). Et l’équipe, pilotée par le Pr Viet-Thi Tran (Université Paris Cité / AP-HP) et Ngan Thi Thuy Phi (Université Paris Cité) a mené une revue systématique de la littérature sur le sujet. Dans un premier temps, ils ont identifié les applications ou objets connectés adaptés à un patient multimorbide hypothétique atteint de cinq maladies chroniques (hypertension artérielle, diabète de type II, broncho pneumopathie chronique obstructive, ostéoporose et arthrose). Ensuite, cinq médecins ont estimé combien de TSN seraient nécessaires pour bénéficier des fonctions jugées importantes par les professionnels de santé. 148 TSN ont été identifiées, dont 68 (46 %) issues des bases FDA.

    Les résultats de leurs travaux ont été publiés le 25 avril, dans le Jama Network Open.

    Résultats : 3% des applis adaptées à la multimorbidité

    La majorité des TSN visaient à surveiller, traiter et/ou gérer le diabète (39 %), l’hypertension (17 %) et la BPCO (14 %).

    • 97 % étaient conçues pour une seule pathologie ou un seul problème.
    • Sur les 140 fonctions élémentaires repérées, 20 % ont été jugées importantes par au moins 3 professionnels de santé sur 5.
    • Seulement 5 % des fonctions étaient considérées comme importantes pour la majorité des patients concernés.
    • Le patient devait utiliser au moins 13 applications et jusqu’à sept outils connectés pour couvrir les 28 fonctions les plus importantes.

    Il faudrait combiner plusieurs TSN pour un patient multimorbide

    « Notre étude met en évidence le décalage entre la manière dont les TSN sont conçues et commercialisées — dans des “silos”, centrées sur une maladie à la fois — et la réalité épidémiologique, selon laquelle 50 % des patients atteints d’une maladie chronique en ont plusieurs », estiment les auteurs de l’étude. Et ce décalage présente des risques : des interactions imprévues, de la fatigue liée aux alertes, et une perte d’efficacité globale des technologies de santé numérique (TSN). En effet, « le fardeau cumulé ne réside pas seulement dans le nombre d’outils ou les doublons, ajoutent les chercheurs. Les patients doivent aussi s’habituer à des interfaces différentes, gérer plusieurs comptes en ligne, et faire face à des informations parfois contradictoires provenant d’applications, de dispositifs ou d’intervenants (coach en ligne, cliniciens de plateformes…). »

     Le projet @Hôtel-Dieu vise une plateforme unique pour centraliser les applis de santé

    C’est pourquoi ces derniers préconisent de créer des applis et objets de santé qui “se parlent entre eux”, pour que le patient n’ait qu’une seule interface à gérer, avec des alertes et des infos centralisées. Une telle plateforme est actuellement en cours de prototypage avec le projet @Hôtel-Dieu plateforme, soutenu par l’Etat dans le cadre de la stratégie d’accélération Santé numérique de France 2030, précise l’AP-HP dans un communiqué. Il a pour but de faciliter l’interopérabilité et l’intégration de nouvelles applications en santé aux systèmes hospitaliers, d’améliorer l’accès aux données de suivi des patients pour les professionnels de santé.

    * Implicity, Lifen, Nabla, Nouveal, Withings

    ** Cumulative Burden of Digital Health Technologies for Patients With Multimorbidity A Systematic Review Ngan Thi Thuy Phi, MSc1; Victor M. Montori, MD2; Marleen Kunneman, PhD2,3; et alPhilippe Ravaud, PhD1,4,5; Viet-Thi Tran, PhD1,4

    JAMA Netw Open. 2025;8(4):e257288. doi:10.1001/jamanetworkopen.2025.7288

    https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2833286

     

  • Etude : la collaboration IA-radiologues réduirait le coût du dépistage du cancer du sein (Nature Communications)

    Mammographie : une solution à la pénurie de radiologues

    De plus en plus de cas de cancers du sein et de moins en moins de radiologues. La réalisation du dépistage repose sur une équation compliquée à résoudre. L’une des solutions pour combler ce déséquilibre entre l’offre et la demande pourrait être de recourir à l’intelligence artificielle. Cependant, bien que l’IA ait connu des avancées remarquables, des études expérimentales récentes montrent que les algorithmes actuels restent moins performants que les radiologues pour le dépistage du cancer du sein basé sur la mammographie. Le passage en pratique clinique n’est donc pas encore prévu.

    L’une des pistes qui est explorée consiste à confier seulement une partie des tâches à l’IA et à laisser les autres aux radiologues. L’IA peut en effet être un outil puissant de tri et de hiérarchisation des cas. Des algorithmes d’apprentissage automatique avancés sont capables d’identifier efficacement les mammographies sans anomalies significatives, ce qui permet d’accélérer l’examen, de réduire la charge de travail des radiologues et de générer des économies. Un essai clinique mené en Suisse a récemment montré que l’IA était un assistant performant : son taux de détection était comparable à une double lecture humaine.

    Techniquement faisable, cette solution devait néanmoins être évaluée économiquement. C’est la tâche à laquelle se sont attelés des chercheurs américains de l’université du Texas. Ils ont donc comparé 3 stratégies distinctes :

    • La pratique actuelle basée uniquement sur l’expertise humaine (le modèle américain sans double lecture).
    • La stratégie d’automatisation où l’IA remplace totalement les radiologues.
    • Et la stratégie de délégation où IA et radiologues se partagent les tâches, l’IA orientant certains cas vers les experts humains.

    Et ils ont pris en compte de nombreux coûts : mise en œuvre, temps des radiologues, examens complémentaires, et risques juridiques liés aux erreurs de diagnostic. Les chercheurs ont testé ce modèle avec des données réelles issues d’un concours international d’IA appliquée à la mammographie.

    Les résultats de cette étude ont été publiés le 7 mars dans Nature Communications.

    Résultats : un coût minoré de 30%

    • La stratégie de délégation permettait d’économiser de 17,5 % à 30,1 % des coûts par rapport à une prise de décision reposant uniquement sur des experts humains.
    • Le coût des faux positifs et des faux négatifs pèse fortement dans les choix stratégiques.
    • Le modèle de délégation est particulièrement efficace lorsque la prévalence est faible à modérée, ce qui est le cas du dépistage organisé.

    « On nous demande souvent : “L’IA peut-elle remplacer tel ou tel métier ?” », explique Mehmet Eren Ahsen, professeur en administration des affaires à l’Université de l’Illinois, co-auteur de l’étude. « Notre recherche montre que la réponse est : pas exactement, mais elle peut vraiment aider. La vraie valeur de l’IA ne réside pas dans le remplacement de l’humain, mais dans un partage stratégique des tâches. » Ce dernier tient en effet à souligner que « pour les cas à haut risque ou flous, les radiologues restent meilleurs. »

    L’IA à la place de la deuxième lecture ?

    Les auteurs précisent par ailleurs que leur modèle reflète les pratiques de dépistage américaines. Dans d’autres contextes, comme en Europe, où la double lecture est la norme, d’autres stratégies pourraient être envisagées. Par exemple, l’IA pourrait être utilisée comme second lecteur, réduisant ainsi le besoin de deux radiologues pour chaque mammographie, ce qui offrirait également des gains économiques. Or, le système de santé français cherche lui aussi à optimiser les coûts tout en conservant un haut niveau de soin.

    En Europe, plusieurs initiatives explorent déjà l’intégration de l’intelligence artificielle dans le dépistage du cancer du sein. En Allemagne, l’étude PRAIM a par exemple montré que l’intégration de l’IA a permis d’augmenter le taux de détection du cancer du sein de 17,6 % sans augmenter le taux de faux positifs. De plus, l’IA a contribué à réduire la charge de travail des radiologues en identifiant les cas normaux. En Suède, l’étude Masai a quant à elle mis en évidence que l’utilisation de l’IA en tant que lecteur secondaire a permis d’augmenter le taux de détection du cancer de 20 % sans augmenter le taux de faux positifs. Et en réduisant la charge de travail des radiologues de 44 %.

    * Economics of AI and human task sharing for decision making in screening mammography. 

    Ahsen, M.E., Ayvaci, M.U.S., Mookerjee, R. et al. 

    Nat Commun 16, 2289 (2025). https://doi.org/10.1038/s41467-025-57409-1

    https://www.nature.com/articles/s41467-025-57409-1

     

  • Etude : les LLM simplifient trop les résultats des essais cliniques

    Leurs résultats*, publiés le 30 avril par la Royal Society Open Science, montrent une nette tendance à la généralisation excessive des chatbots.

    Les chatbots comme ChatGPT, Claude ou DeepSeek sont de plus en plus utilisés pour résumer des études scientifiques. Des chercheurs pour faire une revue de la littérature, des soignants pour résumer les dernières recommandations sur un traitement, des enseignants pour reformuler un article en termes plus accessibles pour leurs élèves… Les occasions pour recourir aux LLM ne manquent.

    Ce travail qui a le potentiel d’améliorer la culture scientifique du grand public et de soutenir la recherche scientifique est-il pour autant fiable ? C’est pour le savoir qu’un chercheur canadien de la Western University et un professeur de philosophie de l’université d’Utrecht ont mis sur pied une étude. Sur une période d’un an, les chercheurs ont collecté 4 900 résumés générés par I’IA qu’ils ont ensuite comparé avec ceux rédigés par des humains. Ils ont testé la fiabilité de 10 LLM majeurs, dont ChatGPT-4o, ChatGPT-4.5, DeepSeek, LLaMA 3.3 70B et Claude 3.7 Sonnet.

    Les résultats de leur étude ont été publiés le 30 avril par la Royal Society Open Science.

    Résultats : des inexactitudes dans 73% des cas

    • Les résumés des LLM étaient près de 5 fois plus susceptibles de contenir des généralisations excessives que ceux des humains.
    • Les chatbots tirent des conclusions inexactes dans jusqu’à 73 % des cas.
    • Six modèles sur dix ont systématiquement exagéré les affirmations des textes d’origine.
    • Les modèles d’IA récents, comme ChatGPT-4o et DeepSeek ont obtenu de moins bons résultats que les modèles plus anciens.
    • Lorsqu’il était demandé aux modèles d’éviter les inexactitudes, ceux-ci avaient presque 2 fois plus de risques de produire des conclusions exagérées que lorsqu’on leur demandait simplement un résumé.

    « Un effet préoccupant »

    Ces simplifications, voire exagérations, que commettent les LLM lorsqu’ils résument des études scientifiques sont faites « de manière subtile mais significative », précisent les auteurs de l’étude. Par exemple, une affirmation prudente au passé comme « Le traitement a été efficace dans cette étude » était transformée en « Le traitement est efficace » — une reformulation qui induit les lecteurs à croire que les résultats s’appliquent de façon générale. « Cet effet est préoccupant », explique Uwe Peters de l’Université d’Utrecht. « Les étudiants, chercheurs ou décideurs peuvent penser qu’en demandant à ChatGPT d’éviter les erreurs, ils obtiendront un résumé plus fiable. Nos résultats prouvent le contraire. »

    Cette tendance n’est pas surprenante. En effet, « des études antérieures ont montré que les généralisations excessives sont courantes dans les écrits scientifiques », précise Benjamin Chin-Yee, co-auteur de l’étude. Comme les modèles d’IA sont entraînés sur ces textes, il est logique qu’ils reproduisent ce biais. En effet, ces mêmes chercheurs ont mené une revue systématique de plus de 500 études publiées dans les meilleures revues médicales et ont constaté que plus de la moitié faisaient des généralisations au-delà des populations étudiées. De plus, la tendance naturelle des utilisateurs à préférer des réponses qui semblent utiles et applicables à grande échelle pousse les LLM, à force d’interactions, à favoriser la fluidité et la généralité au détriment de la précision.

    Limiter le niveau de créativité des chatbots

    Afin de réduire ce risque, les deux chercheurs formulent plusieurs préconisations. Tout d’abord, utiliser des modèles comme Claude, qui a montré la meilleure précision de généralisation. Par ailleurs, ils recommandent de configurer les chatbots avec une température basse. C’est un paramètre de génération de texte qui contrôle le niveau de créativité, de hasard ou de variabilité dans les réponses du modèle. Formuler les requêtes de manière à imposer un style indirect au passé, plus adapté à la communication scientifique, permettrait également de limiter la généralisation excessive. Enfin, ils plaident pour l’élaboration de directives plus claires et des politiques éditoriales exigeantes sur la manière dont les données sont rapportées et les résultats décrits.

    * Generalization bias in large language model summarization of scientific research

    Uwe Peters and Benjamin Chin-Yee

    Published : 30 April 2025

    https://doi.org/10.1098/rsos.241776

     

  • Etude : un cerveau virtuel pour prédire les effets des interventions ciblées (PNAS)

    Mieux décrypter le fonctionnement cérébral

    Les résultats de leur étude* publiée le 18 avril dans PNAS révèlent que même des perturbations localisées entraînent une réorganisation significative de l’activité cérébrale globale. Ce qui remet en question plusieurs hypothèses classiques.

    Pour comprendre comment fonctionne le cerveau, les chercheurs utilisent souvent des techniques qui permettent d’activer ou de désactiver certaines zones, comme l’optogénétique. En observant ce qui se passe après, on essaie de relier une région à une fonction ou à un comportement. Mais le cerveau est un réseau très complexe, et changer une seule zone peut provoquer des effets dans tout le cerveau. Parfois, une lésion locale ou une stimulation ciblée entraîne des réactions à distance, un phénomène connu sous le nom de diaschisis. En pratique, ces manipulations provoquent souvent des modifications inattendues de l’activité cérébrale et de la connectivité entre les régions. Autrement dit, nous ne comprenons pas encore bien comment une action locale peut entraîner des effets globaux.

    C’est pourquoi une équipe dirigée par Christophe Bernard, directeur de recherche à l’Inserm et Viktor Jirsa, directeur de recherche au CNRS, au sein de l’Institut de neurosciences des systèmes (Inserm/Aix-Marseille Université), en collaboration avec le CRMBM (CNRS/Aix-Marseille Université/AP-HM) et l’université du Queensland (Australie) a monté une étude originale visant à décrypter ce que provoque une petite perturbation locale (par exemple une lésion ou une stimulation électrique ciblée) comme changements à distance, dans des zones totalement différentes.

    Un cerveau virtuel de souris

    Dans un premier temps, les chercheurs ont utilisé des données d’IRM fonctionnelle pour créer un modèle informatique du cerveau de souris. Ce modèle simule l’activité neuronale et permet donc d’observer les effets de perturbations localisées. Ils ont pu observer que les cerveaux virtuels reproduisaient fidèlement les modifications de l’activité cérébrale déjà observées in vivo par IRM chez les souris.

    Les résultats de leurs travaux ont été publiés le 18 avril dans la revue PNAS.

    Résultats : un modèle informatique très prédictif

    • Une perturbation locale a des effets globaux. Ce qui confirme le phénomène de diaschisis.
    • Ces effets globaux ne sont pas aléatoires. Ils dépendent de la zone touchée, de la nature de la perturbation (inhibition ou activation) et de l’état initial du cerveau.
    • Le cerveau virtuel de souris permet de prédire ce qui se passe ailleurs dans le cerveau si on touche une région et prend en compte les différences individuelles entre cerveaux.
    • Dans la majorité des cas, les interventions entraînent une diminution de la connectivité fonctionnelle, c’est-à-dire une perte de coordination entre différentes régions cérébrales. Les exceptions témoignent de la complexité du système.
    • Et un effet contre-intuitif : le blocage de certaines zones peut paradoxalement augmenter leur activité, notamment parce que cela supprime plus de neurones inhibiteurs que d’excitateurs.

    Ce travail met en lumière la profonde complexité du fonctionnement cérébral, où l’équilibre excitation/inhibition, la structure des réseaux neuronaux, et l’état de base du cerveau jouent un rôle critique dans la manière dont une perturbation est traitée par l’ensemble du système. Les auteurs montrent ainsi que les effets d’une même intervention peuvent varier fortement d’un individu à l’autre, ce qui reflète une variabilité biologique qu’il devient crucial de prendre en compte.

    L’une des grandes originalités de ce travail, précise Christophe Bernard, c’est « le fait que notre modèle a été capable de générer des prédictions qui ont ensuite été validées chez la souris. On peut imaginer une toile d’araignée qui vibre lorsqu’un fil est touché, précise Christophe Bernard, la vibration se propage dans le réseau de fils et l’ensemble de la toile ondule différemment en fonction du point d’impact, » explique ce dernier.

    Vers une personnalisation des interventions neurologiques

    Par conséquent, cette étude ouvre une voie prometteuse vers une personnalisation fine des traitements neurologiques. Grâce à la modélisation virtuelle, il deviendrait possible de prédire les effets d’une intervention avant qu’elle n’ait lieu, d’éviter des effets secondaires indésirables, et d’optimiser le ciblage thérapeutique. Cependant, pour parvenir à transformer la manière dont sont planifiées les interventions en neurologie, en les adaptant non seulement à la maladie, mais aussi au profil cérébral unique de chaque patient, des travaux supplémentaires seront nécessaires. Viktor Jirsa, co-auteur de l’étude indique en effet que « pour établir une cartographie précise et en tirer un outil diagnostique prédictif universel, il faudrait étudier l’impact sur l’ensemble du cerveau d’interventions ciblées et ce, sur chacune des régions cérébrales ».

    https://www.pnas.org/doi/10.1073/pnas.2405706122

    Mapping global brain reconfigurations following local targeted manipulations

    Giovanni Rabuffo, Houefa-Armelle Lokossou, Zengmin Li, Abolfazl Ziaee-Mehr, Meysam Hashemi, Pascale P Quilichini, Antoine Ghestem, Ouafae Arab, Monique Esclapez, Parul Verma, Ashish Raj, Alessandro Gozzi, Pierpaolo Sorrentino, Kai-Hsiang Chuang, Teodora-Adriana Perles-Barbacaru, Angèle Viola, Viktor K Jirsa, Christophe Bernard April 18, 2025 122 (16) e2405706122

  • Etude : l’audit éthique de l’IA souffre de plusieurs faiblesses (Sage Journals)

    Le boum des audits éthiques de l’IA

    Les audits éthiques de l’IA sont en plein développement. Cette expansion reflète une prise de conscience accrue de la nécessité d’évaluer et de réguler les systèmes d’IA du point de vue éthique. Ils se sont développés rapidement ces dernières années, en grande partie avant même tout effort réglementaire qui encourage les audits. Sans doute parce que les avantages de la technologie s’accompagnent souvent de problèmes éthiques, tels que la discrimination algorithmique, les atteintes à la vie privée, ainsi qu’un manque de transparence dans le processus de prise de décision.

    C’est pourquoi une équipe internationale de chercheurs a mené une étude qualitative basée sur des entretiens avec 34 professionnels impliqués dans l’écosystème de l’audit éthique de l’IA.​ Ces professionnels provenaient de sept pays différents. L’étude n’aborde pas spécifiquement le domaine de la santé. Elle se concentre sur l’émergence des audits éthiques de l’intelligence artificielle en général, en examinant leur structure, leurs défis et leurs implications dans divers secteurs.​ Cependant, ils sont particulièrement cruciaux dans le secteur de la santé, où les décisions prises par des systèmes algorithmiques peuvent avoir des conséquences directes sur la vie des patients.

    Les résultats de cette étude ont été publiés en décembre 2024 dans la revue Big Data & Society.

    Résultats : trop technique et pas assez transparent

    • Les audits éthiques d’IA empruntent souvent les mêmes étapes que celles des audits financiers, telles que la planification, l’exécution et le reporting. Une approche qui garantit une certaine rigueur procédurale et la standardisation des processus, mais qui peut aussi être inadaptée aux questions éthiques, souvent plus complexes et nuancées que de simples critères financiers.
    • Les groupes directement concernés par les systèmes d’IA (utilisateurs, clients, minorités affectées, etc.) sont rarement consultés par les auditeurs. Les impacts sociaux et… éthiques risquent par conséquent d’être mal évalués.
    • Les audits ne disposent pas de métriques ou d’objectifs clairs pour juger de leur efficacité.
    • Les résultats des audits sont rarement rendus publics.

    Les faiblesses des audits éthiques révélées par cette étude posent la question de leur légitimité, dans la mesure où un audit fait uniquement « entre experts » peut sembler déconnecté du terrain. Le risque de “compliance washing, c’est-à-dire de faire semblant d’agir de manière éthique (en réalisant un audit) est pointé du doigt. De plus, « la plupart des audits éthiques se concentrent trop étroitement sur le système technique lui-même, sans prendre en compte le contexte organisationnel et sociétal plus large, » écrivent les chercheurs. Tout cela met en péril le potentiel transformateur des audits éthiques, notamment dans des secteurs critiques comme celui de la santé.

    Un manque de normes

    Cependant, les chercheurs reconnaissent que la tâche n’est pas aisée. « De nombreux auditeurs se sentent bloqués en essayant de naviguer dans des régulations peu claires et préliminaires, ainsi qu’en l’absence de normes efficaces pour les guider. » Afin d’améliorer la situation, les auteurs de l’étude recommandent logiquement d’impliquer activement les parties prenantes, d’établir des mesures de succès claires, d’améliorer la transparence des résultats mais aussi de ne pas s’en tenir à des problématiques techniques. Au-delà des biais algorithmiques, ils proposent d’élargir la perspective des audits pour inclure des considérations organisationnelles et sociétales.

    https://journals.sagepub.com/doi/10.1177/20539517241299732

    *The emergence of artificial intelligence ethics auditing.

    Schiff, D. S., Kelley, S., & Camacho Ibáñez, J. (2024).

    Big Data & Society, 11(4). https://doi.org/10.1177/20539517241299732