Un potentiel prometteur freiné par des défis complexes
L’introduction de l’intelligence artificielle (IA) dans l’oncologie suscite des attentes considérables, en particulier grâce à l’avancée des technologies de traitement du langage naturel (NLP). Les grands modèles de langage (LLM), capables de traiter et d’analyser de vastes ensembles de données narratives issues des dossiers médicaux, promettent de transformer la manière dont les décisions cliniques sont prises. De la recommandation de traitements adjuvants à l’identification de patients éligibles pour des essais cliniques, ces outils pourraient jouer un rôle clé dans l’amélioration de la prise en charge des patients. Cependant, malgré ces avancées, l’intégration de ces technologies dans les pratiques cliniques quotidiennes reste un défi majeur. Les préoccupations liées à leur efficacité, leur biais potentiel, ainsi qu’aux enjeux éthiques et techniques freinent leur déploiement à grande échelle.
Cette étude, publiée dans la rubrique “Personal view” du numéro de novembre du journal The Lancet Regional Health – Europe, explore les résultats et les recommandations pour assurer une adoption sûre et bénéfique des modèles de langage en oncologie. En soulignant la nécessité d’évaluations prospectives et de validations rigoureuses, elle propose des solutions pour garantir que ces innovations contribuent véritablement à améliorer les soins aux patients, tout en minimisant les risques associés.
Les risques cachés des modèles de langage en santé
Les LLM apportent des avancées significatives, mais leur déploiement en santé comporte des risques importants. Ils consomment énormément d’énergie et de ressources, accentuant leur empreinte écologique. Les biais discriminatoires, notamment liés au genre, à l’origine ou aux stéréotypes, persistent dans leurs résultats, influençant négativement les recommandations médicales ou éducatives. De plus, ces modèles peuvent perpétuer ces biais dans les outils dérivés, notamment dans les startups en santé. Les mécanismes non transparents et non reproductibles des LLM compliquent l’évaluation rigoureuse de leurs performances. Enfin, leur usage intensif peut modifier la relation médecin-patient en déplaçant les décisions vers des recommandations biaisées ou mal interprétées, impactant la confiance et l’équité des soins :
- impact environnemental (consommation élevée d’énergie et d’eau, contribution à l’épuisement des matériaux et à la pollution des sols, modèles génératifs plus énergivores que les systèmes spécifiques) ;
- travail aliénant (dépendance au travail de “click workers” dans des conditions souvent précaires et invisibles) ;
- prolifération disproportionnée (multiplication des LLMs avec plus de 200 nouveaux modèles en 2023, formation redondante et influence des contextes politiques sur les données utilisées) ;
- discrimination de genre (association stéréotypée des femmes à des rôles familiaux et des hommes à des sphères professionnelles, conséquences sur des suggestions automatisées comme les choix éducatifs) ;
- origine démographique et stigmatisations (propagation de biais liés à l’origine, à la religion ou aux handicaps, diffusion de préjugés médicaux basés sur la race ou inégalités dans les recommandations de soins) ;
- distractions des modèles (utilisation d’informations inattendues ou inadéquates pour des prédictions, comme des annotations textuelles dans des images médicales) ;
- transmission de biais aux modèles dérivés (formation de nouveaux modèles à partir de données synthétiques, amplifiant les biais des modèles d’origine) ;
- influence sur les humains (intériorisation des biais par les utilisateurs, même après le retrait de l’IA) ;
- problèmes de reproductibilité (variabilité des résultats selon les exécutions dues à des outils non déterministes et au parallélisme des opérations) ;
- évaluation impossible (limitations des données de santé pour des évaluations généralisées, benchmarks saturés ou surutilisés réduisant leur pertinence) ;
- perturbation de la relation médecin-patient (impact négatif des recommandations biaisées sur les décisions partagées, interaction de facteurs humains et sociaux renforçant ces biais).
Rrecommandations pour maximiser l’impact positif des modèles de langage en santé
Pour garantir un usage efficace et éthique des modèles de langage en santé, des mesures précises sont nécessaires à chaque étape, de la collecte des données à leur déploiement. Ces recommandations visent à limiter les biais, préserver la confidentialité des données, réduire l’empreinte écologique et renforcer la relation médecin-patient. Voici les points clés :
- collecte et nettoyage des données : assurer une qualité irréprochable des données et identifier et réduire les biais dans les données publiques ou synthétiques ;
- formation des modèles : prioriser l’utilisation de modèles pré-entraînés ou ajustés (fine-tuning) pour minimiser les ressources nécessaires, mais aussi évaluer l’impact écologique et la pertinence d’entraîner un nouveau modèle ;
- sélection des résultats attendus : définir des objectifs utiles pour la clinique en consultant des experts en statistiques, et considérer les impacts des prédictions sur les utilisateurs ;
- validation externe : tester les modèles sur des données externes pour évaluer leur généralisation et garantir leur performance réelle ;
- partage des données : favoriser la transparence tout en respectant strictement la confidentialité des données des patients ;
- apprentissage fédéré : permettre l’entraînement décentralisé des modèles pour protéger les données sensibles, malgré des défis techniques ;
- évaluation de la performance et de la généralisation : mesurer les performances sur des données inédites, en tenant compte des biais culturels ou régionaux ;
- déploiement des outils : intégrer les modèles aux systèmes existants avec une formation des utilisateurs pour préserver la relation médecin-patient ;
- gestion des dérives de calibration : surveiller et ajuster régulièrement les prédictions après le déploiement pour maintenir leur précision ;
- suivi des variations des données : détecter les changements dans les données qui pourraient nuire aux performances du modèle ;
- exigences réglementaires : consulter des experts pour respecter les normes en vigueur, notamment en matière de reproductibilité ;
- impact écologique : évaluer et minimiser l’empreinte écologique grâce à des pratiques comme l’IA frugale ou des analyses de cycle de vie ;
- relation médecin-patient : renforcer une communication centrée sur le patient pour éviter une dépendance excessive aux recommandations des IA.
Le défi de l’évaluation des modèles de langage
L’évaluation des modèles de langage dans le domaine de l’oncologie reste entravée par des difficultés liées à la reproductibilité, l’accès aux données et les limitations des benchmarks existants. Ces obstacles freinent leur adoption pour des usages cliniques.
- problème de reproductibilité : les modèles doivent être testés sur des bases de données externes pour détecter des biais (culturels, linguistiques, etc.) et garantir leur fiabilité dans des contextes variés ;
- accès limité aux données cliniques : les données narratives en oncologie sont difficiles d’accès, et les bases publiques anonymisées ne couvrent souvent pas les besoins spécifiques du domaine ;
- saturation des benchmarks publics : les ensembles de données standard atteignent leurs limites (surentraînement des modèles), soulignant la nécessité d’évaluations spécifiques et prospectives ;
- besoin d’essais cliniques dédiés : seuls des essais en conditions réelles peuvent valider les performances des modèles pour des tâches oncologiques précises, comme le diagnostic ou les recommandations thérapeutiques.
Imaginer les futurs essais pour l’IA en oncologie
Les essais prospectifs jouent un rôle clé pour valider l’impact des modèles IA dans des conditions réelles. Ces études, en comparant les performances des IA à celles des médecins ou en mesurant leurs effets sur les résultats cliniques, sont essentielles pour établir la fiabilité des outils en oncologie.
- Études non interventionnelles récentes : comparaisons préliminaires entre IA et médecins pour le diagnostic et les recommandations (exemple : cancers gastro-intestinaux), avec des résultats optimistes mais des erreurs critiques dans certains cas ;
- Importance des essais interventionnels : ces essais, standard en médecine, évaluent l’impact clinique réel, par exemple en mesurant la survie ou les effets secondaires (exemple : validation de l’IA dans le dépistage du cancer du sein.
- Focus actuel sur l’imagerie : la majorité des études IA se concentrent sur l’imagerie médicale (50% des essais actifs), les méthodes NLP sont encore sous-représentées (3 études en cours) ;
- Obstacles spécifiques au NLP : les designs classiques (randomisation) ne conviennent pas toujours, nécessitant des approches innovantes pour évaluer les outils NLP.
Le développement de l’IA en oncologie nécessite des essais cliniques innovants adaptés à des applications comme les recommandations thérapeutiques ou le suivi des patients. Ces essais doivent surmonter des défis méthodologiques importants pour garantir un impact clinique mesurable et pertinent.
Les cas d’usage de l’IA en oncologie incluent des applications telles que la recommandation de traitements adjuvants pour les cancers hormonodépendants, l’estimation du pronostic et le suivi des risques médicaux, ainsi que le matching des patients aux essais cliniques à l’aide du NLP. Toutefois, plusieurs défis méthodologiques doivent être surmontés, notamment la nécessité d’un recrutement ciblé et de mesures adaptées à l’application évaluée. Il est également essentiel d’effectuer une comparaison rigoureuse entre les groupes interventionnels et témoins, avec des analyses statistiques préalablement planifiées. La conception de ces essais nécessite la mobilisation d’équipes multidisciplinaires pour garantir leur robustesse et leur pertinence. Enfin, les essais basés sur des biomarqueurs peuvent inspirer la conception d’évaluations pour les nouveaux outils NLP en oncologie.
L’avenir prometteur mais exigeant du NLP en oncologie
Selon cet article du Lancet, malgré un potentiel considérable, les modèles NLP nécessitent une validation clinique approfondie avant de pouvoir être déployés à grande échelle en oncologie. Leur adoption dépendra de leur capacité à prouver leur fiabilité, leur sécurité et leur bénéfice pour les patients.
Les auteurs estiment que les modèles de langage peuvent surpasser les médecins pour estimer le pronostic, prédire les risques médicaux et identifier les essais cliniques adaptés à un patient. Mais le manque de validation freine leur utilisation, alors que des essais prospectifs en conditions réelles sont essentiels pour évaluer leur impact et éviter les biais. Ils soulignent, par ailleurs, qu’informer les médecins sur les atouts et limites de l’IA est indispensable pour une adoption éclairée, sécurisée et bénéfique en oncologie.
* Artificial intelligence in oncology: ensuring safe and effective integration of language models in clinical practice
Verlingue, Loïc et al.
The Lancet Regional Health – Europe, Volume 46, 101064