• Les CHU concentrent 60% des publications médicales françaises et 20% de l’ensemble des publications scientifiques du pays.​
• Entre 2014 et 2023, ces productions ont augmenté de 20%, avec un indice de citations normalisées (ICN) passé de 1,25 à 1,63.
• Déficit cumulé des CHU passé de 200 M€ en 2021 à 950 M€ en 2024, jugé intenable.​
• Absentéisme dans les 32 CHU français à 8,47% fin août 2025, contre 8,55% en 2019.
• Postes vacants de chefs de clinique-assistants approchent 5% au niveau national.
• Effectifs hospitalo-universitaires reculent de 3% entre 2019 et 2024, malgré triplement du nombre d’étudiants formés.​

À l’occasion de la conférence de presse d’ouverture des 19e Assises Nationales Hospitalo-Universitaires, Philippe El Saïr (Conférence des directeurs généraux de CHU), Isabelle Laffont (Conférence des doyens de médecine) et Rémi Salomon (Conférence des présidents de CME-CHU) ont présenté les six grands thèmes structurant cette édition :

• Stabilité institutionnelle.
• Recherche et innovation.
• Attractivité des carrières.
• Convergence territoriale.
• Redressement financier et souveraineté sanitaire.

+ 20% publications médicales : une dynamique à préserver malgré la concurrence internationale

Les CHU concentrent 60 % des publications médicales françaises et 20 % de l’ensemble des publications scientifiques du pays. En neuf ans, entre 2014 et 2023, ces productions ont augmenté de 20 %, avec une progression de leur impact mondial, mesuré par l’indice de citations normalisées (ICN) passé de 1,25 à 1,63. Au-delà des chiffres, les CHU revendiquent une ambition renouvelée en matière de collaboration avec les soins primaires et de valorisation des entrepôts de données de santé. Ils portent le projet SéData, une fédération des entrepôts de données hospitaliers, appuyée par des partenariats industriels, visant à structurer un socle commun d’accès à la donnée. L’objectif : renforcer la recherche, notamment en intelligence artificielle, à partir de données maîtrisées, de qualité, conservées sur le territoire.

Innovation : le coût des progrès thérapeutiques questionne la soutenabilité

L’innovation thérapeutique, portée pour partie par les CHU, soulève des inquiétudes quant à son coût. De nombreuses molécules onéreuses, par exemple en oncologie, augmentent fortement les dépenses hospitalières. Cette inflation interroge la soutenabilité du système et la capacité à garantir l’accès à l’innovation sans fragiliser les équilibres budgétaires. Les CHU, engagés dans des partenariats avec des entreprises du médicament et du numérique, demandent une réflexion sur la régulation des coûts, la pertinence des prescriptions et la souveraineté de la production, y compris sur les algorithmes d’IA utilisés en santé. L’appel à une production européenne de certains traitements, comme les CAR-T cells, est réitéré. Des algorithmes aident au diagnostic, à la lecture d’imagerie et à la robotique chirurgicale. L’intelligence artificielle soutient l’enseignement en évaluant les étudiants via des interfaces numériques. Elle analyse des données multiomiques pour une médecine personnalisée. Les CHU développent des partenariats avec des industriels pour l’innovation en médicaments et intelligence artificielle.​ 25% des CHU prennent des participations dans des startups. ​

3 % de baisse des effectifs hospitalo-universitaires malgré un triplement du nombre d’étudiants

L’absentéisme dans les 32 CHU français tombe à 8,47% fin août 2025, contre 8,55% en 2019. Le solde entrée-sortie s’améliore pour les infirmières avec un gain net fin août 2025.  La perte d’attractivité du modèle hospitalo-universitaire inquiète les responsables. Le nombre de postes vacants de chefs de clinique-assistants approche les 5 % au niveau national. En parallèle, les effectifs hospitalo-universitaires ont reculé de 3 % entre 2019 et 2024, alors que le nombre d’étudiants formés a triplé sur la période. Ce déséquilibre s’accompagne d’une perte de pouvoir d’achat de 19,6 % sur 30 ans pour les PU-PH et d’un manque de lisibilité des carrières. Les CHU demandent une refonte urgente du statut des jeunes universitaires pour garantir un vivier de futurs enseignants-chercheurs.

Universitarisation des territoires : une stratégie concertée plutôt qu’une multiplication des structures

Les responsables insistent ; il ne s’agit pas de multiplier les UFR ou les CHU, mais de territorialiser l’enseignement via des stages de cycle 2 et 3, et d’implanter des enseignants hospitalo-universitaires dans les territoires. Cette dynamique est jugée plus soutenable et cohérente avec l’exigence de qualité académique. Les CHU s’impliquent aussi dans la structuration des parcours de soins territoriaux via les postes partagés et la coordination avec les centres hospitaliers. En revanche, ils attendent un approfondissement de la politique des GHT, jugée inaboutie, ainsi qu’une réforme de la carte hospitalière pour une gradation des soins plus rationnelle.

Déficit CHU à 950 millions d’euros

Le déficit cumulé des CHU s’est creusé, passant de 200 M€ en 2021 à 950 M€ en 2024. Les revalorisations salariales du Ségur ont été en partie financées par des mécanismes inadaptés aux CHU, dont seulement 38 % des recettes proviennent de la tarification à l’activité. Un rapport commandé à l’IGAS aurait confirmé cette perte de recettes. La trajectoire budgétaire actuelle est jugée intenable. Les CHU plaident pour une politique active de prévention des pathologies chroniques, responsables de 70 % des dépenses de l’Assurance maladie, et pour une régulation renforcée de l’offre de soins sur les territoires.

Souveraineté : des pénuries croissantes de médicaments courants

La multiplication des pénuries de médicaments courants et le poids croissant des traitements très coûteux remettent à l’agenda la question de la souveraineté pharmaceutique. Les CHU plaident pour des capacités de production européennes communes, comme le font déjà certains pays (ex. l’Espagne pour les CAR-T cells). Sur le numérique, la dépendance aux fournisseurs industriels d’IA pose une question de contrôle, de coût et de confidentialité des données. Les CHU veulent promouvoir la création d’algorithmes en interne, à partir de données françaises, dans une logique de souveraineté technique et scientifique. Enfin, en matière de recherche et d’enseignement, la dépendance à des bases de données scientifiques non-européennes (PubMed, Web of Science) et le besoin de coalition entre acteurs européens et francophones sont présentés comme deux chantiers majeurs.

L’entretien avec le Dr Samiya Abi Jaoude et Félix Motosso précise les modalités de déploiement, les impacts sur la pratique et les conditions de reproductibilité dans d’autres hôpitaux.

Les points clés de l’entretien :

• 75% des soignants estiment que l’IA améliore leur qualité de vie au travail, 63% des patients jugent qu’elle libère du temps pour les soignants (étude Time to Care) ;
• une étude européenne indique que les Assistants Médicaux IA réduisent de 29 % le temps administratif ;
• environ 1 000 établissements européens utilisent déjà la solution Tandem Health, une cinquantaine de pilotes sont en cours en France ;
• à HFAR, plus de 1 500 consultations ont été couvertes lors du pilote estival avant la décision d’adoption ;
• les principaux cas d’usage concernent la génération de comptes rendus structurés, les courriers d’adressage et certains modèles d’ordonnances ;
• la solution n’est pas encore intégrée au dossier patient informatisé (DPI) et fonctionne aujourd’hui comme dispositif médical de classe I, en attente de certification MDR de classe II.

L’adoption de la solution Tandem Health par l’Hôpital Fondation Adolphe de Rothschild (HFAR), après un pilote estival portant sur plus de 1 500 consultations, illustre concrètement ces bénéfices en visant à améliorer le quotidien des soignants, diminuer le temps administratif et renforcer la qualité du temps médical auprès des patients. L’entretien du 12 décembre 2025 avec le Dr Samiya Abi Jaoude et M. Félix Motosso documente précisément la mise en œuvre de cet assistant médical à HFAR et ses conditions de reproductibilité.​

Contexte et présentation des intervenants

Le Dr Samiya Abi Jaoude est neurochirurgienne adulte à l’Hôpital Fondation Adolphe de Rothschild, au sein du service de neurochirurgie adulte, distinct de la neurochirurgie pédiatrique. Ses surspécialités couvrent la chirurgie de la base du crâne, la chirurgie vasculaire et les pathologies du liquide cérébrospinal, avec notamment une forte activité autour de l’hydrocéphalie à pression normale (HPN). Elle se décrit comme « curieuse » et volontiers testeuse de nouveautés numériques, mais jusqu’ici rarement convaincue par les solutions proposées sur le terrain, souvent jugées déconnectées de la réalité du terrain médical français.​

Elle rappelle son parcours à l’AP-HP (internat puis clinicat), où elle a connu successivement la dictée sur cassette, la dictée sur carte SD avec transcription externalisée, puis la dictée directe aux secrétaires ou via Dragon, avec un niveau de satisfaction limité, notamment du fait de son accent mal reconnu et de la nécessité de corrections massives. Cette trajectoire nourrit sa sensibilité au sujet des outils de documentation médicale et à leur impact sur le temps clinique et la qualité des comptes rendus.​

Félix Motosso est directeur général de Tandem Health France, en charge du développement de la solution d’assistant médical IA dans les établissements de santé français. Le double positionnement de Tandem est mis en avant : d’une part comme solution de rédaction et de documentation (dispositif médical de classe I aujourd’hui, en cours de certification MDR de classe II), d’autre part comme futur levier d’aide au diagnostic et de prise de décision une fois la donnée patient accessible dans un cadre réglementaire renforcé. À l’échelle européenne, il indique que Tandem est déjà utilisée dans environ 1 000 établissements, et qu’en France une cinquantaine de pilotes sont en cours, incluant CH, ESPIC et groupes privés, avec une dynamique de contractualisation en fin 2025.​

HFAR : un projet inscrit dans une stratégie numérique

HFAR est décrit comme un établissement fortement engagé dans la digitalisation, sans dossier papier depuis plusieurs années, avec un recours exclusif au dossier informatique. La direction est jugée très motrice sur les sujets de transformation numérique, avec une volonté de digitaliser le parcours patient et d’optimiser les ressources secrétariales.​

Avant Tandem, HFAR a testé une autre solution IA, expérience jugée globalement négative par le Dr Abi Jaoude. Elle souligne plusieurs limites : trame de consultation pensée pour le système américain et mal adaptée au contexte français, absence de personnalisation pour les surspécialités, et surtout des hallucinations importantes (ex. apparition d’un contenu de chirurgie digestive dans un compte rendu de neurochirurgie), conduisant à l’abandon du test jugé chronophage et peu utile. Cet échec a renforcé l’exigence d’une solution mieux adaptée à la pratique de spécialité, structurée et fiable, sans surcharge de corrections.​

Le projet Tandem est porté conjointement par la direction (dynamique de digitalisation, recherche d’efficience, réduction de la charge secrétariale) et par une partie du corps médical, dont la cheffe de service et le Dr Abi Jaoude, volontaires pour tester des solutions innovantes. L’objectif explicite est de réduire le temps consacré à la frappe et à la rédaction, de fiabiliser et structurer les comptes rendus, et de redonner du temps d’échange en face à face avec le patient en consultation.​

Génération automatique de comptes rendus structurés en consultations programmées

Le cas d’usage principal déployé à HFAR avec Tandem est la génération automatique de comptes rendus de consultation à partir de l’audio capté pendant l’échange médecin–patient. Dans le service du Dr Abi Jaoude, un cas emblématique est la consultation d’hydrocéphalie à pression normale (HPN), nécessitant un interrogatoire très structuré pour décider d’une éventuelle dérivation, avec des rubriques précises (troubles de la marche, troubles sphinctériens, troubles cognitifs, troubles de l’humeur, « red flags »).​

Plus largement, Tandem est utilisé dans plusieurs spécialités de l’hôpital, notamment en neurochirurgie adulte, en cardiologie et en pédiatrie, avec des modèles adaptés selon les besoins. Les types de consultations couverts concernent principalement les consultations médicales programmées, incluant des consultations de première fois et des suivis, particulièrement dans des contextes chroniques ou de surspécialités où un compte rendu structuré est critique (ex. pathologies neurochirurgicales complexes).​

Figure 3 Exemple de compte-rendu sur Tandem Health

Pour l’instant, les documents majoritairement générés sont :

• des comptes rendus de consultation structurés ;
• des courriers d’adressage ou de réponse entre spécialistes et médecins traitants ;
• des courriers patients ;
• et, pour certains médecins, des ordonnances, même si Tandem n’est pas positionné comme outil de validation automatique de prescriptions.​

« Quelques minutes gagnées par consultation et une interaction patient plus directe »

Le Dr Abi Jaoude estime que Tandem lui fait gagner quelques minutes par consultation, principalement sur la frappe et la mise en forme, ce qui, sur des journées de 25 à 30 patients, représente un gain de temps significatif. Elle ne parle pas de « 10–12 minutes » gagnées par consultation, mais insiste sur l’effet cumulé de ces minutes et sur le confort apporté par la disparition de la frappe en continu pendant l’échange. La consultation HPN, souvent longue (entre 15 et 25 minutes), devient plus fluide puisque l’attention peut se porter davantage sur le patient que sur l’écran.​

Concrètement, elle ne tape plus ses comptes rendus « en live » pendant la consultation, ce qui modifie la posture d’échange : moins de regards vers le clavier, moins d’interruptions pour rédiger, plus de contact visuel et de continuité dans le dialogue. Elle souligne que Tandem produit des textes globalement corrects en français, sans fautes d’orthographe majeures, avec une bonne reconnaissance des termes médicaux, même si quelques ajustements restent nécessaires (modification de formulations ou de détails cliniques). Ce fonctionnement réduit aussi la frustration liée aux corrections de langue ou aux erreurs massives rencontrées avec la dictée vocale traditionnelle.

​

Du point de vue de Tandem, les études internes récentes menées auprès d’environ 1 000 médecins et patients montrent que les patients sont au moins aussi demandeurs que les soignants de solutions permettant de rétablir une interaction directe, face à face, en consultation. Ces résultats rejoignent les données “Time to care” sur la perception positive de l’IA pour la libération de temps médical, suggérant une convergence d’attentes entre professionnels et patients.​

Un workflow en quatre étapes, de l’enregistrement audio à la validation du compte rendu

Une consultation type avec Tandem se déroule selon un schéma standard, modulable selon les spécialités. Avant la consultation, le médecin se connecte à l’interface Tandem sur son ordinateur via une double authentification (envoi d’un code par e-mail), puis sélectionne le modèle de consultation souhaité (par exemple « consultation HPN » dans le cas de la neurochirurgie). Un micro d’ambiance, branché sur l’ordinateur et adapté aux salles de consultation (également utilisable en bloc opératoire pour d’autres cas d’usage), capte l’échange audio pendant la consultation.​

Pendant la consultation, le médecin conduit l’entretien de manière habituelle, en suivant mentalement sa structure clinique mais sans avoir à la formaliser en temps réel au clavier. Le modèle de Tandem, configuré à partir des trames transmises par le médecin (rubriques et sous-parties souhaitées), transforme la conversation en un compte rendu structuré, en respectant les sections propres à la pathologie (ex. HPN) et en intégrant les éléments cliniques clés (symptômes, imagerie commentée à voix haute, conclusion). La consultation peut rester libre dans l’ordre des questions, Tandem se chargeant de reclasser l’information dans la structure prévue.​

Après la consultation, le médecin clique sur « créer le compte rendu » et obtient un document structuré modifiable ligne par ligne. La relecture-correction intervient immédiatement après le départ du patient, souvent en 1 à 2 minutes, pendant la préparation des ordonnances ou une courte pause. Le praticien peut ajuster certains passages, corriger quelques formulations (par exemple transformer une phrase approximative sur un trouble moteur en formulation clinique plus précise) puis valider le texte. Ce document est ensuite intégré directement dans le DPI en un clic depuis Tandem.​

Les variations de workflow entre spécialités sont limitées : l’interface et les étapes restent identiques, la principale différence tenant au choix du modèle de consultation (modèle générique, modèle HPN, etc.). Le workflow est également similaire pour seniors et juniors, la logique étant la même ; toutefois, la facilité d’appropriation peut varier selon la familiarité des praticiens avec les outils informatiques.​

Intégration au système d’information et contraintes techniques

À HFAR, Tandem est branché de manière indirecte au système d’information : l’outil transfère les CR générés directement dans le DPI mais ne peut pas encore y récupérer les données médicales et ne traite pas de données d’identification patient dans sa version actuelle en classe I. Aucun identifiant patient n’apparaît dans l’interface Tandem, tant que le document n’est pas transféré dans le système hospitalier ; cela est présenté comme une garantie de non-traitement de données de santé nominatives à ce stade. Le flux opérationnel consiste donc à générer le compte rendu dans Tandem puis à le transférer en un clic dans le DPI ainsi que (copier-coller) dans l’outil de courrier / compte rendu utilisé à la Fondation.​

Les contraintes techniques principales évoquées relèvent de la sécurité, de la conformité (RGPD, hébergement HDS), des contraintes de réseau et de la diversité des postes (salles de consultation, blocs, services d’urgences), ainsi que de l’équipement audio. M. Motosso considère la conformité RGPD et l’hébergement HDS comme des prérequis « de base », nécessaires mais non différenciants ; la vraie complexité réside dans l’intégration dans des DPI parfois anciens (années 1990) et dans la capacité à couvrir des cas de figure variés (consultations fixes, mobilité, différentes salles, urgences, bloc, etc.).​

Pour un pilote dans un autre hôpital, Tandem met en avant une architecture technique « souple », capable de s’intégrer soit via l’éditeur du DPI, soit directement au niveau établissement quand l’intégration profonde est plus complexe ou plus longue. Cette approche permet de démarrer en quelques jours ou semaines selon le contexte SI, sans exiger un niveau de maturité IT très avancé, à condition que les éléments de base soient en place (DPI, infrastructure réseau suffisante, DSI mobilisée).​

À moyen terme, la certification MDR de classe II doit permettre à Tandem d’accéder aux données patients (antécédents, consultations antérieures) et de pré-remplir des comptes rendus, notamment pour les consultations de suivi, en réutilisant les informations structurées déjà présentes dans le DPI. Cette évolution est envisagée comme un levier pour aller au-delà du seul gain administratif, vers des fonctionnalités plus « médicales » (pré-remplissage, suivi longitudinal, assistance au diagnostic).​

Adoption facilitée par le volontariat médical, des parcours de formation courts et la co‑construction des modèles

Le choix des services pilotes à HFAR repose sur le volontariat et l’appétence pour le numérique, avec un ciblage de spécialités fortement exposées à la charge de documentation (neurochirurgie, cardio, pédiatrie, etc.). Le Dr Abi Jaoude et sa cheffe de service se positionnent comme référentes et utilisatrices précoces, ce qui facilite l’appropriation par les équipes.​

Sur la formation, la prise en main de Tandem est décrite comme quasi immédiate pour les praticiens : l’outil « écoute et crée », avec très peu d’étapes (connexion, choix du modèle, démarrage et arrêt de l’enregistrement, création du compte rendu). Pour des utilisateurs comme le Dr Abi Jaoude, à l’aise avec l’informatique, la courbe d’apprentissage est évaluée à « zéro jour » ; pour des médecins moins familiers du numérique, M. Motosso estime la montée en compétence à une dizaine de consultations. En revanche, la personnalisation des trames (définition de modèles spécifiques HPN, etc.) se fait de façon progressive, sur quelques jours ou quelques consultations, via des retours à l’équipe Tandem, avec la perspective d’un futur mode « do it yourself » permettant aux médecins de créer eux-mêmes leurs modèles.​

Les freins rencontrés relèvent principalement :

• de la résistance culturelle à la technologie et à la remise en question des habitudes de rédaction  ;
• des craintes initiales de perte de temps en phase de test, renforcées par les expériences négatives avec des outils antérieurs.​

Pour lever ces freins, Tandem mise sur :

• des démonstrations in situ, y compris avec des chefs de service initialement sceptiques, en leur montrant la différence avec la dictée vocale classique ;
• une très faible friction d’usage (interface simple, trois clics clés) ;
• la co-construction des trames avec les médecins pour coller à leur pratique. Les éléments qui favorisent l’adoption incluent la perception concrète du gain de temps, le confort d’avoir des comptes rendus structurés, l’amélioration ressentie de la relation patient, ainsi que l’engagement de la direction dans la transformation numérique.​

Information systématique des patients et sécurisation des données

En consultation, le Dr Abi Jaoude informe les patients que leur compte rendu sera généré par un outil d’IA, en début d’échange. Elle rapporte n’avoir reçu à ce jour aucune objection explicite de la part des patients, ni retour négatif structuré sur l’usage de l’IA en consultation.​

Du côté de Tandem, plusieurs garde-fous sont mis en avant : hébergement HDS, conformité RGPD, dispositif médical de classe I ne traitant pas directement de données patients identifiantes, et absence de réutilisation non conforme de la donnée pour l’entraînement des modèles, dans le respect du cadre réglementaire européen jugé plus strict que le contexte américain. La non-visibilité des identifiants patients dans l’interface Tandem à HFAR est présentée comme une mesure de conformité, en attendant la certification MDR de classe II qui permettra l’accès au DPI dans un périmètre encadré.​

À ce jour, aucune catégorie spécifique de cas d’usage explicitement « interdits » n’est détaillée pour HFAR dans l’entretien (par exemple certains contenus extrêmement sensibles ou certaines situations), en dehors des limites réglementaires liées à la classe I (pas d’accès direct à la donnée patient, pas d’aide au diagnostic). Les perspectives évoquées incluent toutefois un encadrement renforcé des usages à mesure que la solution évoluera vers plus d’intégration et de fonctionnalités médicales.​

3 conditions pour reproduire le cas d’usage : pilotage partagé, DSI mobilisée, médecins référents impliqués

Pour un autre hôpital français souhaitant reproduire ce cas d’usage en 2026, Félix Motosso met en avant trois conditions principales :

• un « attelage » solide entre les équipes administratives (direction générale, DSI, direction de l’innovation, direction médicale) et les équipes soignantes, avec une vision claire des objectifs (gains d’efficience, amélioration de la qualité de vie au travail, impact sur le temps patient) ;
• la mobilisation de quelques ressources DSI pour travailler en ping-pong sur l’intégration et l’accès au logiciel (accès, sécurité, modalités d’intégration au DPI) ;
• la présence de médecins motivés, pas nécessairement « experts » en informatique, mais prêts à tester et à co-construire, afin de démontrer l’utilité de la solution pour différents profils.​

Du point de vue du Dr Abi Jaoude, les évolutions souhaitées pour que l’IA devienne un allié encore plus fort dans la pratique quotidienne portent sur :

• l’extension au-delà de la consultation, avec la capacité à synthétiser l’ensemble du séjour hospitalier dans une lettre de liaison structurée (type LBD / lettre de liaison de sortie) ;
• une intégration plus profonde avec le DPI, permettant de pré-remplir les documents à partir des données déjà présentes, en particulier pour les consultations de suivi (réutilisation automatique du compte rendu précédent, historique, etc.) ;
• la génération d’ordonnances bien structurées, adaptées au contexte clinique du moment. Elle souligne également l’intérêt d’outils IA dans d’autres domaines (imagerie, radiologie), déjà présents via des projets internes et externes de radiologues pour l’entraînement de modèles, même si ceux-ci relèvent plus de la création de solutions que de leur usage routinier par les cliniciens.​

Dans ce cadre, l’expérience HFAR avec Tandem confirme les résultats de “Time to care” : un assistant médical IA, correctement intégré et accompagné, peut à la fois alléger la charge documentaire des soignants et soutenir une relation patient plus directe, à condition de respecter les contraintes de sécurité, de construire le cas d’usage avec les équipes cliniques et de maintenir un dialogue étroit entre DSI, direction et médecins.

En analysant 363 incidents documentés, ils montrent comment ces limites peuvent affecter des décisions sensibles, notamment dans le champ sanitaire. Alors que les usages de l’IA se multiplient dans la santé, l’industrie et les services publics, les cas de décisions injustes ou incohérentes se succèdent : erreurs de triage, recommandations inadaptées, évaluations sociales contestées… Ces dérives nourrissent un débat récurrent sur les biais algorithmiques et sur les limites des modèles actuels.

Une origine des biais sous-estimée

L’étude publiée le 1er décembre dans MIS Quarterly, l’une des revues les plus sélectives et influentes dans le domaine des systèmes d’information, apporte un éclairage nouveau sur ces dysfonctionnements. Contrairement à l’idée récurrente selon laquelle les biais proviendraient surtout de données défaillantes ou d’un manque de précision, les auteurs montrent que l’IA échoue souvent pour une raison plus fondamentale : elle ne parvient pas à représenter l’ensemble de la complexité des situations qu’elle tente d’automatiser.

L’étude a été menée par des chercheurs à la Texas McCombs School of Business (University of Texas at Austin). Leur objectif était d’identifier les mécanismes structurels qui conduisent les algorithmes à produire des décisions biaisées. Les auteurs ont analysé en détail 363 incidents algorithmiques recensés dans la base AI Algorithmic and Automation Incidents and Controversies, qui documente des cas de discriminations, d’erreurs ou de controverses liées à des systèmes automatisés. Chaque algorithme impliqué dans un incident a été comparé à un modèle de nature similaire mais n’ayant pas fait l’objet d’un signalement, afin de comprendre pourquoi un biais était survenu.

Une simplification excessive du réel

Les chercheurs ont notamment examiné si, pour chaque tâche automatisée, il existait une référence fiable et reconnue permettant de vérifier la justesse des décisions produites par le modèle. Ils ont également étudié la manière dont certains algorithmes simplifiaient ou omettaient des dimensions importantes du contexte réel. Enfin, ils ont analysé la responsabilité des organisations — par exemple si elles utilisent des jeux de données limités, mettent la pression pour automatiser rapidement un processus, imposent des contraintes de budget… Le tout pouvant conduire à la production de modèles incomplets, plus susceptibles de générer des biais.

Cette approche centrée sur les mécanismes internes plutôt que sur une évaluation statistique, permet d’identifier des facteurs récurrents expliquant pourquoi certains modèles basculent vers des décisions injustes alors que d’autres, pourtant proches dans leur conception, n’exposent pas les mêmes dérives.

Résultats : 3 facteurs majeurs de biais

• Absence de référence fiable : de nombreux algorithmes sont chargés d’automatiser des décisions pour lesquelles il n’existe pas de méthode reconnue permettant de vérifier l’exactitude du résultat. L’estimation de l’âge osseux sur radiographie en est un exemple : faute de consensus clinique, un modèle peut obtenir de très bons scores tout en produisant des décisions inadaptées.
• Simplification excessive du réel : certains modèles reposent sur des données incomplètes ou omettent des variables importantes, ce qui conduit à des représentations appauvries de situations complexes.
• Manque d’implication des parties prenantes : lorsque des systèmes destinés à des populations diverses sont conçus par des équipes homogènes, certaines réalités ne sont pas prises en compte, augmentant le risque d’angles morts et de décisions inéquitables.

L’analyse montre en outre qu’un modèle peut afficher une précision élevée tout en restant biaisé si les données ne reflètent qu’une partie limitée de la situation réelle. Les incidents examinés révèlent que les biais apparaissent particulièrement lorsque des algorithmes automatisent des décisions qui, en pratique, reposent sur des évaluations humaines intégrant de nombreux éléments contextuels, sociaux ou cliniques. Faute d’accéder à ces dimensions, les modèles produisent une représentation trop simplifiée du réel, ce qui explique une grande partie des dérives observées.

L’étude invite les développeurs, les industriels et les décideurs publics à revoir la manière dont les systèmes d’IA sont conçus et déployés, en particulier lorsque les décisions reposent sur des facteurs cliniques, sociaux ou contextuels difficiles à formaliser. Les auteurs recommandent de limiter l’automatisation aux situations pour lesquelles une référence fiable existe réellement, faute de quoi les modèles risquent de produire des décisions cohérentes sur le plan technique mais inadaptées dans la pratique. Ils rappellent que « les biais ne disparaissent pas en améliorant la précision d’un modèle si celui-ci ne comprend pas réellement la complexité de la situation qu’il automatise ».

Des algorithmes éloignés du monde…

Les travaux insistent également sur la nécessité de mieux documenter le contexte réel dans lequel les algorithmes interviennent et d’impliquer plus largement les professionnels de terrain, les usagers et les populations concernées lors de la conception. Cette démarche apparaît essentielle dans des domaines sensibles comme la santé, où les décisions exigent une compréhension fine de situations individuelles que les modèles peinent encore à représenter. Comme le résume l’un des auteurs, « un algorithme ne peut juger que le monde qu’il voit. S’il en perçoit trop peu, il se trompe ».

* Algorithmic Social Injustices: Antecedents and Mitigations Hüseyin Tanriverdi; John-Patrick Olatunji Akinyemi

MIS Quarterly (2025) 49 (4): 1417–1448. https://misq.umn.edu/misq/article-abstract/49/4/1417/3265/Algorithmic-Social-Injustices-Antecedents-and

Une direction unique pour un pilotage intégré

À l’occasion des Assises hospitalo-universitaires, la ministre de la Santé, des Familles, de l’Autonomie et des Personnes handicapées, Stéphanie Rist, a présenté une réforme structurelle du ministère. Dans le cadre de la mission gouvernementale « État efficace », elle a annoncé la création d’une direction unifiée chargée de la recherche, de l’innovation et du numérique en santé. Cette nouvelle entité regroupera la Délégation du numérique en santé, l’Agence de l’innovation en santé, la mission Article 51 ainsi que les équipes ministérielles dédiées à la recherche et à l’innovation. L’objectif est de mettre fin à un pilotage institutionnel fragmenté, au profit d’une approche plus cohérente, réactive et lisible.

Anticiper les ruptures et rationaliser les investissements

La réorganisation vise à

• Simplifier les circuits de décision en brisant les logiques de silos.
• Elle entend également renforcer la capacité d’anticipation du ministère face aux transformations technologiques, en particulier dans les domaines de l’intelligence artificielle et de la donnée de santé.
• La nouvelle direction sera également chargée de mieux orienter les investissements publics.

Chaque année, deux milliards d’euros sont alloués à la recherche et à l’enseignement dans les établissements hospitalo-universitaires. L’idée est de garantir une allocation plus efficiente de ces ressources en cohérence avec les priorités stratégiques nationales.

Faciliter l’accès des patients à l’innovation

Parmi les leviers d’action identifiés, figure l’accélération du transfert des innovations vers les patients. La ministre a rappelé la mise en place récente d’une procédure réglementaire accélérée pour certains essais cliniques. Cette mesure s’inscrit dans une volonté de fluidifier les parcours d’innovation, de la recherche à l’application clinique.

Maintenir la position de la France dans la recherche clinique

Cette réforme s’inscrit dans un contexte de concurrence internationale fort. La France, actuellement troisième en Europe pour la recherche clinique et première en oncologie, entend consolider sa position. Cela passe par un meilleur accompagnement des CHU et des écosystèmes régionaux d’innovation. Enfin, Stéphanie Rist a souligné que la souveraineté sanitaire repose autant sur les capacités de production que sur la faculté à innover et à transférer les résultats de la recherche.