DM

Un système d’intelligence artificielle (IA) testé pour détecter la rétinopathie diabétique a donné des résultats mitigés lors de son utilisation en vie réelle dans le cadre de soins primaires. Ce constat a été apporté par une étude* menée par des chercheurs australiens et américains de la Harvard Medical School, qui met en évidence un taux de faux positifs élevé. Ces travaux ont été publiés le 28 septembre 2018 dans le Jama Network Open.

Rétinopathie diabétique : pionnier de l’intelligence artificielle

En avril 2018, la Food and Drug Administration (FDA) a autorisé pour la toute première fois une intelligence artificielle (IA) à formuler un diagnostic. Le système IDx-DR est commercialisé pour dépister la rétinopathie diabétique sans qu’aucun professionnel de santé n’intervienne. Il vise à éviter que les personnes souffrant de diabète passent au travers des mailles du filet.

En effet, la moitié d’entre eux ne consultent pas d’ophtalmologiste tous les ans, contrairement aux recommandations sanitaires.

Le dispositif a été autorisé suite à la publication d’un essai clinique montrant que l’intelligence artificielle réalisait le bon diagnostic 9 fois sur 10.

Un test de dépistage dans la vraie vie

Cependant, les essais cliniques ne reproduisent pas la vie réelle à l’identique. C’est ce que semble montrer une étude australienne menée auprès de 193 patients diabétiques venant consulter dans des structures de premiers recours.

Quelques 386 images rétiniennes ont été analysées à la fois par le système d’intelligence artificielle et par un ophtalmologiste. Les infirmières ont mis 10 à 15 minutes à obtenir des images pour les deux yeux et le système de l’IA a fourni des diagnostics en moins de 3 minutes.

Les résultats de cet essai ont été publiés le 28 septembre 2018 dans le Jama Network Open.

Des résultats en demi-teinte

• L’intelligence artificielle a identifié 17 patients comme souffrant d’une rétinopathie diabétique et qui devaient donc être référés vers un spécialiste ;
• 2 patients sur les 17 étaient réellement atteints par la maladie et les 15 autres étaient des faux positifs ;
• l’IA a correctement identifié 8 cas de rétinopathie modérée ;
• le taux de spécificité de l’IA est donc de 92 % ;
• la valeur prédictive positive n’était que de 12 % ;
• Moins de 10 % des patients ont eu besoin d’être vus par un ophtalmologiste.

Le problème des faux-positifs

Les auteurs de l’étude considèrent que le taux élevé de faux positifs était dû en partie à la mauvaise qualité d’image. Il s’expliquerait également par la faible incidence de la rétinopathie diabétique au sein de la population fréquentant les structures de soins de premier recours.

« Les validations antérieures des systèmes d’IA pour l’identification de la rétinopathie diabétique ont utilisé des bases de données d’images rétiniennes et les images ont été présélectionnées de telle sorte que l’incidence de la maladie était beaucoup plus élevée », ont précisé les chercheurs. Et lorsque l’incidence de la maladie est plus basse, la valeur prédictive positive l’est également.

« Le faible taux de rétinopathie diabétique que nous avons observé dans notre étude est la norme en soins primaires, ont-ils ajouté. Par conséquent, les faux positifs risquent de poser problème, à moins que la spécificité de notre système ou d’autres systèmes soit beaucoup plus grande. Compte tenu de cette limitation, nous pensons que les images de rétinopathie identifiées comme présentant une maladie par un système d’IA devraient être examinées par un ophtalmologiste avant qu’un renvoi ne soit effectué. »

Les espoirs de l’IA malgré tout…

Malgré cette limitation, les chercheurs estiment que l’intelligence artificielle peut potentiellement améliorer le dépistage de la rétinopathie diabétique. Environ 92% des patients ont immédiatement été informés qu’ils n’avaient pas de rétinopathie et, par conséquent, il n’a pas été nécessaire de les référer vers un spécialiste. , Le nombre de patients devant être examinés par un ophtalmologiste était inférieur à 10%. Ce dépistage ophtalmologique en temps réel dans les cabinets médicaux habituels des médecins de soins primaires présente de nombreux avantages pratiques, notamment la prise en charge complète des maladies chroniques en un seul et même lieu pour les patients diabétiques. Il existe également un potentiel d’amélioration du système d’IA.

Owkin a lancé le 4 octobre 2018 son projet Substra qui vise à proposer une exploitation des données médicales sécurisée grâce au recours à l’IA et aux algorithmes d’apprentissage automatique. Ce projet est financé à hauteur de 10 millions d’euros par Bpifrance.

Pour la réalisation de son projet, Owkin est associé à un consortium regroupant neuf institutions : l’École Polytechnique, l’Institut Curie, le Centre Léon Bérard, l’Université Paris Descartes, le Centre Hospitalier Universitaire de Nantes, la start-up Apricity, l’Assistance Publique – Hôpitaux de Paris (AP-HP) avec trois hôpitaux impliqués (Saint-Louis, Antoine-Béclère et Jean Verdier) et Substra Foundation.

Il est prévu que le projet incarné par une plateforme open source soit disponible au cours de l’année 2019, lorsqu’une version test va être lancée, alors que le déploiement à grande échelle est prévu pour 2020.

L’apprentissage automatique, pierre angulaire du programme : une IA sécurisée pour données privées

Substra est une plateforme open source qui met en œuvre l’apprentissage automatique sur des jeux de données sensibles, qui restent toujours privées. Il s’agit de la politique du « privacy-preserving learning ». Substra pourra être utilisé par les fournisseurs de plateformes d’IA indépendantes qui souhaiteront exploiter ses fonctionnalités principales.

Grâce à un système sécurisé et éthique, Substra fédère les fournisseurs de données en possession de données sensibles, tels les hôpitaux, pour valoriser leurs informations et les utiliser à des fins de recherches médicales.  L’objectif premier est de respecter l’utilisation des données et de préserver la vie privée, ce qui explique l’engagement nécessaire des partenaires à mobiliser ces données en local, c’est-à-dire sur des serveurs installés dans les centres d’Owkin. La stratégie opérationnelle d’Owkin consiste à installer des serveurs pour développer les algorithmes d’apprentissage profond qu’ils font « voyager » d’un centre à un autre sans partage.

La sécurité de la plateforme est garantie grâce au recours à différentes technologies telles l’apprentissage fédéré, l’apprentissage par transfert, les registres distribués (blockchain privée), et la cryptographie avancée.

Substra Foundation, une association pour porter le projet fondé sur la collaboration interdisciplinaire et intra-institutionnel autour de l’IA en santé

Le projet collaboratif a donné naissance à une association à but non lucratif, Substra Foundation, afin d’assurer la pérennité du code open source sur lequel aura débouché le projet. Elle pourra se charger de diffuser à d’autres domaines ou à d’autres cas d’application le concept phare du projet qu’est celui d’une IA sécurisée pour données privées.

Le consortium qui dirige Substra regroupe des universités, des entreprises et des professionnels de la médecine et rassemble plus de 20 collaborateurs à temps plein parmi lesquels des développeurs de logiciels, des data scientists et des oncologues.

« Notre travail actuel est interdisciplinaire. Nous sommes heureux de développer une culture commune d’IA médicale autour de la protection des données privées entre le personnel médical, les développeurs ou encore les chercheurs », déclare Mathieu Galtier, leader du projet Substra chez Owkin.

Les quatre missions du projet endossées par le consortium

• Owkin et Substra Foundation développeront la plateforme open source Substra de traitement sécurisé des données médicales.
• Les hôpitaux impliqués de l’AP-HP rassembleront sur la plateforme distribuée des données :
  • d’anatomopathologie pour l’Institut Curie et le Centre Léon Bérard ;
  • de dermatologie pour le CHU de Nantes et l’AP-HP ;
  • de fertilité pour l’AP-HP.
• Owkin et Apricity fourniront des algorithmes prédictifs à partir de ces données – le premier dans le domaine de l’oncologie et le deuxième dans le domaine de la fertilité.
• Deux laboratoires de recherche de l’École Polytechnique (UMR 7641) et de l’Université Paris Descartes (UMR 1153) seront chargés d’évaluer ces algorithmes prédictifs développés dans un cadre scientifique et méthodologique. Cette étape pourra servir notamment un objectif plus large de développement de méthodes de validation médicale d’algorithmes d’IA en santé.

L’association pour l’intelligence artificielle (IA) française « France is AI » organisera deux journées de conférences les 17 et 18 octobre 2018 à la Station F, à Paris.
Chercheurs, entrepreneurs et décideurs concernés par l’intelligence artificielle en santé comme dans les autres secteurs industriels sont invités à participer à l’événement pour réfléchir aux défis technologiques, économiques et sociétaux associés au développement de l’IA.

En effet, malgré ses atouts, la France n’est pas perçue à l’échelle internationale comme un hub important en matière d’intelligence artificielle. D’où le lancement, en 2016, de l’initiative « France is IA » visant à promouvoir les avancées françaises en la matière ainsi que l’écosystème français réuni autour de ce domaine, un projet soutenu par l’association France Digitale.

Plus précisément, « France is IA » se donne les 4 objectifs suivants :
• bâtir un paysage dynamique pour l’écosystème français de l’intelligence artificielle ;
• construire des ponts avec d’autres hubs d’IA (États-Unis, Canada, Royaume-Uni, Suisse, Chine) ;
• soutenir des initiatives françaises menée à l’échelle locale, nationale ou internationale ;
• organiser un événement annuel visant à promouvoir cet écosystème : la France is IA Conference.

L’inscription à ces deux journées, payante, peut être réalisée via le lien ci-contre.

Programme

Journée du 17 octobre 2018 : Sciences et technologies

Cette journée sera plutôt dédiée aux chercheurs et développeurs.

Des keynotes de chercheurs spécialisés dans le machine learning, le deep learning et le reinforcement learning seront présentées. Des développeurs de grandes entreprises (Twitter, Huawei, Criteo, Rakuten, Netflix, Facebook, Google, etc.) interviendront par ailleurs au cours d’animations de type tables rondes.

Journée du 18 octobre 2018 : Applications de l’IA et enjeux de société

Cette seconde journée pourra intéresser un public plus large de décideurs, d’institutionnels, etc.

Elle sera divisée en 3 thématiques :

• L’écosystème

Seront abordés dans le cadre de cette thématique les sujets suivants : l’écosystème européen, la stratégie française dans le domaine de l’intelligence artificielle, les initiatives régionales en matière d’IA, l’explosion de l’écosystème chinois (focus), la formation des ingénieurs, la sensibilisation à l’intelligence artificielle dès l’enfance.

• L’industrie repensée

Ce thème mènera à aborder les perspectives offertes par l’IA en matière de capital risque, la capacité des entreprises à se réinventer grâce à l’IA, la possibilité de refonder le système de santé par l’intelligence artificielle, la modification des transports par l’IA, la cybersécurité, les applications de l’intelligence artificielle en matière de production industrielle.

• IA et société : risques et opportunités 

Cette problématique permettra de poser les questions suivantes : Comment faire évoluer le cadre légal ? Quels risques sont associés à la prise de décision par des algorithmes ? Comment assurer un accès ouvert aux données ? Le travail risque-t-il de disparaître ?

Une équipe de chercheurs a mis au point une méthode algorithmique innovante permettant de découvrir de nouveaux antibiotiques à partir de données de spectrométrie de masse. Cet algorithme permet de réduire les chances de découvrir des composés antibiotiques déjà connus.

Les résultats de ces travaux* ont été publiés le 2 octobre 2018 dans la revue Nature Communications.

Le big data pour lutter contre l’antibiorésistance

Face au développement de l’antibiorésistance, il est urgent de découvrir de nouveaux antibiotiques. En effet, l’OMS considère que la baisse de l’efficacité des antibiotiques est l’une des plus importantes menaces sanitaires de notre siècle. Cependant, si la recherche est très active dans ce domaine, les découvertes sont rares : depuis les années 1990, le rythme de découverte d’antibiotiques d’origine naturelle a ralenti.

Cependant, l’utilisation de nouvelles technologies redonne l’espoir de découvrir de nouvelles molécules. Par exemple, le projet de réseau moléculaire GNPS (Global Natural Products Social) est un référentiel récent de données de spectrométrie de masse dans le domaine des produits naturels. Il rassemble plus d’une centaine de laboratoires qui ont déjà généré une quantité sans précédent de spectres de masse de divers composés dont certains à activité antibiotique.

Un algorithme qui ne redécouvre pas d’anciennes molécules

L’un des principaux défis dans le domaine des produits naturels est le taux élevé de re-découverte de molécules en fait déjà connues : « c’est incroyable le nombre de fois où nous avons redécouvert la pénicilline », a déclaré Hosein Mohimani, professeur adjoint au département de biologie computationnelle de la Carnegie Mellon University et premier auteur de l’article paru le 2 octobre 2018 dans Natures Communications.

Avec des chercheurs russes de l’Université de Saint-Petersbourg et des confrères de l’Université de Californie, La Jolla, il a alors mis au point une nouvelle technique appelée la déréplication : en analysant les spectres de masse des composés connus pour présenter une activité antibiotique, cette démarche a pu permettre de les éliminer de toute analyse ultérieure afin d’aider les chercheurs à se concentrer sur les molécules moins testées qui pourraient éventuellement devenir des antibiotiques plus efficaces.

En fait, c’est en comparant les données de spectrométrie de masse de ces composés moins connus à une base de données compilant des structures chimiques d’antibiotiques connus que les chercheurs ont pu détecter des composés intéressants.

5000 composés prometteurs

En une semaine, l’algorithme, appelé Dereplicator+, a tourné sur une centaine d’ordinateurs et a identifié plus de 5000 composés prometteurs et inconnus jusqu’à maintenant. Ces nouveaux composés devront faire l’objet d’investigations plus poussées pour confirmer – ou pas – leurs potentiels. L’algorithme est maintenant à la disposition de tout chercheur intéressé.

Une utilisation inédite du Big data

« Bien que les chercheurs en protéomique utilisent régulièrement d’énormes ensembles de données spectrales pour trouver des peptides importants, tous les outils protéomiques traditionnels échouent en matière de découverte de nouveaux médicaments. C’est la première fois que nous utilisons le Big Data pour analyser la chimie microbienne et caractériser les antibiotiques et d’autres médicaments candidats », a déclaré Hosein Mohimani. Cela ouvre la voie aux méthodes d’apprentissage automatique pour améliorer le taux de faux négatifs (individus répondant négativement à un test alors qu’ils devraient afficher un résultat positif). Enfin, les chercheurs envisagent d’appliquer la découverte à de nouveaux antibiotiques issus de travaux de métagénomique.

 

Drive Innovation Insights (DII), filiale de Politico-Alex Springer spécialisée dans la formation des professionnels et décideurs européens, organisera le 26 septembre 2018 à Paris une journée de formation centrée sur le traitement des données de santé.

Dans le contexte des récentes entrées en vigueur du Règlement Data Protection et du Règlement général de protection des données (RGPD), DII propose une session pour favoriser la bonne maîtrise du traitement et du partage des données médicales et comprendre « l’articulation des obligations et responsabilités des professionnels concernés ».

Cette journée, qui commencera dès 08h30 par un petit déjeuner et s’achèvera à 17h30, sera animée par trois avocates spécialisées en droit des nouvelles technologies, de la santé, de la propriété intellectuelle ou des médias : Prudence Cadio, Eva Naudon et Olivia Roche.

L’inscription, payante, peut être réalisée via un bulletin d’inscription à demander au services clients de Drive Innovation Insights (service-clients@dii.eu).

Programme de la journée

Thème n°1 : « Rappel des fondamentaux en matière de traitement et d’exploitation des données de santé à caractère personnel sur internet »

• Qu’est-ce qu’une donnée de santé ?

• Zoom sur le Règlement Data Protection applicable avant le 25/05/18

• Le point sur le cadre national relatif à l’open data depuis l’art.47 de la loi Santé 2016 :quel accès aux données Programme de médicalisation des systèmes d’information (PMSI) et Système national d’information inter-régimes de l’Assurance maladie (SNIIRAM) ?

• Acteurs concernés et pouvoirs renforcés de la CNIL, de l’ASIP et de l’ANAP

Thème n°2 : « Se conformer aux obligations de collecte, de traitement et de partage des données médicales – Grands principes de protection et dérogations possibles »

• Les droits du patient, le consentement exprès et le secret médical

• La protection des bases de données médicales et la traçabilité des informations

• Comment sécuriser juridiquement votre système de traitement automatisé des données ?

• Quelles sanctions encourues en cas de non-respect de vos obligations ?

Thème n°3 : « Du correspondant informatique et liberté (CIL) au data protection officer (DPO) : quels changements prévoir après le 25/05/18 ? »

• Une obligation introduite par le Règlement général de protection des données (RGPD) et effective à partir du 25/05/18

• Quelles frontières entre le CIL et le DPO ?

• Liste des usages des datas, recommandations, médiation : intégrer les missions du futur DPO

Thème n°4 : « Analyse des jurisprudences marquantes concernant le secret médical – Maîtriser le cadre législatif associé à l’agrément des hébergeurs de données de santé à caractère personnel, au cloud computing et aux objets connectés »

• Identifier les conditions et les modalités d’agrément

• Les référentiels couvrant les critères de sécurité et de confidentialité

• Mesurer les obligations et la responsabilité des différents acteurs

• Check-list des clauses clés à insérer dans les contrats d’hébergement

Thème n°5 : « Sécuriser le transfert des données médicales à l’international – Maîtriser les risques juridiques liés aux flux transfrontaliers depuis l’adoption du EU‑US Privacy Shield le 12/07/16 »

« Le risque éthique principal du numérique et de l’IA en santé, c’est qu’il n’y ait pas assez d’IA et de numérique dans le secteur » pour que les risques potentiellement engendrés soient mesurables, a déclaré David Gruson, membre du comité de direction de la Chaire santé à Sciences Po Paris, lors de la table ronde « IA et robotique : quelle place leur donner dans l’organisation des soins ? », qui s’est tenue le 20 septembre 2018 à Paris. La conférence était organisée par Care Insight à l’occasion de l’étape Hôpital du futur de la campagne Faire avancer la santé numérique (FASN).

« Le deuxième risque éthique est que, si trop de réglementations sont mises en place en France sur ces questions, on va encourager le recours à des solutions algorithmiques conçues ailleurs, sur lesquelles nous n’avons aucune base de régulation éthique« , explique l’expert. Il cite en exemple l’autorisation par la FDA, le 11 avril 2018, du premier algorithme de diagnostic sur les rétinopathies diabétiques, auquel peut donc désormais recourir un patient français en déboursant une centaine de dollars. « Il y a dans ce cas un risque d’absence de contrôle éthique sur la base de données utilisées par l’algorithme mais aussi un risque sur le principe de solidarité du système car il y aura des inégalités d’accès en fonction du niveau des revenus. »

En dehors de ces deux risques majeurs, David Gruson identifie 3 problématiques relatives à l’utilisation de l’intelligence artificielle et du numérique dans le domaine de la santé :
• en cas de défaillance d’une IA apprenante (machine learning), qui est tenu pour responsable ? ;
• le risque de délégation du consentement et de la décision médicale ;
• la mise en balance de l’intérêt individuel et de l’intérêt collectif.

1. Responsabilité : le problème de l’IA apprenante (machine learning) 

L’impact du développement de l’intelligence artificielle (IA) sur la responsabilité des professionnels de santé est plus ou moins complexe selon les situations. « Au regard de l’état du développement de l’IA, le cadre juridique actuel de la responsabilité permet de couvrir 99,9 % du sujet », souligne David Gruson. On peut ainsi identifier deux situations :

• Quand un dommage est causé par un robot ou un algorithme dans le domaine de la santé, le responsable est le gardien de « la chose », c’est-à-dire le directeur de l’établissement ou le professionnel libéral.
• En revanche, quand il y a une défectuosité, s’applique alors le régime « de responsabilité du fait des produits défectueux », qui est issu d’une loi de mai 1998.
  Ainsi, si un dommage est causé dans un établissements de santé ou en ville par un algorithme défectueux, le responsable est le producteur de l’algorithme, à l’exception d’un cas, celui du « risque de développement » : cela signifie que le défaut du produit n’a pas pu être découvert car l’état des connaissances scientifiques et techniques accessibles au moment de la mise sur le marché ne le permettait pas.

La complexité du risque de développement dans le cas du machine learning

Si l’on transpose la situation aux nouvelles solutions d’intelligence artificielle dites « apprenantes » (machine learning), cette exception devient problématique, note David Gruson. Le propre d’une IA apprenante est qu’elle est capable de produire des nouvelles versions d’elle-même au fil d’un certain nombre de traitements de données, rappelle le spécialiste. « Cette IA apprenante pose question par rapport à l’exonération du risque de développement. En effet, le producteur pourra dire qu’après un certain temps de machine learning, il n’est plus responsable de cette version de l’algorithme. Dans ce cas s’applique le risque de développement. Le producteur peut s’exonérer de sa responsabilité et le dommage n’est pas indemnisé. »

David Gruson estime que la problématique est bien réelle, bien qu’il n’y ait pas encore de sinistralité constatée aujourd’hui. « Au regard de la rapidité de déploiement de l’IA basée sur le machine learning en général, et dans la santé en particulier », il s’agit « très probablement » d’un enjeu important en ce qui concerne la responsabilité des professionnels de santé et des directeurs d’établissements de soins.

Si l’expert pense qu’il ne faut pas légiférer dès cette année en France sur ce point, il juge « urgent » de porter le sujet au niveau communautaire.

2. Le risque de délégation du consentement et de la décision médicale

Le risque premier ici est celui de voir émerger un médecin « presse boutons », « qui ne se pose plus de questions et qui applique la solution de manière automatique », avance David Gruson. Pour le patient, le risque est qu’il accepte sans vraiment y réfléchir toutes les solutions thérapeutiques qu’on lui propose, « un peu à la manière de Netflix qui nous suggère telle ou telle nouvelle série en fonction de notre profil, relève-t-il. Je reste capable de consentir en droit mais ma capacité à consentir en fait s’érode au fil du  temps ».

3. Mise en balance de l’intérêt individuel et de l’intérêt collectif

Le principe de l’algorithme utilisé dans le cas d’une solution de diagnostic est qu’il traite des données massives et collectives puis en déduit, par effet de machine learning, des orientations d’aide à la décision, amenant ainsi à écarter au fil du temps des hypothèses dites « aberrantes, trop lointaines de la valeur centrale », explique David Gruson.

En médecine, la notion « d’hypothèses aberrantes » correspond à des cas individuels, souligne-t-il. « [Il s’agit d’un patient X] se retrouvant dans une situation dans laquelle son espérance de vie est telle que l’IA considérera qu’il est inefficace ou inopportun de lui proposer cette thérapie là », note le spécialiste. Il risque ainsi d’y avoir une minoration relative de la valeur de la personne, c’est-à-dire de l’intérêt personnel, face à la logique collective de l’algorithme.

Selon David Gruson, tous ces risques peuvent être régulés, « le risque principal étant de ne pas les mesurer », conclut-il.