Avec une actualisation hebdomadaire depuis Hugging Face et un moteur de recherche accéléré, Genmod veut faciliter l’identification des modèles dérivés susceptibles de conserver des données personnelles.
La CNIL a publié une nouvelle version de Genmod, son démonstrateur permettant d’explorer la généalogie des modèles d’IA en source ouverte. Développé par le service IA de la CNIL avec le LINC et lancé en novembre 2025, l’outil retrace les liens entre modèles : leurs « ascendants » (dont ils dérivent) et leurs « descendants » (auxquels ils ont contribué). Un modèle de référence (Kimi K3, Mistral Medium, LLaMA) peut ainsi engendrer une multitude de variantes.
Cette mise à jour apporte : une interface bilingue français/anglais, un moteur de recherche optimisé (environ 20 secondes pour une recherche sans limite de profondeur), un suivi de progression avec file d’attente, une actualisation hebdomadaire automatisée depuis HuggingFace, et un affichage amélioré sur les principaux navigateurs.
L’objectif : étudier la mémorisation de données personnelles par les modèles d’IA, en identifiant, à partir d’un modèle ayant conservé des données sensibles, ses dérivés susceptibles d’avoir hérité de cette mémorisation, afin de mieux garantir l’exercice des droits RGPD.
Cette initiative répond au fait que sans traçabilité, il est difficile de déterminer si des données personnelles mémorisées par un modèle se retrouvent dans ses dérivés, ce qui complique l’exercice de droits comme l’accès ou l’effacement.
La question est sensible en santé, où des modèles open source peuvent être spécialisés à partir de données cliniques. Si un modèle d’origine a mémorisé des données personnelles, celles-ci peuvent potentiellement se retrouver dans des modèles médicaux dérivés. Genmod permet d’en retracer la filiation et d’identifier les systèmes concernés.
L’outil met aussi en évidence la complexité d’un écosystème open source où les dérivations se multiplient.
IA : la CNIL met à jour son outil de traçabilité des modèles publiés en source ouverte | CNIL