Le Comité et le contrôleur soulignent que cette simplification administrative ne doit pas se faire au détriment de la protection des droits fondamentaux.
La proposition Omnibus étendrait la possibilité de traiter des catégories particulières de données à caractère personnel, notamment les données relatives à la santé, aux fournisseurs de tous les systèmes et modèles d’IA, à des fins de détection et de correction des biais, sous réserve de garanties. Le Comité et le Contrôleur recommandent de préciser que ces données ne peuvent être utilisées que dans des situations précises où le risque d’effets négatifs résultant de ces biais est considéré comme suffisamment grave.
Ils dénoncent la proposition de supprimer l’obligation d’enregistrer les systèmes d’IA lorsqu’ils font partie de catégories classées à risque élevé, même si les éditeurs considèrent que leurs systèmes ne présentent pas de risque élevé. Ils estiment que cette modification porterait gravement atteinte à la transparence et inciterait les entreprises à demander des exemptions indues.
Le Comité et le Superviseur se disent à ces égards préoccupés du report proposé des dispositions fondamentales relatives aux systèmes d’IA à haut risque. Compte tenu de l’évolution rapide du contexte, ils invitent les colégislateurs à envisager un maintien calendrier initial pour certaines obligations, telles que les exigences de transparence, et à réduire autant que possible les retards.
Bacs à sable
Les deux institutions saluent la création de “bacs à sable réglementaires” pour l’IA au niveau de l’UE pour promouvoir l’innovation. Dans un souci de sécurité juridique, l’avis conjoint recommande de prévoir la participation directe des autorités de protection des données (APD) à la supervision du traitement des données dans le cadre de ces bacs à sable. Le Comité demande un rôle consultatif et le statut d’observateur au sein du Comité européen de l’intelligence artificielle afin de garantir la cohérence au niveau des bacs à sable de l’UE.
En outre, le rôle de supervision du Bureau européen de l’IA sur les systèmes basés sur un modèle à usage général devrait être clairement défini dans la partie opérationnelle et ne devrait pas empiéter sur la supervision indépendante par le Comité des systèmes d’IA développés ou utilisés par les institutions de l’Union.
Les deux institutions recommandent également de préserver l’obligation pour les fournisseurs et les déployeurs d’IA de garantir la maîtrise des systèmes par leur personnel. Toute nouvelle obligation de maîtrise de l’IA imposée à la Commission ou aux États membres devrait selon elles compléter, et non remplacer, les responsabilités des organisations qui développent et utilisent ces systèmes.