- Une fois approuvées, elles seront les premières règles mondiales sur l’intelligence artificielle
- Les députés incluent l’interdiction de la surveillance biométrique, de la reconnaissance des émotions et des systèmes d’IA de police prédictive
- Régimes sur mesure pour l’IA à usage général et les modèles de base comme GPT
- Le droit de porter plainte contre les systèmes d’IA
Afin de garantir un développement de l’intelligence artificielle (IA) centré sur l’humain et éthique en Europe, les députés ont approuvé de nouvelles règles de transparence et de gestion des risques pour les systèmes d’IA.
Jeudi, la commission du marché intérieur et la commission des libertés civiles ont adopté un projet de mandat de négociation sur les toutes premières règles en matière d’intelligence artificielle avec 84 voix pour, 7 contre et 12 abstentions. Dans leurs amendements à la Proposition de la Commission, les députés visent à garantir que les systèmes d’IA sont supervisés par des personnes, sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement. Ils veulent également avoir une définition uniforme de l’IA conçue pour être technologiquement neutre, afin qu’elle puisse s’appliquer aux systèmes d’IA d’aujourd’hui et de demain.
Approche de l’IA basée sur les risques – Pratiques d’IA interdites
Les règles suivent une approche basée sur les risques et établissent des obligations pour les fournisseurs et les utilisateurs en fonction du niveau de risque que l’IA peut générer. Les systèmes d’IA présentant un niveau de risque inacceptable pour la sécurité des personnes seraient strictement interdits, y compris les systèmes qui déploient des techniques subliminales ou intentionnellement manipulatrices, exploitent les vulnérabilités des personnes ou sont utilisés pour l’évaluation sociale (classification des personnes en fonction de leur comportement social, statut socio-économique, caractéristiques).
Les députés ont considérablement modifié la liste pour inclure des interdictions d’utilisations intrusives et discriminatoires des systèmes d’IA telles que :
- Systèmes d’identification biométrique à distance « en temps réel » dans les espaces accessibles au public ;
- Les systèmes d’identification biométrique à distance « postaux », à la seule exception des forces de l’ordre pour la poursuite des crimes graves et uniquement après autorisation judiciaire ;
- Systèmes de catégorisation biométrique utilisant des caractéristiques sensibles (par exemple, sexe, race, origine ethnique, statut de citoyen, religion, orientation politique) ;
- Systèmes de police prédictifs (basés sur le profilage, la localisation ou le comportement criminel antérieur) ;
- Systèmes de reconnaissance des émotions dans les forces de l’ordre, la gestion des frontières, le lieu de travail et les établissements d’enseignement ; et
- Extraction aveugle de données biométriques à partir de médias sociaux ou de séquences de vidéosurveillance pour créer des bases de données de reconnaissance faciale (violation des droits de l’homme et du droit à la vie privée).
IA à haut risque
Les députés ont élargi la classification des zones à haut risque pour inclure les atteintes à la santé, à la sécurité, aux droits fondamentaux ou à l’environnement des personnes. Ils ont également ajouté des systèmes d’IA pour influencer les électeurs dans les campagnes politiques et dans les systèmes de recommandation utilisés par les plateformes de médias sociaux (avec plus de 45 millions d’utilisateurs sous le Loi sur les services numériques) à la liste à haut risque.
IA à usage général – mesures de transparence
Les députés européens ont inclus des obligations pour les fournisseurs de modèles de base – un développement nouveau et en évolution rapide dans le domaine de l’IA – qui devraient garantir une protection solide des droits fondamentaux, de la santé et de la sécurité et de l’environnement, de la démocratie et de l’État de droit. Ils devraient évaluer et atténuer les risques, se conformer aux exigences en matière de conception, d’information et d’environnement et s’inscrire dans la base de données de l’UE.
Les modèles de base génératifs, comme GPT, devraient se conformer à des exigences de transparence supplémentaires, comme divulguer que le contenu a été généré par l’IA, concevoir le modèle pour l’empêcher de générer du contenu illégal et publier des résumés des données protégées par le droit d’auteur utilisées pour la formation.
Soutenir l’innovation et protéger les droits des citoyens
Pour stimuler l’innovation en matière d’IA, les députés ont ajouté des exemptions à ces règles pour les activités de recherche et les composants d’IA fournis sous des licences open source. La nouvelle loi promeut des bacs à sable réglementaires, ou environnements contrôlés, établis par les pouvoirs publics pour tester l’IA avant son déploiement.
Les députés veulent renforcer le droit des citoyens de déposer des plaintes contre les systèmes d’IA et de recevoir des explications sur les décisions basées sur des systèmes d’IA à haut risque qui ont un impact significatif sur leurs droits. Les députés ont également réformé le rôle du bureau de l’IA de l’UE, qui serait chargé de surveiller la mise en œuvre du règlement sur l’IA.
Devis
Après le vote, le co-rapporteur Brando Benifei (S&D, Italie) a déclaré : « Nous sommes sur le point de mettre en place une législation historique qui doit résister au défi du temps. Il est crucial de renforcer la confiance des citoyens dans le développement de l’IA, de définir la voie européenne pour faire face aux changements extraordinaires qui se produisent déjà, ainsi que d’orienter le débat politique sur l’IA au niveau mondial. Nous sommes convaincus que notre texte concilie la protection des droits fondamentaux avec la nécessité d’apporter une sécurité juridique aux entreprises et de stimuler l’innovation en Europe ».
Co-rapporteur Dragos Tudorache (Renew, Roumanie) a déclaré : « Compte tenu de l’impact transformateur profond que l’IA aura sur nos sociétés et nos économies, la loi sur l’IA est très probablement la législation la plus importante de ce mandat. Il s’agit du premier texte législatif de ce type dans le monde, ce qui signifie que l’UE peut montrer la voie en rendant l’IA centrée sur l’humain, fiable et sûre. Nous nous sommes efforcés de soutenir l’innovation en matière d’IA en Europe et de donner aux start-ups, aux PME et à l’industrie un espace pour se développer et innover, tout en protégeant les droits fondamentaux, en renforçant le contrôle démocratique et en garantissant un système mature de gouvernance et d’application de l’IA.
Prochaines étapes
Avant que les négociations avec le Conseil sur la forme finale de la loi puissent commencer, ce projet de mandat de négociation doit être approuvé par l’ensemble du Parlement, avec un vote prévu lors de la session du 12 au 15 juin.
