L’UE interdit les images sexuelles non consensuelles de l’IA mais retarde les obligations des systèmes à haut risque

BRUXELLES, le 29 juin (EUROPA PRESS) –

Ce lundi, l'Union européenne a achevé les procédures pour adopter formellement la réforme qui simplifie la loi européenne sur l'intelligence artificielle (IA) et inclut des changements tels que de nouvelles interdictions sur les contenus sexuels générés sans consentement, mais retarde en même temps les obligations prévues dans la réglementation communautaire pour les systèmes à haut risque.

Plus précisément, l'accord interdit les systèmes d'IA destinés exclusivement à générer des images sexuelles ou intimes sans l'autorisation des personnes impliquées, ainsi que le matériel d'abus sexuel sur des enfants créé à l'aide de cette technologie, et obligera également les entreprises qui développent des modèles d'intelligence artificielle à usage général à introduire des « mesures de sécurité raisonnables » pour empêcher la diffusion de ce type de contenu.

La réforme – convenue début mai entre le Conseil (gouvernements) et le Parlement – intervient des mois après la polémique suscitée par la circulation massive sur les réseaux sociaux d'images intimes manipulées avec l'intelligence artificielle, notamment via des outils intégrés aux plateformes numériques comme Grok, l'assistant IA lié au réseau social X.

« Le progrès technologique doit toujours aller de pair avec la protection de nos valeurs fondamentales », a défendu dans un communiqué la vice-ministre chypriote chargée des Affaires européennes et présidente par intérim du Conseil, Marilena Raouna, après avoir souligné que la réforme offre une sécurité juridique et une réglementation harmonisée pour encourager l'innovation et la croissance dans le secteur, tout en opposant son veto aux « deepfakes » sexuels générés ou manipulés par l'IA et au matériel pédopornographique.

L'interdiction s'appliquera aux images qui exposent des « parties intimes » de personnes identifiables, même si, comme l'a admis l'eurodéputé irlandais et négociateur Michael McNamara après l'accord, l'interprétation dépendra du degré d'exposition du contenu généré artificiellement.

En outre, les institutions européennes ont accepté cette réforme pour reporter au 2 décembre de cette année les obligations de transparence pour les matériaux générés artificiellement, tels que les images, vidéos ou audios créés à l'aide de l'IA, qui doivent intégrer des mécanismes permettant aux utilisateurs d'identifier ce type de contenu.

Le cadre révisé reporte également au 2 décembre 2027 une partie des obligations prévues pour les systèmes d'IA à haut risque, tels que ceux utilisés dans des domaines sensibles tels que la santé, l'éducation, la banque, le recrutement de personnel, le contrôle des frontières ou la gestion des infrastructures critiques.

Dans le cas de systèmes intégrés à des produits, tels que des dispositifs médicaux ou des machines industrielles, les nouvelles exigences commenceront à s'appliquer à partir du 2 août 2028.

Initialement, la législation européenne prévoyait l'entrée en vigueur de ces obligations dans un délai plus court, mais les institutions européennes ont accepté de les retarder jusqu'à 16 mois étant donné que toutes les normes techniques et tous les outils nécessaires pour appliquer pleinement la réglementation ne sont pas encore disponibles.

L'accord fait partie du paquet législatif européen pour la simplification numérique « Omnibus VII », avec lequel la Commission européenne cherche à réduire les charges administratives et à faciliter l'application des réglementations communautaires, en particulier pour les petites et moyennes entreprises.

Dans ce contexte, le texte étend certaines des exemptions réglementaires initialement prévues pour les PME aux petites et moyennes entreprises et reporte à août 2027 la date limite fixée aux États membres pour créer des bacs à sable réglementaires nationaux pour les systèmes d'intelligence artificielle.

De même, le pacte introduit des modifications pour éviter que certains produits industriels soient soumis à des exigences doubles alors qu'ils sont déjà soumis à d'autres normes européennes spécifiques.

Cette mesure affectera, entre autres, les dispositifs médicaux, les jouets, les ascenseurs, les machines ou les navires et permettra de limiter une partie des exigences de la loi européenne sur l'IA alors qu'il existe des obligations équivalentes dans la législation sectorielle correspondante.

Les colégislateurs ont également convenu de maintenir l'obligation pour les entreprises d'enregistrer certains systèmes dans la base de données européenne même lorsqu'ils les considèrent comme exemptés de la classification à haut risque.

Le texte rétablit également le critère de « stricte nécessité » pour l'utilisation de catégories particulières de données personnelles utilisées pour détecter et corriger d'éventuels biais dans les systèmes d'intelligence artificielle.

Une autre modification clarifie les pouvoirs de l'Office européen de l'IA pour superviser les modèles à usage général lorsque le modèle et le système ont été développés par le même fournisseur, bien qu'elle maintienne des exceptions dans des domaines tels que le contrôle des frontières, les autorités judiciaires, les forces de sécurité ou les entités financières, où les autorités nationales continueront d'être compétentes.