L'émergence de ChatGPT, Midjourney et d'autres applications d'IA ont fortement focalisé l'attention du parlement

Strasbourg (France) (AFP) - Les législateurs du Parlement européen ont franchi jeudi une première étape cruciale vers une réglementation européenne du ChatGPT et d'autres systèmes d'intelligence artificielle que Bruxelles espère mettre en place rapidement.

Les commissions parlementaires sur les libertés civiles et la protection des consommateurs ont voté à une écrasante majorité un texte de position appelant à limiter la manière dont l'IA peut être utilisée en Europe, tout en favorisant l'innovation dans le secteur.

Le texte doit être soumis à l'ensemble du parlement le mois prochain pour adoption avant les négociations avec les États membres de l'UE sur une loi finale.

Les législateurs ont qualifié le vote de jeudi d'"historique" et espéraient qu'il conduirait aux "premières règles au monde sur l'intelligence artificielle".

Leur texte reprend les grandes lignes d'une proposition de la Commission européenne faite il y a deux ans, mais suggère d'ajouter des interdictions sur la surveillance biométrique, la reconnaissance des émotions et les systèmes d'IA de police prédictive.

Il vise à placer les systèmes d'IA génératifs tels que ChatGPT et Midjourney dans une catégorie nécessitant des mesures de transparence spéciales, telles que des notifications aux utilisateurs indiquant que la sortie a été effectuée par une machine et non par un humain.

Le texte du Parlement demande également des critères supplémentaires quant à ce qui constitue un domaine d'application de l'IA "à haut risque", ce qui pourrait réduire la portée de cette désignation.

La liste proposée par la commission couvre l'IA dans les infrastructures critiques, l'éducation, les ressources humaines, l'ordre public et la gestion des migrations.

Mais les députés veulent qu'un seuil supplémentaire soit atteint, exigeant que les menaces pour la sécurité, la santé ou les droits fondamentaux soient également considérées comme étant en jeu.

- Les entreprises perçoivent une menace pour l'innovation -

La CCIA, un groupe de pression de l'industrie européenne représentant les grandes entreprises technologiques, a déclaré que, bien que "le parlement ait apporté des améliorations utiles au texte", il "abandonnait la structure basée sur les risques" de la proposition de la Commission européenne.

"La meilleure façon pour l'UE d'inspirer d'autres juridictions est de s'assurer que la nouvelle réglementation permettra, plutôt qu'elle n'entravera, le développement d'applications d'IA utiles", a déclaré Boniface de Champris, responsable des politiques européennes de la CCIA.

L'Organisation européenne des consommateurs a cependant approuvé l'introduction par le Parlement de "protections renforcées pour les consommateurs" dans son texte par rapport à celui de la Commission.

"Bien que l'IA puisse améliorer nos vies de nombreuses façons, il existe des inquiétudes fondées sur le fait que les systèmes d'IA peuvent également nuire aux consommateurs. Les gens doivent être correctement protégés contre les risques de ces nouvelles technologies », a déclaré Ursula Pachl, directrice adjointe de l'organisation.

Alors que l'UE travaille à la législation depuis un certain temps, le potentiel - et les dangers potentiels - de l'IA n'ont explosé dans la conscience publique qu'au cours des derniers mois, depuis que ChatGPT a fait irruption sur la scène à la fin de l'année dernière.

L'IA de génération d'images, telle que Midjourney et DALL-E, a depuis déclenché une ruée en ligne pour créer des sosies de Van Gogh ou un pape dans une doudoune haute couture, tandis que les sites de musique d'IA ont impressionné par leur capacité à produire un chant de type humain.

"Il suffit d'allumer la télé depuis deux, trois mois, presque tous les jours, pour voir à quel point ce dossier devient important pour les citoyens", a déclaré Drago Tudorache, l'un des principaux députés européens sur le texte du Parlement européen.

Les décideurs politiques en Europe et dans d'autres régions du monde s'inquiètent de plus en plus de la façon dont la technologie peut être utilisée à des fins frauduleuses, pour tromper les gens et influencer l'opinion publique et les élections.

Cela a incité Elon Musk et certains chercheurs à demander un moratoire jusqu'à ce que les cadres juridiques puissent rattraper leur retard.

Dans la proposition de la commission, les entreprises d'IA seraient tenues de maintenir un contrôle humain sur leurs algorithmes, de fournir une documentation technique et de disposer d'un système de gestion des risques pour les applications «à haut risque».

Chaque État membre de l'UE aurait une autorité de surveillance pour s'assurer que les règles sont respectées.

Les députés souhaitent également que les entreprises d'intelligence artificielle mettent en place des protections contre les contenus illégaux et les œuvres protégées par le droit d'auteur qui pourraient être utilisées pour former leurs algorithmes.

Ils veulent également empêcher le scraping de photos postées sur internet pour des algorithmes d'entraînement à moins d'obtenir l'autorisation des personnes concernées.