Les opposants disent que les caméras alimentées par l'IA menaceraient les libertés civiles

Paris (AFP) - Le gouvernement français prévoit de tester des caméras de surveillance dotées d'une intelligence artificielle lors des Jeux olympiques de Paris en 2024.

Alors que le gouvernement affirme que de tels systèmes sont nécessaires pour gérer des foules de plusieurs millions de personnes et repérer les dangers potentiels, les critiques voient la loi – adoptée jeudi – comme un cadeau à l'industrie française au détriment des libertés civiles vitales.

La semaine dernière, environ 40 membres du Parlement européen, pour la plupart de gauche, ont averti dans une lettre ouverte aux législateurs français que le plan "crée un précédent de surveillance jamais vu auparavant en Europe", a rapporté le quotidien Le Monde.

Les débats ont débuté lundi soir à l'Assemblée nationale, la chambre basse du Parlement français, et la décision - un article d'un projet de loi de grande envergure sur les Jeux olympiques - a été approuvée à une écrasante majorité malgré la forte opposition des députés de gauche.

Même avant les débats, les députés avaient déposé 770 amendements au projet de loi sur la sécurité des Jeux olympiques, dont beaucoup visaient l'article sept.

Cette section prévoit que les vidéos enregistrées par les systèmes de surveillance existants ou nouveaux – y compris les caméras montées sur drone – soient «traitées par des algorithmes».

Un logiciel d'intelligence artificielle permettrait de "détecter en temps réel des événements prédéterminés susceptibles de poser ou de révéler un risque" d'"actes terroristes ou d'atteintes graves à la sécurité", comme des mouvements de foule inhabituels ou des sacs abandonnés.

Les systèmes signaleraient alors les événements à la police ou à d'autres services de sécurité, qui pourraient décider d'une réponse.

- Biométrique ou pas ? -

Le gouvernement tient à rassurer sur le fait que les tests de caméras intelligentes ne traiteraient pas de données biométriques et surtout ne recourraient pas à la reconnaissance faciale, des technologies que le public français se méfie d'appliquer trop largement.

"L'expérimentation est très précisément limitée dans le temps... (et) l'algorithme ne se substitue pas au jugement humain, qui reste décisif", a déclaré la ministre des Sports Amélie Oudéa-Castera aux députés.

Le ministère de l'Intérieur met en avant une enquête de février pour le quotidien Figaro suggérant que de larges majorités reviendraient utiliser les caméras dans les espaces publics et notamment dans les stades.

Mais les opposants disent que les plans dépassent les limites de la constitution française et du droit européen.

Le groupe de défense des droits numériques La Quadrature du Net (QDN) a écrit dans un rapport envoyé aux législateurs que les systèmes traiteraient en fait des données « biométriques » sensibles selon une définition large de 2022 du médiateur français des droits.

En tant que données biométriques, ces caractéristiques seraient protégées par le puissant règlement général sur la protection des données (RGPD) de l'Union européenne, affirme QDN.

Un porte-parole du ministère de l'Intérieur a rejeté cette conclusion, insistant sur le fait que le traitement prévu n'utilisait aucune donnée biométrique ou technique de reconnaissance faciale.

- 'État d'urgence' -

La période de test de la caméra doit se dérouler jusqu'à la fin de 2024 - bien après la fin des jeux et couvrir d'autres événements majeurs, y compris la Coupe du monde de rugby plus tard cette année.

Le ministère de l'Intérieur a déclaré qu'il "devrait couvrir un nombre important de grands événements" pour "l'évaluation la plus complète et la plus pertinente".

Mais la militante du QDN, Naomi Levain, a déclaré à l'AFP : "C'est classique que les Jeux olympiques soient utilisés pour faire passer des choses qui ne passeraient pas en temps normal."

"C'est compréhensible qu'il y ait des mesures exceptionnelles pour un événement exceptionnel, mais on va au-delà d'un texte visant à sécuriser les JO", a déclaré lundi à la chambre le député socialiste Roger Vicot.

Elisa Martin, députée du parti d'opposition d'extrême gauche La France insoumise (LFI), a déclaré à l'AFP qu'il ne s'agissait que de la dernière d'une série de pouvoirs de sécurité supplémentaires introduits sous le président Emmanuel Macron depuis 2017.

"La façon dont cette loi est pensée, c'est comme si nous vivions dans un état d'urgence permanent", a-t-elle déclaré.

- 'Favorise l'industrie' -

Levain de QDN a déclaré que "beaucoup de leaders sur ce marché sont des entreprises françaises", qualifiant les dispositions de la loi de "faveur à l'industrie".

La taille du marché de la vidéosurveillance rien qu'en France a été estimée à 1,7 milliard d'euros (1,8 milliard de dollars) dans un article de 2022 publié par l'organisme industriel AN2V.

La loi fera des Jeux olympiques de 2024 "une vitrine et un laboratoire pour la sécurité", offrant aux entreprises l'occasion de tester des systèmes et de collecter des données de formation pour leurs algorithmes, a déclaré Levain.

Certaines villes de France, comme le port méditerranéen de Marseille, utilisent déjà la surveillance « augmentée » dans ce qui est actuellement une zone grise légale.

Ces données sont nécessaires pour entraîner les programmes informatiques sur les types de comportement à signaler comme suspects, en apprenant à reconnaître les modèles dans les images en mouvement - tout comme les IA textuelles telles que ChatGPT sont formées sur de grands corps d'écriture avant de pouvoir générer leur propre sortie écrite.

Mais les opposants disent qu'il y a peu ou pas de preuves que la surveillance augmentée - ou même les systèmes de vidéosurveillance plus traditionnels - peuvent prévenir les crimes ou autres incidents autour de grands événements sportifs et culturels.

Les caméras intelligentes "n'auraient rien changé au Stade de France" l'année dernière, lorsque d'énormes foules de supporters de Liverpool ont été entassées dans de minuscules espaces alors qu'ils attendaient d'entrer en finale de la Ligue des champions, a déclaré Levain.

"C'était une mauvaise gestion humaine, il y a un savoir-faire pour gérer une foule, des calculs à faire pour placer des barrières et diriger des flux… aucune caméra ne peut faire ça", a-t-elle ajouté.