L'Assemblée nationale française a approuvé jeudi l'utilisation de la vidéosurveillance par intelligence artificielle (IA) lors des Jeux olympiques de Paris 2024, ignorant les avertissements des groupes de défense des droits civiques selon lesquels cette technologie constitue une menace pour les libertés civiles.

Selon le gouvernement, la vidéosurveillance algorithmique permet de détecter des « événements prédéterminés », des comportements anormaux et des foules, contribuant ainsi à assurer la sécurité des millions de touristes qui devraient inonder la capitale française l'été prochain.

Grâce à des décisions préliminaires positives du Sénat et de l'Assemblée, les plus grands obstacles législatifs ont été surmontés, même si un recours devant la plus haute Cour constitutionnelle était possible.

Si elle était formellement adoptée, la France serait le premier pays de l’Union européenne à légaliser la surveillance basée sur l’IA. Cela créerait un précédent inquiétant en matière de surveillance, a déclaré la semaine dernière un groupe de plusieurs dizaines de législateurs européens.

(Pour les principales actualités technologiques du jour, inscrivez-vous à notre newsletter technique, Today's Cache)

Stéphane Mazars, député du parti Renaissance du président Emmanuel Macron, a justifié cette technologie en déclarant : « La France doit se lever devant le monde entier pour relever le plus grand défi sécuritaire de son histoire ».

Le projet d’utiliser la surveillance par l’IA se heurte à une forte opposition de la part des groupes de défense des droits humains tels qu’Amnesty International et des groupes de défense des droits numériques. Ils soutiennent que la technologie constitue une menace pour les libertés civiles et trace une ligne dangereuse.

Le texte a été approuvé par 59 voix contre 17 dans une chambre de 577 sièges.

Le débat en France intervient alors que l’Union européenne débat de sa propre loi sur l’IA, une loi européenne historique réglementant l’utilisation de l’intelligence artificielle en Europe et en préparation depuis plus de deux ans.

Outre l’utilisation de l’IA par les entreprises, la législation de l’UE abordera également l’utilisation de l’IA dans le secteur public et les forces de l’ordre.

La CNIL soutient le projet de loi du gouvernement français à condition qu'aucune donnée biométrique ne soit traitée. Les partisans du projet de loi affirment que c'est le cas, mais les experts en matière de protection de la vie privée sont sceptiques.

« Vous pouvez faire deux choses : la reconnaissance d'objets ou l'analyse du comportement humain – cette dernière traite des données biométriques », a déclaré Daniel Leufer, conseiller politique à l'organisation de défense des droits numériques Access Now, qui milite pour l'interdiction de la collecte de données biométriques dans les failles publiques de l'UE. loi.

Le député du parti au pouvoir, Sacha Houlie, président de la commission des affaires juridiques du Parlement, a déclaré à la Chambre des communes qu'AI aurait pu contribuer à empêcher l'attaque de Nice en 2016 en traitant comme suspects les mouvements d'un camion circulant au milieu d'une foule identifiée. Cette technologie aurait également pu contribuer à éviter un chaos massif lors de la finale de la Ligue des champions à Paris l'année dernière, a-t-il déclaré.

Le Sénat et l'Assemblée ont désormais approuvé le texte de la loi. Une commission mixte des chambres cherchera un compromis sur les éventuelles divergences dans le texte sur lequel elles se sont accordées au cours du débat.

Leufer d'Access Now a remis en question l'utilité de l'IA pour détecter les attaquants potentiels, affirmant que la formation des algorithmes pour les incidents rares est complexe.

« L'IA n'est pas bonne dans ce domaine car il faut donner à une machine de nombreux exemples au niveau technique », a-t-il déclaré.