Recours à l’IA pour sécuriser les JO de Paris : “vers une société de surveillance” ?

La vidéosurveillance a été à nouveau discutée en conseil municipal, à Crécy-en-Ponthieu, jeudi 29 juin 2021.
La vidéosurveillance « augmentée »a été adopté à Paris lors des débats au Sénat, mardi 24 janvier 2023. (©Illustration/Archives/actu Toulouse)

C’est un tournant majeur qui pourrait avoir lieu, discrètement. Le Sénat a entamé la discussion du projet de loi relatif aux Jeux olympiques et paralympiques, mardi 24 janvier 2023. Sous les plis de ce texte à l’initiative du gouvernement se cache en réalité un arsenal de mesures sécuritaires en vue de l’organisation des JO de Paris 2024.

Hier, son article 7 a été adopté au Palais du Luxembourg, validant l’expérimentation très polémique de la vidéosurveillance « augmentée » ou algorithmique (VSA). Pour la première fois en France, une intelligence artificielle pourrait analyser en temps réel les images des drones et des caméras de surveillance.

Pour ses partisans, cette technologie devrait donner des gages de sécurité lors de cet événement sous haute tension. Pour ses détracteurs, elle pourrait faire basculer la doctrine de maintien l’ordre dans une « société de surveillance ». 

Une loi en réponse au fiasco du Stade de France ? 

Le traumatisme du Stade de France plane sur les Jeux olympiques. En mai dernier, des violences avaient éclaté en marge de la finale de la Ligue des Champions. L’incapacité des autorités à organiser un événement de grande ampleur avait été largement pointé du doigt. Au moment même où Paris doit accueillir près 13 millions de spectateurs pour les JO.

Agnès Canayer, sénatrice de la Seine-Maritime (LR), et rapporteure du projet de loi olympique le reconnaît d’ailleurs volontiers. Le texte examiné au Parlement doit répondre aux « trous dans la raquette » constaté dans l’organisation de la compétition sportive. Pour ce faire, la loi entend fournir de « nouveaux outils » aux pouvoirs publics. 

Scanner corporel, vidéoprotection, compétence du préfet de police…

Parmi eux, on retrouve pêle-mêle : des scanners corporels, l’extension des pouvoirs du préfet de police de Paris, la vidéosurveillance « augmentée »… Une inflation du dispositif sécuritaire justifiée par les défenseurs du projet en raison « des risques terroristes majeurs » qui pèsent sur cet événement planétaire.

Mais cet argument ne tient pas debout pour une partie de l’opposition, qui voit dans ces Jeux olympiques un « cheval de Troie » pour voter une nouvelle loi de sécurité. « Une partie des dispositions vont bien au-delà de la période des Jeux olympiques », remarque le sénateur Guy Benarroche (EELV).

Vidéos : en ce moment sur Actu

Au cœur de la problématique, l’article 7, qui autorise l’utilisation de la VSA « à titre expérimental » pour toutes manifestations sportives, récréatives ou culturelles, jusqu’au 30 juin 2025. Et même au-delà. « Un rapport sera remis six mois avant la fin de l’expérimentation. Il déterminera s’il y a nécessité ou pas de pérenniser le dispositif », annonce Agnès Canayer. 

Comment fonctionne la vidéosurveillance algorithmique ?

Une perspective qui inquiète au regard de la force de frappe de cette technologie. Concrètement, les images captées par les caméras de surveillance (ou les drones) seront filtrées en continu dans un algorithme. Cette intelligence artificielle signalera automatiquement des événements prédéterminées considérés comme « anormaux » et susceptibles de troubler l’ordre public.

La vidéoprotection intelligente pourra repérer si une foule se dirige dans le sens opposé au chemin pour rejoindre une manifestation sportive, si des personnes courent, sont masquées, ou portent un objet risqué. Elle permettra d’identifier des colis abandonnés.

Agnès CanayerSénatrice et rapporteure du projet de loi relatif aux jeux Olympiques 2024

Une technologie d’une puissance considérable, incomparable aux centres de supervision urbains où ce travail est effectué par le regard (imparfait) d’un effectif humain. Entre-t-on pour autant à l’ère de Big Brother ? Agnès Canayer le promet, il ne s’agit là que d’une « aide à la décision » où « le contrôle humain » sera permanent. Et de rappeler qu’en dernière instance, il revient bien aux forces de l’ordre d’intervenir, ou pas. 

Mais ce qui inquiète le plus les détracteurs de la VSA, c’est peut-être la phase de création de l’algorithme. Pour apprendre à reconnaitre des situations, le logiciel sera « nourri » d’un volume immense de données, de vidéos, d’images. Ensuite, le constructeur – sur demande de la police – associera une règle : situation normale ou anormale. 

Au fond, il s’agit de choix subjectifs et moraux pour définir ce qui est suspect. C’est hyper politique. Si j’ai envie de faire trois fois le tour d’un pâté de maison, j’ai le droit. C’est un outil qui va marquer dans le marbre ce qui avait déjà cours dans les politiques publiques. Les personnes qui vivent dans la rue seront stigmatisées.

Noémie LevainJuriste à la Quadrature du net

« C’est le nœud du sujet, reconnait Agnès Canayer. L’algorithme pourrait aller trop loin sur des critères qui ne sont pas généraux. Des biais attentatoires aux personnes pourraient apparaître ». Face aux risques de dérives, le texte a été amendé en Commission des lois afin que la CNIL [Commission nationale de l’informatique et des libertés, NDLR] soit associée à la création de l’algorithme. Exit également la proposition d’intégrer la reconnaissance faciale dans le dispositif. 

Insuffisant pour la Quadrature du net, association de défense et de promotion des droits et libertés, pour qui la CNIL a depuis longtemps « perdu son rôle de garde-fou ». « Au bout du compte, il faut toujours aller au contentieux. Nous voulons que cette technologie intrinsèquement dangereuse pour les libertés individuelles ne soit pas autorisée », martèle Noémie Levain.

Du côté de la Ville de Paris, cet arbitrage entre sécurité et liberté semble avoir été tranchée en faveur de la VSA. 

Un système qui permet efficacement de détecter les risques mérite d’être regardé avec bienveillance tant qu’il n’est pas attentatoire à la liberté individuelle, La ligne rouge, c’est la reconnaissance faciale. La Ville est catégorique sur ce sujet.

Emmanuel Grégoire, en conférence de presse, mercredi 25 janvier 2023Premier adjoint à la Maire de Paris

Quid de l’efficacité de la vidéosurveillance tout court ? 

Reste que, l’opportunité de la vidéosurveillance algorithmique s’inscrit dans un contexte encore plus large. Car les bénéfices réels de la vidéosurveillance – au sens strict – sont encore douteux, comme le révélait en 2021 une étude inédite du chercheur Guillaume Gormand, commandée par la gendarmerie. 

“Il n’existe aucune étude rigoureuse ayant démontré l’impact favorable de cette technologie notamment du point de vue de la dissuasion de la délinquance. La construction de la politique publique de sécurité met particulièrement en avant cette technologie sans s’appuyer sur des arguments scientifiquement démontrés”

Guillaume GormandDocteur en administration publique et chercheur associé au CERDAP à l’IEP de Grenoble

Contacté par actu Paris, le chercheur estime que la VSA « dispose d’un potentiel d’aide favorable pour un événement d’ampleur comme les Jeux olympiques ». Mais en l’absence d’évaluation préalable, le risque est d’accorder une place trop importante à une « technologie dont l’efficacité est fantasmé et qui, par ailleurs, n’est pas infaillible ».

Cet article vous a été utile ? Sachez que vous pouvez suivre Actu Paris dans l’espace Mon Actu . En un clic, après inscription, vous y retrouverez toute l’actualité de vos villes et marques favorites.