[Policy Brief - Incubateur de politiques publiques] Caméras augmentées et droits des personnes : quelles solutions envisager ?
De janvier à mai 2024, un groupe d’étudiants a relevé un défi lancé par le LINC à l’incubateur de politiques publiques de Sciences Po : comment, pour des technologies invisibles et sans contact, produire les moyens du respect des droits des personnes (droit à l’information, droit à l’opposition, droit d’accès, etc.) ?
Cet article a été rédigé par Sara Balden, Roméo Bernhart, Thomas Frachon, Raja Madani et Victor Magaud, étudiants master à l’École d’affaires publiques de Sciences Po Paris, dans le cadre d’un appel à défi de l’Incubateur de politiques publiques de Sciences Po Paris.
Les points de vue exprimés ainsi que les propositions formulées dans cette publication ne reflètent pas nécessairement la position de la CNIL.
Dans le cadre de l’incubateur de politiques publiques de Sciences Po, nous avons formé un groupe de travail pour relever le défi lancé par le Laboratoire d’Innovation Numérique de la CNIL (LINC) : « Comment, pour des technologies invisibles et sans contact, produire les moyens du respect des droits des personnes (droit à l’information, droit à l’opposition, droit d’accès, etc.) ? »
Nous avons fait le choix de concentrer notre travail sur la vidéosurveillance algorithmique (VSA) et plus précisément son expérimentation autorisée par la loi du 19 mai 2023 relative aux Jeux olympiques et paralympiques de 2024, dite “ loi JO ”.
Son déploiement dans l’espace public comporte des risques pour les données personnelles des citoyens. Si la réglementation européenne assure aux citoyens de l’UE une protection théorique, le caractère “invisible et sans contact” de la VSA complexifie sa mise en application. En effet, si l’on prend l’exemple du droit d’opposition au traitement de ses données, comment l’exercer face à la VSA ? Mettre en place un itinéraire alternatif ? Définir un signe à faire à la caméra ? Se placer dans une zone délimitée par un marquage au sol pendant quelques secondes ? Autant de solutions soit trop contraignantes pour les usagers, soit incompatibles avec le fonctionnement et les objectifs des caméras de vidéosurveillance algorithmique.
Ce constat qui donne tout son sens au défi lancé par la CNIL à l’incubateur de politiques publiques de Sciences Po, est au coeur de notre projet et nous a poussé à répondre à la problématique suivante : “Comment outiller l’usager pour le rendre aussi autonome que possible dans l’exercice de ses droits d’information, d‘opposition, d‘effacement et d‘accès avec pour point de départ l’expérimentation des caméras augmentées dans le cadre des Jeux Olympiques 2024 ?”
Ce policy brief vise donc à présenter notre démarche scientifique et les solutions de politiques publiques qui en résultent afin d’informer les usagers, comme les professionnels du secteur mais aussi pour offrir des pistes de réflexion au législateur et au pouvoir exécutif.
1. Méthodologie
1.1 Recherche documentaire
Afin de nous familiariser avec les enjeux du sujet sur lequel nous réfléchissions, nous avons entrepris un travail important de documentation. Notre travail a commencé par une semaine d’immersion à la CNIL où les questions liées à ce sujet nous ont été présentées et où nous avons pu rencontrer des acteurs de cet écosystème, comme des représentants de municipalités ou de cabinets de conseil sensibilisés à la question, et des entreprises qui mettent en place des solutions, tels que la Sûreté Ferroviaire SNCF et Civiteo. Nous avons par la suite poursuivi le travail en autonomie. Les “technologies sans contact” ont des implications juridiques, économiques, sécuritaires, philosophiques et politiques. Il était alors important de s’imprégner des travaux de spécialistes universitaires de la question, notamment Myrtille Picaud et son concept de “safe cities” qui explique la construction du marché de la sécurité urbaine et ses impacts sur la division spatiale du contrôle dans les villes. Nombreuses sont les institutions à avoir travaillé sur la question de la sécurité et des nouvelles technologies. La CNIL en premier lieu dont la documentation nous a beaucoup servi, ainsi que les cahiers IP du LINC. Le rapport d’information de l’Assemblée nationale des députés M. Gosselin et M. Latombe sur « les enjeux de l’utilisation d’images de sécurité dans le domaine public dans une finalité de lutte contre l’insécurité » a permis de dresser les enjeux de ces technologies et d’avoir de nombreux échanges d’experts sur la question. Continuer l’énumération serait fastidieux mais des rapports de la Cour des Comptes, d’autres députés ou de villes ayant mis en place des technologies “intelligentes” ont été étudiés. Les écrits d’associations comme La Quadrature du Net ou Amnesty International, ainsi que des entreprises du secteur, ont été étudiés afin de ne pas mettre de côté les enjeux sociopolitiques. Enfin, nous avons également consulté les documentations imprégnées de fiction, telles que les écrits d’Alain Damasio.
1.2 Entretiens avec des spécialistes
Les solutions présentées dans ce Policy brief sont le fruit d'échanges approfondis avec des spécialistes issus de divers horizons, incluant des associations de protection des droits des individus, des délégués à la protection des données (DPO), des universitaires, des employés de la CNIL, des agents chargés de la sûreté ainsi que des représentants de collectivités territoriales. Ces entretiens, menés de manière semi-dirigée, ont été guidés par une grille de questions élaborée de sorte à couvrir un large éventail de thématiques en lien avec la problématique du projet. Cette méthodologie nous a permis de recueillir des perspectives diversifiées et d'élaborer des recommandations fondées sur des expertises et des intérêts variés.
1.3 Entretiens avec des usagers
En complément des avis d'experts, nous avons directement consulté les usagers, principaux concernés par cette expérimentation et destinataires des solutions que nous proposons. Au cours de nos différentes étapes de recherche, nous avons échangé avec une soixantaine d’usagers au total, dans les lieux de déploiement de cette technologie : les transports publics, les sites accueillant les manifestations sportives, ainsi que leurs environs.
Dans un premier temps, afin de cerner les enjeux que représentent la VSA pour les usagers, nous avons réalisé une série d'entretiens au sein des halls de la gare de Lyon à Paris. Nous les avons interrogés sur leur connaissance de cette technologie, leurs droits associés, et leur opinion sur son déploiement. Il est apparu que la plupart des usagers n'avaient pas connaissance de l'expérimentation, ni de leurs droits en matière de données personnelles. Après de plus amples explications, cette technologie leur inspirait un plus grand sentiment de sécurité, mais ils exprimaient néanmoins une forte volonté d'en être davantage informés.
Dans un second temps, pour concevoir des solutions efficaces, nous avons mené une seconde série d'entretiens aux abords de l'Accor Arena de Bercy qui accueillait la première expérimentation de VSA lors du concert de Depeche Mode. Bien que des affiches informatives au format A4 aient été disposées tout au long de la file d'entrée, la plupart des usagers interrogés ne les avaient pas remarquées, ou, s'ils l'avaient fait, n'avaient pas manifesté d'intérêt pour les lire. Nous avons également observé une confusion fréquente entre la caméra augmentée et la caméra biométrique de reconnaissance faciale, ainsi qu'une difficulté à identifier les enjeux que ces technologies représentent pour les libertés publiques.
Enfin, pour confronter nos solutions une fois conceptualisées à l'avis des usagers auxquelles elles sont destinées, nous les avons présentées aux personnes fréquentant le hall de la gare du Nord à Paris, recueillant ainsi leurs opinions et réactions.
2. Solutions
Pour relever le défi qui nous a été posé et répondre à notre problématique, nous avons adopté une approche centrée sur le design des politiques publiques. Depuis la phase d’immersion jusqu’à celle de conception, en passant par l’étape d’idéation, nous avons été accompagnés par un designer, ce qui nous a permis de donner progressivement forme à nos solutions.
À chaque étape, les rencontres avec des usagers ainsi que des experts, et l’approfondissement de notre recherche documentaire nous a permis d’alimenter et d’orienter notre réflexion. Cette démarche itérative a révélé deux besoins majeurs : l'accès à l'information et l'accessibilité aux droits, autour desquels nous avons articulé le design de nos solutions que nous vous présenterons ci-dessous.
2.1 Solutions d’information
Quatre solutions sont dédiées au droit d’information. Nos échanges avec les usagers ont révélé le manque de connaissance vis-à-vis de leurs droits en matière de protection des données personnelles, ainsi que des enjeux liés aux nouvelles technologies dont le fonctionnement est également globalement méconnu. Le droit d’information est un droit clé, car il conditionne l’exercice d’autres droits essentiels tels que le droit d’accès ou d’opposition, et a donc constitué l'axe principal de nos efforts de conception.
- La vidéo explicative
Ayant constaté une difficulté de compréhension du fonctionnement de la VSA chez les usagers, nous avons conçu une vidéo explicative avec des illustrations minimalistes, présentant différents cas d'utilisation de l'algorithme, notamment l'alerte en cas de détection de colis abandonnés, de mouvements de foule ou encore de départ de feu, tout en précisant que la VSA ne permet pas la reconnaissance biométrique. Cette courte vidéo, de format vertical, a été conçue pour un déploiement sur les écrans présents dans les transports publics, s'adaptant ainsi au caractère transitoire de ces espaces. (vidéo complète - ou par clic sur l’image)
- Les affiches informatives
Ayant constaté à l’Accor Arena de Bercy que les usagers ne remarquaient pas les affiches mises à leur disposition, nous insistons sur l’importance de dépasser le format A4. Il nous semble préférable de favoriser des affiches plus grandes lorsque c’est possible. Le design épuré et coloré présente les informations essentielles : définition de la VSA, dates et lieux de son utilisation, droits des individus et un QR code vers notre plateforme de mise en relation MesDonnéesPersos (explicitée ci-dessous). De plus, l'intégration d’un logo à l’instar de la vidéosurveillance britannique, dite Closed Circuit Television (CCTV), répété sur différents dispositifs, contribue à marquer les esprits pour que les individus puissent directement l’associer avec la VSA.
- Les ballons signalétiques
L’exercice du droit d’opposition face à la VSA étant en pratique limité au fait de se détourner des espaces qui l’utilisent pendant l’expérimentation, nous proposons également d’introduire de grands ballons signalétiques qui se trouveraient dans les espaces de VSA. Ces ballons qui s’intègrent naturellement dans le cadre évènementiel des JO permettent d’assurer une visibilité à distance des zones de VSA et garantissent que les usagers puissent faire le choix informé d’y entrer ou non avec une hauteur maximale de 10m et un diamètre de 4m.
- Le SMS
La dernière solution concernant le droit d’information des usagers est le SMS. Celui-ci utilise la technologie FR-ALERT, notifie l’usager de son entrée dans un lieu qui utilise la VSA et redirige vers le site MesDonnéesPersos. Le geofencing, qui permet de délimiter un espace géographique virtuellement, est utilisé pour le faire fonctionner sur les sites expérimentés et envoyer un message aux personnes entrant sur les lieux. Cette technologie permet d’informer tous les usagers de la technologie pour leur laisser le choix de l’opposition ou non. Cependant, la compétence est réglementaire pour cette technologie, par l’article L. 33-1 du Code des postes et des communications électroniques, et son utilisation nécessite alors une autorisation spécifique.
2.2 Solution d’accès
Les entretiens menés avec les DPO de différentes communes ont mis en lumière la complexité des demandes d’accès et d’effacement, tant pour les usagers que pour les DPO eux-mêmes. L'absence d'une procédure standardisée et la proportion élevée de demandes irrecevables rendent ces démarches fastidieuses. Dans cette optique, il apparaît crucial de doter les usagers d'outils efficaces pour exercer leurs droits tout en minimisant les risques d’utilisation abusive. C’est pourquoi nous proposons une solution structurée visant à simplifier et encadrer l’accès aux données.
- La plateforme MesDonnéesPersos.fr
MesDonnéesPersos est un site internet qui a pour objectif d’uniformiser la procédure d’exercice des droits en matière de données personnelles au niveau national et de faciliter la communication entre les citoyens et les Délégués à la Protection des Données, chargés de répondre aux demandes des usagers au sujet de leurs données personnelles. Ce site permet à chaque citoyen présent dans une zone concernée par l’expérimentation de caméras augmentées d'effectuer, s’il le souhaite, une demande rapide après avoir été informé des droits dont il dispose. Une fois la demande effectuée, le DPO de la structure concernée reçoit une notification et dispose d’un délai d’un mois pour la traiter. Dans le cas où ce délai n’est pas respecté, la CNIL reçoit à son tour une notification et peut relancer le DPO afin de l’inviter à traiter la demande de l’usager. Le site MesDonnéesPersos a été imaginé sur le modèle du site SignalConso mis en place par le gouvernement.
D’une part, l’idée derrière MesDonnéesPersos.fr est de mettre en place une plateforme sécurisée visant à faciliter l’accès de l’usager au DPO par une procédure uniformisée. D’autre part, une autre caractéristique du site qui découle de nos entretiens qualitatifs est sa dimension pédagogique pour améliorer la compréhension des usagers à propos de leurs droits et éviter les demandes abusives. Développer une solution de politique publique comme MesDonnéesPersos, ce n’est pas rechercher à augmenter la fréquence de l’exercice du droit d’accès mais plutôt d’assurer au citoyen qu’il aura les moyens de le faire valoir le jour où il en aura besoin, car le droit n’existe que dans la pratique et lorsque l’on parle de respect des droits des personnes, on entend respect de l’exercice de leurs droits.
Conclusion
Nous avons conclu nos travaux de recherche par une série d'entretiens avec une dizaine d'usagers dans le hall de la gare du Nord le 31 juillet 2024, afin de recueillir leurs avis sur les solutions conceptualisées. L'une des propositions les plus appréciées fut le ballon, plébiscité pour son efficacité à informer tout en couvrant un large périmètre; les affiches ont été appréciées pour leur clarté et leur pédagogie, contrastant avec celles actuellement en gare, jugées trop discrètes. En revanche, la solution du SMS a reçu un accueil mitigé, jugée trop intrusive, surtout à la suite de l’expérimentation d’alertes SMS du Ministère de l’Intérieur lors des Jeux Olympiques en mai dernier. Nous envisageons de réaliser dans les semaines à venir une série finale d’entretiens avec des usagers et des spécialistes afin de challenger de nouveau nos solutions et d’échanger sur la faisabilité concrète de leur mise en application.