Elections : quelles influences de l’IA sur notre vote ?

Six ans après les révélations du scandale Cambridge Analytica dénonçant entre autres le rôle de Facebook dans le référendum ayant conduit au Brexit, l’influence des réseaux sociaux et des moteurs de recherche sur les processus électoraux suscite de nouvelles interrogations. La démocratisation des outils d’IA générative et leur intégration grandissante dans les moteurs de recherche et les réseaux sociaux pourrait ouvrir la porte à une phase de désinformation d’une ampleur inédite tant les productions de ces outils paraissent aujourd’hui réalistes. Les systèmes de recommandation et de ciblage, dont les risques sont bien identifiés aujourd’hui mais encore mal maîtrisés, pourraient servir de tremplin à ces productions et ainsi propager hypertrucages et hallucinations grâce au profilage des utilisateurs et à l’exploitation de leurs données personnelles.

Alors qu’un quart de la population mondiale devrait se rendre aux urnes en 2024, les législateurs de certains Etats semble se saisir du sujet à bras-le-corps. En Europe, le règlement relatif à un marché unique des services numériques (Digital Services Act), surnommé RSN, déjà en application, contient des règles relatives aux systèmes de recommandation et au ciblage publicitaire, ainsi que des règles relatives à l’évaluation et l’atténuation des risques systémiques pour les processus électoraux pouvant être causés par les services des très grandes plateformes et très grands moteurs de recherche. En vue des élections européennes de juin 2024, la Commission européenne a ainsi publié ses lignes directrices pour les très grandes plateformes et très grands moteurs de recherche sur l’atténuation des risques systémiques pour les processus électoraux en application du RSN. Ces lignes directrices tiennent compte par anticipation de certaines des règles prévues par le règlement relatif à la transparence et au ciblage de la publicité à caractère politique, qui entrera pleinement en application à l’automne 2025, ainsi que par le règlement établissant des règles harmonisées pour l’intelligence artificielle, ou « règlement IA » (AI Act), qui vise particulièrement l’IA générative et les systèmes visant à influencer les résultats d’une élection. Au niveau national cette fois-ci, la loi du 21 mai 2024 visant à sécuriser et à réguler l'espace numérique (dite loi SREN) prévoit elle aussi des dispositions relatives à la publication de contenus génératifs. Enfin, une  loi sur les ingérences étrangères en France,  pourrait venir compléter ce tableau en prévoyant notamment l’utilisation de l’IA pour la détection de tentatives d’ingérences.

Bien que cet arsenal puisse sembler suffisant pour anticiper et contrôler les risques liés à l’utilisation de l’IA dans un contexte électoral, son application en pratique questionne, comme en témoignent les enquêtes initiées par la Commission Européenne à l’encontre de Meta et Microsoft. Si le respect des textes par ces éditeurs de services est une chose que les enquêtes de la Commission permettra de vérifier, l’ambition et la faisabilité pratique des mesures prévues en est une autre. La cartographie des risques, obligations légales et solutions techniques présentée dans ces articles a pour ambition d'apporter des réponses à cette seconde interrogation.

En explorant trois utilisations spécifiques de l’IA, le Linc vous propose d’explorer les potentiels impacts de l’intelligence artificielle sur les processus électoraux, à commencer par l’utilisation de l’IA générative.

• Le discours bien réel des contenus artificiels,
• Des annonceurs aux utilisateurs : un cheminement algorithmique,
• L’autocontrôle, un nouvel apprentissage pour l’IA.

Si ces utilisations de l’IA sont principalement explorées ici sous l’angle des risques qu’ils comportent, les utilisations pouvant au contraire bénéficier aux processus démocratiques ont été explorées dans le cahier IP n°7 « Civic tech, données et Demos ». Si le constat d’un désenchantement depuis un idéal d’internet comme espace public revitalisé y est partagé, des remèdes liés au déploiement de civic tech, à internet comme lieu de contre-pouvoir et de mobilisation y sont également mis en avant.