De l’injonction (paradoxale) au partage

En Australie, pour mieux protéger ses utilisateurs, Facebook teste, en partenariat avec le Children’s eSafety Commissionner, un nouveau système de reconnaissance d’images de « revenge porn ». L’objectif est de reconnaitre les images dès lors que le « vengeur » tente de les mettre en ligne sur le réseau social. Comment reconnaître des images avant même que celles-ci ne soient postées ? Facebook propose aux personnes d’uploader via leur application Messenger l’image ou la vidéo dont ils craignent qu’elle puisse être utilisée contre eux. Celle-ci est alors « contrôlée » par un employé de Facebook, avant de procéder à son « hachage » pour en extraire une empreinte unique calculable et vérifiable qui sera reconnue par le réseau social si la photo en question venait à être mise en ligne. Une fois ce processus effectuée, Facebook demande à la potentielle victime de supprimer elle-même l’image de son fil Messenger. 

Le process n’aura pas manqué de susciter des interrogations, poussant Antigone Davis (Global Head of Safety de FB) à publier un billet de blog pour expliquer la démarche, qu’elle qualifie de « test pilote », et notamment la raison pour laquelle il faisait appel à des vraies personnes pour contrôler les photos. Elle précise que ce test est basé sur le volontariat et doit permettre aux personnes qui se sentent menacés de prévenir les faits.

Sans revenir sur le réel intérêt à protéger les victimes des actes de revenge porn, que ce service de Facebook peut contribuer à neutraliser pour sa plateforme, le processus et la manière dont les personnes sont invitées à se protéger ne manque pas de poser quelques questions. On se retrouve dans le schéma que nous décrivons dans notre cahier IP4 Partage !, dans un modèle où l’injonction au partage se répand partout, tout le temps. L’injonction devient plus paradoxale encore quand il faut partager plus encore, mais pour s’en protéger ; quand ces plateformes pourraient – par le fait d’individus mal intentionnés – se retourner contre vous. 

Cette injonction à toujours plus partager se retrouve dans d’autres projets du réseau social, qui teste depuis le printemps un système de reconnaissance des comportements, pour  distinguer les pulsions suicidaires des utilisateurs. L’alerte serait lancée via l’identification de certains mots ou références, mais aussi par l’analyse des interactions avec d’autres utilisateurs, qui pourraient utiliser des expressions comme « Je peux t’aider », ou « est-ce que tu te sens bien ? ». En cas de situation alarmante, la personne reçoit des liens vers des sites de prévention du suicide et des numéros de téléphones par FB Messenger. Là encore, il s’agirait de les rendre plus transparentes encore et de lire leurs conversations pour mieux les protéger. A nouveau une injonction paradoxale. Facebook annonce que ce système de prévention des suicides ne sera pas déployé en Europe au motif que la législation est plus protectrice des droits des individus.

L’annonce du non-déploiement en Europe pourrait résonner pour des oreilles un peu attentives comme une critique contre un cadre règlementaire protecteur des droits fondamentaux des individus, qui leur garantit de faire respecter leur droit à la protection de leurs données. L’injonction ici porterait sur le partage de soi, pour le bien de la société et pour protéger les personnes contre elles-mêmes, où la plateforme serait la solution (et donc la cause ?) au mal-être. Tout comme on ne peut pas accuser Facebook du mal-être des individus - ne pas confondre le symptôme avec le mal-, il ne s’agit pas non plus de le transformer en seul outil de prévention de ces actes. 

Parce qu’elles cherchent à collecter et exposer toujours plus les individus, les plateformes contribuent à donner à voir de nouveaux problèmes de société, mais la solution doit-elle constituer en une fuite en avant où seul un surplus de données pourrait permettre de régler ces problèmes, une nouvelle injonction paradoxale.