[IP6] Relations individus et services : "Je t'aime, moi non plus"

La course à l'attention conduit-elle à la manipulation des utilisateurs ?

Popularité reine et temps de cerveau disponible

Le numérique a ceci de commun avec les médias de masse que son modèle économique dominant est essentiellement publicitaire. Retenir l’attention des personnes afin de leur cibler des publicités est l’enjeu commercial central des acteurs majeurs du numérique, et en particulier des grandes plateformes opérant sur des marchés bifaces, dans lesquels les consommateurs sont moins clients que produits.

Patrick Le Lay, alors PDG de TF1, définissait ainsi son métier en 2004 : « ce que nous vendons à Coca-Cola, c’est du temps de cerveau disponible ». Nathan Jurgenson, sociologue qui travaille entre autres pour Snap (maison mère de Snapchat), rappelle que « le péché originel a été de lier, à la naissance des médias de masse, le profit à la quantification de l’attention », et que ce péché préexiste largement au web et à sa mesure permanente de l’attention. La première dérive d’un tel mécanisme économique attentionnel repose selon lui sur l’hypothèse « que les chiffres mesurent le comportement : quelqu’un dit quelque chose, si c’est intéressant, les chiffres le montreront, et inversement. […] Les gens commencent à tenter d’influencer ces chiffres, la mesure passe alors d’un moyen à une fin. Que ce soit sur Twitter, sur Instagram avec les coeurs, ou pour le nombre de clics sur une page. […] Les métriques deviennent la conversation. La popularité est ce qui est intéressant ». L’économie de l’attention est dès lors devenue inséparable de l’économie des données comme matière première de tous les indicateurs de succès. Les conséquences sur les individus sont dès lors très différentes du temps de la télévision-reine. Là où les médias traditionnels se basaient sur des échantillons parcellaires (par exemple les fameux boitiers audimat de Médiamétrie), les services numériques actuels et les médias en ligne promettent à leurs annonceurs des segmentations marketing toujours plus fines, basées sur la collecte et l’analyse en temps réel des traces d’activité des individus.

Parce que ces techniques sont combinées à une recherche constante de captation de l’attention, les plateformes sont incitées à agir sur leurs mécanismes psychologiques afin d’en tirer profit.

Explorer l’économie de l’attention au prisme des données revient donc à s’interroger sur la conséquence de cette course à la captation de l’attention. Les créateurs de services n’en présentent que les effets positifs : le consommateur-roi serait in fine quasiment récompensé pour la consultation des contenus, ceux-ci devant être toujours plus intéressants pour obtenir sa validation. Les publicités auxquelles il est exposé seraient si pertinentes qu’elles correspondraient à des services rendus et non à une gêne.

Cette analyse fait pourtant fi de ce que nous apprennent l’économie comportementale et l’analyse des stratégies et pratiques des acteurs économiques. Les plateformes ne cherchent pas uniquement à capter l’attention, mais aussi parfois, par ce biais, à la détourner du modèle économique sous-jacent... Comme le rappelle le sociologue Dominique Boullier, « le marketing sait combien gagner un client est coûteux et combien il est important, dès lors, de garder ceux que l’on ‘tient’ déjà. Pour cela, il convient de lutter contre le zapping de l’attention, contre cette infidélité permanente qu’encourage la politique de l’alerte et que les mêmes services marketing et les mêmes médias mettent en oeuvre pour attaquer la clientèle des concurrents. » Il en tire la conclusion suivante : « tout l’enjeu de cette lutte pour capter le temps de cerveau disponible consiste à réduire à l’extrême les hésitations et les arbitrages conscients, pour créer une forme de naturalité qui ne pose pas de problème, qui semblera très économique sur le plan cognitif. » La captation de l’attention devient la forme ultime de la fidélisation, celle qui protégera le client des agressions par les capteurs d’attention concurrents dans une bulle immunitaire.

Il ne s’agit donc pas seulement de capter innocemment l’attention en étant le meilleur et en fournissant le contenu le plus intéressant ou utile, mais bien d’une compétition acharnée pour le contrôle de l’attention et de ses mécanismes à la fois économiques, sociaux et cognitifs. Les méthodes utilisées par les concepteurs, à savoir le nudge, les dark patterns ou les design trompeurs, que nous présentons dans la partie suivante, n’agissent pas seulement sur l’attention des individus mais aussi sur leurs comportements et leur libre-arbitre. Ces effets ont un lien direct avec la protection des droits des individus et celle de leurs données personnelles, puisqu’ils peuvent être amenés à partager toujours plus sans en avoir nécessairement conscience.

Les biais cognitifs au centre de toutes les attentions

L’exploitation de l’ensemble des biais cognitifs, ces failles que connaitraient notre rationalité et qui entraveraient notre libre capacité de décision, figure parmi les leviers fondamentaux de la course à la captation de l’attention des internautes. Des travaux variés dont ceux des psychologues Daniel Kahneman et Amos Tversky dans les années 1970 remettent en question le modèle développé dans les années 1920 par Edward Bernays de l’homo oeconomicus, cet individu agissant de façon parfaitement rationnelle en fonction de ses intérêts et objectifs, et sur lequel était basée la théorie économique classique. À partir de diverses expériences, ils montrent que nos perceptions et nos comportements sont largement orientés par notre environnement physique, social et cognitif, et qu’en conséquence, nous prenons la plupart du temps des décisions d’apparence irrationnelle. Les biais cognitifs, ces structures mentales qui limiteraient notre rationalité, ont par la suite été identifiés dans de nombreux domaines.
Dans l’univers numérique, les recherches ont conduit à questionner la nature libre et éclairée des choix effectués par les individus, notamment en termes de partage des données personnelles. Pour beaucoup, à l’instar d’Alessandro Acquisti, nos biais cognitifs seraient l’explication au célèbre paradoxe de la vie privée, selon lequel nous rendrions disponibles d’énormes quantités d’informations personnelles en ligne tout en nous inquiétant des conséquences de ce partage. Nous déciderions donc de partager des données personnelles sans prendre l’ensemble des éléments de contexte en compte et sans avoir entièrement conscience des implications de cette démarche.

Lorsque l’on s’intéresse à la capacité d’action et au libre-arbitre de l’individu, l’illusion de contrôle est un biais cognitif aux effets particulièrement puissants. De nombreux travaux ont isolé cette tendance des individus à se saisir des éléments qui leur donnent une impression de contrôler un résultat qui pourtant ne vient pas d’eux. Ainsi, une étude célèbre a montré qu’il était nettement plus aisé d’obtenir le consentement au don des individus en ajoutant la phrase « mais vous êtes libres d’accepter ou de refuser ». Selon les chercheurs à l’origine de ces travaux (en particulier Nicolas Guéguen et Alexandre Pascual), la simple évocation de la liberté suffirait à désarmer le réflexe de méfiance à toute menace à notre liberté (la réactance, selon le terme utilisé en psychologie).

Comment les services numériques nous hameçonnent-ils ?

L’arsenalisation de nos habitudes

Certains experts n’hésitent pas à vanter la capacité du numérique à transformer les habitudes en arme, selon l’expression de Nir Eyal, auteur de Hooked : how do successful companies create products people can’t put down. Ce livre se veut un guide pratique (et peu réflexif au regard des enjeux éthiques et sociétaux…) à destination des entrepreneurs qui souhaitent construire des produits créateurs d’habitudes, que vous utilisez sans y penser. Il est possible, selon lui, de concevoir un cercle vertueux (du point de vue du portefeuille de l’entrepreneur) visant à l’utilisation naturelle sans stimuli externe d’un produit ou service par son utilisateur. Son modèle du hook (littéralement l’hameçon) passe par quatre phases qui doivent être réitérées : le déclencheur, l’action, la récompense et son investissement dans le service (par du temps, de l’argent, des contenus, du capital social, des efforts ou… des données). Ce modèle s’appuie sur un certain nombre de forces :

• La répétition des cycles permet de se passer d’un déclencheur externe pour aboutir à un déclencheur interne : vous démarrez Instagram ou Facebook même sans notification.

• La variabilité de la récompense s’appuie très clairement sur notre cerveau « joueur ». Les boucles de rétroaction existent partout autour de nous dans la conception des objets : quand on appuie sur l’interrupteur d’une lampe, on s’attend à ce qu’elle s’allume. En soit, cela ne nous donne pas envie d’appuyer plus souvent sur le bouton. En revanche si on obtient une récompense variable (une nouvelle couleur pour l’éclairage, un bonus sonore ou toute autre action surprise), le service sera en mesure de créer un appétit, une envie…

• Les habitudes des utilisateurs deviennent un atout pour l’entreprise et lui donnent un avantage compétitif. En accroissant la fidélité, les entreprises acquièrent un monopole sur l’esprit.

Dans un article de The Atlantic, publié en 2012, le concepteur de jeux vidéo et auteur Ian Bogost rappelle comment les smartphones première génération de Research In Motion (les Blackberry), avaient contribué à modifier les comportements des utilisateurs en les accrochant à cette petite led rouge qui clignotait dès lors qu’un message était reçu sur son service de messagerie, bien avant Apple ou Whatsapp. L’auteur rappelle ainsi que les produits de RIM ont lancé une réaction en chaine qui a changé nos comportements sociaux, d’une manière que nous ne comprenons pas encore complètement : peut-être que dans 50 ans, les pratiques actuelles de réponses réflexes aux interpellations permanentes de nos compagnons numériques paraitront aussi nocives et mal vues que le rapport de nos ainés des Trente Glorieuses au rôle social du tabac…

Jouer avec nos émotions

L’objectif suprême de l’entrepreneur serait, selon Nir Eyal, de pouvoir passer de déclencheurs externes (notifications, email,…) à des déclencheurs internes, que l’on ne peut ni voir, ni entendre ni toucher mais qui s’appuient sur nos biais cognitifs, nos besoins psychologiques et nos émotions.

L’exemple le plus connu de ces déclencheurs endogènes dans le monde des services de réseaux sociaux est la fameuse FOMO, pour Fear Of Missing Out, soit la peur de rater quelque chose d’important, d’utile, de divertissant. Il s’agit de cette peur qui nous pousse à vérifier des dizaines de fois notre écran de téléphone, à poursuivre le défilement infini d’images d’Instagram ou Pinterest, ou encore à relever nos emails ou vérifier qu’une info n’est pas tombée sur le fil Twitter. Peur, qui en l’espèce est créée par l’outil, qui est donc l’onguent qui vient soulager l’irritation qu’il a lui-même créé...

Cet exemple est loin d’être anodin : comme l’indique Nir Eyal, « les émotions, en particulier celles qui sont négatives, sont de puissants déclencheurs endogènes et influencent fortement nos routines quotidiennes. Les sentiments d’ennui, de solitude, de frustration, de confusion et d’indécision induisent souvent une légère souffrance ou irritation et provoquent un réflexe presque instantané pour atténuer cette sensation négative ».

On entend souvent dire que l’objectif des designers de produits, et plus largement des entrepreneurs du numérique serait d’éliminer les irritants et les frictions, et de simplifier la vie des utilisateurs. En réalité, leur incitation serait plutôt parfois  inverse : créer, susciter, générer un irritant ou un inconfort pour le soigner dans la foulée… Une pop-up qui se déclenche pendant la lecture de l’article pour demander l’inscription au site (tel que développé dans notre encadré) en est un bon exemple.

Nous rendre accrocs ?

L’addiction aux écrans est l’un des débats qui figure en haut dans la liste des préoccupations des médias et des pouvoirs publics. Pourtant, à la manière des discussions qui portent sur l’addiction aux jeux vidéo, les avis ne convergent pas naturellement vers un consensus.

Pour l’anthropologue Natascha Schüll, professeure à l’université de New York, des parallèles sont clairement identifiables entre les mécanismes mis en place par l’industrie du jeu (en particulier les machines à sous dans les casinos qu’elle étudie dans son dernier ouvrage) et les méthodes développées sur internet. La chercheuse décrit, dans le cas des bandits manchots, des états proches d’une forme de transe, qu’elle appelle la « machine zone » ; des moments au cours desquels disparaissent les préoccupations quotidiennes, les demandes sociales et même la conscience du corps. Ces états sont selon elle en partie applicables à la relation aux outils numériques : « Dans l’économie en ligne, les revenus sont une fonction de l’attention des consommateurs, mesurée par le taux de clic et le temps passé. […] Que ce soit pour gagner des émoji sur Snapchat (Snapstreak), en scrollant des images sur Facebook, ou pour jouer à Candy Crush (dont nous expliquions les mécanismes de rétention dans notre cahier IP3), vous êtes entrainés dans des boucles ludiques ou des cycles basés sur l’incertitude, l’anticipation et les rétroactions dont les récompenses sont justes suffisantes pour que vous continuiez. » Jaron Lanier, ancien informaticien chez Microsoft, s’inscrit dans ces analyses lorsqu’il affirme que « nous avons petit à petit été hypnotisés par des techniciens que nous ne voyons pas, pour des objectifs que nous ne connaissons pas, tels des animaux de laboratoire. »

Nir Eyal aborde la question du risque qu’il y aurait à créer volontairement des addictions, un risque qui selon lui ne concerne qu’un nombre infime d’utilisateurs, les individus ayant toujours plus de capacité à s’auto-réguler avec l’aide (bienveillante) des entreprises : « les entreprises [..] ont une obligation morale, et peut-être un jour une obligation légale d’informer et protéger les utilisateurs qui produisent un attachement malsain à leur produits. »

On retrouve ici une sorte de cyber-hygiénisme très caractéristique d’une partie de la culture californienne. On ne saurait, comme le souligne Nathan Jurgenson, définir à quoi correspondraient les pratiques saines exemptes de signes d’addiction : « L’hypothèse, c’est que certains utilisateurs sont malades et d’autres sains. Mais qui décide de ce qui est sain ? Que font les gens avec leurs téléphones ? Au mieux ils se parlent entre eux. Parfois juste pour maximiser les chiffres, certes. Mais pouvez-vous avoir une addiction au fait de parler à des gens ? Au fait d’être sociable ? Je ne pense pas. Pour moi parler d’utilisateurs « malades » et « sains » conduit à une normalisation assez effrayante, et conservatrice, même si je ne pense pas que ce soit l’intention.»

Cette question d’une addiction réelle ou supposée aux services numériques pose également la question de sa régulation, notamment par les Etats. Comme nous le verrons plus tard, les géants du numérique proposent déjà des outils de contrôle, qui portent en eux plus de question que de réelles solutions.

Des outils qui se muent en guides bienveillants

Le nudge comme vision positive de la manipulation ?

Le nudge, que l’on peut traduire par coup de pouce ou incitation douce, est selon Wikipédia « une technique pour inciter des personnes ou une population ciblée à changer leurs comportements ou à faire certains choix sans être sous contrainte ni obligation et qui n’implique aucune sanction ».

Thème popularisé à partir de en 2008 par Richard Thaler et Cass Sunstein dans le prolongement de la critique de l’agent économique rationnel, cette technique consiste à influencer les comportements vers des objectifs considérés comme positifs. Dans cette perspective, comme le souligne Norman (op cit), les designers doivent garder à l’esprit que les utilisateurs de leurs objets sont des humains, confrontés chaque jour à une myriade de choix et de signaux à traiter. Il s’agit donc d’agir sur l’architecture des choix des individus afin de les inciter – on parle souvent d’incitations douces – à effectuer certaines actions plutôt que d’autres.

Les architectes des choix acceptent le fait d’influencer des choix effectués par des êtres humains, pour induire des comportements bénéfiques (pour l’individu, la collectivité ou la planète), dans une vision paternaliste assumée. Au contraire, ce qui améliore le modèle d’affaire d’une entreprise ou d’un service n’est pas un nudge au sens de ses concepteurs, mais relèverait au mieux de l’incitation, au pire de la manipulation.

Nous décharger de la surcharge informationnelle, pour de vrais choix ?

L’humain a cognitivement l’habitude d’agir en s’appuyant sur l’expertise des autres. Vous ne savez pas nécessairement fabriquer un instrument de musique ou une lampe : quelqu’un d’autre a conçu ces objets afin que vous puissiez les utiliser (Steven Sloman et Philip Fernbach). Les designers d’interface et les développeurs, quant à eux, conçoivent l’architecture des services pour permettrede naviguer et le cas échéant d’effectuer des choix par nous-mêmes dans un écosystème numérique complexe.

Thaler et Sunstein mettent notamment en évidence l’orientation du choix des individus vers les solutions qui offrent le moins de résistance : « pour des raisons de paresse, de peur ou de distraction, les individus auront tendance à choisir l’option qui requerra le moindre effort, ou le parcours qui offrira le moins de résistance » (Sunstein). Les individus auront ainsi tendance à toujours choisir l’option « par défaut », peu importe qu’elle soit bonne ou mauvaise. Là où l’adepte de l’incitation douce cherchera toujours à intégrer les bonnes pratiques dans les versions « par défaut », ce qui rejoint d’ailleurs l’obligation de « privacy by default » de l’article 25 du RGPD, certains par contre peuvent être tentés d’utiliser ce biais à des fins moins positives.

En termes de protection des données et de respect de la vie privée, les enjeux de surcharge cognitive sont tout aussi importants pour notre libre-arbitre que des interfaces qui nous guident dans nos choix. La surcharge informationnelle figure parmi les biais cognitifs qui nous poussent à effectuer des choix sans maitriser toutes les cartes que nous avons en main. Dans son ouvrage Choosing not to choose, Cass Sunstein développe une ambitieuse théorie politique du choix et de ses architectures.

Sa théorie est qu’avoir le choix est conceptuellement vu comme un enjeu positif en toutes circonstances car cela renforce l’individu-roi, alors qu’en réalité la vraie liberté est parfois liée au pouvoir ne pas avoir à choisir. Choisir peut être un fardeau, le temps et l’attention étant des ressources précieuses et rares. Choisir de ne pas choisir peut donc être une manière d’accroitre bien-être et liberté, à la condition d’avoir confiance dans le système mis en place et d’être en accord avec ses finalités ; ces conditions ne vont pas de soi et méritent, pour être partagées, d’être transparentes et claires.

Au-delà de cette vision, et de manière pragmatique, nous ne sommes pas en mesure de pouvoir toujours choisir en connaissance de cause, c’est-à-dire en prenant en compte l’ensemble des informations liées de près ou de loin à cette prise de décision. Même une lecture intégrale de l’ensemble des politiques de confidentialité et des conditions générales d’utilisation que nous acceptons (ce qui prendrait au moins 25 jours de travail par an) n’octroierait qu’une vision parcellaire de l’ensemble des tenants et aboutissants liés à un service. Il s’agit donc de pouvoir mettre en forme les informationset les architectures de choix de telle manière que les individus soient correctement guidés. C’est la mission des designers d’interfaces que de mettre en scène ces choix de manière vertueuse et non trompeuse.

Si les intentions du nudge se veulent positives et à visées d’intérêt général, le terme même de paternalisme soft adopté par ses concepteurs pose la question de la liberté des individus à exercer leurs propres choix. La question de l’autonomie de l’individu et de sa capacité à accepter ou non certaines injonctions qui lui sont faites doit se poser dès lors que l’objectif est de subtilement l’inciter à certaines actions qu’il n’aurait pas souhaité entreprendre.

Par ailleurs, comme le souligne Célia Hodent (membre du comité de la prospective de la CNIL), le problème avec les discours sur le nudge ou les dark patterns est qu’ils teintent tout en blanc ou en noir, alors que nous sommes face à beaucoup de nuances de gris…