L’espion qui me logeait : assistants vocaux et objets connectés dans la maison

Rédigé par Régis Chatellier

 - 

10 avril 2018


[Dossier assistants vocaux] Installer des assistants vocaux et y connecter l’ensemble des objets de son foyer répond à la promesse des constructeurs de rendre son foyer « intelligent ». Une journaliste de Gizmodo a tenté l’expérience, qu’elle relate dans un récit à la fois drôle et inquiétant.  

camera-cc-by-pixabay LINC CNIL assistants vocaux surveillance

En décembre 2017, et pour une période de deux mois, Kashmir Hill, journaliste pour Gizmodo, se transformait en cobaye avec sa famille, en choisissant de convertir en smart home son deux-pièces de San Francisco. Tout ce qu’il était possible de connecter l’avait été dans le logement : les lampes, la cafetière, le baby phone, les jouets des enfants, la télévision, les brosses à dent, le cadre photos, un sex toy et même son lit, sans bien sûr oublier l’assistant vocal Amazon Echo. L’objectif était de documenter et comprendre ce qu’il se passe lorsque l’on va au bout du tout connecté, notamment du point de vue de la protection des données. De cette expérience résulte un long et passionnant article, The House that Spied on Me, paru sur Gizmodo en février 2018. La journaliste explique qu’elle a rendu intelligente sa maison pour « découvrir si celle-ci allait me trahir », mais aussi « ce qu’elle allait apprendre, et à qui elle le dirait. ».  

Alors que Kashmir Hill et sa famille pouvaient tout commander par la voix (allumer la lumière, faire le café ou lancer la musique), elle pouvait aussi échanger des messages vocaux avec son jeune enfant, ou avec sa nounou. Elle recevait des rappels de sa brosse à dents et son lit avait la capacité à déclencher automatiquement son mode chauffage. 

Afin de compléter l’expérience, un développeur associé avait déployé un point d’accès wifi basé sur une Raspberry Pi pour suivre le fonctionnement des objets connectés du foyer, de telle sorte qu’il pouvait observer l’activité de la journaliste de la même manière que les fournisseurs de services pourraient avoir la capacité de le faire. 

Du point de vue de l’expérience utilisateur, Kashmir Hill relate par de nombreux exemples le caractère exaspérant de vivre dans une maison dite intelligente. Lorsque le système d’extinction des lampes complètement centralisé se met à boguer, elle se voit contrainte de commander par la voix chacune des ampoules de la maison, l’une après l’autre pour pouvoir les éteindre, et ainsi passer beaucoup plus de temps qu’avec de simples interrupteurs. Lorsque le détecteur de mouvement déclenche la caméra alors qu’elle traversait – nue – le salon de l’appartement, les vidéos sont directement uploadées en ligne, dans ce cas, heureusement chiffrées.  

« elle m’observait alors que je me préparais un café »

Parmi les exemples qu’elle développe, où l’on retrouve les problématiques de consentement à l’utilisation d’assistants vocaux intelligents et autre systèmes connectés, la manière dont son mari réagit démontre comment ces nouvelles interfaces dites naturelles vont à l’encontre de la libre capacité de chacun à consentir. Au cours des deux mois de l’expérience, alors qu’elle part en voyage en Europe, la journaliste souhaite se connecter à distance à la caméra qui désormais orne la cuisine de son appartement, mais aucune image n’apparait. Ennuyée, elle envoie un message à son mari pour le prévenir qu’une caméra ne fonctionne pas. Celui-ci lui répond qu’il l’a lui-même débranchée : « elle m’observait alors que je me préparais un café ». Bien qu’elle lui ait expliqué qu’il fallait la maintenir connectée pour le bon déroulement de l’expérimentation et l’analyse de données collectées, celui-ci ne la rebranchera jamais. Kashmir Hill en tire cette constatation : « avoir une maison connectée signifie que chacune des personnes qui y vivent ou simplement la visitent entre dans votre système panoptique, alors même qu’il n’est pas évident pour tout le monde que les objets du quotidien aient de telles capacités d’espionnage ». C’est vraiment là l’un des grands enjeux du développement des objets connectés et des capteurs dans nos espaces privés :  les impacts du consentement à la collecte de nos données par de tels dispositifs ne sont pas que personnels, mais aussi collectifs, dans la mesure où nous entrainons nos proches dans cette collecte sans qu’ils en aient nécessairement conscience. On peut à cet égard faire le parallèle avec l’affaire Facebook - Cambridge Analytica, où le consentement d’une personne à partager ses données a automatiquement entraîné la collecte de certaines données de tous ses contacts (sans qu’elle en ait conscience en l’occurrence).

Chiffré mais pas trop 

L’expérience montrait aussi que les données transmises sur les réseaux, collectés par la Raspberry Pi, étaient pour la plupart chiffrées. Certaines ne l’étaient toutefois pas comme par exemple les données de la Vizio TV, ou de Hulu, qui pouvaient permettre de connaître précisément ce qui était visionné sur cette plateforme de streaming vidéo. Elle pouvait aussi récupérer les images des émissions recommandées par Netflix, ce qui permettait par inférence de faire des hypothèses sur ce qui était regardé sur le service. Même chiffrées, les données permettaient de connaitre certaines habitudes du foyer : l’heure du lever (à laquelle Amazon Echo lançait Spotify), le type de musique écoutée entre 18h et 20h… Dans cette maison intelligente, chacun des objets connectés agissait à la manière d’un traceur installé sur notre navigateur, en mesure, si on sait l’utiliser, de déduire des habitudes du foyer, et ses modes de consommation. Ces informations pourraient grandement intéresser des data brokers, des agence marketing voire d’autres types d’acteurs, raison pour laquelle il est nécessaire d’accompagner les utilisateurs dans la compréhension du fonctionnement de ces objets, de veiller à la mise en place de moyens d’information et de collecte du consentement « libre, éclairé et révocable » adaptés à ces interfaces, enfin, d’imposer aux constructeurs de sécuriser les traitements et les connexions de l’ensemble de ces dispositifs. Des mesures indispensables pour que le foyer reste un lieu d‘intimité. 


Illustration :  camera-cc-by-pixabay


Régis Chatellier
Article rédigé par Régis Chatellier, Chargé des études prospectives