Des objets connectés aux objets autonomes : quelles libertés dans un monde robotisé ?

Si les prédictions sur la taille future des marchés concernés sont sujettes à caution, les experts s’accordent pour voir l’évolution de la robotique sortir du domaine industriel et aller vers  les services. Dans une étude de 2015, l’Institut Xerfi prévoit ainsi des opportunités à l’horizon 2020 pour les robots compagnons, les drones, les robots médicaux, les robots de transports de marchandises et de personnes… Cette simple liste montre que les enjeux liés au respect de la vie privée seront tangibles : les robots compagnons évolueront dans l’intimité du domicile des personnes, alors que les robots médicaux sont (déjà) utilisés dans un environnement par nature sensible. En outre, dans le domaine de la sécurité comme dans ceux des transports ou de la logistique, les questions liées à la surveillance seront inévitables. Enfin, les usages encore émergents des robots dans le commerce, ouvrent de nouvelles possibilités pour le marketing, la relation commerciale, mais aussi pour le ciblage et le suivi des clients. 

Les robots, des objets connectés comme les autres ?

Les ingrédients pour un robot : des capteurs, du calcul et des moyens d’agir

Smartphone, objets connectés pour la maison (thermostats, pèse-personnes, aspirateurs), objets mesurant des constantes du corps (bracelets, montres), drones, voitures, … les objets connectés ou communicants sont partout, avec une caractéristique commune : on va rendre « smart » ou intelligents des objets du quotidien. Que signifie « intelligent » ? Assez simplement, il s’agit de l’adjonction de trois capacités : des capteurs, de la puissance de calcul et des communications réseau.

La captation permanente de données dans notre environnement quotidien et son intensité sont de réelles nouveautés, comme le montrait le deuxième Cahier IP « Le corps, nouvel objet connecté » de la CNIL. Au-delà des informations sensibles (présentes par exemple dans un dossier médical), on capte sur longue durée des données d’apparence anodine (nombre de pas, CO2 dans une pièce, courbe de poids, cycle du sommeil, voire localisation). L’accumulation révèle des données intimes sur les personnes, en permettant d’inférer des informations (par exemple, prédire statistiquement son état de santé futur). 

Les capteurs sont connectés et deviennent ensuite communicants, soit directement (par des réseaux dédiés comme ceux de Sigfox ou Lora) soit par le smartphone qui est devenu le véritable centre de contrôle des objets connectés. 

L’étape suivante de cette transformation numérique semble être de « faire disparaitre au maximum ces technologies », comme l’explique Rand Hindi de la start up d’intelligence artificielle française Snips, car les sollicitations permanentes sont des perturbations que l’individu apprécie peu. Il faut donc ajouter une capacité à décider, à agir de manière automatique, grâce au machine learning, au big data, ou à l’intelligence artificielle. 

Or, la conjonction de ces caractéristiques définit justement un robot, c’est-à-dire une machine réunissant des capacités de perception, de décision, d’action et d’interaction adaptées à son environnement et aux tâches pour lesquelles il est conçu. La robotique est donc un horizon pour l’internet des objets.

Plus une machine est « autonome », plus elle est en réalité dépendante… des données

Par rapport à des objets connectés traditionnels, les robots sont dotés d’un plus grand niveau d’autonomie. Or l’autonomie implique la capacité à coopérer avec des humains dans un espace commun : les robots deviennent des cobots (robots collaboratifs), pouvant agir avec des humains et non pas à leur place ou loin d’eux. 

Pour ce faire, ils doivent collecter beaucoup plus de données, ce qui révèle un paradoxe éthique fondamental dans le domaine de la protection des données : pour être plus autonome, une machine doit être en réalité plus dépendante aux données personnelles. 

Par exemple, une voiture autonome doit capter en permanence ce qui se passe autour d’elle; un robot compagnon pour aider des personnes dépendantes isolées doit quant à lui collecter des données sur le logement, ne serait-ce que pour ne pas blesser la personne qu’il doit aider. Il doit aussi reconnaître les personnes présentes et donc, pourrait recourir à des technologies biométriques de reconnaissance faciale ou de la voix. 

La gouvernance des données de la robotique doit donc être pensée globalement, via le privacy by design (intégration de la protection de la vie privée dès la conception). Dans son rapport « éthique de la recherche en robotique », la Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistene (CERNA) (Allistène, 2014) préconise ainsi que « s’il n’est pas possible de prémunir à sa conception un robot d’un usage inapproprié ou illégal des données qu’il capte, le chercheur doit néanmoins veiller à ce que le système robotique facilite le contrôle de l’usage des données. »

Demain, un cas concret de réflexion éthique du numérique et de l’importance de la culture de la donnée

Trois enjeux éthiques liés aux données se distinguent spécifiquement dans le domaine de la robotique. 

La réparation et l’augmentation de l’humain par la machine

Les questions éthiques liées au rapprochement entre la robotique et le corps même des individus sont fondamentales. Tout rapprochement entre les technologies et le corps créera un impératif éthique de respect de la dignité de la personne humaine, de son droit à l’autodétermination informationnelle et à faire des choix libres sans risquer la discrimination. 

L’imitation du vivant et les interactions affectives et sociales : vers de véritables interactions humains-machines respectueuses des droits des personnes ?

Quelle confiance peut-on avoir dans les robots ? Comment rendre compte de leur comportement ? Le consentement devra être réinventé en environnement robotique, d’autant plus que les risques de manipulation émotionnelle de la personne sont importants, comme l’a souligné le psychologue Serge Tisseron lors des auditions de l’Office Parlementaire d’Evaluation des Choix Scientifiques et Technologiques en décembre 2015. Les robots permettant des interactions humains-machines sophistiquées, ils doivent aussi permettre un dialogue contextuel et explicite, adaptée aux souhaits de la personne. 

Autonomie et capacités décisionnelles : jusqu’à quel point les technologies doivent-elles prendre des décisions à notre place ?

La robotique pose enfin une question éthique générale à propos de la capacité à agir de l’utilisateur. La question de la transparence des algorithmes ou du moins de leurs règles, ainsi que celle de la capacité à comprendre comment des décisions qui affectent les personnes sont prises par des systèmes autonomes, sont des questions éthiques prospectives fondamentales.