Véhicule autonome : a-t-on tranché le dilemme ?

Quel choix fera l’algorithme de pilotage d’un véhicule autonome lorsque, confronté à une situation de danger immédiat, il devra faire un choix entre percuter un enfant, entrer en collision avec une personne agée, ou se projeter contre un mur (et ne tuer que le passager du véhicule autonome) ? Parmi les enjeux associés au véhicule connecté, le dilemme moral illustré depuis 1967 par l'exemple des tramways (trolley problem) hante les commentateurs comme les porteurs de projets de véhicule sans chauffeur. 

Trolley Problem,  Wikimedia cc-by-sa Mc Geddon

Cité dans un article du blog Car and Driver, le responsable du projet véhicule autonome de Mercedes a tranché. Selon Christoph von Hugo, « si vous savez que vous pouvez sauver au moins une personne, sauvez-là. Sauvez celle qui se trouve dans le véhicule ». Il relativise ensuite en précisant que sur cette question, « 99% des travaux d’ingénierie de Mercedes porte sur les moyens d’éviter d’avoir à avoir faire face au dilemme ». Mais ce choix n'est pas sans poser la question des responsabilités, qui sera le responsable des pertes humaines? 

Le ministre Allemand des transports, cité par Politico, proposait récemment qu'un véhicule ne doive jamais faire de distinction entre des personnes selon leur origine ou leur âge, qu'il devrait toujours privilégier les dommages matériels aux dommages humains, qu'en cas de cession du contrôle au pilote automatique du véhicule, la responsabilité de l'accident incomberait au constructeur du véhicule. Aux Etats-Unis, Barrack Obama a lui précisé que les états devraient s'impliquer un petit peu plus dans la régulation de ce marché en devenir.
 

Dilemme personnel et collectif

Dans Politico, le journaliste Jacopo Barigazzi, demande si les propriétaires de véhicules devraient être en mesure de décider quel type de choix ferait l'algorithme selon ses propres choix éthiques. Quoiqu'il arrive, il estime qu'ils partageront d'une certaine manière les responsabilités par le choix du véhicule, par exemple entre une Mercedes qui les protègerait, et une autre marque qui effectuerait des choix différents. Paolo Bottazzini, auteur de plusieurs ouvrages sur les algorithmes, considère pour sa part qu'avec les véhicules autonomes, "l'individu n'a plus d'importance, que la communauté et le calcul [algorithmique] prévalent", qu'ils entrent en contradiction avec la façon de penser occidentale, qui valorise l'individu et la liberté de choix. 

Au-delà de ces questions, le dilemme n'est n'est pas que moral, mais aussi commercial : selon une étude de Science, la majorité des personnes interrogées n'achèteraient pas un véhicule qui ne leur garantit pas de les protéger en priorité. Le journaliste de Car and Driver relève la question sous-jacente : la mort sur route reste encore relativement « démocratique », chacun peut avoir des pertes de concentration ou faire des erreurs. Elle le sera moins avec les véhicules autonomes : seules les personnes en mesure de s’offrir les véhicules les plus évolués du marché, et donc les plus couteux, pourront bénéficier de leur protection.
 

Données contre sécurité ? 

Si on fait un peu de prospective, lorsque les véhicules autonomes deviendront obligatoires, les constructeurs pourront proposer aux conducteurs moins fortunés des système d'échanges données contre sécurité. Ceux qui n'auront pas les moyens de s'offrir les meilleurs véhicules devront-ils se rendre transparents vis-à-vis des constructeurs, et accepter des publicités toujours plus ciblées ? Par extension, faire le choix entre sauver un enfant ou une personne âgée relève de considérations philosophiques, différentes par exemple selon que l'on soit de culture occidentale ou orientale. Qu'en sera-t-il lorsqu'il faudra choisir entre deux personnes apparemment similaires, faudra-t-il que chacune livre en amont ses données pour être évaluée et potentiellement sauvée ? Quel choix fera l'algorithme ? Sauver la personne qui a des enfants, celle qui s'investit pour l'intérêt général, ou celle dont l'apport à l'économie est jugé plus important ?

Mercedes a tranché, mais la question éthique reste ouverte.