Algorithmes, légumes et pâte à tartiner

Les algorithmes font débat, pas seulement en France. La Kavli Foundation et l'école de journalisme de la New York University organisaient le 15 février 2017 un débat sur "L'âge des algorithmes : data, démocratie et information" (Age of Algorithms: Data, Democracy and the News), avec Cathy O'Neil, mathématicienne, auteure en 2016 de l'ouvrage Weapons of Math Destruction - How big data increases inequality and threatens democracy et Julian Angwin, journaliste à ProPublica et auteure de Dragnet Nation.

En introduction, Cathy O'Neil et Julian Angwin livrent leur définition de l'algorithme. Celle-là même qui avait fait débat lors des tables rondes organisées par la CNIL, le 23 janvier, en lancement du cycle Ethique et numérique. La mathématicienne et la journaliste filent la métaphore culinaire afin de rendre compréhensible, non seulement l'algorithme en lui-même, mais également les enjeux qu'il porte selon les objectifs pour lesquels il est développé.

Des ingrédients, une recette et des objectifs

Cathy O'Neil compare l'algorithme à une recette de cuisine que l'on formaliserait sous forme de code informatique. "Quand je conçois un modèle pour le dîner de mes enfants, je le fais sur la base d'un certain nombre d'ingrédients, que je choisis, que je vais assembler d'une certaine manière afin de concevoir un plat. Mon indicateur de succès sera déterminé par le fait que mes enfants mangent des légumes ou non". Elle explique ensuite que cette recette transcrite en code informatique devra être simplifiée le plus possible pour être plus la plus légère possible, comme si l'on voulait alléger notre livre de recettes.

Cette définition est intéressante dans la mesure où l'on peut très vite comprendre les distorsions entre les développeurs d'algorithmes et leurs utilisateurs. Plus loin (à partir de la 14 ème minute), Cathy O'Neil explique que dans le cas de Facebook, l'indicateur d'un bon algorithme est dépendant du temps passé par les internautes sur le réseau social (ce qu'expliquait déjà Tristan Harris en juin 2016 à propos du design de l'interface). Facebook va donc envoyer de préférence dans son fil d'actualité des billets ou des articles dont on sait qu'ils vont attirer la curiosité de l'internaute, les fameux piège à clics, et le faire passer plus de temps en ligne, quand l'internaute espèrerait toujours pouvoir s'informer sur la base de la pertinence et de la véracité de l'information, espérant même pouvoir se cultiver : "Facebook m'envoie du Nutella lorsque je souhaiterais manger des légumes".

Les intérêts sont divergents, mais l'internaute a du mal à résister lorsqu'on lui présente des tartines de Nutella, que le sentiment de culpabilité n'empêche pas de dévorer.