IArnaques, Crimes et Botanique

Amélia n’existe pas. Son histoire, son métier et son caractère ont été défini par ChatGPT. A partir de cette seule règle : « Crée-moi un personnage fictif », l’IA a proposé une description d’une dizaine de lignes.  

Le texte généré par l’IA s’est ensuite transformé en prompt pour s’adresser à Stable Diffusion et produire un ensemble d’images qui dépeint le portrait d’Amélia.  

Le procédé n’est pas aussi rapide que lorsque l’on se sert de contenus existants ou que l’on utilise le nom d’une célébrité. Comment obtenir de la cohérence entre les différents portraits d’Amélia ? Sans parler des membres fantômes, des yeux flous ou de l’environnement qui ne correspond pas au contexte…  C’est à travers plusieurs phases « entonnoir » que le profil d’Amélia s’est construit : allant du tri sélectif effectué par le regard humain à des phases où l’IA est de nouveau nourrie d’images extérieures. Ce sont finalement 17 images sur plus de 300 qui sont retenues du travail effectué par l’IA. Pour plus de détails, nous vous invitons à lire ce tutoriel. 

Il faut noter que Stable Diffusion est alimenté en particulier par LAION, le style graphique qui en ressort est moins réaliste que Dall-E ou moins léché que MidJourney. C’est cependant une IA bien plus transparente où le code est accessible a contrario des produits proposés par OpenAI ou qui ne nécessite pas de passer par une plateforme comme Discord. 

Processus de sélection des images

Le corpus d’Amélia étant défini, il a ensuite été possible de la mettre en scène dans différents contextes :  

• Amélia est devenue une grande criminelle : trafiquante de cannabis ou d’armes, des photographies d’elle à caractère pornographique ont aussi fuité. 
  Là où le deepfake rendait possible l’intégration d’un visage dans une vidéo pornographique existante, l’IA peut composer un hypertrucage.. 

Pour obtenir une image crédible, le procédé est encore long. Une multitude d’éléments improbables se cachent dans les productions : les pistolets deviennent des appareils photos, les plants de cannabis ont des proportions étranges, les corps censés être nus sont couverts d’aspérités. 

Sélection de trois rendus d’Amélia :  

- Amelia soldier shooting with rifle machine gun,  female army military fight training

- Amelia addicted using a cannabis bong, hold a join, addiction, realistic, 

- Pas de prompt spécifique, image obtenue avec un corpus d’images 

Que pourriez-vous faire faire à un individu si vous étiez accompagné d’un système d’IA qui a accès à ses informations personnelles ? 

• Amélia a pu rajeunir. Tout comme un filtre fait actuellement le buzz sur Tiktok et permet de rajeunir de manière crédible un utilisateur, Amélia retourne en enfance. Il est ensuite assez facile de la mettre en mouvement :

Ensemble de captures d'écran d'un Deepfake d'Amélia jeune.  La vidéo possède malgré tout de nombreux couacs. 

La vidéo réalisée est encore remplie de glitchs mais avec beaucoup de temps, le résultat peut-être plus que crédible. C’est la limite actuelle de la performance de l’outil mais cette dernière est améliorable. Des automatisations existent déjà avec des applications grand public permettant de réaliser des deepfake à partir d’extraits vidéos. 

Pourriez-vous par ce biais vous faire passer pour un mineur ? Et vice-versa, un mineur pourrait-il se vieillir à l’aide de l’IA ? 

• Amélia a désormais un compte Instagram. Tout comme Lil Miquela, elle pourra bientôt devenir une influenceuse virtuelle. La grille est composée de photos réalisées par Stable Diffusion et encodées par MidJourney, les descriptions de ces dernières sont rédigées par ChatGPT. Les IA sont devenues des content managers personnels.  

L’image a été générée par Stable-Diffusion, la description quant à elle a été rédigée par ChatGPT. L’IA avait pour consigne de faire le texte du premier post Instagram d’Amélia en partant de sa description. 

Notre futur monde virtuel pourrait-il être envahi de ce genre de fakes ? 

Amélia est aujourd’hui un persona développé : au premier abord, la facilité avec laquelle on peut lui constituer des comptes ou la mettre dans une toute nouvelle situation en ferait presque oublier les première difficultés de création. 

Pour autant, cette Amélia artificielle est loin de passer toutes les vérifications d’identité, aussi bien par la machine que par l’œil humain. Souvent, vous sentez un certain inconfort en observant des productions d’IA, une similitude entre toutes et des éléments clichés, tout comme lorsque l’on parcourt le fil des images retouchées et des contenus aseptisés d’Instagram. Amélia comme tous les personnages proposés par ChatGPT est heureuse, saine et en bonne santé. Dès lors que l’on essaye de créer plusieurs profils il faut de plus en plus orienter l’IA pour éviter qu’elle ne répète en boucle les mêmes stéréotypes.  

Les IA se sont nourries sur Internet de contenus qui sont le reflet des biais de la société et il sera intéressant de voir l’avenir de leur production. L’étape suivante sera-t-elle celle de la standardisation où l’IA se renourrira de son propre contenu ? 

Sommaire

- IArrête moi si tu peux
- IA-t-il un (co)pilote dans l'avion ?
- IArnaques, Crimes et Botanique

Cet article fait partie du dossier sur les IA génératives, qui commence ici !

Illustration - LINC avec StableDiffusion