IArnaques, Crimes et Botanique

Rédigé par Amélie Guillaumot & Romain Pialat

 - 

20 avril 2023


Pour finir cette série d’expérimentations en beauté, plongeons dans la thématique de la création de persona, en nous demandant comment l’IA pourrait, à terme, inventer quelqu’un.

Nous nous essayons dans cet article à l’utilisation d’autres IA génératives que ChatGPT, en quittant la génération de texte pour passer à la création d’images. Bienvenue dans l’ère du deep fake !

Amelia

Publié le 14 avril 2023

« Amélia a 25 ans. C'est une scientifique passionnée qui travaille dans une équipe de recherche en biologie. Elle est particulièrement intéressée par les plantes et leur rôle dans l'environnement. C'est une jeune femme intelligente et déterminée, qui ne recule devant aucun défis. Elle est curieuse et aime toujours en apprendre davantage sur les sujets qui l'intéressent. En dehors de son travail, elle aime passer du temps en nature et pratiquer différents sports de plein air. Elle a les cheveux brun foncé et les yeux verts. Elle mesure environ 1m65 et est plutôt mince. Elle porte souvent des vêtements confortables et pratiques pour travailler comme des jeans et des baskets. »

 

Amelia_couv2.png

 

A photograph portrait of Amelia taken in the early 1970's, grainy, taken on a polaroid camera, realistic, hyperrealistic.

Amélia n’existe pas. Son histoire, son métier et son caractère ont été défini par ChatGPT. A partir de cette seule règle : « Crée-moi un personnage fictif », l’IA a proposé une description d’une dizaine de lignes.  

Le texte généré par l’IA s’est ensuite transformé en prompt pour s’adresser à Stable Diffusion et produire un ensemble d’images qui dépeint le portrait d’Amélia.  

Le procédé n’est pas aussi rapide que lorsque l’on se sert de contenus existants ou que l’on utilise le nom d’une célébrité. Comment obtenir de la cohérence entre les différents portraits d’Amélia ? Sans parler des membres fantômes, des yeux flous ou de l’environnement qui ne correspond pas au contexte…  C’est à travers plusieurs phases « entonnoir » que le profil d’Amélia s’est construit : allant du tri sélectif effectué par le regard humain à des phases où l’IA est de nouveau nourrie d’images extérieures. Ce sont finalement 17 images sur plus de 300 qui sont retenues du travail effectué par l’IA. Pour plus de détails, nous vous invitons à lire ce tutoriel

Il faut noter que Stable Diffusion est alimenté en particulier par LAION, le style graphique qui en ressort est moins réaliste que Dall-E ou moins léché que MidJourney. C’est cependant une IA bien plus transparente où le code est accessible a contrario des produits proposés par OpenAI ou qui ne nécessite pas de passer par une plateforme comme Discord. 

 

ameliajeune.jpg
Processus de sélection des images

 

 

Le corpus d’Amélia étant défini, il a ensuite été possible de la mettre en scène dans différents contextes :  

  • Amélia est devenue une grande criminelle : trafiquante de cannabis ou d’armes, des photographies d’elle à caractère pornographique ont aussi fuité. 
    Là où le deepfake rendait possible l’intégration d’un visage dans une vidéo pornographique existante, l’IA peut composer un hypertrucage.. 

Pour obtenir une image crédible, le procédé est encore long. Une multitude d’éléments improbables se cachent dans les productions : les pistolets deviennent des appareils photos, les plants de cannabis ont des proportions étranges, les corps censés être nus sont couverts d’aspérités. 

 

amelia2.png

Sélection de trois rendus d’Amélia :  

- Amelia soldier shooting with rifle machine gun,  female army military fight training

- Amelia addicted using a cannabis bong, hold a join, addiction, realistic

- Pas de prompt spécifique, image obtenue avec un corpus d’images 

 

Que pourriez-vous faire faire à un individu si vous étiez accompagné d’un système d’IA qui a accès à ses informations personnelles ? 

 

  • Amélia a pu rajeunir. Tout comme un filtre fait actuellement le buzz sur Tiktok et permet de rajeunir de manière crédible un utilisateur, Amélia retourne en enfance. Il est ensuite assez facile de la mettre en mouvement :

 

amelia3.png

Ensemble de captures d'écran d'un Deepfake d'Amélia jeune.  La vidéo possède malgré tout de nombreux couacs. 

 

La vidéo réalisée est encore remplie de glitchs mais avec beaucoup de temps, le résultat peut-être plus que crédible. C’est la limite actuelle de la performance de l’outil mais cette dernière est améliorable. Des automatisations existent déjà avec des applications grand public permettant de réaliser des deepfake à partir d’extraits vidéos. 

Pourriez-vous par ce biais vous faire passer pour un mineur ? Et vice-versa, un mineur pourrait-il se vieillir à l’aide de l’IA ? 

  

  • Amélia a désormais un compte Instagram. Tout comme Lil Miquela, elle pourra bientôt devenir une influenceuse virtuelle. La grille est composée de photos réalisées par Stable Diffusion et encodées par MidJourney, les descriptions de ces dernières sont rédigées par ChatGPT. Les IA sont devenues des content managers personnels.  

 

ameliainsta.png

L’image a été générée par Stable-Diffusion, la description quant à elle a été rédigée par ChatGPT. L’IA avait pour consigne de faire le texte du premier post Instagram d’Amélia en partant de sa description. 

Notre futur monde virtuel pourrait-il être envahi de ce genre de fakes ? 

Amélia est aujourd’hui un persona développé : au premier abord, la facilité avec laquelle on peut lui constituer des comptes ou la mettre dans une toute nouvelle situation en ferait presque oublier les première difficultés de création. 

Pour autant, cette Amélia artificielle est loin de passer toutes les vérifications d’identité, aussi bien par la machine que par l’œil humain. Souvent, vous sentez un certain inconfort en observant des productions d’IA, une similitude entre toutes et des éléments clichés, tout comme lorsque l’on parcourt le fil des images retouchées et des contenus aseptisés d’Instagram. Amélia comme tous les personnages proposés par ChatGPT est heureuse, saine et en bonne santé. Dès lors que l’on essaye de créer plusieurs profils il faut de plus en plus orienter l’IA pour éviter qu’elle ne répète en boucle les mêmes stéréotypes.  

 

Les IA se sont nourries sur Internet de contenus qui sont le reflet des biais de la société et il sera intéressant de voir l’avenir de leur production. L’étape suivante sera-t-elle celle de la standardisation où l’IA se renourrira de son propre contenu ? 


Sommaire

- IArrête moi si tu peux
- IA-t-il un (co)pilote dans l'avion ?
- IArnaques, Crimes et Botanique

Cet article fait partie du dossier sur les IA génératives, qui commence ici !


Illustration - LINC avec StableDiffusion


Article rédigé par Amélie Guillaumot & Romain Pialat , Designer & Ingénieur R&D au LINC