[dossier] Intelligence artificielle

06 January 2022

Retrouvez ici tous les articles en lien avec l'intelligence artificielle

[Dossier IA générative] - ChatGPT : un beau parleur bien entraîné

Quels sont les risques techniques, éthiques et juridiques liés à ces technologies et aux nouveaux usages auxquels elles ouvrent la voie ? Le LINC publie quatre articles sur les enjeux des IA génératives.

[Privacy Research Day] L’intelligence artificielle en pratique

La deuxième édition du Privacy Research Day a eu lieu à la CNIL à Paris le 14 juin 2023. Un panel de cette journée a permis aborder le sujet de l’Intelligence Artificielle sous l’angle des données.

Comprendre le désapprentissage machine : anatomie du poisson rouge

Cette technique pouvant être mise en œuvre par une diversité de protocoles fait l’objet d’un nombre important de publications qui ont attiré l’attention du LINC.

[itw] Camille Girard-Chanudet nous invite au voyage au centre de la justice algorithmique en chantier

Dans une interview pour le LINC, Camille Girard-Chanudet nous propose d'explorer les coulisses de la fabrique des Intelligence artificielles de justice.

Panorama et perspectives pour les solutions de détection de contenus artificiels [1/2]

Dans cet article, nous analysons les différentes solutions proposées pour reconnaitre les contenus artificiels et envisageons des pistes pour l’avenir de ces techniques.

Le tatouage numérique, une mesure de transparence salutaire ? [2/2]

Brandie par de nombreux acteurs comme la solution la plus robuste le tatouage numérique est pourtant une notion ambigüe dans le domaine de l’IA et peut être le nom de pratiques différentes. Cet article détaille chacune d’entre elles en s’appuyant sur une revue de littérature scientifique.

BigScience : « Il faut promouvoir l’innovation ouverte et bienveillante pour mettre le respect de la vie privée au cœur de la recherche en IA »

Les modèles de langage de grandes tailles (en anglais LLM pour large langage models) sont des constructions statistiques modélisant la distribution de séquences de mots dans de nombreuses langues. Ces dernières années ont vu leur importance grandir considérablement au point que de nouveaux modèles sont de plus en plus fréquemment édités, en particulier par les grands acteurs du numérique (GPT-3, BERT, Gopher, Megatron-Turing NLG, Chinchilla, PaLM, LaMDA, etc.). Toutefois de tels objets ne sont pas sans poser de questions, en particulier pour la protection des données.

[Données synthétiques] - Et l’Homme créa les données à son image 2/2

En générant des données synthétiques, certains organismes prétendent parvenir à créer des données anonymes tout en conservant une certaine représentativité des données sources. Pourtant, un compromis doit forcément être fait entre la conservation des caractéristiques utiles et celles permettant de réidentifier les personnes. Alors, comment trouver ce compromis, et quels sont les risques qui lui sont liés ?

[Données synthétiques] - Dis papa, comment on fait les données ? 1/2

L'appétit en données de tous les secteurs grandissant, de nouvelles techniques émergent pour alimenter encore et toujours les serveurs en données de toutes sortes. La synthèse de données, en produisant des données à partir de données pourrait répondre aux besoins des réutilisateurs dans le respect des obligations de confidentialité. Mais les données synthétiques sont-elles vraiment anonymes ?

[Algaudit] 3 - Evaluer une solution d’audit algorithmique

Dans quelle mesure les outils d’audit sont-ils capables d’aider à mieux comprendre le choix d’un système algorithmique ? Après avoir présenté les « règles du jeu » dans l’article précédent, voici la description des conditions dans lesquelles a été menée l’expérimentation et les résultats obtenus. Ces derniers démontrent clairement l’intérêt de tels outils, mais exposent également certaines limites.

[Algaudit] 1 - Choisir une solution d’audit algorithmique

Avec le développement croissant de systèmes algorithmiques se pose la question de leur audit à des fins de régulation. Cette question, renforcée par la publication de la proposition de règlement de la Commission européenne sur l'IA, est particulièrement complexe. Dans le cadre du partenariat noué avec Inria, la CNIL a souhaité expérimenter les outils IBEX et Algocate développés par Clément Henin pendant sa thèse.

[Algaudit] 2 - Expérimenter une solution d’audit algorithmique

Comment pourrait se dérouler un audit de système d’IA ? Après une présentation du contexte et des outils IBEX et Algocate développés par Clément Hénin* dans l’article précédent, passons à l’expérimentation « grandeur nature » qu’ont décidé de lancer la CNIL et Inria. Ce test a mis à contribution des agents de la CNIL : en voici les « règles du jeu ».

[dossier] Sécurité des systèmes d’IA

Les systèmes d’IA engendrent des risques de sécurité spécifiques en comparaison à des systèmes d’information classiques, tant les nouvelles capacités d’apprentissage automatique (machine learning) augmentent la « surface d’attaque » de ces systèmes, en introduisant de nombreuses (et nouvelles !) vulnérabilités. Le LINC vous propose un triptyque d’articles afin d'y voir plus clair.

Chacun chez soi et les données seront bien gardées : l’apprentissage fédéré

L’approche classique consistant à mettre en commun les données d’entraînement collectées localement afin d’entraîner un modèle algorithmique s’avère parfois irréalisable en pratique pour des raisons de protection des données, de propriété intellectuelle, ou encore de logistique. Afin de contourner ce problème, des approches distribuées ont vu le jour.

L'utilisation de l’IA dans la gestion de la crise sanitaire

La lutte contre la Covid-19 a été l’occasion d’utiliser les ressources offertes par l’intelligence artificielle (IA). De grands espoirs et ambitions ont ainsi été nourris. Toutefois, un an et demi après le début de la pandémie le bilan de son utilisation reste mitigé.

Nicolas Papernot : « Il faut capturer de façon globale les enjeux de performance ET de sécurité ET de vie privée ET d’équité ! »

Dans le cadre de ses travaux sur les enjeux de régulation de l’intelligence artificielle, LINC s’est entretenu avec Nicolas Papernot, chercheur à l’Université de Toronto et au Vector Institute, dont le travail se situe à l'intersection des questions relatives à la sécurité, à la confidentialité et à l'apprentissage automatique (machine learning).

Aurélien Bellet et Marc Tommasi : l’apprentissage fédéré, un « nouveau paradigme pour l’apprentissage machine »

Pour mieux cerner les enjeux de l’apprentissage fédéré, approche décrite dans un article dédié, LINC a interrogé Aurélien Bellet et Marc Tommasi, chercheurs au sein de l’équipe Magnet (Machine Learning in Information Network), par laquelle collaborent Inria et l’université de Lille afin de résoudre certains problèmes éthiques liés à l’apprentissage machine.

Angèle Christin : « Les méthodes ethnographiques nuancent l’idée d’une justice prédictive et entièrement automatisée »

A partir de ses travaux sur les algorithmes prédictifs dans la justice pénale aux États-Unis, la sociologue Angèle Christin présente les apports des approches ethnographiques pour étudier les « algorithmes en pratique ».

 

Clément Henin et Daniel Le Métayer : « Fournir des explications du fonctionnement des algorithmes compréhensibles par des profanes »

Les chercheurs de l'Inria exposent pour LINC les enjeux de l’explicabilité des algorithmes et leurs travaux de recherche sur ce sujet.

 

Philippe Besse : « Les décisions algorithmiques ne sont pas plus objectives que les décisions humaines »

Spécialiste des questions de discrimination algorithmique, Philippe Besse évoque, outre les enjeux de transparence inhérents à l’usage de ces outils, les moyens qui pourraient être mis en œuvre pour assurer leur loyauté.

 

La CNIL norvégienne s'interroge aussi sur les liens entre IA et vie privée

L'homologue de la CNIL porte son regard dans la boite noire de l'intelligence artificielle, dans un document publié en janvier 2018

 

Voitures autonomes : les erreurs des intelligences artificielles tueront-elles le tuning ?

Quand les voitures autonomes ne parviennent pas à reconnaitre des autocollants posés sur des voitures ou des panneaux de signalisation, elles nous apprennent beaucoup sur les conséquences pour nos sociétés de la multiplication de ces machines intelligentes, et notamment pour certaines de nos libertés, même les plus anodines.

 

Sans données, le futur de l’IA restera artificiel

Terreau de la science-fiction, l’intelligence artificielle (IA) n’est déjà plus un fantasme, mais bel et bien une réalité. Elle surprend, impressionne, terrorise, et fait couler beaucoup d’encre, mais la connaît-on vraiment ? Quels sont et seront ses impacts sur la vie privée ?

 

Et si on hackait l'intelligence artificielle ?

L'IA est plus artificielle que réellement intelligente, la raison pour laquelle elle est si vulnérable.

Chatbots: des humains comme les autres ?

La multiplication des interactions intermédiées par des formes d’intelligence artificielle pose la question de nos relations avec les machines.

Nous voyons des pixels, l’intelligence artificielle reconnaît des visages

Une étude révèle que les images camouflées par pixellisation, floutage ou selon la méthode "p3", ne protègent pas toujours efficacement notre vie privée.

Contenu annexe

Partenariat avec le PEReN : les risques de l’intelligence artificielle dans le cadre des ...
22 November 2024
Un nouvel E(D)Spoir ? Les dynamiques à l’œuvre dans le développement des entrepôts de données...
20 November 2024
[Policy Brief - Incubateur de politiques publiques] Caméras augmentées et droits des personnes : ...
13 November 2024
surveillance