[dossier] Intelligence artificielle

Retrouvez ici tous les articles en lien avec l'intelligence artificielle

BigScience : « Il faut promouvoir l’innovation ouverte et bienveillante pour mettre le respect de la vie privée au cœur de la recherche en IA »

Les modèles de langage de grandes tailles (en anglais LLM pour large langage models) sont des constructions statistiques modélisant la distribution de séquences de mots dans de nombreuses langues. Ces dernières années ont vu leur importance grandir considérablement au point que de nouveaux modèles sont de plus en plus fréquemment édités, en particulier par les grands acteurs du numérique (GPT-3, BERT, Gopher, Megatron-Turing NLG, Chinchilla, PaLM, LaMDA, etc.). Toutefois de tels objets ne sont pas sans poser de questions, en particulier pour la protection des données.

[Données synthétiques] - Et l’Homme créa les données à son image 2/2

En générant des données synthétiques, certains organismes prétendent parvenir à créer des données anonymes tout en conservant une certaine représentativité des données sources. Pourtant, un compromis doit forcément être fait entre la conservation des caractéristiques utiles et celles permettant de réidentifier les personnes. Alors, comment trouver ce compromis, et quels sont les risques qui lui sont liés ?

[Données synthétiques] - Dis papa, comment on fait les données ? 1/2

L'appétit en données de tous les secteurs grandissant, de nouvelles techniques émergent pour alimenter encore et toujours les serveurs en données de toutes sortes. La synthèse de données, en produisant des données à partir de données pourrait répondre aux besoins des réutilisateurs dans le respect des obligations de confidentialité. Mais les données synthétiques sont-elles vraiment anonymes ?

[Algaudit] 3 - Evaluer une solution d’audit algorithmique

Dans quelle mesure les outils d’audit sont-ils capables d’aider à mieux comprendre le choix d’un système algorithmique ? Après avoir présenté les « règles du jeu » dans l’article précédent, voici la description des conditions dans lesquelles a été menée l’expérimentation et les résultats obtenus. Ces derniers démontrent clairement l’intérêt de tels outils, mais exposent également certaines limites.

[Algaudit] 1 - Choisir une solution d’audit algorithmique

$Choux_romanesco_fractale$

Avec le développement croissant de systèmes algorithmiques se pose la question de leur audit à des fins de régulation. Cette question, renforcée par la publication de la proposition de règlement de la Commission européenne sur l'IA, est particulièrement complexe. Dans le cadre du partenariat noué avec Inria, la CNIL a souhaité expérimenter les outils IBEX et Algocate développés par Clément Henin pendant sa thèse.

[Algaudit] 2 - Expérimenter une solution d’audit algorithmique

Comment pourrait se dérouler un audit de système d’IA ? Après une présentation du contexte et des outils IBEX et Algocate développés par Clément Hénin* dans l’article précédent, passons à l’expérimentation « grandeur nature » qu’ont décidé de lancer la CNIL et Inria. Ce test a mis à contribution des agents de la CNIL : en voici les « règles du jeu ».

[dossier] Sécurité des systèmes d’IA

IA_LINC_CNIL Securité des systèmes IA

Les systèmes d’IA engendrent des risques de sécurité spécifiques en comparaison à des systèmes d’information classiques, tant les nouvelles capacités d’apprentissage automatique (machine learning) augmentent la « surface d’attaque » de ces systèmes, en introduisant de nombreuses (et nouvelles !) vulnérabilités. Le LINC vous propose un triptyque d’articles afin d'y voir plus clair.

Chacun chez soi et les données seront bien gardées : l’apprentissage fédéré

Pixabay - cc-by Quimuns

L’approche classique consistant à mettre en commun les données d’entraînement collectées localement afin d’entraîner un modèle algorithmique s’avère parfois irréalisable en pratique pour des raisons de protection des données, de propriété intellectuelle, ou encore de logistique. Afin de contourner ce problème, des approches distribuées ont vu le jour.

L'utilisation de l’IA dans la gestion de la crise sanitaire

La lutte contre la Covid-19 a été l’occasion d’utiliser les ressources offertes par l’intelligence artificielle (IA). De grands espoirs et ambitions ont ainsi été nourris. Toutefois, un an et demi après le début de la pandémie le bilan de son utilisation reste mitigé.

Nicolas Papernot : « Il faut capturer de façon globale les enjeux de performance ET de sécurité ET de vie privée ET d’équité ! »

Dans le cadre de ses travaux sur les enjeux de régulation de l’intelligence artificielle, LINC s’est entretenu avec Nicolas Papernot, chercheur à l’Université de Toronto et au Vector Institute, dont le travail se situe à l'intersection des questions relatives à la sécurité, à la confidentialité et à l'apprentissage automatique (machine learning).

Aurélien Bellet et Marc Tommasi : l’apprentissage fédéré, un « nouveau paradigme pour l’apprentissage machine »

Pour mieux cerner les enjeux de l’apprentissage fédéré, approche décrite dans un article dédié, LINC a interrogé Aurélien Bellet et Marc Tommasi, chercheurs au sein de l’équipe Magnet (Machine Learning in Information Network), par laquelle collaborent Inria et l’université de Lille afin de résoudre certains problèmes éthiques liés à l’apprentissage machine.

Angèle Christin : « Les méthodes ethnographiques nuancent l’idée d’une justice prédictive et entièrement automatisée »

A partir de ses travaux sur les algorithmes prédictifs dans la justice pénale aux États-Unis, la sociologue Angèle Christin présente les apports des approches ethnographiques pour étudier les « algorithmes en pratique ».

Clément Henin et Daniel Le Métayer : « Fournir des explications du fonctionnement des algorithmes compréhensibles par des profanes »

Les chercheurs de l'Inria exposent pour LINC les enjeux de l’explicabilité des algorithmes et leurs travaux de recherche sur ce sujet.

Philippe Besse : « Les décisions algorithmiques ne sont pas plus objectives que les décisions humaines »

Spécialiste des questions de discrimination algorithmique, Philippe Besse évoque, outre les enjeux de transparence inhérents à l’usage de ces outils, les moyens qui pourraient être mis en œuvre pour assurer leur loyauté.

La CNIL norvégienne s'interroge aussi sur les liens entre IA et vie privée

L'homologue de la CNIL porte son regard dans la boite noire de l'intelligence artificielle, dans un document publié en janvier 2018

Voitures autonomes : les erreurs des intelligences artificielles tueront-elles le tuning ?

Quand les voitures autonomes ne parviennent pas à reconnaitre des autocollants posés sur des voitures ou des panneaux de signalisation, elles nous apprennent beaucoup sur les conséquences pour nos sociétés de la multiplication de ces machines intelligentes, et notamment pour certaines de nos libertés, même les plus anodines.

Sans données, le futur de l’IA restera artificiel

Terreau de la science-fiction, l’intelligence artificielle (IA) n’est déjà plus un fantasme, mais bel et bien une réalité. Elle surprend, impressionne, terrorise, et fait couler beaucoup d’encre, mais la connaît-on vraiment ? Quels sont et seront ses impacts sur la vie privée ?

Et si on hackait l'intelligence artificielle ?

L'IA est plus artificielle que réellement intelligente, la raison pour laquelle elle est si vulnérable.

Chatbots: des humains comme les autres ?

La multiplication des interactions intermédiées par des formes d’intelligence artificielle pose la question de nos relations avec les machines.

Nous voyons des pixels, l’intelligence artificielle reconnaît des visages

Visage pixel - Pixabay CC0 by geralt

Une étude révèle que les images camouflées par pixellisation, floutage ou selon la méthode "p3", ne protègent pas toujours efficacement notre vie privée.

Contenu annexe

Illustration digital economie

Les modèles d’affaires « gratuits » dans l’économie numérique et la protection des données...

Comprendre le désapprentissage machine : anatomie du poisson rouge

[Dossier IA générative] - De l'entraînement à la pratique : l'IA générative et ses ...