[dossier] Intelligence artificielle

Retrouvez ici tous les articles en lien avec l'intelligence artificielle

[dossier] Sécurité des systèmes d’IA

IA_LINC_CNIL Securité des systèmes IA

Les systèmes d’IA engendrent des risques de sécurité spécifiques en comparaison à des systèmes d’information classiques, tant les nouvelles capacités d’apprentissage automatique (machine learning) augmentent la « surface d’attaque » de ces systèmes, en introduisant de nombreuses (et nouvelles !) vulnérabilités. Le LINC vous propose un triptyque d’articles afin d'y voir plus clair.

Chacun chez soi et les données seront bien gardées : l’apprentissage fédéré

Pixabay - cc-by Quimuns

L’approche classique consistant à mettre en commun les données d’entraînement collectées localement afin d’entraîner un modèle algorithmique s’avère parfois irréalisable en pratique pour des raisons de protection des données, de propriété intellectuelle, ou encore de logistique. Afin de contourner ce problème, des approches distribuées ont vu le jour.

L'utilisation de l’IA dans la gestion de la crise sanitaire

La lutte contre la Covid-19 a été l’occasion d’utiliser les ressources offertes par l’intelligence artificielle (IA). De grands espoirs et ambitions ont ainsi été nourris. Toutefois, un an et demi après le début de la pandémie le bilan de son utilisation reste mitigé.

Nicolas Papernot : « Il faut capturer de façon globale les enjeux de performance ET de sécurité ET de vie privée ET d’équité ! »

Dans le cadre de ses travaux sur les enjeux de régulation de l’intelligence artificielle, LINC s’est entretenu avec Nicolas Papernot, chercheur à l’Université de Toronto et au Vector Institute, dont le travail se situe à l'intersection des questions relatives à la sécurité, à la confidentialité et à l'apprentissage automatique (machine learning).

Aurélien Bellet et Marc Tommasi : l’apprentissage fédéré, un « nouveau paradigme pour l’apprentissage machine »

Pour mieux cerner les enjeux de l’apprentissage fédéré, approche décrite dans un article dédié, LINC a interrogé Aurélien Bellet et Marc Tommasi, chercheurs au sein de l’équipe Magnet (Machine Learning in Information Network), par laquelle collaborent Inria et l’université de Lille afin de résoudre certains problèmes éthiques liés à l’apprentissage machine.

Angèle Christin : « Les méthodes ethnographiques nuancent l’idée d’une justice prédictive et entièrement automatisée »

A partir de ses travaux sur les algorithmes prédictifs dans la justice pénale aux États-Unis, la sociologue Angèle Christin présente les apports des approches ethnographiques pour étudier les « algorithmes en pratique ».

Clément Henin et Daniel Le Métayer : « Fournir des explications du fonctionnement des algorithmes compréhensibles par des profanes »

Les chercheurs de l'Inria exposent pour LINC les enjeux de l’explicabilité des algorithmes et leurs travaux de recherche sur ce sujet.

Philippe Besse : « Les décisions algorithmiques ne sont pas plus objectives que les décisions humaines »

Spécialiste des questions de discrimination algorithmique, Philippe Besse évoque, outre les enjeux de transparence inhérents à l’usage de ces outils, les moyens qui pourraient être mis en œuvre pour assurer leur loyauté.

La CNIL norvégienne s'interroge aussi sur les liens entre IA et vie privée

L'homologue de la CNIL porte son regard dans la boite noire de l'intelligence artificielle, dans un document publié en janvier 2018

Voitures autonomes : les erreurs des intelligences artificielles tueront-elles le tuning ?

Quand les voitures autonomes ne parviennent pas à reconnaitre des autocollants posés sur des voitures ou des panneaux de signalisation, elles nous apprennent beaucoup sur les conséquences pour nos sociétés de la multiplication de ces machines intelligentes, et notamment pour certaines de nos libertés, même les plus anodines.

Sans données, le futur de l’IA restera artificiel

Terreau de la science-fiction, l’intelligence artificielle (IA) n’est déjà plus un fantasme, mais bel et bien une réalité. Elle surprend, impressionne, terrorise, et fait couler beaucoup d’encre, mais la connaît-on vraiment ? Quels sont et seront ses impacts sur la vie privée ?

Et si on hackait l'intelligence artificielle ?

L'IA est plus artificielle que réellement intelligente, la raison pour laquelle elle est si vulnérable.

Chatbots: des humains comme les autres ?

La multiplication des interactions intermédiées par des formes d’intelligence artificielle pose la question de nos relations avec les machines.

Nous voyons des pixels, l’intelligence artificielle reconnaît des visages

Visage pixel - Pixabay CC0 by geralt

Une étude révèle que les images camouflées par pixellisation, floutage ou selon la méthode "p3", ne protègent pas toujours efficacement notre vie privée.

Contenu annexe

Geo-Trouve-Tous

WereUAt: Location data re-identification from theory to practice

L’impatient anglais, ou quand le manque de transparence freine le partage des données de santé

Calculer autrement pexels-moose-photos

Calculer autrement ? Deux ateliers pour interroger la recommandation par le design

28 juillet 2022

Algorithmes