L'armée américaine finance un effort pour attraper les deepfakes et autres supercheries d'IA

Vous pensez que l'IA aidera à mettre un terme aux fake news ? L'armée américaine n'en est pas si sûre.

Le ministère de la Défense finance un projet qui tentera de déterminer si la fausse vidéo et le son de plus en plus réalistes générés par l'intelligence artificielle pourraient bientôt être impossibles à distinguer de la réalité, même pour un autre système d'IA.

Cet été, dans le cadre d'un projet financé par le Agence des projets de recherche avancée de défense (DARPA) , les plus grands experts mondiaux en criminalistique numérique se réuniront pour un concours de falsification de l'IA. Ils rivaliseront pour générer les fausses vidéos, images et audio les plus convaincants générés par l'IA, et ils essaieront également de développer des outils capables de détecter automatiquement ces contrefaçons.

Le concours comprendra des soi-disant deepfakes, des vidéos dans lesquelles le visage d'une personne est cousu sur le corps d'une autre personne. Comme on pouvait s'y attendre, la technologie a déjà été utilisée pour générer un certain nombre de vidéos pornos de célébrités contrefaites. Mais la méthode pourrait également être utilisée pour créer un clip d'un politicien disant ou faisant quelque chose de scandaleux.

Les technologues de la DARPA sont particulièrement préoccupés par une technique d'IA relativement nouvelle qui pourrait rendre la contrefaçon d'IA presque impossible à détecter automatiquement. En utilisant ce que l'on appelle des réseaux antagonistes génératifs, ou GAN, il est possible de générer des images artificielles incroyablement réalistes.

Théoriquement, si vous donniez à un GAN toutes les techniques que nous connaissons pour le détecter, il pourrait réussir toutes ces techniques, explique David Gunning, le responsable du programme DARPA en charge du projet. Nous ne savons pas s'il y a une limite. C'est vague.

Un GAN se compose de deux composants. Le premier, connu sous le nom d'acteur, essaie d'apprendre les modèles statistiques dans un ensemble de données, tel qu'un ensemble d'images ou de vidéos, puis génère des données synthétiques convaincantes. Le second, appelé le critique, tente de faire la distinction entre les vrais et les faux exemples. Les retours du critique permettent à l'acteur de produire des exemples toujours plus réalistes. Et parce que les GAN sont déjà conçus pour déjouer un système d'IA, il n'est pas clair si un système automatisé pourrait les attraper.

Les GAN sont relativement nouveaux, mais ils ont pris d'assaut la scène de l'apprentissage automatique (voir The GANfather: The man who's gave machines the gift of imagination ). Ils peuvent déjà être utilisés pour imaginer des célébrités imaginaires très réalistes ou pour modifier de manière convaincante des images en changer un froncement de sourcils en sourire ou transformer la nuit en jour.

La détection d'une falsification numérique comporte généralement trois étapes. La première consiste à examiner le fichier numérique à la recherche de signes indiquant que deux images ou vidéos ont été fusionnées. La seconde est de regarder l'éclairage et d'autres propriétés physiques de l'imagerie pour des signes que quelque chose ne va pas. Le troisième - qui est le plus difficile à faire automatiquement, et probablement le plus difficile à vaincre - consiste à prendre en compte les incohérences logiques, comme le mauvais temps pour la date supposée ou un arrière-plan incorrect pour le lieu supposé.

Walter Scheirer , un expert en criminalistique numérique à l'Université de Notre Dame qui est impliqué dans le projet DARPA, dit que la technologie a parcouru un chemin étonnamment long depuis le lancement de l'initiative il y a quelques années. Nous sommes définitivement dans une course aux armements, dit-il.

Bien qu'il soit depuis longtemps possible pour un expert en graphisme qualifié de produire des contrefaçons convaincantes, l'IA rendra la technologie beaucoup plus accessible. Il est passé des acteurs parrainés par l'État et d'Hollywood à quelqu'un sur Reddit, dit Hany Farid , professeur à Dartmouth spécialisé dans la criminalistique numérique. L'urgence que nous ressentons maintenant est de protéger la démocratie.

Deepfakes utilise une technique d'apprentissage automatique connue sous le nom d'apprentissage en profondeur pour incorporer automatiquement un nouveau visage dans une vidéo existante. Lorsque de grandes quantités de données sont introduites dans un réseau neuronal simulé très grand ou profond, un ordinateur peut apprendre à effectuer toutes sortes de tâches utiles, telles qu'une reconnaissance faciale très précise. Mais la même approche facilite également la manipulation vidéo malveillante. Un outil publié en ligne permet à toute personne ayant une expertise technique modeste de générer de nouveaux deepfakes. Et le créateur de cet outil Raconté Carte mère qu'une version encore plus conviviale est en préparation.

Le problème, bien sûr, s'étend bien au-delà de l'échange de visages. Les experts disent de plus en plus qu'avant longtemps, il peut être beaucoup plus difficile de savoir si une photo, une vidéo ou un clip audio a été généré par une machine. Google a même développé un outil appelé Duplex qui utilise l'IA pour simuler un appel téléphonique.

aviv ovadia , technologue en chef du Center for Social Media Responsibility de l'Université du Michigan, craint que les technologies d'IA en cours de développement ne soient utilisées pour nuire à la réputation de quelqu'un, influencer une élection ou pire. Ces technologies peuvent être utilisées de manière merveilleuse pour le divertissement, et aussi de nombreuses manières très terrifiantes, a déclaré Ovadya lors d'une conférence le 15 mai. un événement organisé par Bloomberg . Vous avez déjà des images modifiées utilisées pour provoquer une véritable violence dans le monde en développement, a-t-il déclaré. C'est un danger réel et présent.

Si la technologie ne peut pas être utilisée pour détecter les faux et la désinformation, il peut y avoir une pression pour utiliser la loi à la place. En fait, la Malaisie a introduit des lois contre les fausses nouvelles en avril. Cependant, Farid de Dartmouth dit que cela peut s'avérer problématique car la vérité est elle-même un sujet glissant. Comment définissez-vous les fake news ? Ce n'est pas aussi facile qu'on pourrait le penser, dit-il. Je peux recadrer une image et changer fondamentalement une image. Et que faites-vous avec le Oignon ?

cacher