Vrai ou faux? L'IA rend très difficile de savoir

Les gros titres ne seront peut-être pas les seules choses qui seront fausses à l'avenir.

De puissantes techniques d'apprentissage automatique (voir The Dark Secret at the Heart of AI ) facilitent de plus en plus la manipulation ou la génération de vidéos et d'audio réalistes, et l'usurpation de l'identité de qui vous voulez avec une précision incroyable.

Une application pour smartphone appelée FaceApp , publié récemment par une société basée en Russie, peut automatiquement modifier le visage de quelqu'un pour ajouter un sourire, ajouter ou soustraire des années, ou échanger les sexes. L'application peut également appliquer des effets d'embellissement qui incluent le lissage des rides et, plus controversé, l'éclaircissement de la peau.

Et la semaine dernière, une société appelée Oiseau-lyre , une entreprise issue de l'Université de Montréal, a fait la démonstration d'une technologie qui, selon elle, peut être utilisée pour imiter la voix d'une autre personne. La société a publié des clips de démonstration de Barack Obama, Donald Trump et Hillary Clinton approuvant tous la technologie.

Ce ne sont là que deux exemples de la manière dont les algorithmes d'IA les plus puissants peuvent être utilisés pour générer du contenu plutôt que de simplement analyser des données.

Le matériel et les logiciels graphiques puissants, ainsi que les nouvelles technologies de capture vidéo, sont également à l'origine de cette tendance. L'année dernière, des chercheurs de l'Université de Stanford ont présenté un programme d'échange de visage appelé Face2Face . Ce système peut manipuler des séquences vidéo afin que les expressions faciales d'une personne correspondent à celles d'une personne suivie à l'aide d'une caméra à détection de profondeur. Le résultat est souvent étrangement réaliste.

La capacité de manipuler les voix et les visages de manière si réaliste pourrait soulever un certain nombre de problèmes, comme le reconnaissent les créateurs de Lyrebird.

Les enregistrements vocaux sont actuellement considérés comme des éléments de preuve solides dans nos sociétés et en particulier dans les juridictions de nombreux pays, lit-on dans une déclaration d'éthique publiée sur le site Web de l'entreprise. Notre technologie remet en question la validité de ces preuves car elle permet de manipuler facilement les enregistrements audio. Cela pourrait potentiellement avoir des conséquences dangereuses.

FaceApp et Lyrebird utilisent des réseaux convolutifs génératifs profonds pour activer ces astuces. Cela signifie que l'entreprise applique une technique qui a émergé ces dernières années comme un moyen d'amener les algorithmes à aller au-delà du simple apprentissage pour classer les choses et générer leurs propres données plausibles.

Comme de nombreuses tâches en intelligence artificielle aujourd'hui, cela implique l'utilisation de réseaux de neurones très vastes ou profonds. De tels réseaux sont normalement alimentés en données de formation et modifiés afin qu'ils répondent de la manière souhaitée à une nouvelle entrée. Par exemple, ils peuvent être entraînés à reconnaître des visages ou des objets dans des images avec une précision étonnante.

Mais les mêmes réseaux peuvent alors être amenés à générer leurs propres données en fonction de ce qu'ils ont pu intérioriser à propos de l'ensemble de données sur lequel ils ont été formés.

Il est possible d'entraîner un tel réseau à générer des images à partir de zéro qui ressemblent presque à la vraie chose. À l'avenir, en utilisant les mêmes techniques, il pourrait également devenir beaucoup plus facile de manipuler la vidéo. À un moment donné, il est probable que générer des vidéos entières avec des réseaux de neurones deviendra possible, dit Alexandre de Brébisson , cofondateur de Lyrebird. C'est plus difficile car il y a beaucoup de variabilité dans l'espace de grande dimension représentant les vidéos, et les modèles actuels ne sont toujours pas parfaits.

Compte tenu des technologies qui émergent actuellement, il peut devenir de plus en plus important de pouvoir détecter les fausses vidéos et audios.

Justus Thiès , doctorant à l'Université Friedrich Alexander en Allemagne et l'un des chercheurs à l'origine de Face2Face, l'application d'échange de visage en temps réel, déclare avoir lancé un projet visant à détecter la manipulation de la vidéo. Les résultats intermédiaires semblent prometteurs, dit-il.

cacher