Fake America grand encore

À l'intérieur de la course pour attraper les contrefaçons inquiétantes qui peuvent être fabriquées à l'aide de l'intelligence artificielle. Par

• Chevalier page d'archives

17 août 2018

Bruce Peterson

Devinez quoi? Je viens de mettre la main sur des séquences vidéo embarrassantes du sénateur texan Ted Cruz chantant et tournant sur Tina Turner. Ses ennemis politiques vont s'amuser à le montrer lors des midterms. Donald Trump l'appellera Dancin' Ted.

D'accord, je l'admets, j'ai créé la vidéo moi-même. Mais voici la chose la plus troublante : sa réalisation a nécessité très peu de compétences en montage vidéo. J'ai téléchargé et configuré un logiciel qui utilise l'apprentissage automatique pour effectuer un échange de visage numérique convaincant. La vidéo qui en résulte, connue sous le nom de deepfake, montre les yeux distinctement tombants de Cruz cousus sur les traits de l'acteur Paul Rudd faisant du karaoké à synchronisation labiale. Ce n'est pas parfait - il y a quelque chose qui cloche - mais cela pourrait tromper certaines personnes.

Cette histoire faisait partie de notre numéro de septembre 2018

• Voir la suite du problème
• S'abonner

Le faux photo est loin d'être nouveau, mais l'intelligence artificielle va complètement changer la donne. Jusqu'à récemment, seul un studio de cinéma à gros budget pouvait effectuer un échange de visage vidéo, et cela aurait probablement coûté des millions de dollars. L'IA permet désormais à toute personne disposant d'un ordinateur décent et de quelques heures à perdre de faire la même chose. De nouvelles avancées en matière d'apprentissage automatique rendront possible une tromperie encore plus complexe et rendront la contrefaçon plus difficile à repérer.

Ces avancées menacent de brouiller davantage la frontière entre vérité et fiction en politique. Internet accélère et renforce déjà la diffusion de la désinformation par le biais de faux comptes sur les réseaux sociaux. Les faits alternatifs et les théories du complot sont courants et largement répandus. Les fausses nouvelles, outre leur influence possible sur la dernière élection présidentielle américaine, ont déclenché des violences ethniques au Myanmar et au Sri Lanka au cours de l'année écoulée. Imaginez maintenant que vous jetiez de nouveaux types de fausses vidéos d'apparence réelle dans le mélange : des politiciens prononçant des absurdités ou des insultes ethniques, ou se faisant prendre à se comporter de manière inappropriée sur une vidéo, sauf que cela ne s'est jamais vraiment produit.

Les deepfakes ont le potentiel de faire dérailler le discours politique, déclare Charles Seife, professeur à l'Université de New York et auteur de Irréalité virtuelle : juste parce qu'Internet vous l'a dit, comment savez-vous que c'est vrai ? Seife avoue être étonné de la rapidité avec laquelle les choses ont progressé depuis la publication de son livre, en 2014. La technologie modifie notre perception de la réalité à un rythme alarmant, dit-il.

Sommes-nous sur le point d'entrer dans une ère où nous ne pouvons faire confiance à rien, même à des vidéos authentiques qui semblent capturer de vraies nouvelles ? Comment décidons-nous de ce qui est crédible ? A qui fait-on confiance ?

Ces images fixes de Ted Cruz et Paul Rudd ont été extraites des images qui ont été transmises à un programme d'échange de visages.

Vrai faux

Plusieurs technologies ont convergé pour faciliter la contrefaçon, et elles sont facilement accessibles : les smartphones permettent à n'importe qui de capturer des séquences vidéo, et les puissants outils d'infographie sont devenus beaucoup moins chers. Ajoutez un logiciel d'intelligence artificielle, qui permet de déformer, de remixer et de synthétiser les choses de manière hallucinante. L'IA n'est pas seulement une meilleure version de Photoshop ou d'iMovie. Il permet à un ordinateur d'apprendre à quoi ressemble le monde et sonne afin qu'il puisse évoquer des simulacres convaincants.

J'ai créé le clip de Cruz en utilisant OpenFaceSwap, l'un des nombreux programmes de changement de visage que vous pouvez télécharger gratuitement. Vous avez besoin d'un ordinateur avec une puce graphique avancée, ce qui peut vous coûter quelques milliers de dollars. Mais vous pouvez également louer l'accès à une machine virtuelle pour quelques centimes par minute en utilisant une plate-forme cloud d'apprentissage automatique comme Paperspace. Ensuite, il vous suffit d'alimenter deux clips vidéo et de vous asseoir pendant quelques heures pendant qu'un algorithme détermine l'apparence et le mouvement de chaque visage afin qu'il puisse se mapper l'un sur l'autre. Faire fonctionner les choses est un peu un art : si vous choisissez des clips trop différents, le résultat peut être un méli-mélo cauchemardesque de nez, d'oreilles et de mentons.

Mais le processus est assez simple.

Faire fonctionner les choses est un peu un art : si vous choisissez des clips trop différents, les résultats peuvent être un méli-mélo de nez, d'oreilles et de mentons.

L'échange de visages a été, comme on pouvait s'y attendre, d'abord adopté pour faire du porno. En 2017, un utilisateur anonyme de Reddit connu sous le nom de Deepfakes a utilisé l'apprentissage automatique pour échanger les visages d'actrices célèbres dans des scènes mettant en vedette des stars de cinéma pour adultes, puis a publié les résultats sur un sous-reddit dédié à la pornographie de célébrités divulguée. Un autre utilisateur de Reddit a ensuite publié une interface facile à utiliser, ce qui a entraîné une prolifération de deepfake porn ainsi que, pour une raison étrange, des clips interminables de l'acteur Nicolas Cage dans des films dans lesquels il n'était pas vraiment. Même Reddit, un lieu de rencontre notoirement en roue libre, interdit une telle pornographie non consensuelle. Mais le phénomène persiste dans les recoins les plus sombres d'internet.

OpenFaceSwap utilise un réseau de neurones artificiels, désormais l'outil incontournable de l'IA. Les réseaux de neurones très vastes ou profonds qui sont alimentés par d'énormes quantités de données d'entraînement peuvent faire toutes sortes de choses utiles, y compris trouver le visage d'une personne parmi des millions d'images. Ils peuvent également être utilisés pour manipuler et synthétiser des images.

OpenFaceSwap forme un réseau profond pour encoder un visage (un processus similaire à la compression de données), créant ainsi une représentation qui peut être décodée pour reconstruire le visage complet. L'astuce consiste à alimenter les données encodées pour une face dans le décodeur pour l'autre. Le réseau de neurones évoquera alors, souvent avec une précision surprenante, un visage imitant les expressions et les mouvements de l'autre. La vidéo résultante peut sembler bancale, mais OpenFaceSwap brouillera automatiquement les bords et ajustera la coloration du visage nouvellement transplanté pour rendre les choses plus authentiques.

Gauche : OpenFaceSwap prévisualise les tentatives d'échange de visage pendant la formation. Les premiers essais peuvent souvent être un peu bizarres et grotesques.

À droite : le logiciel met plusieurs heures à produire un bon échange de visage. Plus il y a de données d'entraînement, meilleur est le résultat final.

Une technologie similaire peut également être utilisée pour recréer la voix de quelqu'un. Une startup appelée Lyrebird a publié des démos convaincantes de Barack Obama et Donald Trump disant des choses entièrement inventées. Lyrebird dit qu'à l'avenir, il limitera ses doublons de voix aux personnes qui ont donné leur permission, mais tout le monde ne sera sûrement pas aussi scrupuleux.

Une startup a posté des démos convaincantes de Barack Obama et Donald Trump disant des choses entièrement inventées.

Il existe des méthodes bien établies pour identifier les images et les vidéos trafiquées. Une option consiste à rechercher sur le Web des images qui auraient pu être mélangées. Une solution plus technique consiste à rechercher des modifications révélatrices dans un fichier numérique ou dans les pixels d'une image ou d'une image vidéo. Un expert peut rechercher des incohérences visuelles, une ombre qui ne devrait pas être là ou un objet dont la taille n'est pas la bonne.

Hany Farid, de l'Université de Dartmouth, l'un des plus grands experts mondiaux, a montré comment une scène peut être reconstruite en 3D afin de découvrir des bizarreries physiques. Il a également prouvé que des changements subtils dans l'intensité des pixels d'une vidéo, indiquant le pouls d'une personne, peuvent être utilisés pour repérer la différence entre une personne réelle et une personne générée par ordinateur. Récemment, l'un des anciens étudiants de Farid, maintenant professeur à l'Université d'État de New York à Albany, a montré qu'un clignement irrégulier des yeux peut révéler un visage manipulé par l'IA.

Pourtant, la plupart des gens ne peuvent pas faire ce genre de travail de détective et n'ont pas le temps d'étudier chaque image ou clip qui apparaît sur Facebook. Alors que la falsification visuelle est devenue plus courante, il y a eu une poussée pour automatiser l'analyse. Et il s'avère que non seulement l'apprentissage en profondeur excelle à inventer des choses, mais qu'il est idéal pour examiner les images et les vidéos à la recherche de signes de contrefaçon. Cet effort ne fait que commencer, cependant, et il pourrait finalement être entravé par le degré de réalisme des contrefaçons automatisées.

Réseaux de tromperie

L'une des dernières idées de la recherche en IA consiste à retourner les réseaux de neurones contre eux-mêmes afin de produire des faux encore plus réalistes. Un réseau antagoniste génératif, ou GAN, utilise deux réseaux de neurones profonds : un qui a été formé pour identifier des images ou des vidéos réelles, et un autre qui apprend au fil du temps à déjouer son homologue. Les GAN peuvent être formés pour produire de fausses images étonnamment réalistes.

Au-delà de la copie et de l'échange de visages, les GAN peuvent permettre de synthétiser des scènes entières et des personnes qui semblent bien réelles, transformant une scène de jour en scène de nuit et imaginant des célébrités imaginaires. Les GAN ne fonctionnent pas parfaitement, mais ils s'améliorent tout le temps, et c'est un domaine de recherche brûlant ( Examen de la technologie MIT nommé GANs l'une de ses 10 technologies révolutionnaires pour 2018).

Les GAN peuvent transformer des scènes de jour en scènes de nuit et imaginer des visages de célébrités imaginaires.

Plus inquiétant encore, la technique pourrait également être utilisée pour échapper à la criminalistique numérique. La Defense Advanced Research Projects Agency des États-Unis a invité des chercheurs à participer à un concours cet été dans lequel certains ont développé de fausses vidéos utilisant des GAN et d'autres ont essayé de les détecter. Les GAN sont un défi particulier pour nous dans la communauté médico-légale, car ils peuvent être retournés contre nos techniques médico-légales, explique Farid. Reste à savoir quel camp l'emportera.

C'est la fin

Si nous ne faisons pas attention, cela pourrait entraîner la fin du monde - ou du moins ce qui y ressemble.

En avril, un prétendu reportage de la BBC a annoncé les premières salves d'un conflit nucléaire entre la Russie et l'OTAN. Le clip, qui a commencé à circuler sur la plate-forme de messagerie WhatsApp, montrait des images de missiles qui explosaient alors qu'un présentateur de nouvelles racontait aux téléspectateurs que la ville allemande de Mayence avait été détruite avec des parties de Francfort.

C'était, bien sûr, entièrement faux, et la BBC s'est empressée de le dénoncer. La vidéo n'a pas été générée à l'aide de l'IA, mais elle a montré la puissance de la fausse vidéo et comment elle peut propager des rumeurs à une vitesse fulgurante. La prolifération des programmes d'IA rendra de telles vidéos beaucoup plus faciles à réaliser et encore plus convaincantes.

Même si nous ne sommes pas dupes des fausses nouvelles, cela pourrait avoir des conséquences désastreuses sur le débat politique. Tout comme nous sommes maintenant habitués à nous demander si une photographie a pu être photoshoppée, les contrefaçons générées par l'IA pourraient nous rendre plus méfiants à propos des événements que nous voyons partagés en ligne. Et cela pourrait contribuer à l'érosion supplémentaire du débat politique rationnel.

Dans La mort de la vérité , publié cette année, la critique littéraire Michiko Kakutani soutient que les faits alternatifs, les fausses nouvelles et la folie générale de la politique moderne représentent l'aboutissement de courants culturels qui remontent à des décennies. Kakutani considère les faux IA hyperréalistes comme le dernier coup dur porté au concept de réalité objective.

Avant même que la technologie ne devienne bonne, le fait qu'elle existe et qu'elle soit un moyen d'éroder la confiance dans le matériel légitime est profondément problématique, déclare Renee DiResta, chercheuse chez Data for Democracy et l'une des premières personnes à identifier le phénomène de Twitter politiquement motivé. campagnes de désinformation.

Le plus grand risque de cette nouvelle technologie n'est donc peut-être pas qu'elle soit utilisée à mauvais escient par des pirates informatiques, des saboteurs politiques ou des anonymes, mais qu'elle sape davantage la vérité et l'objectivité elle-même. Si vous ne pouvez pas distinguer un faux de la réalité, il devient facile de remettre en question l'authenticité de quoi que ce soit. Cela sert déjà de moyen pour les politiciens d'échapper à la responsabilité.

Le plus grand risque est peut-être que la technologie sape davantage la vérité et l'objectivité.

Le président Trump a renversé l'idée de fausses nouvelles en utilisant le terme pour attaquer tous les reportages des médias qui critiquent son administration. Il a également suggéré qu'un clip incriminant de lui dénigrant les femmes, publié lors de la campagne de 2016, aurait pu être falsifié numériquement. En avril dernier, le gouvernement russe a accusé la Grande-Bretagne d'avoir truqué des preuves vidéo d'une attaque chimique en Syrie pour justifier une action militaire proposée. Aucune des deux accusations n'était vraie, mais la possibilité d'une falsification sophistiquée diminue de plus en plus la crédibilité des informations réelles. Au Myanmar et en Russie, une nouvelle législation vise à interdire les fausses informations, mais dans les deux cas, les lois peuvent simplement servir de moyen de réprimer les critiques à l'encontre du gouvernement.

Au fur et à mesure que les puissants deviennent de plus en plus conscients de la falsification de l'IA, il deviendra facile de rejeter même des preuves vidéo claires d'actes répréhensibles comme rien de plus qu'une tromperie numérique faite par le GAN.

La vérité sera toujours là. Mais le saurez-vous quand vous le verrez ?

Will Knight est rédacteur en chef à Examen de la technologie MIT qui couvre l'intelligence artificielle.

cacher