L'année où les deepfakes se sont généralisés

Mme Tech

En 2018, Sam Cole, journaliste à Motherboard, découvert un coin nouveau et dérangeant de l'internet. Un utilisateur de Reddit du nom de deepfakes publiait de fausses vidéos porno non consensuelles en utilisant un algorithme d'IA pour échanger les visages des célébrités en vrai porno. Cole a tiré la sonnette d'alarme sur le phénomène, juste au moment où la technologie était sur le point d'exploser. Un an plus tard, le porno deepfake s'était répandu bien au-delà de Reddit, avec facilement applications accessibles qui pourrait déshabiller n'importe quelle femme photographiée.

Depuis lors, les deepfakes ont mauvaise réputation, et à juste titre. le la grande majorité d'entre eux sont encore utilisés pour de la fausse pornographie . Une journaliste d'investigation a été sévèrement harcelé et temporairement réduit au silence par une telle activité, et plus récemment, une poétesse et romancière était effrayé et honteux. Il y a aussi le risque que les deepfakes politiques génèrent de fausses nouvelles convaincantes qui pourraient faire des ravages dans des environnements politiques instables.

Mais à mesure que les algorithmes de manipulation et de synthèse des médias sont devenus plus puissants, ils ont également donné lieu à des applications positives, ainsi qu'à des applications humoristiques ou banales. Voici un aperçu de certains de nos favoris dans un ordre chronologique approximatif, et pourquoi nous pensons qu'ils sont un signe de ce qui est à venir.

Protection des dénonciateurs

VOS MÉDIAS

En juin, Bienvenue en Tchétchénie , un film d'investigation sur la persécution des personnes LGBTQ dans la république russe, Est devenu le premier documentaire à utiliser des deepfakes pour protéger l'identité de ses sujets. Les militants luttant contre la persécution, qui étaient les personnages principaux de l'histoire, vivaient cachés pour éviter d'être torturés ou tués. Après avoir exploré de nombreuses méthodes pour dissimuler leur identité, le réalisateur David France a décidé de leur donner des couvertures deepfake. Il a demandé à d'autres militants LGBTQ du monde entier de prêter leurs visages, qui ont ensuite été greffés sur les visages des personnes de son film. La technique a permis à France de préserver l'intégrité des expressions faciales de ses sujets et donc leur douleur, leur peur et leur humanité. Au total, le film a protégé 23 personnes, pionnières d'une nouvelle forme de protection des lanceurs d'alerte.

Histoire révisionniste

PANETTA ET BOURGOGNE

En juillet, deux chercheuses du MIT, Francesca Panetta et Halsey Burgund, a lancé un projet pour créer une histoire alternative de l'alunissage d'Apollo en 1969. Appelé En cas de catastrophe lunaire , il utilise le discours que le président Richard Nixon aurait prononcé si l'occasion capitale ne s'était pas déroulée comme prévu. Les chercheurs se sont associés à deux sociétés distinctes pour l'audio et la vidéo deepfake et ont embauché un acteur pour fournir la performance de base. Ils ont ensuite passé sa voix et son visage à travers les deux types de logiciels, et les ont assemblés dans un dernier deepfake Nixon.

Alors que ce projet démontre comment les deepfakes pourraient créer de puissantes histoires alternatives, un autre suggère comment les deepfakes pourraient donner vie à la vraie histoire. En février, le magazine Time recréé Marche de Martin Luther King Jr. sur Washington pour la réalité virtuelle pour immerger les téléspectateurs dans la scène. Le projet n'a pas utilisé la technologie deepfake, mais le géant chinois de la technologie Tencent plus tard l'a cité dans un livre blanc sur ses projets d'IA, affirmant que les deepfakes pourraient être utilisés à des fins similaires à l'avenir.

mèmes

MS TECH | NEURIPS (ENSEMBLE DE FORMATION); HAO (COURTOISIE)

À la fin de l'été, la memersphere a mis la main sur des deepfakes simples à réaliser et a dévoilé les résultats dans l'univers numérique. Un mème viral en particulier, appelé Baka Mitai (photo ci-dessus), a rapidement fait son apparition alors que les gens apprenaient à utiliser la technologie pour créer leurs propres versions. L'algorithme spécifique qui alimente la folie est venu de un document de recherche de 2019 qui permet à un utilisateur d'animer une photo du visage d'une personne avec une vidéo de quelqu'un d'autre. L'effet n'est pas de haute qualité par n'importe quel effort d'imagination, mais il produit certainement un plaisir de qualité. Le phénomène n'est pas tout à fait surprenant ; jouer et parodier ont joué un rôle moteur dans la vulgarisation des deepfakes et autres outils de manipulation des médias. C'est pourquoi certains experts insistent sur la nécessité de garde-corps pour empêcher la satire de se transformer en injure .

Annonces sportives

Les horaires chargés font qu'il est difficile d'avoir des stars du sport célèbres dans la même pièce au meilleur des moments. En plein confinement, c'est impossible. Ainsi, lorsque vous devez filmer une publicité à Los Angeles mettant en vedette des personnes dans des bulles de quarantaine à travers le pays, la seule option est de la simuler. En août, le site de streaming Hulu a diffusé une publicité pour promouvoir le retour du sport sur son service, mettant en vedette le joueur de la NBA Damian Lillard, le joueur de la WNBA Skylar Diggins-Smith et le joueur de hockey canadien Sidney Crosby. On voit ces vedettes abandonner leur cuisson au levain et retourner à leurs sports, brandissant des ballons de basket et des bâtons de hockey. Sauf que nous ne le faisons pas : les visages de ces stars ont été superposés sur des doubles corporels à l'aide de la technologie deepfake. L'algorithme a été formé sur des images des joueurs capturées via Zoom. La ruse informatique a été utilisée pour simuler ce genre de chose pendant des années, mais les deepfakes le rendent plus facile et moins cher que jamais, et cette année de tout à distance a donné un coup de pouce à la technologie. Hulu n'était pas le seul. D'autres annonceurs, y compris ESPN , a également expérimenté les deepfakes.

Campagnes politiques

En septembre, à l'approche des élections présidentielles américaines, le groupe de défense non partisan RepresentUs a publié une paire de publicités deepfake . Ils présentaient de fausses versions du président russe Vladimir Poutine et du dirigeant nord-coréen Kim Jong-un délivrant le même message : qu'aucun des deux n'avait besoin d'interférer avec les élections américaines, car l'Amérique ruinerait sa démocratie à elle seule. Ce n'était pas la première utilisation de deepfakes lors d'une campagne politique. En février, l'homme politique indien Manoj Tiwari utilisé des deepfakes dans une vidéo de campagne pour donner l'impression qu'il parlait haryanvi, le dialecte hindi parlé par ses électeurs cibles. Mais RepresentUs a notamment renversé le scénario sur le récit typique autour des deepfakes politiques. Alors que les experts s'inquiètent souvent de la capacité de la technologie à semer la confusion et à perturber les élections, le groupe a cherché à faire exactement le contraire : sensibiliser à la suppression des électeurs pour protéger le droit de vote et augmenter la participation.

émissions de télévision

Si les publicités deepfake et les cascades ponctuelles commencent à vous sembler familières, faites confiance aux créateurs de Parc du Sud pour le pousser à l'extrême. En octobre, Trey Parker et Matt Stone ont lancé leur nouvelle création, Justice impertinente , la première émission de télévision deepfake . L'émission satirique hebdomadaire tourne autour du personnage Sassy Justice, un journaliste local avec un visage de Trump profondément truqué. Sassy interviewe des personnalités profondément falsifiées telles que Jared Kushner (avec le visage de Kushner superposé à un enfant) et Al Gore. Avec Justice impertinente , les deepfakes sont allés au-delà du gadget marketing ou de la tromperie malveillante pour frapper le courant dominant culturel. Non seulement la technologie utilisée pour créer les personnages, mais elle fait elle-même l'objet d'une satire. Dans le premier épisode, Sassy Trump Justice, jouant le rôle d'un défenseur des consommateurs, enquête sur la vérité derrière les deepfake news.

cacher