Ne sous-estimez pas le cheapfake

Mme Tech | Unsplash

Le 30 novembre, le porte-parole du ministère chinois des Affaires étrangères, Lijian Zhao a épinglé une image sur son profil Twitter. Dans ce document, un soldat se tient sur un drapeau australien et sourit de façon maniaque alors qu'il tient un couteau ensanglanté sur la gorge d'un garçon. Le garçon, dont le visage est recouvert d'un voile semi-transparent, porte un agneau. À côté de l'image, Zhao a tweeté, choqué par le meurtre de civils et de prisonniers afghans par des soldats australiens. Nous condamnons fermement de tels actes, et appelons [sic] pour les tenir responsables.

Le tweet est faisant référence à une annonce récente par les Forces de défense australiennes, qui ont trouvé des informations crédibles selon lesquelles 25 soldats australiens ont été impliqués dans les meurtres de 39 civils et prisonniers afghans entre 2009 et 2013. L'image prétend montrer un soldat australien sur le point de trancher la gorge d'un enfant afghan innocent. Des trucs explosifs.

Sauf que l'image est fausse. A y regarder de plus près, ce n'est même pas très convaincant. Il aurait pu être assemblé par un novice de Photoshop. Cette image est un soi-disant cheapfake, un média qui a été grossièrement manipulé, édité, mal étiqueté ou mal contextualisé afin de répandre la désinformation.

Le cheapfake est désormais au cœur d'un incident international majeur. Le Premier ministre australien, Scott Morrison, a déclaré que la Chine devrait avoir honte et a exigé des excuses pour le image répugnante . Pékin a refusé, accusant plutôt l'Australie de barbarie et de essayer de détourner l'attention du public des crimes de guerre présumés commis par ses forces armées en Afghanistan.

Il y a deux leçons politiques importantes à tirer de cet incident. La première est que Pékin a sanctionné l'utilisation d'un faux bon marché par l'un de ses principaux diplomates pour diffuser activement la désinformation sur les plateformes en ligne occidentales. La Chine a traditionnellement fait preuve de prudence en la matière, cherchant à se présenter comme une superpuissance bienveillante et responsable. Cette nouvelle approche est un départ important.

Le cheapfake est désormais au cœur d'un incident international majeur.

Plus largement, cependant, cette escarmouche montre aussi l'importance croissante de la désinformation visuelle en tant qu'outil politique. Au cours de la dernière décennie, la prolifération des médias manipulés a remodelé les réalités politiques. (Considérez, par exemple, les contrefaçons bon marché qui ont catalysé un génocide contre les musulmans rohingyas en Birmanie, ou contribué à propager désinformation covid. ) Maintenant que les superpuissances mondiales partagent ouvertement des contrefaçons bon marché sur les réseaux sociaux, qu'est-ce qui les empêche (ou tout autre acteur) de déployer une désinformation visuelle plus sophistiquée à mesure qu'elle émerge ?

Pendant des années, les journalistes et les technologues ont mis en garde contre les dangers des deepfakes. Largement, faux profond s sont un type de média synthétique qui a été manipulé ou créé par l'intelligence artificielle. Ils peuvent également être compris comme le successeur supérieur des cheapfakes.

Les progrès technologiques améliorent simultanément la qualité de la désinformation visuelle et la rendent plus facile à générer pour quiconque. Comme il devient possible de produire des deepfakes via des applications pour smartphone, presque tout le monde sera en mesure de créer une désinformation visuelle sophistiquée à peu de frais.

Fausse alarme

Les avertissements Deepfake ont atteint leur paroxysme avant l'élection présidentielle américaine de cette année. Pendant des mois, les politiciens, les journalistes et les universitaires ont débattu de la manière de contrer la menace perçue. À l'approche du vote, les assemblées législatives des États du Texas et de la Californie ont même interdit de manière préventive l'utilisation de deepfakes pour influencer les élections .

Histoire connexe

Un bot deepfake est utilisé pour déshabiller des filles mineures

Une technologie similaire à DeepNude, l'application 2019 qui s'est arrêtée peu de temps après son lancement, se répand maintenant sans entrave sur Telegram.

Rétrospectivement, ces craintes étaient exagéré . En dehors de quelques développements intéressants, y compris une création ironique par le radiodiffuseur d'État russe Russia Today (RT) dans lequel un Donald Trump vaincu admet être le pion du président russe Vladimir Poutine, il y avait peu de deepfakery lié aux élections à signaler. Il est certain que rien ne s'est matérialisé dont on pourrait dire objectivement qu'il a influencé le résultat. Plutôt que d'être utilisés pour saboter ou exploiter les politiciens, les deepfakes sont encore le plus souvent utilisés pour créer porno non consensuel .

Bien que les deepfakes ne soient pas encore devenus les armes de désinformation massive que certains prédisaient, il n'y a pas de place pour la complaisance. Le risque potentiel est largement atténué, pour l'instant, par des limitations techniques. Au fur et à mesure que les technologies de création de deepfake s'amélioreront, les vannes s'ouvriront.

Et même avant cela, le simple conscience des deepfakes a déjà un effet néfaste. Dans un avenir proche, les mauvais acteurs pourront produire des deepfakes sur tout, et simplement rejeter tout média authentique comme faux. Ce double bonus pour les mauvais acteurs est connu sous le nom de dividende du menteur. Bien que le terme ait été inventé dans un article fondateur de 2018 sur les deepfakes, cela ne concerne pas uniquement les deepfakes. Le concept s'étend à toute désinformation, y compris les contrefaçons bon marché.

Cheapfakes partout

Puisque la tristement célèbre vidéo trafiquée de la présidente de la Chambre Nancy Pelosi est apparue en 2019, les cheapfakes sont devenus une caractéristique régulière de la vie politique américaine. Cette année, ils ont contribué à soutenir une opération de désinformation très médiatisée avancée par le président et ses plus proches collaborateurs. La fausse affirmation selon laquelle l'élection a été entachée par une fraude électorale généralisée a été systématiquement renforcée par des contrefaçons bon marché.

Un exemple est un vidéo virale du président élu Joe Biden disant, Nous avons mis sur pied, je pense, l'organisation de fraude électorale la plus étendue et la plus inclusive de l'histoire de la politique américaine. Lorsqu'ils sont correctement contextualisés, les commentaires de Biden peuvent être compris comme décrivant un programme visant à protéger les électeurs en cas de litige sans fondement concernant le résultat des élections. Néanmoins, le clip a été partagé par les deux Trump et attachée de presse Kayleigh McEnany et présenté comme un aveu de fraude.

Alors même que les votes étaient toujours comptés, des vidéos authentiques de travailleurs électoraux transcrire les votes et recueillir les bulletins de vote de manière routinière ont été partagés, par des personnes, dont Trump lui-même, comme preuve de dumping et de falsification de votes. Pendant ce temps, un faux viral viral montrant un homme déchirant des bulletins de vote s'est avéré être l'œuvre de un farceur TikTok .

Les allégations de fraude électorale généralisée sont sans fondement et les tribunaux américains rejettent les tentatives de l'équipe juridique de Trump de contester le résultat des élections. Plus tôt ce mois-ci, le procureur général Bill Barr (qui démissionne le 23 décembre) finalement admis que le ministère américain de la Justice n'a découvert aucune preuve de fraude.

Mais les cheapfakes semblent avoir eu des conséquences concrètes : début décembre, Gabriel Sterling, responsable de la mise en œuvre du système de vote en Géorgie , ont cité des cas d'intimidation et de menaces de mort contre des travailleurs électoraux, plaidant, Tout est allé trop loin ! Il faut que ça s'arrête ! Un travailleur électoral géorgien a dû se cacher après un faux bon marché de 34 secondes qui l'a faussement accusé d'avoir jeté un bulletin de vote par correspondance devenu viral.

La croyance dans le récit de l'élection truquée relève nettement des lignes partisanes. UNE Sondage Politico/Morning Consult menée après l'élection a révélé que 70% des électeurs républicains ont déclaré qu'ils ne pensaient pas que cela avait été libre et équitable. Le nombre d'électeurs du GOP exprimant une méfiance similaire à l'égard du processus avant les élections était de 35%. À l'inverse, seulement la moitié des électeurs démocrates (52%) ont déclaré qu'ils pensaient que les élections seraient libres et équitables avant le 3 novembre. Dans les sondages menés après la victoire de Biden, le chiffre est monté en flèche à 90%.

Que croire ?

La prévalence croissante de la désinformation visuelle semble affecter la politique de deux manières distinctes. Premièrement, il alimente la prolifération de toutes sortes de désinformation. Les mauvais acteurs agissent avec plus d'impunité, convaincus qu'ils peuvent éviter tout examen et responsabilité. Au moment de la rédaction de cet article, le cheapfake partagé par Lijian Zhao était toujours épinglé sur son profil Twitter.

Les cheapfakes d'aujourd'hui offrent de précieuses leçons sur les deepfakes du futur.

Deuxièmement, la prévalence croissante de la désinformation visuelle nous rend plus sensibles à toute désinformation. Au fur et à mesure que le public devient plus conscient des nombreuses façons dont les médias peuvent être manipulés, il deviendra plus sceptique à l'égard de tous les médias, y compris les médias authentiques.

Ce scepticisme permet aux mauvais acteurs de considérer plus facilement les événements réels comme faux. Cela peut également conduire à des interprétations de plus en plus subjectives et partisanes des événements par le public lui-même. Considérez, par exemple, la croyance largement répandue parmi les électeurs républicains selon laquelle les élections américaines de 2020 n'étaient pas libres et équitables. C'est manifestement faux, mais comme le suggèrent les données d'opinion publique, ce ne sont pas seulement les électeurs républicains qui se méfient du processus électoral. Jusqu'à leur victoire, les électeurs démocrates étaient aussi sceptique. Si un candidat républicain l'emporte en 2024, l'opinion publique basculera-t-elle à nouveau dans le sens partisan ?

Alors que les prédictions les plus sombres sur les deepfakes à motivation politique ne se sont pas réalisées en 2020, nous devons analyser leur évolution dans le contexte des cheapfakes et d'autres formes de désinformation politique. Les cheapfakes d'aujourd'hui offrent de précieuses leçons sur les deepfakes du futur. La question ne devrait donc pas être Quand les deepfakes politiques émergeront-ils ? mais Comment pouvons-nous atténuer les nombreuses façons dont la désinformation visuelle remodèle déjà notre réalité politique ?

Nina Schick est l'auteur de Deepfakes : l'infocalypse à venir.

cacher