La plus grande menace des deepfakes n'est pas les deepfakes eux-mêmes

Une image d'Hitler prononçant un discours avec son visage remplacé par un point d'interrogation. Mme Tech

C'était fin 2018 et le peuple gabonais n'avait pas vu son président, Ali Bongo, en public depuis des mois. Certains ont commencé à soupçonner qu'il était malade, ou même mort, et le gouvernement le cachait. Pour arrêter les spéculations, le gouvernement a annoncé que Bongo avait subi un accident vasculaire cérébral mais restait en bonne santé. Peu de temps après, il a publié une vidéo de lui prononçant son discours habituel du Nouvel An.

Plutôt que d'apaiser les tensions, cependant, la vidéo a fait exactement le contraire. Comme l'a découvert l'organisation de défense des droits numériques Internet sans frontières, de nombreuses personnes, pensant Bongo a regardé dans les images , a immédiatement soupçonné qu'il s'agissait d'un deepfake, un média forgé ou modifié avec l'aide de l'IA. Cette croyance a alimenté leurs soupçons que le gouvernement cachait quelque chose. Une semaine plus tard, l'armée a lancé un coup d'État infructueux, citant la vidéo comme faisant partie de la motivation.

L'analyse médico-légale ultérieure n'a jamais rien trouvé de modifié ou de manipulé dans la vidéo. Cela n'avait pas d'importance. La simple idée de deepfakes avait suffi à accélérer le dénouement d'une situation déjà précaire.

À l'approche des élections présidentielles américaines de 2020, une technologie deepfake de plus en plus convaincante a suscité des craintes quant à la manière dont ces faux médias pourraient influencer l'opinion politique. Mais un nouveau rapport de Deeptrace Labs, une société de cybersécurité axée sur la détection de cette tromperie, n'a trouvé aucun cas connu dans lequel des deepfakes ont été effectivement utilisés dans des campagnes de désinformation. Ce qui a eu l'effet le plus puissant, c'est de savoir qu'ils pouvait être utilisé de cette façon.

Les deepfakes présentent un risque pour la politique en termes de faux médias semblant être réels, mais à l'heure actuelle, la menace la plus tangible est de savoir comment l'idée de deepfakes peut être invoquée pour faire paraître le vrai faux, déclare Henry Ajder, l'un des auteurs du rapport. Le battage médiatique et la couverture plutôt sensationnelle spéculant sur l'impact politique des deepfakes ont éclipsé les cas réels où les deepfakes ont eu un impact.

La documentation n'est plus une preuve

Les militants des droits de l'homme et les experts en désinformation ont tiré la sonnette d'alarme sur ces menaces distinctes mais entrelacées depuis l'apparition des deepfakes. Au cours des deux dernières années, les entreprises technologiques et les décideurs politiques américains se sont concentrés presque exclusivement sur le premier problème mentionné par Ajder : la facilité avec laquelle la technologie peut donner l'impression que les fausses choses sont réelles. Mais c'est le second qui trouble le plus les experts. Alors que les obstacles à la création de deepfakes peuvent tomber rapidement, remettre en question la véracité de quelque chose ne nécessite aucune technologie.

Cela donne une autre arme aux puissants : dire 'C'est un deepfake' à propos de tout ce que les gens qui n'ont pas le pouvoir essaient d'utiliser pour montrer la corruption.

Depuis le tout début, cela a été ma plus grande inquiétude dans cet espace, déclare Aviv Ovadya, un expert en désinformation qui dirige maintenant le Thoughtful Technology Project à but non lucratif.

Saper la confiance dans les médias peut avoir de profondes répercussions, en particulier dans les environnements politiques fragiles. Sam Gregory, le directeur du programme de Witness, une organisation à but non lucratif qui aide les gens à documenter les violations des droits humains, en donne un exemple. Au Brésil, qui a connu une histoire de violences policières, les citoyens et les militants craignent désormais que toute vidéo qu'ils filment d'un officier tuant un civil ne soit plus un motif d'enquête suffisant. Cette crainte que des preuves réelles puissent vraisemblablement être rejetées comme fausses, dit Gregory, est devenue un thème récurrent dans les ateliers qu'il anime à travers le monde.

C'est une évolution de l'affirmation selon laquelle quelque chose est une 'fausse nouvelle', dit-il. Cela donne une autre arme aux puissants : dire 'C'est un deepfake' à propos de tout ce que les gens qui n'ont pas le pouvoir essaient d'utiliser pour montrer la corruption, pour montrer les violations des droits de l'homme.

Prouver que le vrai est vrai et que le faux est faux

Pour résoudre ces problèmes, il faudra comprendre les deux types de menaces. À un niveau élevé, vous voulez qu'il soit aussi simple que possible de montrer qu'une chose réelle est réelle et qu'une chose fausse est fausse, dit Ovadya.

Ces derniers mois, de nombreux groupes de recherche et entreprises technologiques comme Facebook et Google se sont concentrés sur des outils permettant d'exposer les contrefaçons, tels que des bases de données pour la formation d'algorithmes de détection et filigranes qui peuvent être intégrés dans des fichiers photo numériques pour révéler s'ils ont été falsifiés. Plusieurs startups ont également travaillé sur des moyens de renforcer la confiance grâce à des applications grand public qui vérifient les photos et les vidéos lorsqu'elles sont prises, afin de constituer une base de comparaison si des versions du contenu sont diffusées ultérieurement. Gregory dit que les géants de la technologie devraient intégrer les deux types de contrôles directement dans leurs plateformes pour les rendre largement disponibles.

Mais les entreprises technologiques doivent également employer des modérateurs de contenu humains, et les organisations médiatiques doivent également former les journalistes et les vérificateurs de faits à la fois à la détection et à la vérification. Les rapports sur le terrain peuvent confirmer si une vidéo reflète ou non la réalité et ajouter une couche importante de nuances. Les modèles techniques ne peuvent pas interpréter le contenu de la vidéo truquée à travers les contextes culturels ou imaginer comment il pourrait être davantage recontextualisé, explique Britt Paris, un expert en études de l'information qui a récemment publié un rapport sur les deepfakes.

Ce que [les acteurs de la désinformation] veulent vraiment, ce n'est pas que vous questionniez davantage, mais que vous remettiez tout en question.

À titre d'exemple, Paris cite des vidéos modifiées de Nancy Pelosi et Jim Acosta qui sont devenues virales au cours de l'année écoulée. Les deux étaient des soi-disant cheapfakes plutôt que des deepfakes – leur vitesse avait simplement été altérée pour induire les téléspectateurs en erreur. Il n'y aurait aucun moyen d'attraper ces contrefaçons avec des méthodes techniques pour attraper les deepfakes, dit Paris. Au lieu de cela, les journalistes devaient les démystifier, ce qui signifiait que les gens devaient faire confiance aux journalistes.

Enfin, tous les experts s'accordent à dire que le public a besoin d'une plus grande éducation aux médias. Il y a une différence entre prouver qu'une chose réelle est réelle et faire croire au grand public que la chose réelle est réelle, dit Ovadya. Il dit que les gens doivent être conscients que falsifier le contenu et jeter le doute sur la véracité du contenu sont deux tactiques qui peuvent être utilisées pour semer intentionnellement la confusion.

Gregory met en garde contre le fait de placer un fardeau trop lourd sur les consommateurs de nouvelles, cependant. Les chercheurs, les plateformes et les journalistes devraient faire le plus de travail possible pour aider à clarifier ce qui est vrai et ce qui est faux avant que les nouvelles n'atteignent le public.

Le but ultime, dit Ovadya, n'est pas d'instiller un scepticisme général, mais de construire une infrastructure sociale, éducative et d'inoculation pour neutraliser l'impact des deepfakes. Que devrions-nous essayer d'éviter ? il demande. Il est précieux de remettre en question les preuves. Mais ce que [les acteurs de la désinformation] veulent vraiment, ce n'est pas que vous questionniez davantage, mais que vous remettiez tout en question.

Il ajoute : C'est l'antithèse de ce que nous recherchons.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.

cacher