Les deepfakes ont fait paniquer le Congrès. C'est ce qu'il doit faire.

Une photo d'illustration du président Trump, une moitié en noir et blanc et l'autre moitié très saturée Mme Tech ; Photo originale de WIN MCNAMEE ; GETTY IMAGES

La récente diffusion rapide d'une vidéo trafiquée de Nancy Pelosi a effrayé les législateurs à Washington. La vidéo, montée pour la faire paraître ivre, n'est qu'un exemple parmi tant d'autres au cours de la dernière année de médias manipulés qui en ont fait un discours public grand public. En janvier, un autre vidéo trafiquée ciblant le président Donald Trump a fini par être diffusé à la télévision de Seattle. Cette semaine, une vidéo générée par l'IA de Mark Zuckerberg a été téléchargée sur Instagram. (Facebook a promis de ne pas le supprimer.)

À l'approche des élections américaines de 2020, le Congrès américain est de plus en plus préoccupé par le fait que la capacité rapide et facile de forger des médias pourrait rendre les campagnes électorales vulnérables au ciblage par des agents étrangers et compromettre la confiance des électeurs.

En réponse, la Chambre des représentants tiendra sa première audition dédiée demain sur les deepfakes, la classe de médias synthétiques générés par l'IA. En parallèle, la représentante Yvette Clarke déposera un projet de loi sur le même sujet. Un nouveau rapport de recherche publié par une organisation à but non lucratif cette semaine met également en évidence une stratégie pour faire face à la prolifération des deepfakes et autres médias trafiqués.

Ce n'est pas la première fois que les décideurs politiques américains cherchent à agir sur cette question. En décembre 2018, le sénateur Ben Sasse a présenté un facture différente tenter d'interdire les deepfakes malveillants. Le sénateur Marco Rubio a également répété à plusieurs reprises sonné l'alarme sur la technologie au fil des ans. Mais c'est la première fois que nous voyons un tel effort concerté de la part des législateurs américains.

La facture deepfake

Le projet de loi, fruit de plusieurs mois de discussions avec des informaticiens, des experts en désinformation et des défenseurs des droits de l'homme, comprendra trois dispositions. La première obligerait les entreprises et les chercheurs qui créent des outils pouvant être utilisés pour faire des deepfakes à ajouter automatiquement des filigranes aux créations falsifiées.

La seconde obligerait les entreprises de médias sociaux à intégrer une meilleure détection des manipulations directement dans leurs plateformes. Enfin, la troisième disposition créerait des sanctions, comme des amendes ou même des peines de prison, pour punir les contrevenants pour avoir créé des deepfakes malveillants qui nuisent à des individus ou menacent la sécurité nationale. En particulier, il tenterait d'introduire un nouveau mécanisme de recours juridique si la réputation des personnes est endommagée par les médias synthétiques.

Ce problème n'affecte pas seulement les politiciens, déclare Mutale Nkonde, membre du Data & Society Research Institute et conseiller sur le projet de loi. Les vidéos deepfake sont beaucoup plus susceptibles d'être déployées contre les femmes, les minorités, les personnes de la communauté LGBT, les pauvres. Et ces personnes n'auront pas les ressources nécessaires pour lutter contre les risques de réputation.

L'objectif de la présentation du projet de loi n'est pas de le faire passer par le Congrès tel quel, dit Nkonde. Au lieu de cela, il vise à susciter une conversation plus nuancée sur la façon de traiter la question en droit en proposant des recommandations spécifiques qui peuvent être critiquées et affinées. Ce que nous cherchons vraiment à faire, c'est d'inscrire dans le dossier du Congrès l'idée que la manipulation audiovisuelle est inacceptable, dit-elle.

L'état actuel des deepfakes

Par coïncidence, l'organisation à but non lucratif de défense des droits de l'homme Witness a publié un nouveau rapport de recherche cette semaine documentant l'état actuel de la technologie deepfake. Les deepfakes ne sont actuellement pas courants : ils nécessitent toujours des compétences spécialisées pour être produits, et ils laissent souvent des artefacts dans la vidéo, comme des problèmes et une pixellisation, qui rendent la contrefaçon évidente.

Mais la technologie a progressé à un rythme rapide et la quantité de données nécessaires pour simuler une vidéo a chuté de façon spectaculaire. Il y a deux semaines, Samsung démontré qu'il était possible de créer une vidéo entière à partir d'une seule photo ; cette semaine chercheurs universitaires et industriels démo d'un nouvel outil qui permet aux utilisateurs de modifier les mots de quelqu'un en tapant ce qu'ils veulent que le sujet dise.

Ce n'est donc qu'une question de temps avant que les deepfakes ne prolifèrent, explique Sam Gregory, le directeur du programme de Witness. Bon nombre des façons dont les gens envisageraient d'utiliser les deepfakes - pour attaquer des journalistes, pour impliquer la corruption par des politiciens, pour manipuler des preuves - sont clairement des évolutions de problèmes existants, nous devrions donc nous attendre à ce que les gens essaient les dernières façons de les faire efficacement, dit-il .

Le rapport décrit une stratégie sur la façon de se préparer à un avenir aussi imminent. Bon nombre des recommandations et une grande partie des preuves à l'appui s'alignent également sur les propositions qui figureront dans le projet de loi de la Chambre.

Le rapport a révélé que les investissements actuels des chercheurs et des entreprises technologiques dans la génération de deepfake l'emportent largement sur ceux de la détection de deepfake. Adobe, par exemple, a produit de nombreux outils pour faciliter les modifications de médias, y compris une fonctionnalité récente pour supprimer des objets dans les vidéos ; il ne leur a cependant pas fourni de repoussoir.

Le résultat est un décalage entre la nature réelle de la manipulation des médias et les outils disponibles pour la combattre. Si vous créez un outil de synthèse ou de contrefaçon transparent pour l'œil humain ou l'oreille humaine, vous devez créer des outils spécialement conçus pour détecter cette contrefaçon, déclare Gregory. La question est de savoir comment amener les outilleurs à corriger ce déséquilibre.

À l'instar du projet de loi de la Chambre, le rapport recommande également aux sociétés de médias sociaux et de recherche de mieux intégrer les capacités de détection de manipulation dans leurs plateformes. Facebook pourrait investir dans la détection de suppression d'objets, par exemple, pour contrer la fonctionnalité d'Adobe ainsi que d'autres techniques d'édition malveillantes.

Il devrait ensuite étiqueter clairement les vidéos et les images dans les fils d'actualité des utilisateurs pour indiquer quand elles ont été éditées de manière invisible à l'œil humain. Google, comme autre exemple, devrait investir dans la recherche vidéo inversée pour aider les journalistes et les téléspectateurs à identifier rapidement la source originale d'un clip.

Au-delà du Congrès

Malgré l'alignement étroit du rapport sur le projet de loi, Gregory avertit que le Congrès américain devrait réfléchir à deux fois avant d'adopter des lois sur les deepfakes de sitôt. Il est tôt pour réglementer les deepfakes et les médias synthétiques, dit-il, bien qu'il fasse des exceptions pour des applications très étroites, telles que leur utilisation pour produire des images sexuelles non consensuelles. Je ne pense pas que nous sachions suffisamment comment les sociétés et les plateformes géreront les deepfakes et les médias synthétiques pour mettre en place des réglementations, ajoute-t-il.

Gregory craint que la discussion en cours à Washington ne conduise à des décisions qui auraient des répercussions négatives plus tard. Les réglementations américaines pourraient fortement influencer ce que font les autres pays, par exemple. Et il est facile de voir comment, dans les pays aux gouvernements plus autoritaires, les réglementations protégeant les politiciens pourraient être utilisées pour justifier le retrait de tout contenu controversé ou critiquant les dirigeants politiques.

Nkonde convient que le Congrès devrait adopter une approche mesurée et réfléchie de la question et ne pas se limiter à son impact sur la politique. J'espère vraiment qu'ils parleront [pendant l'audience] du nombre de personnes touchées par cette technologie, dit-elle, et de l'impact psychologique de ne pas pouvoir croire ce que vous pouvez voir et entendre.

cacher