Trois menaces posées par les deepfakes que la technologie ne résoudra pas

Capture d'écran de la vidéo deepfake de Poutine Examen de la technologie MIT

Imaginez ceci : un détecteur de deepfake parfaitement précis existe enfin. Il ajoute instantanément une grande étiquette rouge DEEPFAKE à chaque vidéo qui a été manipulée avec l'IA, quel que soit le réalisme de la vidéo.

Cela pourrait sembler être exactement ce dont nous avons besoin pour lutter contre les deepfakes, ce que les gens craignent d'apporter la fin de la vérité et le mort de la démocratie . Des vidéos manipulées parfaitement réelles pourraient être ici en aussi peu que six mois , ce qui suggère que la campagne présidentielle américaine de 2020 pourrait devenir un champ de bataille de fausses vidéos : Donald Trump admettant des accords corrompus avec la Russie, Elizabeth Warren prônant une interdiction totale des armes à feu, Kamala Harris dénigrant les Blancs.

Les technologues ont répondu avec plus de technologie. le Le gouvernement américain a financé un projet sur la criminalistique des médias. Facebook et Microsoft ont récemment annoncé un défi de détection de deepfake, et Google a publié une base de données géante de deepfakes pour lutter contre les deepfakes. Mais bien que la technique de création de deepfakes soit nouvelle, une grande partie du préjudice réel qu'ils représentent - la désinformation et le harcèlement - n'est pas, selon Britt Paris, spécialiste de l'information à l'Université Rutgers et coauteur d'un récent rapport Data & Society sur les deepfakes. Un détecteur de deepfake parfaitement précis ne peut pas remédier à ces dommages. C'est pourquoi.

1) Problème : les détecteurs de Deepfake ne peuvent pas nous dire ce qui devrait et ne devrait pas être supprimé

Vous vous souvenez de cette vidéo au ralenti de Nancy Pelosi ? Ce n'était pas un deepfake. Il a quand même répandu des contrevérités et Facebook a décidé de ne pas le retirer. Un détecteur de deepfake n'aurait pas aidé avec cet appel de jugement. Plus vous vous dirigez vers une utilisation automatisée, plus vous risquez d'avoir des inexactitudes ou de la censure, déclare Kate Klonick, professeure à l'Université St. John's et experte en gouvernance des plateformes. Définir la satire, définir les fausses nouvelles, définir la fiction - ce sont toutes d'énormes questions philosophiques.

Idée : Mieux modérer

La société doit résoudre ces problèmes. Jusque-là, une solution pourrait être de donner plus de pouvoir à ceux qui sont capables de porter un jugement : les modérateurs de contenu humains. À cette fin, les modérateurs pourraient être mieux payés, mieux formés et valorisés en tant qu'élément important du maintien d'un Internet sûr, dit Sarah T. Roberts, spécialiste de l'information à l'UCLA. Des équipes spécialisées de modérateurs approuvés pourraient juger du contexte d'une vidéo, la vérifier et décider si elle doit rester sur une plateforme. Ils n'auraient peut-être pas la réponse parfaite pour cette vidéo de Pelosi, mais ils auraient toujours une idée de l'impact social et politique d'une variété de deepfakes et de leurs cibles. Ils pourraient dire que parodie des deepfakes de Nicolas Cage vont bien et faux porno n'est pas.

Quelqu'un d'autre qui pourrait être qualifié pour porter un jugement sur un deepfake ? La victime d'un. Les entreprises devraient faciliter le signalement du harcèlement deepfake, déclare Danielle Citron, experte en cyberdroit à l'Université de Boston. Tous les utilisateurs devraient être informés de leurs droits, et les étapes de signalement doivent être évidentes et accessibles, et non enfouies dans une politique de confidentialité.

2) Problème : la technologie anti-deepfake pourrait ne pas aider les personnes qui ont le plus besoin de protection

L'histoire a montré que les nouvelles technologies sont utilisées contre des groupes marginalisés - comme les femmes, les personnes de couleur, les personnes LGBT et les militants - avant qu'elles ne deviennent une menace dominante, dit Paris. Dans les années 1990, par exemple, il y avait déjà des images Photoshop brutes de têtes de femmes sur le corps d'actrices de films pour adultes. Les gens au pouvoir ne s'en souciaient pas assez pour faire quoi que ce soit à ce sujet. Si nous avions alors prêté attention au problème de l'exploitation sexuelle des femmes sans leur consentement, nous aurions été dans une bien meilleure position pour y faire face socialement, légalement et culturellement, déclare Mary Anne Franks, juriste à l'Université. de Miami.

L'histoire se répète. Les chercheurs disent que le plus grand risque de deepfakes n'est pas qu'ils fassent basculer une élection, mais que ils ont l'habitude d'intimider citoyens privés.

Idée : Ne construisez rien sans consulter les personnes les plus concernées

Parlez aux personnes les plus vulnérables aux deepfakes, explique Sam Gregory, directeur de programme chez Witness, une organisation à but non lucratif qui étudie les médias synthétiques. Même si l'objectif est de créer un détecteur de deepfake, il y a beaucoup de questions sociales impliquées. Sera-t-il disponible pour les personnes dans d'autres pays ? Sera-t-il formé pour repérer les faux politiques ou les violences de genre et sexuelles ? Une fois l'infrastructure mise en place, ce sont vraiment les personnes et les populations marginalisées qui sont exclues, car elles n'ont pas l'agence pour changer cette infrastructure, dit Gregory.

3) Problème : la détection de Deepfake est trop tardive pour aider les victimes

Avec les deepfakes, il y a peu de recours réels après la sortie de cette vidéo ou de cet audio, explique Franks, chercheur à l'Université de Miami.

Les lois existantes sont inadéquates. Les lois qui punissent le partage d'informations privées légitimes comme les dossiers médicaux ne s'appliquent pas aux vidéos fausses mais préjudiciables. Les lois contre l'usurpation d'identité sont étrangement limitées, dit Franks - elles visent à rendre illégale l'usurpation d'identité d'un médecin ou d'un fonctionnaire. Les lois sur la diffamation ne traitent que des fausses représentations qui dépeignent le sujet de manière négative, mais Franks dit que nous devrions également nous inquiéter des deepfakes qui dépeignent faussement les gens sous un jour positif.

Idée : Nouvelles lois

Texas a récemment adopté un projet de loi pour interdire les deepfakes . À Projet de loi deepfake de Californie adopté dans les deux chambres et attend maintenant la signature du gouverneur Gavin Newsom. Pendant ce temps, la représentante Yvette Clarke, membre du Congrès américain de New York, a récemment présenté une législation fédérale appelée Loi sur la responsabilité DEEPFAKES . Cela obligerait les entreprises de médias sociaux à intégrer de meilleurs outils de détection dans leurs plateformes et permettrait de punir ou d'emprisonner les personnes qui publient des deepfakes malveillants.

De leur côté, Franks et Citron travaillent sur un projet de loi fédéral visant à criminaliser les deepfakes malveillants, qu'ils appellent des contrefaçons numériques. Selon eux, une contrefaçon numérique est quelque chose qu'une personne raisonnable penserait être réelle. Elle doit également être susceptible de nuire à une personne en particulier ou à l'ordre public, par exemple si une vidéo montrait faussement un musulman en train de commettre un crime.

Pour qu'une telle loi fonctionne aux États-Unis, ce serait idéalement au niveau fédéral, et non au niveau des États. En raison d'une loi appelée Section 230, les sociétés de plates-formes ne sont pas légalement responsables de l'hébergement de contenu tiers nuisible à moins qu'il ne viole le droit pénal fédéral. Si publier des vidéos nuisibles devenait un crime, cela dissuaderait non seulement les gens de les publier ; des plates-formes comme Facebook devraient travailler plus dur pour les éloigner. Ces entreprises ne seraient pas en mesure d'invoquer l'article 230 en défense, dit Franks. Ils auraient un certain nombre de défenses, mais cette voie particulière vers eux serait bloquée.

cacher