211service.com
Les deepfakes peuvent être résolus, mais n'oubliez pas que les deepfakes sont déjà omniprésents
Jérémy Portje
L'industrie technologique a une occasion unique de s'attaquer aux deepfakes - le problème des faux audio et vidéo créés à l'aide de l'intelligence artificielle - avant qu'ils ne deviennent un problème généralisé, selon le militant des droits de l'homme Sam Gregory.
Mais, prévient-il, les grandes entreprises sont encore très loin de s'attaquer au problème omniprésent et plus dommageable de la désinformation grossière et superficielle.
Gregory est gestionnaire de programme à Témoin , qui se concentre sur l'utilisation de la vidéo dans le domaine des droits de l'homme, soit par des militants et des victimes pour dénoncer les abus, soit par des régimes autoritaires pour réprimer la dissidence. S'adressant lundi à un public à EmTech Digital, un événement organisé par MIT Technology Review, il a déclaré que les deepfakes que nous voyons actuellement sont le calme avant la tempête.
Les médias synthétiques malveillants ne sont pas encore largement utilisés, les outils ne sont pas encore devenus mobiles - ils n'ont pas été produits, a déclaré Gregory. Ce moment, a-t-il suggéré, présente une opportunité inhabituelle pour les créateurs des deepfakes d'établir des moyens de les combattre avant que les mauvais acteurs ne puissent déployer la technologie à grande échelle.
Nous pouvons être proactifs et pragmatiques pour faire face à cette menace pour la sphère publique et notre écosystème de l'information, a-t-il déclaré. Nous pouvons nous préparer, pas paniquer.
Bien que les deepfakes aient peut-être une longueur d'avance sur le courant dominant, il existe déjà un flot problématique de désinformation qui n'a pas encore été résolu. Aujourd'hui, les fausses informations n'utilisent généralement pas l'IA ou une technologie complexe. Au contraire, de simples astuces comme le fait de mal étiqueter le contenu pour discréditer les militants ou diffuser de fausses informations peuvent être d'une efficacité dévastatrice, parfois même entraîner des violences meurtrières, comme cela s'est produit au Myanmar .
Par ces 'shallowfakes', j'entends les dizaines de milliers de vidéos diffusées avec une intention malveillante dans le monde en ce moment - conçues non pas avec une IA sophistiquée, mais souvent simplement réétiquetées et re-téléchargées, affirmant qu'un événement à un endroit vient de se produire à un autre, a déclaré Gregory .
Par exemple, a-t-il dit, une vidéo d'une personne brûlée vive a été réutilisée et réattribuée à des acteurs en Côte d'Ivoire, au Soudan du Sud, au Kenya et en Birmanie, incitant à chaque fois à la violence.
Une autre menace était l'idée croissante que nous ne pouvons faire confiance à rien de ce que nous voyons, ce qui est dans la plupart des cas tout simplement faux, a déclaré Gregory. La propagation de cette idée est une aubaine pour les autoritaires et les totalitaires du monde entier.
Un récit alarmiste ne fait qu'accentuer les dangers réels auxquels nous sommes confrontés : le déni plausible et l'effondrement de la confiance, a-t-il ajouté.
Mark Latonero, responsable des droits de l'homme chez Données & Société , un institut à but non lucratif dédié aux applications des données, a convenu que les entreprises technologiques devraient faire davantage pour résoudre ces problèmes. Alors que Microsoft, Google, Twitter et d'autres ont des employés qui se concentrent sur les droits de l'homme, a-t-il dit, ils devraient faire tellement plus avant de déployer des technologies, pas après.
Le moment est vraiment venu pour les entreprises, les chercheurs et autres de nouer ces liens très solides avec la société civile et les différents bureaux de pays où vos produits pourraient être lancés, a-t-il déclaré. S'engager avec les personnes les plus proches des problèmes dans ces pays. Construisez ces alliances maintenant. Lorsque quelque chose ne va pas, et ce sera le cas, nous pouvons commencer à jeter les bases d'une collaboration et d'un échange de connaissances.