Voici cinq façons dont la technologie anti-deepfake pourrait se retourner contre vous

Catégorie: Élection 2020 Posté 16 décembre

Les deepfakes sont devenus un symbole de la fin de la vérité et, pour certains, un outil potentiel pour faire basculer les élections. (Peu importe que la plupart des deepfakes soient encore du faux porno.) Tout le monde, du gouvernement américain aux géants de la technologie en passant par les startups, essaie de développer une technologie anti-deepfake. Mais un nouveau rapport publié aujourd'hui par Witness , une organisation à but non lucratif qui étudie les médias synthétiques, souligne comment ces outils pourraient mal tourner.

Les techniques : La vidéo manipulée n'est pas un problème nouveau, et il existe de nombreux problèmes sociaux que même le meilleur détecteur de deepfake ne peut résoudre. (Par exemple, savoir qu'une vidéo a été éditée ne répond pas automatiquement à la question de savoir si elle doit être retirée. Et si c'est de la satire ?) Cela n'a pas empêché des entreprises comme Amber Video, Truepic et eWitness de développer des technologies de capture ou de capture contrôlée. Ceux-ci utilisent une variété de techniques pour signer, géolocaliser et horodater une image ou une vidéo lors de sa création. En théorie, cela permet de savoir plus facilement si le média a été trafiqué.

Quel est le problème? Le rapport des témoins expose 14 façons différentes dont ces technologies pourraient en fait finir par être nocives. Certains des principaux:

—Les outils en cours de construction pourraient être utilisés pour surveiller les gens
—Les contraintes techniques pourraient empêcher ces outils de fonctionner là où ils sont le plus nécessaires (et ceux qui utilisent du matériel ancien pourraient être laissés pour compte)
—Les appareils jailbreakés ne pourront pas capturer de matériel vérifiable
—Les entreprises pourraient supprimer les données ou ne pas laisser les individus les contrôler
— Exiger davantage de vérifications des médias devant les tribunaux pourrait rendre la procédure judiciaire plus longue et plus coûteuse

Donc, que pouvons nous faire? Il n'y a pas de solution facile à ces problèmes, déclare Sam Gregory, directeur du programme Witness. Les entreprises qui créent ces technologies doivent répondre à ces questions et réfléchir aux personnes les plus susceptibles d'être lésées, ajoute-t-il. Il est également possible de construire eux-mêmes des outils de médias synthétiques de manière plus éthique. L'expert en technologie Aviv Ovadya, par exemple, a des idées sur la façon de créer des outils deepfake responsables. Les entreprises peuvent faire de leur mieux pour vérifier quels clients sont autorisés à utiliser leurs outils et pénaliser explicitement ceux qui enfreignent leurs normes. Les médias synthétiques de toutes sortes vont devenir plus courants. Il faudra beaucoup de tactiques différentes pour nous garder tous en sécurité.