Un nouvel outil de détection de deepfake devrait assurer la sécurité des dirigeants mondiaux - pour l'instant

Une image d'exemples de deepfake et d'imitation de Barak Obama Université de Californie, Berkeley

Une vidéo produite par l'IA pourrait montrer Donald Trump disant ou faisant quelque chose d'extrêmement scandaleux et incendiaire. Ce ne serait que trop crédible et, dans le pire des cas, cela pourrait influencer une élection, déclencher des violences dans les rues ou déclencher un conflit armé international.

Heureusement, un nouveau technique de criminalistique numérique promet de protéger le président Trump, d'autres dirigeants mondiaux et des célébrités contre de tels deepfakes - pour le moment, du moins. La nouvelle méthode utilise l'apprentissage automatique pour analyser le style de parole et de mouvement d'un individu spécifique, ce que les chercheurs appellent une signature biométrique douce.

Les chercheurs, de l'UC Berkeley et de l'Université de Californie du Sud, ont utilisé un outil existant pour extraire les mouvements du visage et de la tête des individus. Ils ont également créé leurs propres deepfakes pour Donald Trump, Barack Obama, Bernie Sanders, Elizabeth Warren et Hillary Clinton en utilisant des réseaux antagonistes génératifs.

L'équipe a ensuite utilisé l'apprentissage automatique pour distinguer les mouvements de la tête et du visage qui caractérisent la personne réelle. Ces signaux subtils – la façon dont Bernie Sanders hoche la tête en prononçant un mot particulier, peut-être, ou la façon dont Trump sourit après un retour – ne sont actuellement pas modélisés par des algorithmes deepfake.

Dans les expériences, la technique était précise à au moins 92% pour repérer plusieurs variantes de deepfakes, y compris les échanges de visage et ceux dans lesquels un imitateur utilise une marionnette numérique. Il a également été capable de traiter les artefacts dans les fichiers provenant de la recompression d'une vidéo, ce qui peut perturber d'autres techniques de détection. Les chercheurs prévoient d'améliorer la technique en tenant également compte des caractéristiques du discours d'une personne. La recherche, qui a été présentée lors d'une conférence sur la vision par ordinateur en Californie cette semaine, a été financé par Google et DARPA, une aile de recherche du Pentagone. La DARPA finance un programme visant à concevoir de meilleures techniques de détection.

Le problème auquel sont confrontés les dirigeants mondiaux (et tous les autres) est qu'il est devenu ridiculement simple de générer des contrefaçons vidéo avec l'intelligence artificielle. Les faux reportages, les faux comptes sur les réseaux sociaux et les vidéos trafiquées ont déjà sapé la couverture et le discours politiques. Les politiciens sont particulièrement préoccupés par le fait que de faux médias pourraient être utilisés pour semer la désinformation lors de l'élection présidentielle de 2020.

Certains outils pour capturer des vidéos deepfake ont déjà été produits, mais les faussaires se sont rapidement adaptés. Par exemple, pendant un certain temps, il était possible de repérer un deepfake en suivant les mouvements oculaires de l'orateur, ce qui avait tendance à ne pas être naturel dans les deepfakes. Peu de temps après l'identification de cette méthode, cependant, les algorithmes de deepfake ont été modifiés pour inclure un meilleur clignotement.

Nous assistons à une course aux armements entre les manipulations numériques et la capacité de les détecter, et les progrès des algorithmes basés sur l'IA catalysent les deux côtés, déclare Hao Li, professeur à l'Université de Californie du Sud et PDG de Écran d'épingles qui a aidé à développer la nouvelle technique. Pour cette raison, son équipe n'a pas encore publié le code derrière la méthode .

Li dit qu'il sera particulièrement difficile pour les fabricants de deepfakes de s'adapter à la nouvelle technique, mais il concède qu'ils finiront probablement par le faire. La prochaine étape pour contourner cette forme de détection serait de synthétiser les mouvements et les comportements en fonction des observations antérieures de cette personne en particulier, dit-il.

Li dit également qu'à mesure que les deepfakes deviennent plus faciles à utiliser et plus puissants, il peut devenir nécessaire pour chacun d'envisager de se protéger. Les célébrités et les personnalités politiques ont été les principales cibles jusqu'à présent, dit-il. Mais je ne serais pas surpris si dans un an ou deux, des humains artificiels qui semblent indiscernables des vrais puissent être synthétisés par n'importe quel utilisateur final.

cacher