Le ministère de la Défense a produit les premiers outils pour attraper les deepfakes

SUNY SUNY

Les premiers outils médico-légaux pour attraper la pornographie de vengeance et les fausses nouvelles créées avec l'IA ont été développés dans le cadre d'un programme géré par le département américain de la Défense.

Les experts en criminalistique se sont précipités pour trouver des moyens de détecter les vidéos synthétisées et manipulées à l'aide de l'apprentissage automatique, car la technologie facilite beaucoup la création de fausses vidéos convaincantes qui pourraient être utilisées pour semer la désinformation ou harceler les gens.

La technique la plus courante pour générer de fausses vidéos consiste à utiliser l'apprentissage automatique pour échanger le visage d'une personne sur celui d'une autre. Les vidéos qui en résultent, appelées deepfakes, sont simples à réaliser et peuvent être étonnamment réaliste . D'autres ajustements, effectués par un éditeur vidéo qualifié, peuvent les faire paraître encore plus réel .

La tromperie vidéo consiste à utiliser une technique d'apprentissage automatique connue sous le nom de modélisation générative, qui permet à un ordinateur d'apprendre à partir de données réelles avant de produire de faux exemples statistiquement similaires. Une tournure récente à ce sujet consiste à faire travailler ensemble deux réseaux de neurones, connus sous le nom de réseaux antagonistes génératifs, pour produire des contrefaçons toujours plus convaincantes (voir The GANfather : The man who’s gave machines the gift of imagination ).

Les outils pour détecter les deepfakes ont été développés dans le cadre d'un programme, géré par la DARPA (Defense Advanced Research Projects Agency) des États-Unis, appelé Médico-légal . Le programme a été créé pour automatiser les outils médico-légaux existants, mais s'est récemment tourné vers la falsification par l'IA.

'Nous avons découvert des indices subtils dans les images et les vidéos actuellement manipulées par le GAN qui nous permettent de détecter la présence d'altérations', explique Matthew Turek, qui dirige le programme Media Forensics.

Tucker Carlson fait peau neuve avec Nicolas Cage. Université d'Albany, SUNY

Une technique remarquablement simple a été mise au point par une équipe dirigée par Siwei Lyu , professeur à l'Université d'État de New York à Albany, et l'un de ses étudiants. Nous avons généré environ 50 fausses vidéos et essayé un tas de méthodes médico-légales traditionnelles. Ils ont travaillé de temps en temps, mais pas très bien, dit Lyu.

Puis, un après-midi, alors qu'il étudiait plusieurs deepfakes, Lyu s'est rendu compte que les visages créés à l'aide de deepfakes clignaient rarement, voire jamais. Et quand ils clignent des yeux, le mouvement des yeux n'est pas naturel. En effet, les deepfakes sont formés sur des images fixes, qui ont tendance à montrer une personne les yeux ouverts.

D'autres personnes impliquées dans le défi DARPA explorent des astuces similaires pour attraper automatiquement les deepfakes : mouvements de tête étranges, couleur des yeux étrange, etc. Nous travaillons sur l'exploitation de ces types de signaux physiologiques qui, pour l'instant du moins, sont difficiles à imiter pour les deepfakes, dit Hany Farid , un expert reconnu en criminalistique numérique au Dartmouth College.

Turek de la DARPA a déclaré que l'agence organiserait davantage de concours pour s'assurer que les technologies en développement sont capables de détecter les dernières techniques.

L'arrivée de ces outils médico-légaux pourrait simplement signaler le début d'une course aux armements alimentée par l'IA entre les faussaires vidéo et les détectives numériques. Un problème clé, dit Farid, est que les systèmes d'apprentissage automatique peuvent être formés pour déjouer les outils de criminalistique.

Lyu dit qu'un faussaire qualifié pourrait contourner son outil de clignement des yeux simplement en collectant des images qui montrent une personne qui cligne des yeux. Mais il ajoute que son équipe a mis au point une technique encore plus efficace, mais dit la garder secrète pour le moment. Je préfère attendre au moins un peu, dit Lyu. Nous avons un petit avantage sur les faussaires en ce moment, et nous voulons conserver cet avantage.

cacher