Google a publié une base de données géante de deepfakes pour aider à lutter contre les deepfakes

Catégorie: Intelligence artificielle Posté 25 sept.

Il comprend 3 000 vidéos générées par l'IA qui ont été réalisées à l'aide de divers algorithmes accessibles au public.

Le contexte: Au cours de l'année écoulée, les algorithmes génératifs sont devenus si bons pour synthétiser les médias que ce qu'ils produisent pourrait bientôt devenir indiscernable de la réalité . Les experts se précipitent maintenant pour trouver de meilleures méthodes pour détecter ces soi-disant deepfakes, en particulier à l'approche de l'élection présidentielle américaine de 2020.

Chute de Deepfake : Mardi, Google publié une base de données open source contenant 3 000 vidéos manipulées originales dans le cadre de ses efforts pour accélérer le développement d'outils de détection de deepfake. Il a travaillé avec 28 acteurs pour enregistrer des vidéos d'eux parlant, faisant des expressions courantes et effectuant des tâches banales. Il a ensuite utilisé des algorithmes deepfake accessibles au public pour modifier leurs visages.

L'état de l'art: Plus tôt ce mois-ci, Facebook a annoncé qu'il publierait une base de données similaire vers la fin de l'année. En janvier, une équipe académique dirigée par un chercheur de l'Université technique de Munich en a créé un appelé FaceForensics++ en exécutant quatre méthodes courantes de manipulation du visage sur près de 1 000 vidéos YouTube compilées. Avec chacun de ces jeux de données, l'idée est la même : créer un large corpus d'exemples pouvant aider à entraîner et tester des outils de détection automatisés.

Jeu du chat et de la souris : Mais une fois qu'une méthode de détection a été développée pour exploiter un défaut dans un algorithme de génération particulier, l'algorithme peut facilement être mis à jour pour le corriger. Du coup, certains experts tentent aujourd'hui de mettre au point des méthodes de détection qui supposent la perfection des images de synthèse. Autres se disputer que la lutte contre les deepfakes ne se fera pas uniquement par des moyens techniques : au lieu de cela, il faudra également des solutions sociales, politiques et juridiques pour modifier les incitations encourageant leur création.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.