Google a publié un outil pour repérer les images falsifiées et trafiquées

Catégorie: Intelligence artificielle Posté 05 février

Jigsaw, un incubateur technologique de Google, a publié une plateforme expérimentale appelée Assembler pour aider les journalistes et les vérificateurs des faits de première ligne à vérifier rapidement les images.

Comment ça fonctionne: L'assembleur combine plusieurs techniques existantes dans le milieu universitaire pour détecter les techniques de manipulation courantes, y compris la modification de la luminosité de l'image et le collage de pixels copiés ailleurs pour couvrir quelque chose tout en conservant la même texture visuelle. Il comprend également un détecteur qui repère les deepfakes du type créé à l'aide de StyleGAN, un algorithme capable de générer des visages imaginaires réalistes. Ces techniques de détection alimentent un modèle maître qui indique aux utilisateurs la probabilité qu'une image ait été manipulée.

Pourquoi est-ce important: Les fausses images sont parmi les choses les plus difficiles à vérifier, en particulier avec la montée de la manipulation par l'intelligence artificielle. La fenêtre d'opportunité pour les journalistes et les vérificateurs des faits de réagir se réduit également rapidement, à mesure que la désinformation se propage à grande vitesse et à grande échelle.

Pas une panacée : Assembler est une bonne étape dans la lutte contre les médias manipulés, mais il ne couvre pas de nombreuses autres techniques de manipulation existantes, y compris celles utilisées pour la vidéo, que l'équipe devra ajouter et mettre à jour à mesure que l'écosystème continue d'évoluer. Il existe également toujours en tant que plate-forme distincte des canaux où les images trafiquées sont généralement distribuées. Les experts ont recommandé aux géants de la technologie comme Facebook et Google d'intégrer ces types de fonctionnalités de détection directement dans leurs plateformes. De cette façon, ces vérifications peuvent être effectuées en temps quasi réel lorsque des photos et des vidéos sont téléchargées et partagées.

Il existe également d'autres approches à considérer. Certaines startups poursuivent la technologie de vérification, par exemple, qui mémorise les positions des pixels dans une photo au moment de leur capture, mais cela s'accompagne également de défis.

Au-delà de la technologie : En fin de compte, les correctifs techniques ne suffiront pas. L'un des aspects les plus délicats de la contrefaçon numérique n'est pas les fausses images elles-mêmes. C'est plutôt l'idée qu'ils existent, qui peut facilement être invoquée pour douter de la véracité des vrais médias. C'est le type de défi qui nécessitera également des solutions sociales et politiques.