Les applications Deepfake-busting peuvent repérer même un seul pixel hors de propos

Avec l'aimable autorisation de Serelay





La falsification de photos et de vidéos demandait beaucoup de travail. Soit vous avez utilisé CGI pour générer des images photoréalistes à partir de zéro (à la fois difficile et coûteux), soit vous aviez besoin d'une certaine maîtrise de Photoshop - et de beaucoup de temps - pour modifier de manière convaincante les images existantes.

Désormais, l'avènement des images générées par l'IA a permis à quiconque de modifier plus facilement une image ou une vidéo avec des résultats d'un réalisme déroutant. Plus tôt cette année, Examen de la technologie MIT Le rédacteur en chef de l'IA, Will Knight, a utilisé un logiciel standard pour créer sa propre fausse vidéo du sénateur américain Ted Cruz. La vidéo est un peu glitchy, mais ce ne sera pas pour longtemps.

Cette même technologie crée une classe croissante de séquences et de photos, appelées deepfakes, qui ont le potentiel de saper la vérité, de confondre les téléspectateurs et de semer la discorde à une échelle beaucoup plus grande que ce que nous avons déjà vu avec les fausses nouvelles textuelles.



Ce sont les possibilités qui perturbent Hany Farid, professeur d'informatique au Dartmouth College qui démystifie les fausses images depuis 20 ans. Je ne pense pas que nous soyons encore prêts, prévient-il. Mais il espère que la prise de conscience croissante du problème et les nouveaux développements technologiques pourraient mieux préparer les gens à discerner les vraies images des créations manipulées.

Une image originale du Brasenose College de l'Université d'Oxford. Courtoisie de Serelay

Un exemple de la façon dont l'image originale pourrait être modifiée pour supprimer le drapeau arc-en-ciel LGBTQ sur le toit. Avec l'aimable autorisation de Serelay



Il existe deux façons principales de relever le défi de la vérification des images, explique Farid. La première consiste à rechercher des modifications dans une image. Les experts en criminalistique des images utilisent des techniques de calcul pour déterminer si des pixels ou des métadonnées semblent altérés. Ils peuvent rechercher des ombres ou des reflets qui ne respectent pas les lois de la physique, par exemple, ou vérifier combien de fois un fichier image a été compressé pour déterminer s'il a été enregistré plusieurs fois.

La deuxième méthode, plus récente, consiste à vérifier l'intégrité d'une image au moment où elle est prise. Cela implique d'effectuer des dizaines de vérifications pour s'assurer que le photographe n'essaie pas d'usurper les données de localisation et l'horodatage de l'appareil. Les coordonnées, le fuseau horaire, l'altitude et les réseaux Wi-Fi à proximité de la caméra se corroborent-ils ? La lumière de l'image se réfracte-t-elle comme elle le ferait pour une scène en trois dimensions ? Ou est-ce que quelqu'un prend une photo d'une autre photo en deux dimensions ?

Farid pense que cette deuxième approche est particulièrement prometteuse. Compte tenu des deux milliards de photos téléchargées quotidiennement sur le Web, il pense que cela pourrait aider à vérifier les images à grande échelle.



Serelay permet aux utilisateurs de télécharger des photos suspectes pour vérifier si elles ont été trafiquées. Le système effectue une série de vérifications pour déterminer où des modifications, le cas échéant, ont été apportées. Avec l'aimable autorisation de Serelay

Deux startups, Truepic basée aux États-Unis (pour laquelle Farid est consultant) et Serelay basée au Royaume-Uni, travaillent actuellement à commercialiser cette idée. Ils ont adopté des approches similaires : chacun dispose d'applications d'appareil photo iOS et Android gratuites qui utilisent des algorithmes propriétaires pour vérifier automatiquement les photos lorsqu'elles sont prises. Si une image devient virale, elle peut être comparée à l'original pour vérifier si elle a conservé son intégrité.

Alors que Truepic télécharge les images de ses utilisateurs et les stocke sur ses serveurs, Serelay stocke une sorte d'empreinte numérique en calculant une centaine de valeurs mathématiques à partir de chaque image. (La société affirme que ces valeurs sont suffisantes pour détecter même une modification d'un seul pixel et déterminer approximativement quelle section de l'image a été modifiée.) Truepic dit qu'ils choisissent de stocker les images complètes au cas où les utilisateurs voudraient supprimer des photos sensibles pour des raisons de sécurité. (Dans certains cas, les utilisateurs de Truepic opérant dans des scénarios à haut risque, comme une zone de guerre, doivent supprimer l'application immédiatement après avoir documenté des scènes.) Serelay, en revanche, estime que le fait de ne pas stocker les photos offre aux utilisateurs une plus grande confidentialité.



Serelay est capable d'attraper et de mettre en évidence le drapeau manquant sur la photo. Avec l'aimable autorisation de Serelay

En tant que couche supplémentaire de confiance et de protection, Truepic stocke également toutes les photos et métadonnées à l'aide d'une blockchain, la technologie derrière Bitcoin qui combine la cryptographie et la mise en réseau distribuée pour stocker et suivre les informations en toute sécurité.

Ce n'est pas à l'épreuve des balles, admet Farid, et il dit qu'il y a quelques inconvénients. Par exemple, les utilisateurs doivent utiliser le logiciel de vérification au lieu de l'application appareil photo sur leur téléphone. Il note également que les entreprises qui tentent de commercialiser ce type de technologie peuvent donner la priorité à la monétisation plutôt qu'à la sécurité. Nous accordons une certaine confiance aux entreprises qui créent ces applications, dit-il.

Mais il existe aussi des stratégies d'atténuation. Truepic et Serelay proposent tous deux des kits de développement logiciel pour rendre leur technologie accessible à des plateformes tierces. Leur idée est de faire un jour de leur technologie de vérification un standard de l'industrie pour les appareils photo numériques, y compris ceux de Facebook, Snapchat ou même l'application d'appareil photo native d'Apple. Dans ce scénario, une image non modifiée publiée sur les réseaux sociaux pourrait automatiquement recevoir une coche, comme un badge de vérification Twitter, indiquant qu'elle correspond à une image dans leur base de données - un signe que Serelay espère établirait la fiabilité.

La grande majorité du contenu que nous voyons en ligne provient d'appareils mobiles, explique Farid. Il existe essentiellement une poignée de caméras qui peuvent intégrer ce type de technologie dans leur système, et je pense que vous auriez une assez bonne solution.

Chaque startup est maintenant en pourparlers préliminaires avec des entreprises de médias sociaux pour explorer la possibilité d'un partenariat, et Serelay fait également partie d'un nouveau programme d'accélérateur Facebook appelé LDN_LAB.

Bien que la technologie ne soit pas encore répandue, Farid encourage les gens à l'utiliser par défaut lors de la documentation de scénarios à enjeux élevés, qu'il s'agisse de discours de campagne politique, de violations des droits de l'homme ou d'éléments de preuve sur une scène de crime. Truepic a déjà vu des citoyens utiliser son application pour documenter des crises en Syrie. Al Jazeera a ensuite utilisé les images vérifiées pour produire nombreuses vidéos . Les deux sociétés ont également commercialisé leur technologie dans le secteur de l'assurance en tant que moyen vérifié de documenter les dommages.

Farid dit qu'il est important pour les entreprises qui font ce travail d'être transparentes sur leurs processus et de travailler avec des partenaires de confiance. Cela peut aider à maintenir la confiance des utilisateurs et à éloigner les mauvais acteurs.

Nous avons encore du chemin à parcourir pour être pleinement préparés à la prolifération des deepfakes, dit-il. Mais il a bon espoir. La technologie de type Truepic et la technologie de type Serelay sont en bonne forme, dit-il. Je pense que nous nous préparons.

cacher