Facebook, Google, Twitter ne sont pas préparés aux deepfakes présidentiels

Catégorie: Intelligence artificielle Posté août 06

Aucune des trois grandes cornes de brume Internet – Facebook, Google ou Twitter – ne semble avoir de plan clair pour traiter les fausses vidéos générées par l'IA, ou deepfakes, avant l'élection présidentielle de l'année prochaine, selon le président du House Intelligence Committee.

Mise à jour du statut: Adam Schiff, un démocrate de Californie, a déclaré vendredi que les trois entreprises avaient commencé à réfléchir sérieusement aux défis posés par les médias manipulés par des machines, ou deepfakes, mais qu'il y avait encore beaucoup de travail à faire si elles devaient se préparer à la perturbation. l'effet de cette technologie lors des prochaines élections.

Pas de panique : Pas besoin de paniquer. Il existe, en fait, certaines techniques émergentes pour repérer les vidéos qui ont été fabriquées à l'aide de l'IA.

Face-à-face : Les vidéos Deepfake utilisent les avancées récentes de l'apprentissage automatique pour échanger automatiquement les visages dans une vidéo ou effectuer d'autres astuces qui brouillent la réalité. Des outils simples de deepfake peuvent être téléchargés sur le Web, et vous pouvez trouver de nombreux exemples surréalistes des résultats sur Internet .

Le souci : La manipulation d'images existe depuis longtemps, mais l'IA rend la contrefaçon sophistiquée plus accessible. Lors d'une élection, un deepfake pourrait peut-être être utilisé pour influencer les électeurs au dernier moment. En mai, une vidéo de Nancy Pelosi qui avait été trafiquée pour donner l'impression qu'elle brouillait son discours a circulé rapidement sur les réseaux sociaux.

Chat et souris: Pour le moment, il existe plusieurs façons de repérer les deepfakes. Un clignotement irrégulier est un signe révélateur qu'une vidéo a été gâchée, par exemple. Mais la détection est en quelque sorte une course aux armements, car un algorithme d'IA peut généralement être formé pour corriger une faille donnée.

Je t'ai eu: Ce mois de juin, un nouveau papier de plusieurs experts en criminalistique numérique ont décrit une approche plus infaillible. Il repose sur la formation d'un algorithme de détection pour reconnaître les mouvements du visage et de la tête d'une personne en particulier, indiquant ainsi quand le visage de cette personne a été collé sur la tête et le corps de quelqu'un d'autre. L'approche ne fonctionne que lorsque le système a été formé pour reconnaître quelqu'un, mais elle pourrait au moins protéger les candidats présidentiels contre les attaques.

Se taire ? Google a effectivement fourni un financement pour cette nouvelle recherche. Alors peut-être que ces entreprises gardent leurs cartes près de leur poitrine en matière de détection de deepfake. Si vous voulez garder une longueur d'avance sur les faussaires, ce serait certainement une décision intelligente.