Les employés de Deepfake Amazon sèment la confusion sur Twitter. Ce n'est pas le problème.

Une banderole encourageant les travailleurs à voter au scrutin syndical est affichée dans un entrepôt d'Amazon à Bessemer, en Alabama. PA

Les nouvelles: Avant un vote historique qui pourrait conduire à la formation du tout premier syndicat dans un entrepôt Amazon basé aux États-Unis, de nouveaux comptes Twitter prétendant être des employés d'Amazon ont commencé à apparaître. Les profils utilisaient des photos deepfake comme images de profil et tweetaient des défenses assez risibles et exagérées des pratiques de travail d'Amazon. Ils ne semblaient pas réels, mais ils ont quand même semé la confusion parmi le public. Amazon était-il vraiment derrière eux ? Était-ce une terrible nouvelle stratégie antisyndicale sur les réseaux sociaux ? La réponse est presque certainement non, mais l'utilisation de deepfakes dans ce contexte indique une tendance générale plus préoccupante.

La trame de fond : Il y a une raison pour laquelle ces nouveaux profils deepfake semblaient familiers. En 2018, Amazon a lancé un vrai programme pour convaincre le public qu'il traitait très bien ses employés d'entrepôt. Il a installé des postes informatiques dans ces entrepôts et créé des comptes Twitter pour un petit groupe d'employés, connus sous le nom d'ambassadeurs Amazon FC, qui pouvaient tweeter pendant les heures rémunérées à quel point ils aimaient leur travail. Le plan s'est retourné contre lui et a conduit à la création de nombreux comptes d'ambassadeurs parodiques sur Twitter. Amazon a réduit le programme peu de temps après, et de nombreux comptes réels originaux ont été suspendus ou fermés, explique Aric Toler, responsable des efforts de formation et de recherche pour le site de journalisme d'investigation Bellingcat.

Le dernier: Lundi, le nouveau lot de comptes d'ambassadeurs est apparu – ou du moins, c'est ce qu'il semblait. Mais quand les gens ont commencé à enquêter, beaucoup pointu en dehors que certains avaient des photos de profil avec les signes révélateurs de visages deepfakes, comme des boucles d'oreilles déformées et des arrière-plans flous. C'est alors que les choses sont devenues confuses.

Les gens se sont rapidement accrochés à l'idée qu'Amazon elle-même était derrière les nouveaux comptes deepfake dans le cadre d'une campagne antisyndicale sur les réseaux sociaux. La société a dit plus tard Karen Wise, journaliste au New York Times que ce n'était pas le cas. Toler, qui a suivi les comptes originaux, pense qu'Amazon dit la vérité. Les comptes d'ambassadeurs d'origine étaient tous enregistrés sous des adresses e-mail Amazon et publiés à l'aide de Sprinklr. Les nouveaux comptes deepfake, qui ont depuis été suspendus, ont été enregistré avec Gmail et publié via l'application Web Twitter. De plus, le contenu des tweets était clairement destiné à être humoristique. Ces comptes n'étaient probablement que des parodies créées pour se moquer d'Amazon.

Est-ce important? Dans ce cas particulier, probablement pas. C'est bien sûr assez inoffensif, dit Toler. C'est Amazon. Ils vont bien. Mais cela révèle un problème plus préoccupant : que les comptes deepfakes peuvent être déployés de manière coordonnée sur les réseaux sociaux ou ailleurs à des fins bien plus sinistres. La version la plus malveillante de cela serait des acteurs étatiques, prévient Toler.

Histoire connexe

La lutte de deux ans pour empêcher Amazon de vendre la reconnaissance faciale à la police Les décisions prises cette semaine par Amazon, Microsoft et IBM marquent une étape importante pour les chercheurs et les défenseurs des droits civiques dans une lutte longue et continue sur la reconnaissance faciale dans les forces de l'ordre.

En fait, il y a déjà eu plusieurs cas très médiatisés dans lesquels des photos deepfake ont été utilisées dans des campagnes de désinformation préjudiciables. En décembre 2019, Facebook a identifié et démantelé un réseau de plus de 900 pages, groupes et comptes , dont certaines avec des photos de profil falsifiées, associées au journal d'extrême droite Epoch Times, connu pour ses tactiques de désinformation. En octobre 2020, un faux document de renseignement distribué dans les cercles du président Trump, qui est devenu la base de nombreuses théories du complot entourant Hunter Biden, a également été rédigé par un faux analyste de la sécurité avec une image de profil deepfake .

Toler dit que les visages deepfakes sont devenus une tendance dans son travail en tant qu'enquêteur open source sur les activités en ligne suspectes, en particulier depuis le lancement de ThisPersonDoesNotExist.com, un site Web qui propose un nouveau visage généré par l'IA à chaque actualisation. Il y a toujours une liste de contrôle mentale que vous parcourez chaque fois que vous trouvez quelque chose, dit-il. La première question est « Cette personne est-elle réelle ou non ? » Ce qui était une question que nous n'avions pas vraiment il y a cinq ans.

Quelle est la taille d'une menace? Pour le moment, dit Toler, l'utilisation de visages deepfake n'a pas eu un grand impact sur son travail. Il est encore relativement facile pour lui d'identifier quand une image de profil est un deepfake, tout comme c'est le cas lorsque la photo est une image de stock. Le scénario le plus difficile est lorsque l'image est celle d'une personne réelle extraite d'un compte de réseau social privé qui n'est pas indexé sur les moteurs de recherche d'images.

Une prise de conscience croissante des deepfakes a également incité les gens à examiner plus attentivement les médias qu'ils voient, dit Toler, comme en témoigne la rapidité avec laquelle les gens ont compris la contrefaçon des comptes Amazon.

Mais Sam Gregory, le directeur du programme de l'organisation à but non lucratif des droits de l'homme Witness, dit que cela ne devrait pas nous endormir dans un faux sentiment de sécurité. Les deepfakes s'améliorent constamment, dit-il : Je pense que les gens ont un peu trop confiance dans le fait qu'il sera toujours possible de les détecter.

Une hyper-conscience des deepfakes pourrait également conduire les gens à Arrêtez de croire aux vrais médias , ce qui pourrait avoir des conséquences tout aussi désastreuses, comme saper la documentation des violations des droits de l'homme.

Que devrions nous faire? Gregory encourage les utilisateurs de médias sociaux à éviter de se fixer sur le fait qu'une image soit un deepfake ou non. Souvent, ce n'est qu'une infime partie du puzzle, dit-il. Le cadeau n'est pas que vous avez en quelque sorte interrogé l'image. C'est que vous regardez le compte et qu'il a été créé il y a une semaine, ou c'est un journaliste qui prétend être journaliste, mais ils n'ont jamais écrit autre chose que vous pourriez trouver sur une recherche Google.

Ces tactiques d'investigation sont beaucoup plus robustes face aux avancées de la technologie deepfake. Le conseil sonne également vrai pour le cas d'Amazon. C'est en vérifiant les e-mails des comptes et les détails des tweets que Toler a finalement déterminé qu'ils étaient faux, et non en examinant les images de profil.

cacher