Les fermes de trolls ont atteint 140 millions d'Américains par mois sur Facebook avant les élections de 2020, selon un rapport interne

Examen de la technologie MIT | Éléments Envato

Mettre à jour: Après la publication de cette histoire, Facebook a supprimé deux des cinq pages de fermes à trolls que nous avons identifiées.

À l'approche des élections de 2020, les plus disputées de l'histoire des États-Unis, les pages les plus populaires de Facebook pour le contenu chrétien et noir américain étaient gérées par des fermes de trolls d'Europe de l'Est. Ces pages faisaient partie d'un réseau plus vaste qui atteignait collectivement près de la moitié de tous les Américains, selon un rapport interne de l'entreprise, et a atteint cette portée non pas par le choix de l'utilisateur, mais principalement grâce à la conception de la plate-forme de Facebook et à son algorithme avide d'engagement.

Histoire connexe

Comment Facebook est devenu accro à la diffusion de fausses informations

Les algorithmes d'intelligence artificielle de l'entreprise lui ont donné une habitude insatiable de mensonges et de discours de haine. Maintenant, l'homme qui les a construits ne peut pas résoudre le problème.

Le rapport, rédigé en octobre 2019 et obtenu par MIT Technology Review auprès d'un ancien employé de Facebook non impliqué dans ses recherches, a révélé qu'après les élections de 2016, Facebook n'avait pas priorisé les changements fondamentaux dans la manière dont sa plateforme promeut et distribue les informations. L'entreprise a plutôt poursuivi une stratégie de coup de taupe qui impliquait de surveiller et d'annuler l'activité des mauvais acteurs lorsqu'ils s'engageaient dans un discours politique, et d'ajouter des garde-fous qui empêchaient le pire du pire.

Mais cette approche n'a pas fait grand-chose pour endiguer le problème sous-jacent, note le rapport. Les fermes de trolls – des groupes professionnalisés qui travaillent de manière coordonnée pour publier du contenu provocateur, souvent de la propagande, sur les réseaux sociaux – créaient encore des audiences massives en exploitant des réseaux de pages Facebook. Leur contenu atteignait 140 millions d'utilisateurs américains par mois, dont 75 % n'avaient jamais suivi aucune des pages. Ils voyaient le contenu parce que le système de recommandation de contenu de Facebook l'avait poussé dans leurs fils d'actualités.

Au lieu que les utilisateurs choisissent de recevoir du contenu de ces acteurs, c'est notre plate-forme qui choisit de donner [ces fermes de trolls] une portée énorme, a écrit l'auteur du rapport, Jeff Allen, ancien scientifique de haut niveau chez Facebook.

Joe Osborne, un porte-parole de Facebook, a déclaré dans un communiqué que la société avait déjà enquêté sur ces sujets au moment du rapport d'Allen, ajoutant : Depuis lors, nous avons mis sur pied des équipes, développé de nouvelles politiques et collaboré avec des pairs de l'industrie pour aborder ces réseaux. Nous avons pris des mesures coercitives agressives contre ces types de groupes non authentiques étrangers et nationaux et avons partagé les résultats publiquement sur une base trimestrielle.

Dans le processus de vérification des faits de cette histoire peu de temps avant sa publication, MIT Technology Review a découvert que cinq des pages de fermes à trolls mentionnées dans le rapport restaient actives.

Il s'agit de la plus grande page de ferme à troll ciblant les Afro-Américains en octobre 2019. Elle reste toujours active sur Facebook.

Le rapport a révélé que les fermes de trolls atteignaient les mêmes groupes démographiques que l'Agence de recherche Internet (IRA) soutenue par le Kremlin lors des élections de 2016, qui avaient ciblé les chrétiens, les Noirs américains et les Amérindiens. Un 2018 Enquête sur BuzzFeed News a constaté qu'au moins un membre de l'IRA russe, inculpé pour ingérence présumée dans les élections américaines de 2016, s'était également rendu en Macédoine autour de l'émergence de ses premières fermes de trolls, bien qu'il n'ait trouvé aucune preuve concrète d'un lien. (Facebook a déclaré que ses enquêtes n'avaient pas non plus révélé de lien entre l'IRA et les fermes de trolls macédoniennes.)

Ce n'est pas normal. Ce n'est pas sain, a écrit Allen. Nous avons permis à des acteurs non authentiques d'accumuler d'énormes suivis à des fins largement inconnues... Le fait que des acteurs ayant des liens possibles avec l'IRA aient accès à un nombre énorme d'audience dans les mêmes groupes démographiques ciblés par l'IRA pose un risque énorme pour les élections américaines de 2020 .

Tant que les fermes de trolls ont réussi à utiliser ces tactiques, tout autre mauvais acteur pourrait aussi, a-t-il poursuivi : Si les fermes de trolls atteignent 30 millions d'utilisateurs américains avec un contenu destiné aux Afro-Américains, nous ne devrions pas du tout être surpris si nous découvrons l'IRA. a également actuellement un large public là-bas.

Allen a rédigé le rapport en tant que quatrième et dernier volet d'un effort d'un an et demi pour comprendre les fermes de trolls. Il a quitté l'entreprise le même mois, en partie à cause de la frustration que la direction ait effectivement ignoré ses recherches, selon l'ancien employé de Facebook qui a fourni le rapport. Allen a refusé de commenter.

Le rapport révèle la situation alarmante dans laquelle les dirigeants de Facebook ont ​​quitté la plate-forme pendant des années, malgré les promesses publiques répétées de s'attaquer de manière agressive à l'ingérence électorale étrangère. MIT Technology Review met à disposition le rapport complet, avec les noms des employés expurgés, car c'est dans l'intérêt public.

Ses révélations incluent:

• En octobre 2019, environ 15 000 pages Facebook avec une audience majoritairement américaine étaient gérées par le Kosovo et la Macédoine, connus comme de mauvais acteurs lors des élections de 2016.
• Collectivement, ces pages de fermes à trolls - que le rapport traite comme une seule page à des fins de comparaison - ont atteint 140 millions d'utilisateurs américains par mois et 360 millions d'utilisateurs mondiaux par semaine. La page de Walmart a atteint la deuxième plus grande audience américaine avec 100 millions.
• Les pages de la ferme à trolls se sont également combinées pour former :
  • la plus grande page chrétienne américaine sur Facebook, 20 fois plus grande que la deuxième plus grande - atteignant 75 millions d'utilisateurs américains par mois, dont 95% n'avaient jamais suivi aucune des pages.
  • la plus grande page afro-américaine sur Facebook, trois fois plus grande que la suivante - atteignant 30 millions d'utilisateurs américains par mois, dont 85% n'avaient jamais suivi aucune des pages.
  • la deuxième plus grande page amérindienne sur Facebook, atteignant 400 000 utilisateurs par mois, dont 90% n'avaient jamais suivi aucune des pages.
  • la cinquième plus grande page féminine sur Facebook, atteignant 60 millions d'utilisateurs américains par mois, dont 90% n'avaient jamais suivi aucune des pages.
• Les fermes à la traîne affectent principalement les États-Unis, mais ciblent également le Royaume-Uni, l'Australie, l'Inde et les pays d'Amérique centrale et du Sud.
• Facebook a mené plusieurs études confirmant que le contenu plus susceptible de susciter l'engagement des utilisateurs (j'aime, commentaires et partages) est plus susceptible d'être d'un type connu pour être mauvais. Pourtant, la société a continué à classer le contenu dans les fils d'actualité des utilisateurs en fonction de ce qui recevra le plus grand engagement.
• Facebook interdit aux pages de publier du contenu simplement copié et collé à partir d'autres parties de la plate-forme, mais n'applique pas la politique contre les mauvais acteurs connus. Cela permet aux acteurs étrangers qui ne parlent pas la langue locale de publier facilement du contenu entièrement copié tout en atteignant un public massif. À un moment donné, jusqu'à 40 % des pages vues sur les pages américaines sont allées à celles qui présentaient principalement du contenu non original ou du matériel d'originalité limitée.
• Les fermes de trolls ont déjà fait leur chemin dans les programmes de partenariat Instant Articles et Ad Breaks de Facebook, qui sont conçus pour aider les organes de presse et autres éditeurs à monétiser leurs articles et vidéos. À un moment donné, en raison d'un manque de contrôles de qualité de base, jusqu'à 60 % des lectures d'articles instantanés allaient vers du contenu qui avait été plagié ailleurs. Cela a permis aux fermes de trolls de se mélanger sans se faire remarquer et même de recevoir des paiements de Facebook.

Comment Facebook permet aux fermes de trolls et augmente leur audience

Le rapport se penche spécifiquement sur les fermes de trolls basées au Kosovo et en Macédoine, qui sont gérées par des personnes qui ne comprennent pas nécessairement la politique américaine. Pourtant, en raison de la façon dont les systèmes de récompense des fils d'actualité de Facebook sont conçus, ils peuvent toujours avoir un impact significatif sur le discours politique.

Histoire connexe

Elle a tout risqué pour exposer Facebook. Maintenant, elle raconte son histoire.

Sophie Zhang, ancienne scientifique des données chez Facebook, a révélé que cela permet une manipulation politique mondiale et n'a pas fait grand-chose pour l'arrêter.

Dans le rapport, Allen identifie trois raisons pour lesquelles ces pages sont capables de gagner un si large public. Premièrement, Facebook ne pénalise pas les pages qui publient du contenu complètement non original. Si quelque chose est déjà devenu viral, il le redeviendra probablement lorsqu'il sera publié une deuxième fois. Il est donc très facile pour quiconque de se constituer un public massif parmi les Noirs américains, par exemple. Les mauvais acteurs peuvent simplement copier le contenu viral des pages des Noirs américains, ou même Reddit et Twitter, et le coller sur leur propre page, ou parfois sur des dizaines de pages.

Deuxièmement, Facebook pousse le contenu engageant sur les pages aux personnes qui ne les suivent pas. Lorsque les amis des utilisateurs commentent ou repartagent des messages sur l'une de ces pages, ces utilisateurs le verront également dans leurs fils d'actualité. Plus le contenu d'une page est commenté ou partagé, plus il voyage au-delà de ses abonnés. Cela signifie que les fermes de trolls, dont la stratégie consiste à republier le contenu le plus engageant, ont une capacité démesurée à atteindre de nouveaux publics.

Troisièmement, le système de classement de Facebook pousse le contenu plus attrayant plus haut dans les fils d'actualité des utilisateurs. Pour la plupart, les personnes qui gèrent des fermes de trolls ont des motivations financières plutôt que politiques ; ils publient ce qui suscite le plus d'engagement, sans se soucier du contenu réel. Mais parce que la désinformation, les pièges à clics et le contenu politiquement controversé sont plus susceptibles de recevoir un engagement élevé (comme le reconnaissent les propres analyses internes de Facebook), les fermes de trolls sont tentées d'en publier davantage au fil du temps, indique le rapport.

En conséquence, en octobre 2019, les 15 principales pages ciblant les Chrétiens américains, 10 des 15 principales pages Facebook ciblant les Noirs américains et quatre des 12 principales pages Facebook ciblant les Amérindiens étaient gérées par des fermes de trolls.

Notre plate-forme a donné la plus grande voix de la communauté chrétienne américaine à une poignée de mauvais acteurs qui, sur la base de leurs pratiques de production médiatique, ne sont jamais allés à l'église, a écrit Allen. Notre plate-forme a donné la plus grande voix de la communauté afro-américaine à une poignée de mauvais acteurs qui, sur la base de leurs pratiques de production médiatique, n'ont jamais eu d'interaction avec un Afro-américain.

Histoire connexe

Bilan : Pourquoi Facebook ne peut jamais se réparer lui-même

Dans An Ugly Truth, les journalistes Sheera Frenkel et Cecilia Kang révèlent les défauts fondamentaux de Facebook à travers un récit détaillé de ses années entre deux élections américaines.

Cela me semblera toujours profondément étrange … et véritablement horrifiant, a-t-il écrit. Il semble tout à fait clair que jusqu'à ce que cette situation puisse être corrigée, nous ressentirons toujours de sérieux vents contraires en essayant d'accomplir notre mission.

Le rapport suggérait également une solution possible. C'est loin d'être la première fois que l'humanité combat de mauvais acteurs dans nos écosystèmes médiatiques, a-t-il écrit, soulignant l'utilisation par Google de ce que l'on appelle une mesure d'autorité basée sur des graphiques, qui évalue la qualité d'une page Web en fonction de la fréquence à laquelle elle cite et est cité par d'autres pages Web de qualité - pour rétrograder les mauvais acteurs dans ses classements de recherche.

Nous avons notre propre implémentation d'une mesure d'autorité basée sur un graphique, a-t-il poursuivi. Si la plate-forme accordait plus d'attention à cette métrique existante dans le classement des pages, cela pourrait aider à inverser la tendance inquiétante selon laquelle les pages atteignent le public le plus large.

Lorsque le classement de Facebook donne la priorité à l'engagement, les pages de fermes à trolls battent les pages authentiques, a écrit Allen. Mais 90% des pages Troll Farm ont exactement 0 Graph Authority… [Les pages authentiques] gagnent clairement.

Problèmes systémiques

Une recherche de toutes les pages de fermes à trolls répertoriées dans le rapport révèle que cinq sont toujours actives près de deux ans plus tard :

• Une page intitulée My Baby Daddy Ain’t Shit, qui était la plus grande page Facebook ciblant les Afro-Américains en octobre 2019.
• Une page appelée Savage Hood, ciblant les Afro-Américains.
• Une page appelée Hood Videos, ciblant les Afro-Américains.
• Une page intitulée But de la vie, ciblant les chrétiens.
• Une page appelée Eagle Spirit, ciblant les Amérindiens.

Une page de ferme à troll ciblant les chrétiens américains.

La récente controverse de Facebook Rapport sur le contenu largement consulté suggère que certaines des principales vulnérabilités exploitées par les fermes de trolls subsistent également. Quinze des 19 messages les plus consultés répertoriés dans le rapport ont été plagiés d'autres messages qui étaient auparavant devenus viraux sur Facebook ou une autre plate-forme, selon une analyse de Casey Newton de The Verge.

Samantha Bradshaw, chercheuse postdoctorale à l'Université de Stanford qui étudie l'intersection de la désinformation, des médias sociaux et de la démocratie, dit que le rapport parle de nombreux problèmes systémiques plus profonds avec la plate-forme et leur algorithme dans la façon dont ils promeuvent certains types de contenu à certains utilisateurs, tout simplement basé sur cette valeur sous-jacente de croissance. Si ceux-ci ne sont pas corrigés, ils continueront à créer des incitations économiques déformées pour les mauvais acteurs, ajoute-t-elle : C'est le problème.

Lire le rapport complet ici:

cacher