211service.com
Elle a tout risqué pour exposer Facebook. Maintenant, elle raconte son histoire.
Sophie Zhang, ancienne scientifique des données chez Facebook, a révélé que cela permet une manipulation politique mondiale et n'a pas fait grand-chose pour l'arrêter.
Christie Là Klok
29 juillet 2021Le monde a entendu parler de Sophie Zhang pour la première fois en septembre 2020, quand Nouvelles de BuzzFeed a obtenu et publié les faits saillants d'une version abrégée de sa note de sortie de près de 8 000 mots sur Facebook.
Avant d'être licenciée, Zhang était officiellement employée comme data scientist de bas niveau dans l'entreprise. Mais elle était devenue absorbée par une tâche qu'elle jugeait plus importante : trouver et supprimer de faux comptes et likes qui étaient utilisés pour influencer les élections à l'échelle mondiale.
Sa note a révélé qu'elle avait identifié des dizaines de pays, dont l'Inde, le Mexique, l'Afghanistan et la Corée du Sud, où ce type d'abus permettait aux politiciens d'induire le public en erreur et d'accéder au pouvoir. Cela a également révélé à quel point l'entreprise avait fait peu pour atténuer le problème, malgré les efforts répétés de Zhang pour le porter à l'attention de la direction.
ÉCOUTEZ L'HISTOIRE ICI
Je sais que j'ai du sang sur les mains maintenant, écrit-elle.
A la veille de son départ, Zhang se demandait encore si elle devait écrire le mémo. C'était peut-être sa dernière chance de créer suffisamment de pression interne sur le leadership pour commencer à prendre les problèmes au sérieux. En prévision de l'écrire, elle avait refusé une indemnité de départ de près de 64 000 $ qui aurait impliqué la signature d'un accord de non-dénigrement. Elle voulait conserver la liberté de parler de manière critique de l'entreprise.
Mais c'était à peine deux mois avant les élections américaines de 2020, et elle était troublée par l'idée que le mémo pourrait éroder la confiance du public dans le processus électoral s'il était communiqué prématurément à la presse. J'étais terrifiée à l'idée de devenir en quelque sorte le James Comey de 2020, dit-elle, faisant référence à l'ancien directeur du FBI qui, quelques jours avant les élections de 2016, a déclaré au Congrès que l'agence avait rouvert une enquête sur l'utilisation par Hillary Clinton d'un serveur de messagerie privé. Clinton a ensuite blâmé Comey pour sa perte.
Au grand soulagement de Zhang, cela ne s'est pas produit. Et une fois les élections passées, elle a poursuivi son plan initial. En avril, elle s'est manifestée en deux Gardien des articles avec son visage, son nom et une documentation encore plus détaillée de la manipulation politique qu'elle avait découverte et de la négligence de Facebook à y faire face.
Son récit a fourni des preuves concrètes à l'appui de ce que les critiques disaient depuis longtemps à l'extérieur : que Facebook facilite l'ingérence électorale et qu'à moins qu'une telle activité ne nuise aux intérêts commerciaux de l'entreprise, elle ne peut pas prendre la peine de résoudre le problème.
Dans un communiqué, Joe Osborne, un porte-parole de Facebook, a nié avec véhémence ces affirmations. Pour les innombrables entretiens avec la presse qu'elle a accordés depuis son départ de Facebook, nous sommes fondamentalement en désaccord avec la caractérisation de Mme Zhang de nos priorités et de nos efforts pour éradiquer les abus sur notre plateforme, a-t-il déclaré. Nous poursuivons agressivement les abus dans le monde entier et avons des équipes spécialisées qui se concentrent sur ce travail. En conséquence, nous avons déjà supprimé plus de 150 réseaux de comportements inauthentiques coordonnés… La lutte contre les comportements inauthentiques coordonnés est notre priorité.
En devenant publique et en évitant l'anonymat, Zhang risquait des poursuites judiciaires de la part de l'entreprise, nuisant à ses futures perspectives de carrière, et peut-être même des représailles de la part des politiciens qu'elle a dénoncés dans le processus. Ce qu'elle a fait est très courageux, dit Julia Carrie Wong, la journaliste du Guardian qui a publié ses révélations.
Après presque un an à éviter les questions personnelles, Zhang est maintenant prête à raconter son histoire. Elle veut que le monde comprenne comment elle s'est tellement impliquée dans la tentative de protéger la démocratie dans le monde et pourquoi elle s'en souciait si profondément. Elle est également fatiguée d'être dans le placard en tant que femme transgenre, un aspect essentiel de son identité qui a influencé ses actions sur Facebook et après son départ.
Son histoire révèle que c'est vraiment par pure chance que nous en sachions maintenant autant sur la façon dont Facebook permet l'ingérence électorale dans le monde. Zhang n'était pas seulement la seule personne à lutter contre cette forme de manipulation politique ; ce n'était même pas son travail. Elle avait découvert le problème en raison d'une confluence unique de compétences et de passion, puis l'avait pris sur elle, poussée par un sens extraordinaire de la responsabilité morale.
Pour les régulateurs du monde entier qui réfléchissent à la manière de maîtriser l'entreprise, cela devrait être un signal d'alarme.
Zhang n'a jamais prévu être dans cette position. Elle est profondément introvertie et déteste être sous les projecteurs. Elle avait rejoint Facebook en 2018 après que la pression financière de vivre avec un travail contractuel à temps partiel dans la région de la baie l'ait épuisée. Lorsqu'elle a reçu l'offre de Facebook, elle a été franche avec son recruteur : elle ne pensait pas que l'entreprise rendait le monde meilleur, mais elle se joindrait pour aider à le réparer.
Ils m'ont dit : 'Tu serais surpris du nombre de personnes sur Facebook qui disent ça', se souvient-elle.
C'était plus facile à dire qu'à faire. Comme beaucoup de nouvelles recrues, elle avait rejoint sans être affectée à une équipe spécifique. Elle voulait travailler sur l'intégrité électorale, qui cherche des moyens d'atténuer les abus de plateforme liés aux élections, mais ses compétences ne correspondaient pas à leurs ouvertures. Elle s'est plutôt contentée d'une nouvelle équipe qui s'est attaquée aux faux fiançailles.
Le faux engagement fait référence à des éléments tels que les likes, les partages et les commentaires qui ont été achetés ou générés de manière non authentique sur la plate-forme. La nouvelle équipe s’est concentrée plus étroitement sur les soi-disant activités inauthentiques scénarisées – les faux likes et partages produits par des robots automatisés et utilisés pour augmenter la popularité de quelqu’un.
Dans la grande majorité de ces cas, les gens obtenaient simplement des likes par vanité. Mais six mois plus tard, Zhang a compris que les politiciens pouvaient faire la même chose pour accroître leur influence et leur portée sur la plate-forme. Il ne lui a pas fallu longtemps pour trouver des exemples au Brésil et en Inde, qui se préparaient tous deux à des élections législatives.
Dans le processus de recherche d'activité scénarisée, elle a également trouvé quelque chose de beaucoup plus inquiétant. L'administrateur de la page Facebook du président hondurien, Juan Orlando Hernández, avait créé des centaines de pages avec de faux noms et des photos de profil pour ressembler aux utilisateurs - et les utilisait pour inonder les messages du président de likes, de commentaires et de partages. (Facebook interdit aux utilisateurs de créer plusieurs profils mais n'applique pas la même restriction aux pages, qui sont généralement destinées aux entreprises et aux personnalités publiques.)
L'activité ne comptait pas comme scénarisée, mais l'effet était le même. Non seulement cela pouvait induire en erreur l'observateur occasionnel en lui faisant croire que Hernández était plus apprécié et populaire que lui, mais cela augmentait également ses messages plus haut dans les fils d'actualité des gens. Pour un politicien dont la victoire à la réélection en 2017 était largement considérée comme frauduleuse, l'effronterie et les implications étaient alarmantes.
Tout le monde était d'accord pour dire que c'était terrible. Personne ne pouvait s'entendre sur qui devait être responsable, ni même sur ce qu'il fallait faire.
Mais quand Zhang a soulevé la question, dit-elle, elle a reçu un accueil tiède. L'équipe d'intégrité des pages, qui gère les abus sur et sur les pages Facebook, ne bloquerait pas la fabrication en masse de pages pour ressembler à des utilisateurs. L’équipe d’intégrité des fils d’actualité, qui essaie d’améliorer la qualité de ce qui apparaît dans les fils d’actualité des utilisateurs, ne supprimerait pas les faux goûts et commentaires de l’algorithme de classement. Tout le monde était d'accord pour dire que c'était terrible, dit Zhang. Personne ne pouvait s'entendre sur qui devait être responsable, ni même sur ce qu'il fallait faire.
Après que Zhang ait exercé des pressions pendant un an, le réseau de fausses pages a finalement été supprimé. Quelques mois plus tard, Facebook a créé une nouvelle politique de comportement inauthentique pour interdire les fausses pages se faisant passer pour des utilisateurs. Mais ce changement de politique n'a pas résolu un problème plus fondamental : personne n'a été invité à l'appliquer.
Alors Zhang a pris l'initiative elle-même. Lorsqu'elle ne travaillait pas pour éliminer les goûts de vanité, elle a passé au peigne fin des flux de données, recherchant l'utilisation de fausses pages, de faux comptes et d'autres formes d'activités fictives coordonnées sur les pages des politiciens. Elle a trouvé des cas dans des dizaines de pays, le plus flagrant en Azerbaïdjan, où la technique des pages était utilisée pour harceler l'opposition.
Mais trouver et signaler de nouveaux cas ne suffisait pas. Zhang a découvert que pour faire supprimer tout réseau de fausses pages ou de faux comptes, elle devait constamment faire pression sur les équipes concernées. Dans les pays où une telle activité posait peu de risques de relations publiques pour l'entreprise, l'exécution pourrait être reportée à plusieurs reprises . (Facebook conteste cette caractérisation.) La responsabilité pesait lourdement sur elle. Était-il plus important de faire pression pour un cas en Bolivie, avec une population de 11,6 millions, ou au Rajasthan, en Inde, avec une population de près de 70 millions ?
Puis, à l'automne 2019, des semaines de protestations civiles meurtrières ont éclaté en Bolivie après que le public a contesté les résultats de son élection présidentielle. Quelques semaines plus tôt seulement, Zhang avait en effet dépriorisé le pays pour s'occuper de ce qui semblait être des cas plus urgents. La nouvelle la consuma de culpabilité. Intellectuellement, elle savait qu'il n'y avait aucun moyen d'établir un lien direct entre sa décision et les événements. Le faux engagement avait été si mineur que l'effet était probablement négligeable. Mais psychologiquement et émotionnellement, cela n'avait pas d'importance. C'est à ce moment-là que j'ai commencé à perdre le sommeil, dit-elle.
Alors que quelqu'un d'autre aurait pu choisir de quitter un travail aussi éprouvant ou peut-être de s'absoudre de ses responsabilités comme moyen de faire face, Zhang s'est penchée, à grands frais personnels, dans une tentative de réparer à elle seule un tort.
Au cours de l'année entre les événements en Bolivie et son licenciement, l'effort a fait chuter sa santé. Elle souffrait déjà d'anxiété et de dépression, mais cela s'est considérablement - et dangereusement - aggravé. Toujours lectrice vorace de l'actualité mondiale, elle ne pouvait plus se distancer des troubles politiques des autres pays. La pression l'a éloignée de ses amis et de ses proches. Elle s'est de plus en plus isolée et a rompu avec sa petite amie. Elle a augmenté son anxiété et ses antidépresseurs jusqu'à ce que sa dose ait été multipliée par six.
Histoire connexe
Comment Facebook est devenu accro à la diffusion de fausses informations Les algorithmes d'intelligence artificielle de l'entreprise lui ont donné une habitude insatiable de mensonges et de discours de haine. Maintenant, l'homme qui les a construits ne peut pas résoudre le problème.
Pour Zhang, l'explication de la raison pour laquelle elle tenait tant à elle est liée à son identité. Elle a grandi à Ann Arbor, dans le Michigan, fille de parents immigrés de Chine continentale. Dès son plus jeune âge, elle a été tenue à des normes académiques élevées et s'est avérée une érudite précoce. À six ou sept ans, elle a lu un livre d'introduction à la physique et est devenue fascinée par les éléments constitutifs de l'univers. Sa passion l'a amenée à étudier la cosmologie à l'Université du Michigan, où elle a publié deux articles de recherche, l'un en tant qu'auteur unique.
Elle était extrêmement intelligente. Elle est peut-être l'étudiante de premier cycle la plus intelligente avec qui j'ai jamais travaillé, se souvient Dragan Huterer, son conseiller de premier cycle. Je dirais qu'elle était plus avancée qu'une étudiante diplômée.
Mais son enfance a aussi été marquée par de graves traumatismes. Dès l'âge de cinq ans, elle a commencé à réaliser qu'elle était différente. Elle a lu un livre pour enfants sur un garçon dont les amis lui avaient dit que s'il lui embrassait le coude, il deviendrait une fille. J'ai passé beaucoup de temps après ça à essayer d'embrasser mon coude, dit-elle.
Elle a fait de son mieux pour le cacher, comprenant que ses parents trouveraient son identité transgenre intolérable. Mais elle se souvient très bien du moment où son père l'a découvert. C'était le printemps de la huitième année. Il venait de pleuvoir. Et elle était recroquevillée dans la salle de bain, se demandant si elle devait sauter par la fenêtre, alors qu'il frappait la porte.
En fin de compte, elle a choisi de ne pas sauter et de le laisser la frapper jusqu'à ce qu'elle soit sanglante, dit-elle : En fin de compte, j'ai décidé que j'étais la personne qui restait dans des situations imparfaites pour essayer de les réparer. Le lendemain, elle a porté une chemise à manches longues pour dissimuler les ecchymoses et a préparé une excuse au cas où un enseignant le remarquerait. Aucun ne l'a fait, dit-elle.
(Lorsqu'il a été contacté par e-mail, son père a nié les allégations. Je suis triste qu'elle allègue que je l'ai battue quand j'étais enfant après avoir découvert son identité transgenre, ce qui est complètement faux, a-t-il écrit. Mais plusieurs personnes qui connaissaient Zhang du lycée à aujourd'hui ont corroboré son récit du comportement abusif de son père.)
Les abandonner et les abandonner serait une trahison du cœur même de mon identité.
À l'université, elle a décidé de faire la transition, après quoi son père l'a renié. Mais elle a vite découvert qu'être enfin perçue correctement en tant que femme avait ses propres conséquences. Je savais précisément comment les gens me traitaient quand ils pensaient que j'étais un mec. C'était très différent, dit-elle.
Après avoir été acceptée dans tous les meilleurs programmes de doctorat en physique, elle a choisi de fréquenter l'Université de Princeton. Au cours de l'orientation, la personne qui faisait le tour de l'atelier d'usinage l'a pointée du doigt à plusieurs reprises devant le groupe en supposant à tort qu'elle était moins que compétente. C'était mon introduction officielle à Princeton, et très appropriée, dit-elle.
CHRISTIE IL Y A UNE HORLOGEÀ partir de là, le sexisme n'a fait qu'empirer. Presque immédiatement, un étudiant diplômé a commencé à la traquer et à la harceler sexuellement. Pour faire face, elle a choisi un directeur de thèse au département de biophysique, ce qui lui a permis d'échapper à son harceleur en menant des recherches dans un autre bâtiment. Le problème, c'est qu'elle ne s'intéressait pas vraiment à la biophysique. Et que ce soit pour cette raison ou pour d'autres, son intérêt pour la physique s'est lentement dissous.
Trois ans plus tard, profondément malheureuse, elle a décidé de quitter le programme, non sans finalement signaler le harcèlement à l'université. Ils étaient comme, 'C'est votre parole contre la sienne.' Vous pouvez probablement deviner maintenant pourquoi j'ai largement documenté tout ce que j'ai donné à Julia, dit-elle, se référant à Julia Carrie Wong au Guardian. Je ne voulais pas être dans une autre situation 'Il a dit/elle a dit'.
(Un porte-parole de Princeton a déclaré qu'il n'était pas en mesure de commenter des situations individuelles, mais a déclaré l'engagement de l'université à fournir un environnement éducatif et de travail inclusif et accueillant. Princeton cherche à soutenir tout membre de la communauté du campus qui a subi une inconduite sexuelle, y compris le harcèlement sexuel, il mentionné.)
Ce que ces expériences ont en commun, c'est le fait que j'ai vécu à plusieurs reprises entre les mailles du filet de la responsabilité, a écrit Zhang dans son mémo. Je n'ai jamais reçu le soutien des figures d'autorité dont j'avais besoin… Dans chaque cas, ils ont rempli la lettre de leur devoir mais ont manqué à l'esprit, et j'ai payé le prix de leurs décisions.
Peut-être comprendrez-vous alors pourquoi c'était si personnel pour moi dès le début, pourquoi je me suis battu si dur pour empêcher les peuples du Honduras et de l'Azerbaïdjan de passer entre ces mailles du filet, a-t-elle écrit. Les abandonner et les abandonner serait une trahison du cœur même de mon identité.
C'était au début de son déclin physique et mental à l'automne 2019 que Zhang a commencé à réfléchir à l'opportunité de se manifester. Elle voulait donner aux systèmes officiels de Facebook une chance de fonctionner. Mais elle craignait d'être un point de défaillance unique. Et si je me fais renverser par un bus le lendemain ? elle dit. Elle avait besoin que quelqu'un d'autre ait accès aux mêmes informations.
Par coïncidence, elle a reçu un e-mail d'un journaliste dans sa boîte de réception. Wong, alors journaliste technique senior au Guardian, avait envoyé des messages aux employés de Facebook cherchant à cultiver de nouvelles sources. Zhang a saisi l'occasion et a accepté de se rencontrer pour une conversation confidentielle. Ce jour-là, elle a déposé son téléphone et son ordinateur émis par l'entreprise chez un ancien colocataire par précaution, sachant que Facebook avait la capacité de suivre sa position. Quand elle est revenue, elle avait l'air un peu soulagée, se souvient l'ancienne colocataire, Ness Io Kain : On pouvait dire qu'elle avait l'impression d'avoir accompli quelque chose. C'est assez silencieux, mais c'est définitivement palpable.
Pendant un moment, les choses sur Facebook ont semblé progresser. Elle a vu le changement de politique et le démantèlement du faux réseau du président hondurien comme un élan vers l'avant. Elle a été appelée à plusieurs reprises pour aider à gérer les urgences et a été félicitée pour son travail, qu'on lui a dit important et apprécié.
Mais malgré ses tentatives répétées de pousser pour plus de ressources, le leadership a cité différentes priorités. Ils ont également rejeté les suggestions de Zhang pour une solution plus durable, comme la suspension ou la pénalisation des politiciens récidivistes. Cela l'a laissée face à un tuyau d'incendie sans fin : les réseaux de manipulation qu'elle a détruits sont rapidement revenus, souvent seulement des heures ou des jours plus tard. J'avais de plus en plus l'impression d'essayer de vider l'océan avec une passoire, dit-elle.
Je n'ai jamais autant détesté mon autisme que lorsque j'ai rejoint Facebook.
Puis, en janvier 2020, le vent a tourné. Son manager et le manager du manager lui ont dit d'arrêter son travail politique et de s'en tenir à son travail assigné. Si elle ne le faisait pas, ses services au sein de l'entreprise ne seraient plus nécessaires, se souvient-elle de ce dernier dicton. Mais sans équipe chargée de poursuivre son travail, Zhang a continué à en faire en secret.
Alors que la pression montait et que sa santé se détériorait, Zhang réalisa qu'elle devrait finalement partir. Elle a prévu de partir après les élections américaines, considérant que c'était le dernier et le plus important événement auquel elle devait faire face. Mais la direction avait d'autres plans. En août, elle a été informée qu'elle serait licenciée pour mauvaise performance.
Le dernier jour, quelques heures après avoir publié son mémo en interne, Facebook l'a supprimé (bien qu'ils aient ensuite restauré une version modifiée après la colère généralisée des employés). Quelques heures plus tard, une personne des ressources humaines l'a appelée, lui demandant de supprimer également une copie protégée par mot de passe qu'elle avait publiée sur son site Web personnel. Elle essaya de marchander : elle le ferait s'ils restauraient la version interne. Le lendemain, au lieu de cela, elle a reçu un avis de son serveur d'hébergement indiquant qu'il avait supprimé l'intégralité de son site Web après une plainte de Facebook. Quelques jours plus tard, il a également détruit son domaine.
Même après tout ce que Facebook lui a fait subir, Zhang ne se blâme pas. Dans sa note de service, elle s'est excusée auprès de ses collègues pour les ennuis qu'elle aurait pu leur causer et pour les avoir quittés sans en faire plus. Dans à Reddit AMA des mois plus tard, elle a présenté ses excuses aux citoyens de différents pays pour ne pas avoir agi assez rapidement et pour ne pas avoir trouvé de solution à long terme.
Pour moi, Zhang, qui est autiste, se demande à haute voix ce qu'elle aurait pu accomplir si elle ne l'était pas. Je n'ai aucun talent pour la persuasion et la conviction, dit-elle. Si j'étais quelqu'un né avec une langue d'argent, j'aurais peut-être pu faire des changements.
Je n'ai jamais autant détesté mon autisme que lorsque j'ai rejoint Facebook.
En préparation de l'introduction en bourse, Zhang a fait un dernier sacrifice : cacher son identité trans, non pas par peur du harcèlement, mais par peur que cela ne détourne son message. Aux États-Unis, où les droits des transgenres sont très politisés, elle ne voulait pas que la protection de la démocratie devienne une question partisane. À l'étranger, où certains pays traitent le fait d'être transgenre comme un crime passible de la prison ou même de la mort, elle ne voulait pas que les gens arrêtent d'écouter.
Cela correspondait à un sacrifice qu'elle avait fait à plusieurs reprises lors de la surveillance de l'ingérence électorale dans le monde. Elle a traité tous les politiciens de la même manière, même lorsque la suppression de la fausse activité d'un en Azerbaïdjan a inévitablement stimulé un opposant qui homophobie épousée . J'ai fait de mon mieux pour protéger la démocratie et l'État de droit dans le monde pour les gens, qu'ils me croyaient ou non humaine, dit-elle avec un profond soupir. Mais je pense que personne ne devrait avoir à faire ce choix.
Histoire connexe
Bilan : Pourquoi Facebook ne peut jamais se réparer lui-même Dans An Ugly Truth, les journalistes Sheera Frenkel et Cecilia Kang révèlent les défauts fondamentaux de Facebook à travers un récit détaillé de ses années entre deux élections américaines.
La nuit où les articles du Guardian ont été publiés, elle a attendu avec impatience la réaction du public, inquiète de savoir si elle serait capable de gérer l'attention des médias. Je pense qu'elle s'est en fait surprise de voir à quel point elle était bonne dans les interviews, dit sa petite amie, Lisa Danz, avec qui Zhang s'est retrouvée après avoir quitté Facebook. Elle a découvert que lorsqu'il y a du matériel qu'elle connaît très bien et qu'on lui pose juste des questions à ce sujet, elle peut répondre.
L'impact n'a finalement pas été à la hauteur de ce que Zhang envisageait. S toujours demi sortie ts aux États-Unis ont fait des articles de suivi, tout comme les médias étrangers des pays touchés par l'activité de manipulation. Mais pour autant qu'elle le sache, cela n'a pas atteint ce qu'elle espérait : un scandale de relations publiques suffisamment important pour que Facebook donne enfin la priorité au travail qu'elle a laissé derrière elle.
Facebook conteste une fois de plus cette caractérisation, affirmant que l'équipe de faux engagement a poursuivi le travail de Zhang. Mais Zhang pointe une autre preuve : le réseau de fausses pages en Azerbaïdjan est toujours là. Il est clair qu'ils n'ont pas réussi, dit-elle.
Néanmoins, Zhang ne regrette pas sa décision de se manifester. J'étais la seule à ce poste de responsabilité depuis le début, dit-elle, et il fallait que quelqu'un prenne la responsabilité et fasse le maximum pour protéger les gens.
Sans perdre de temps, elle raconte ensuite les conséquences auxquelles d'autres ont été confrontées pour avoir affronté les puissants dans des pays plus hostiles : des journalistes assassinés pour avoir enquêté sur la corruption du gouvernement, des manifestants abattus pour avoir enregistré leur dissidence.
Comparée à eux, je suis une petite patate, dit-elle.
Correction: Une version précédente de l'article manquait un 'e' sur Joe Osborne. Désolé, Joe.