Bilan : Pourquoi Facebook ne peut jamais se réparer lui-même

Karen Hao

L'ingénieur de Facebook avait hâte de savoir pourquoi son rendez-vous n'avait pas répondu à ses messages. Peut-être qu'il y avait une explication simple – peut-être qu'elle était malade ou en vacances.

Donc à 22h. une nuit au siège de l'entreprise à Menlo Park, il a affiché son profil Facebook sur les systèmes internes de l'entreprise et a commencé à consulter ses données personnelles. Sa politique, son style de vie, ses intérêts, même sa localisation en temps réel.

L'ingénieur serait licencié pour son comportement, ainsi que 51 autres employés qui avaient abusé de manière inappropriée de leur accès aux données de l'entreprise, un privilège qui était alors disponible pour tous ceux qui travaillaient chez Facebook, quelle que soit leur fonction ou leur ancienneté. La grande majorité des 51 étaient comme lui : des hommes recherchant des informations sur les femmes qui les intéressaient.

En septembre 2015, après qu'Alex Stamos, le nouveau directeur de la sécurité, ait porté le problème à l'attention de Mark Zuckerberg, le PDG a ordonné une refonte du système pour restreindre l'accès des employés aux données des utilisateurs. Ce fut une rare victoire pour Stamos, une victoire dans laquelle il a convaincu Zuckerberg que la conception de Facebook était à blâmer, plutôt que le comportement individuel.

Ainsi commence Une horrible vérité , un nouveau livre sur Facebook écrit par les journalistes chevronnées du New York Times Sheera Frenkel et Cecilia Kang. Avec l'expertise de Frenkel en cybersécurité, l'expertise de Kang en matière de technologie et de politique réglementaire, et leurs nombreuses sources, le duo fournit un récit convaincant des années de Facebook couvrant les élections de 2016 et 2020.

Stamos n'aurait plus cette chance. Les problèmes qui découlaient du modèle commercial de Facebook ne feraient que s'aggraver dans les années qui ont suivi, mais alors que Stamos découvrait des problèmes plus flagrants, y compris l'ingérence russe dans les élections américaines, il a été expulsé pour avoir obligé Zuckerberg et Sheryl Sandberg à faire face à des vérités gênantes. Une fois qu'il est parti, les dirigeants ont continué de refuser de s'attaquer à toute une série de problèmes profondément troublants, notamment le scandale de Cambridge Analytica, le génocide au Myanmar et la désinformation rampante sur les convoitises.

Les auteurs, Cecilia Kang et Sheera Frenkel

BEOWUL SHEEHAN

Frenkel et Kang soutiennent que les problèmes de Facebook aujourd'hui ne sont pas le produit d'une entreprise qui s'est égarée. Au lieu de cela, ils font partie de sa conception même, construite au sommet de la vision du monde étroite de Zuckerberg, de la culture de la vie privée insouciante qu'il a cultivée et des ambitions stupéfiantes qu'il a poursuivies avec Sandberg.

Lorsque l'entreprise était encore petite, peut-être un tel manque de prévoyance et d'imagination pouvait-il être excusé. Mais depuis lors, les décisions de Zuckerberg et de Sandberg ont montré que la croissance et les revenus l'emportent sur tout le reste.

Dans un chapitre intitulé Company Over Country, par exemple, les auteurs racontent comment les dirigeants ont tenté d'enterrer l'étendue de l'ingérence électorale russe sur la plate-forme de la part de la communauté du renseignement américain, du Congrès et du public américain. Ils ont censuré les multiples tentatives de l'équipe de sécurité de Facebook de publier les détails de ce qu'ils avaient trouvé, et ont sélectionné les données pour minimiser la gravité et la nature partisane du problème. Lorsque Stamos a proposé une refonte de l'organisation de l'entreprise pour éviter que le problème ne se reproduise, d'autres dirigeants ont qualifié l'idée d'alarmiste et ont concentré leurs ressources sur le contrôle du discours public et sur la tenue à distance des régulateurs.

En 2014, un schéma similaire a commencé à se dessiner dans la réponse de Facebook à l'escalade de la violence au Myanmar, détaillée dans le chapitre Réfléchissez avant de partager. Un an auparavant, des militants basés au Myanmar avaient déjà commencé à avertir l'entreprise des niveaux préoccupants de discours de haine et de désinformation sur la plate-forme à l'encontre de la minorité musulmane Rohingya du pays. Mais poussé par le désir de Zuckerberg de se développer à l'échelle mondiale, Facebook n'a pas pris les avertissements au sérieux.

Lorsque des émeutes ont éclaté dans le pays, l'entreprise a encore souligné ses priorités. Il est resté silencieux face à deux morts et quatorze blessés mais a sursauté au moment où le gouvernement birman a coupé l'accès à Facebook pour le pays. Les dirigeants ont ensuite continué à retarder les investissements et les changements de plate-forme qui auraient pu empêcher la violence de s'aggraver, car cela risquait de réduire l'engagement des utilisateurs. En 2017, les tensions ethniques s'étaient transformées en un véritable génocide, auquel l'ONU a découvert par la suite qu'il avait été largement contribué par Facebook, entraînant le meurtre de plus de 24 000 musulmans rohingyas.

C'est ce que Frenkel et Kang appellent la vilaine vérité de Facebook. Sa dichotomie irréconciliable de vouloir connecter les gens pour faire avancer la société mais aussi enrichir son résultat net. Chapitre après chapitre, il est très clair qu'il n'est pas possible de satisfaire les deux - et Facebook a encore une fois choisi le dernier au détriment du premier.

Le livre est autant un exploit de narration que de reportage. Que vous ayez suivi de près les scandales de Facebook comme moi, ou que vous n'ayez entendu que des morceaux à distance, Frenkel et Kang le tissent ensemble d'une manière qui laisse quelque chose pour tout le monde. Les anecdotes détaillées emmènent les lecteurs dans les coulisses de la salle de conférence de Zuckerberg connue sous le nom d'Aquarium, où les décisions clés ont façonné le cours de l'entreprise. Le rythme de chaque chapitre garantit de nouvelles révélations à chaque tour de page.

Alors que j'ai reconnu chacun des événements auxquels les auteurs ont fait référence, le degré auquel l'entreprise a cherché à se protéger au détriment des autres était encore pire que ce que j'avais connu auparavant. Pendant ce temps, mon partenaire qui l'a lu côte à côte avec moi et tombe carrément dans la deuxième catégorie de lecteur a levé les yeux à plusieurs reprises, stupéfait par ce qu'il avait appris.

Les auteurs gardent leur propre analyse légère, préférant laisser les faits parler d'eux-mêmes. Dans cet esprit, ils refusent à la fin de leur compte de tirer des conclusions définitives sur ce qu'il faut faire avec Facebook, ou où cela nous laisse. Même si l'entreprise subit une transformation radicale au cours de l'année à venir, écrivent-ils, il est peu probable que ce changement vienne de l'intérieur. Mais entre les lignes, le message est fort et clair : Facebook ne s'arrangera jamais.

cacher