Facebook a besoin de 30 000 de ses propres modérateurs de contenu, selon un nouveau rapport

Presse associée Presse associée

Imaginez si Facebook arrêtait de modérer son site en ce moment. N'importe qui pouvait poster ce qu'il voulait. L'expérience semble indiquer qu'il deviendrait assez rapidement un environnement infernal envahi par le spam, l'intimidation, le crime, les décapitations terroristes, les textes néonazis et les images d'abus sexuels sur des enfants. Dans ce scénario, de vastes pans de sa base d'utilisateurs partiraient probablement, suivis par les annonceurs lucratifs.

Mais si la modération est si importante, elle n'est pas traitée comme telle. L'écrasante majorité des 15 000 personnes qui passent toute la journée à décider ce qui peut et ne peut pas être sur Facebook ne travaillent même pas pour Facebook. Toute la fonction de modération de contenu est confiée à des fournisseurs tiers, qui emploient des travailleurs temporaires sur les contrats précaires sur plus de 20 sites dans le monde. Ils doivent examiner des centaines de messages par jour, dont beaucoup sont profondément traumatisant . Les erreurs sont sévit , malgré l'adoption par l'entreprise de Outils d'IA aux postes de triage en fonction de ceux qui nécessitent une attention. Facebook a lui-même admis un taux d'erreur de 10 %, qu'il s'agisse de signaler à tort des messages à supprimer qui doivent être conservés ou vice versa. Étant donné que les examinateurs doivent parcourir trois millions de publications par jour, cela équivaut à 300 000 erreurs par jour. Certaines erreurs peuvent avoir des effets mortels. Par exemple, des membres de l'armée du Myanmar ont utilisé Facebook inciter au génocide contre la minorité Rohingya majoritairement musulmane en 2016 et 2017. La société l'a admis plus tard n'a pas réussi à appliquer ses propres politiques interdisant les discours de haine et l'incitation à la violence.

Si nous voulons améliorer la façon dont la modération est effectuée, Facebook doit faire venir des modérateurs de contenu en interne, en faire des employés à part entière et doubler leur nombre, fait valoir un nouveau rapport du Stern Center for Business and Human Rights de l'Université de New York.

La modération de contenu n'est pas comme les autres fonctions externalisées, comme la cuisine ou le nettoyage, explique l'auteur du rapport Paul M. Barrett, directeur adjoint du centre. C'est une fonction centrale de l'activité des médias sociaux, et cela rend quelque peu étrange qu'il soit traité comme s'il s'agissait d'un problème périphérique ou de quelqu'un d'autre.

Pourquoi la modération de contenu est-elle traitée de la sorte par les dirigeants de Facebook ? Cela dépend au moins en partie du coût, dit Barrett. Ses recommandations seraient très coûteux pour l'entreprise à adopter - très probablement dans les dizaines de millions de dollars (bien que pour mettre cela en perspective, cela rend des milliards de dollars de profit chaque année). Mais il y a une deuxième raison, plus complexe. L'activité de modération de contenu ne correspond tout simplement pas à l'image de soi de la Silicon Valley. Certains types d'activités sont très appréciés et glamourisés - l'innovation de produits, le marketing intelligent, l'ingénierie… le monde délicat de la modération de contenu ne rentre pas dans cela, dit-il.

Il pense qu'il est temps pour Facebook de traiter la modération comme un élément central de son activité. Il dit qu'élever son statut de cette manière aiderait à éviter le genre d'erreurs catastrophiques commises au Myanmar, à accroître la responsabilité et à mieux protéger les employés contre les dommages à leur santé mentale.

Il semble une réalité inévitable que la modération de contenu impliquera toujours d'être exposé à du matériel horrible, même si le travail est apporté en interne. Cependant, l'entreprise pourrait faire beaucoup plus pour faciliter les choses : mieux sélectionner les modérateurs pour s'assurer qu'ils sont vraiment conscients des risques du travail, par exemple, et s'assurer qu'ils disposent de soins et de conseils de premier ordre. Barrett pense que la modération de contenu pourrait être quelque chose que tous les employés de Facebook sont tenus de faire pendant au moins un an comme une sorte de tour de service pour les aider à comprendre l'impact de leurs décisions.

Le rapport fait huit recommandations pour Facebook :

• Arrêtez d'externaliser la modération du contenu et augmentez le poste des modérateurs sur le lieu de travail.
• Doublez le nombre de modérateurs pour améliorer la qualité de la révision du contenu.
• Embauchez quelqu'un pour superviser le contenu et la vérification des faits qui relève directement du PDG ou du COO.
• Étendre davantage la modération dans les pays à risque en Asie, en Afrique et ailleurs.
• Fournir à tous les modérateurs des soins médicaux sur place de qualité supérieure, y compris l'accès à des psychiatres.
• Parrainez des recherches sur les risques pour la santé de la modération de contenu, en particulier le SSPT.
• Explorez une réglementation gouvernementale étroitement adaptée aux contenus préjudiciables.
• Élargissez considérablement la vérification des faits pour démystifier les fausses informations.

Les propositions sont pour le moins ambitieuses. Lorsqu'il a été contacté pour commenter, Facebook n'a pas voulu discuter s'il envisagerait de les adopter. Cependant, un porte-parole a déclaré que son approche actuelle signifie que nous pouvons rapidement ajuster l'orientation de notre main-d'œuvre selon les besoins, ajoutant que cela nous donne la possibilité de nous assurer que nous avons la bonne expertise linguistique - et que nous pouvons embaucher rapidement dans différents fuseaux horaires - en tant que nouveaux besoins. surviennent ou lorsqu'une situation dans le monde le justifie.

Mais Barrett pense qu'une expérience récente menée en réponse à la crise des coronavirus montre que le changement est possible. Facebook a annoncé que, comme bon nombre de ses modérateurs de contenu ne pouvaient pas se rendre dans les bureaux de l'entreprise, il transférer la responsabilité aux employés internes pour vérifier certaines catégories sensibles de contenu.

Je trouve très révélateur qu'en période de crise, Zuckerberg se soit appuyé sur les personnes en qui il a confiance : ses employés à plein temps, dit-il. Peut-être que cela pourrait être considéré comme la base d'une conversation au sein de Facebook sur l'ajustement de la façon dont il considère la modération du contenu.

cacher