Les règles de modération divulguées de Facebook montrent pourquoi Big Tech ne peut pas contrôler les discours de haine

Catégorie: Silicon Valley Posté 28 décembre

La société a demandé à Big Tech de mettre fin aux discours de haine en ligne. Nous avons obtenu exactement ce que nous avions demandé.

Les nouvelles: Max Fisher du New York Times extraits publiés à partir de plus de 1 400 pages de documents internes de Facebook, contenant des règles pour l'armée mondiale de l'entreprise de plus de 7 500 modérateurs de contenu. (La carte mère avait précédemment publié certains du même matériel.)

Qu'est-ce qu'il y a à l'intérieur? Un méli-mélo tentaculaire de directives, de restrictions et de classifications. Les règles sur le discours de haine comptent à elles seules 200 pages remplies de jargon et qui font tourner la tête. Ils incluent des détails sur la façon d'interpréter les emoji (l'utilisation de ? peut être à la fois de l'intimidation et des éloges, apparemment) et des listes de personnes ou de partis politiques à surveiller pour d'éventuels discours de haine. Les documents montrent que Facebook est un arbitre beaucoup plus puissant du discours mondial qu'il ne l'a admis, écrit Fisher.

Le problème: Les lignes directrices ne sont pas seulement byzantines ; certains sont obsolètes ou contiennent des erreurs. Ils varient également fortement en fonction de la pression exercée sur l'entreprise : Facebook bloque des dizaines de groupes d'extrême droite en Allemagne, où les autorités scrutent le réseau social, mais un seul dans l'Autriche voisine. Les modérateurs, dont la plupart travaillent pour des sociétés d'externalisation et reçoivent une formation minimale, sont censés porter des jugements complexes en quelques secondes, traiter un millier de messages par jour , avec des règles qui changent fréquemment en fonction des événements politiques, et qui utilisent souvent Google Traduction.

La vente à emporter : Cela enlève tout semblant restant que Facebook n'est qu'une plate-forme de publication neutre. Les jugements politiques imprègnent chaque page de ces lignes directrices.

Mais à quoi vous attendiez-vous ? Comme l'ancien responsable de la sécurité de Facebook, Alex Stamos, me l'a dit en octobre , nous avons exigé que la police des plates-formes technologiques déteste les discours, et cela ne fait que leur donner plus de pouvoir. C'est une voie dangereuse, a averti Stamos. Dans cinq ou dix ans, il pourrait y avoir des systèmes d'apprentissage automatique qui comprennent les langues humaines aussi bien que les humains. Nous pourrions nous retrouver avec une modération en temps réel et à la vitesse de la machine de tout ce que nous disons en ligne.