L'automodérateur de Reddit est l'avenir d'Internet, et profondément imparfait

image d'un homme regardant un code informatique trois moniteurs automodérateur automod modérateur reddit Jefferson Santos sur Unsplash

Au cours des quatre dernières années, Shagun Jhaver a modéré plusieurs sous-reddits, faisant défiler avec diligence les pages et bloquant les publications qui enfreignent les règles de la communauté ou sont carrément offensantes.

Doctorant à Georgia Tech dont les recherches portent sur la modération de contenu, Jhaver s'est demandé si un modérateur automatique pourrait l'aider à gagner non seulement du temps, mais aussi le fardeau mental de passer au crible un contenu psychologiquement épuisant. Alors, avec trois collègues, il a cherché à savoir si un modérateur automatique - dans ce cas, AutoMod - a réellement fonctionné.

L'équipe a personnellement modéré plusieurs pages sur Reddit, puis a mené des entretiens avec 16 autres modérateurs de certains des subreddits les plus populaires du site, notamment r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatisfying et r/politics, chacun qui compte des millions d'abonnés. Tous comptent sur AutoMod pour les aider à modérer. Jhaver présentera le travail la semaine prochaine au Conférence ACM sur le travail coopératif assisté par ordinateur et l'informatique sociale .

Les plateformes de médias sociaux telles que Facebook, Instagram et YouTube comptent depuis longtemps sur des modérateurs humains pour parcourir manuellement le contenu et supprimer les contenus violents et offensants allant du discours de haine raciste et sexiste à la vidéo graphique des fusillades de masse. Travaillant souvent sous contrat, au salaire minimum avec peu d'avantages sociaux, les modérateurs peuvent se retrouver à tirer de longues heures tout en étant assommés par du contenu qui nuit gravement à leur santé mentale .

Les automodérateurs tentent d'atténuer l'ennui et les effets négatifs d'un tel travail. Développé par Redditor Chad Birch comme un moyen d'augmenter sa capacité à modérer le canal r/gaming, AutoMod est un outil basé sur des règles pour identifier les mots qui violent les politiques de publication d'une certaine page. Depuis, il est largement utilisé - Reddit l'a adopté sur tout le site en 2015, et les plates-formes de streaming de jeux extrêmement populaires Twitch et Discord ont emboîté le pas peu de temps après.

Il est toutefois discutable de savoir si AutoMod est réellement un gain de temps. D'une part, les modérateurs automatiques sont très bons dans ce qu'ils font - s'ils sont programmés pour trouver des jurons, ils trouveront et bloqueront les messages qui les contiennent sans faute. Il peut envoyer des notifications aux affiches concernant le contenu problématique, ce qui, selon Jhaver, est éducatif, en ce sens que les auteurs peuvent savoir ce qui n'allait pas avec tout ce qu'ils ont publié.

Ce n'est pas un mince exploit. Comme le notent Jhaver et ses collègues, environ 22 % de toutes les soumissions sur Reddit entre mars et octobre 2018 ont été supprimées. Cela représente environ 17,4 millions de messages au cours de cette période.

Mais disons que le mot est important pour le contexte dans le post – une discussion en 2016 sur le tristement célèbre président Donald Trump commentaire sur le fait de saisir les organes génitaux d'une femme , par example. De tels messages seraient signalés en raison du langage offensant, même si discuter de ce langage est le but du message en premier lieu. Jhaver dit que cela frustre les utilisateurs, qui doivent ensuite revenir en arrière et demander aux modérateurs de rétablir le message.

Et dans un monde de médias sociaux où le contenu troublant se compose de plus en plus de mèmes offensants, de diffusions en direct de tournages ou d'autres contenus visuels sans texte, la dépendance d'AutoMod à la recherche de mots-clés est un gros handicap.

Robert Peck, modérateur des grands subreddits r/pics et r/aww, le sait trop bien. Chacune de ces pages est axée sur l'image, et chacune compte des millions d'abonnés qui publient beaucoup plus de contenu que l'on ne pourrait raisonnablement demander à quiconque de passer au crible.

Pourtant, il dit que même s'il ne peut pas analyser les images, AutoMod a facilité son travail. Les utilisateurs ajoutent directement des descripteurs aux images, et nous pouvons vérifier ces titres, dit-il. Nous recherchons des grossissements de comptes ou des spams qui ont des comptes qui automatisent les publications. Ils utilisent souvent des parenthèses. Nous pouvons dire à AutoMod de rechercher ces modèles.

Qu'on le veuille ou non, AutoMod et ses semblables sont l'avenir de la modération des plateformes sociales. Il sera probablement toujours imparfait, car les machines sont encore loin de comprendre véritablement le langage humain. Mais c'est ce que l'automatisation est censée être : faire gagner du temps aux gens sur des tâches fastidieuses ou répréhensibles. Pouvoir se concentrer sur des messages qui nécessitent une touche humaine rend le travail d'un modérateur d'autant plus précieux et permet aux modérateurs et aux expéditeurs de se concentrer sur de meilleures conversations.

Cela ne résoudra pas le problème des personnes qui publient du contenu désagréable, malveillant ou autrement délétère - ce sera toujours l'un des problèmes les plus épineux qui affligent l'Internet moderne. Mais cela fait une différence. Peck dit qu'il est reconnaissant de la capacité d'AutoMod à l'aider à traiter les publications par lots. C'est une technologie puissante et assez conviviale, loin de la difficulté de programmer un bot équivalent, dit-il. [AutoMod] est mon outil le plus puissant, et je serais perdu sans lui.

cacher