211service.com
Une collection de 13 500 Nastygrams pourrait faire avancer la guerre contre les trolls
Une visualisation des messages sur les pages de discussion de Wikipédia en janvier montre l'incidence des attaques personnelles, surlignées en rouge.
Misogynie, racisme, grossièretés - une collection de plus de 13 500 attaques personnelles en ligne a tout pour plaire.
Les nastygrammes provenaient des pages de discussion de Wikipédia. La collection, ainsi que plus de 100 000 messages bénins supplémentaires, est sorti par des chercheurs d'Alphabet et de la Wikimedia Foundation, l'association à but non lucratif derrière Wikipédia. Ils disent que les données stimuleront les efforts de formation des logiciels pour comprendre et contrôler le harcèlement en ligne.
Notre objectif est de voir comment nous pouvons aider les gens à discuter des sujets les plus controversés et les plus importants de manière productive sur Internet, déclare Lucas Dixon, chercheur en chef chez Scie sauteuse , un groupe au sein d'Alphabet qui développe des technologies au service de causes telles que la liberté d'expression et la lutte contre la corruption (voir 'Si seulement l'IA pouvait nous sauver de nous-mêmes').
Les chercheurs de Jigsaw et de Wikimedia ont utilisé un service de crowdsourcing pour que les gens parcourent plus de 115 000 messages publiés sur les pages de discussion de Wikipédia, en vérifiant ceux qui étaient une attaque personnelle comme défini par les règles de la communauté . Les collaborateurs ont déjà utilisé les données pour former des algorithmes d'apprentissage automatique qui rivalisent avec les travailleurs externalisés pour repérer les attaques personnelles. Lorsqu'ils ont parcouru la collection complète de 63 millions de messages de discussion rédigés par les éditeurs de Wikipédia, ils ont constaté que seule une attaque sur 10 environ avait entraîné une action des modérateurs.
La Fondation Wikimédia a créé réduire le harcèlement parmi les éditeurs de Wikipédia une priorité l'année dernière. La politique s'ajoute aux efforts existants pour adoucir l'atmosphère épineuse et bureaucratique de la communauté Wikipédia, qui s'est avérée dissuader les nouveaux contributeurs de participer. Ces deux problèmes pourraient aider à expliquer pourquoi il a vu le nombre d'éditeurs chuter et a eu du mal à élargir la participation au-delà d'un noyau démographique masculin occidental (voir The Decline of Wikipedia ).
Jigsaw et Wikimedia Foundation ne sont pas les premiers à étudier les abus en ligne, ni les premiers à concevoir des logiciels capables de les détecter et de les combattre. Mais les collections de commentaires étiquetés pour signaler les messages harcelants et non harcelants - qui sont nécessaires pour former un logiciel d'apprentissage automatique - ont été rares, dit Ellery Wulczyn , chercheur en science des données à la Wikimedia Foundation.
Il estime que la collection d'attaques personnelles et de commentaires de Wikipédia est entre 10 et 100 fois plus importante que celles précédemment disponibles. Les algorithmes d'apprentissage automatique ont besoin d'un grand nombre d'exemples étiquetés pour apprendre à filtrer avec précision les données.
On ne sait toujours pas si des algorithmes formés pour détecter les abus peuvent être déployés en tant que modérateurs efficaces. Le logiciel est loin de comprendre toutes les nuances du langage. Certaines personnes peuvent être motivées à ajuster leur langage abusif pour échapper à la détection, explique Wulczyn de Wikimedia. Si nous devions construire des interventions avec lesquelles les humains ont une relation contradictoire, nous ne savons pas ce qui se passerait, dit-il.