211service.com
Les femmes journalistes et politiciennes noires reçoivent un tweet abusif toutes les 30 secondes
L'apprentissage automatique révèle un niveau inquiétant de harcèlement, d'abus et de trolling visant les femmes et les minorités sur Twitter. 18 décembre 2018
Martre Bjork | Unsplash
Twitter peut être un endroit toxique. Ces dernières années, la pêche à la traîne et le harcèlement sur le site en ont fait une expérience extrêmement désagréable et bouleversante pour de nombreuses personnes, en particulier les femmes et les minorités. Mais il est difficile d'identifier et d'arrêter automatiquement de tels abus avec précision et fiabilité. En effet, malgré tous les progrès récents de l'IA, les machines ont généralement encore du mal à répondre de manière significative à la communication humaine. Par exemple, l'IA a généralement du mal à détecter les messages abusifs qui peuvent être sarcastiques ou déguisés avec une pincée de mots-clés positifs.
Une nouvelle étude a utilisé l'apprentissage automatique de pointe pour obtenir un aperçu plus précis de l'ampleur du harcèlement sur Twitter. Son analyse confirme ce que beaucoup de gens soupçonnent déjà : les femmes journalistes et les politiciennes appartenant à des minorités sont confrontées à une quantité choquante d'abus sur la plateforme.
L'étude menée par Amnesty International en collaboration avec la firme canadienne ElementsAI , montre que les femmes politiques et journalistes noires sont 84 % plus susceptibles d'être mentionnées dans des tweets abusifs ou problématiques que les femmes blanches exerçant la même profession.
C'est juste exaspérant, déclare Julien Cornebise, directeur de recherche chez ElementAI à Londres, un bureau axé sur les applications humanitaires de l'apprentissage automatique. Ces femmes font partie intégrante du fonctionnement de la société.
Les chercheurs d'ElementAI ont d'abord utilisé un outil d'apprentissage automatique similaire à celui utilisé pour classer les spams afin d'identifier les tweets abusifs. Les chercheurs ont ensuite donné aux volontaires un mélange de tweets pré-classés et inédits à classer. Les tweets identifiés comme abusifs ont été utilisés pour former un réseau d'apprentissage en profondeur. Le résultat est un système capable de classer les abus avec une précision impressionnante, selon Cornebise.
Le projet s'est concentré sur les tweets envoyés aux politiciens et aux journalistes. L'étude a vu 6 500 volontaires de 150 pays aider à classer les abus dans 228 000 tweets envoyés à 778 femmes politiques et journalistes au Royaume-Uni et aux États-Unis en 2017.
L'étude a examiné les tweets envoyés aux femmes membres du Parlement britannique et du Congrès et du Sénat américains, ainsi qu'aux femmes journalistes de publications telles que le Daily Mail, Gal Dem, le Guardian, Pink News et le Sun au Royaume-Uni et Breitbart et le New York Times aux États-Unis.
Il a révélé que 1,1 million de tweets abusifs ont été envoyés aux 778 femmes au cours de cette période, soit l'équivalent d'un toutes les 30 secondes. Il a également constaté que 7,1% de tous les tweets envoyés aux femmes dans ces rôles sont abusifs. Les chercheurs à l'origine de l'étude ont également publié un outil, appelé Troll Patrol , pour tester si un tweet constitue un abus ou du harcèlement.
Bien que l'approche d'apprentissage en profondeur ait été une grande amélioration par rapport aux méthodes existantes pour repérer les abus, les chercheurs préviennent que l'apprentissage automatique ou l'IA ne suffiront pas à identifier la pêche à la traîne tout le temps. Cornebise dit que l'outil est souvent aussi bon que les modérateurs humains, mais qu'il est également sujet aux erreurs. Un jugement humain sera nécessaire dans un avenir prévisible, dit-il.
Twitter a été largement critiqué pour ne pas avoir fait plus pour contrôler sa plateforme. Milena Marin, qui a travaillé sur le projet à Amnesty International, affirme que l'entreprise devrait au moins être plus transparente sur ses méthodes de maintien de l'ordre.
Troll Patrol ne consiste pas à surveiller Twitter ou à le forcer à supprimer du contenu, explique Marin. Mais elle a averti que Twitter doit commencer à être transparent sur la manière exacte dont il utilise l'apprentissage automatique pour détecter les abus et publier des informations techniques sur les algorithmes sur lesquels il s'appuie.
En réponse au rapport, le juriste de Twitter, Vijaya Gadde, a souligné le problème de la définition de l'abus. Je noterais que le concept de contenu « problématique » aux fins de la classification du contenu est celui qui mérite une discussion plus approfondie, a déclaré Gadde dans un communiqué. Nous travaillons dur pour établir des règles applicables à l'échelle mondiale et avons commencé à consulter le public dans le cadre du processus.