Voici comment les entreprises de médias sociaux devraient lutter contre la haine en ligne, selon la physique

À l'intérieur de la salle de guerre de Facebook, où il surveille le contenu PA

La surveillance des groupes haineux en ligne est comme un jeu de taupe sans fin : les modérateurs suppriment une page néonazie sur Facebook, seulement pour qu'un autre apparaisse des heures plus tard . C'est une approche qui ne fonctionne pas, mais une équipe de physiciens a utilisé une étude des réseaux pour suggérer plusieurs stratégies alternatives qui pourraient le faire.

L'ampleur du problème : L'équipe de l'Université George Washington a examiné la dynamique des communautés haineuses - des groupes qui organisent des individus partageant des opinions similaires - sur les plateformes de médias sociaux Facebook et VKontakte (l'équivalent en Russie) pendant quelques mois. Ils ont constaté que ces réseaux sont remarquablement interconnectés à l'échelle mondiale et résilients au niveau micro lorsqu'ils sont attaqués, traversant des plates-formes et sautant entre les pays, les continents et les langues. La preuve concrète de cette interdépendance peut être vue dans la façon dont les attaquants extrémistes blancs en Norvège, en Nouvelle-Zélande et aux États-Unis ont explicitement inspirés les uns des autres .

L'approche actuelle est cassée : Le modèle mathématique des chercheurs prédit que le maintien de l'ordre au sein d'une seule plate-forme, comme Facebook, peut en fait aggraver la propagation du discours de haine et pourrait éventuellement le pousser dans la clandestinité, où il est encore plus difficile à étudier et à combattre. L'équipe a expliqué ses conclusions dans un article publié en La nature cette semaine.

Ce qui peut être fait? Les chercheurs suggèrent des politiques qui pourraient être mises en œuvre par les entreprises de médias sociaux :

— Interdire les clusters haineux relativement petits, plutôt que les plus grands. Celles-ci sont plus faciles à localiser et leur élimination peut aider à empêcher la formation de grappes plus importantes.

— Bannir un petit nombre d'utilisateurs choisis au hasard parmi les clusters haineux en ligne. Cela évite d'interdire des groupes entiers d'utilisateurs, ce qui entraîne l'indignation et des allégations de suppression de la parole.

— Encourager la formation de clusters d'utilisateurs anti-haine ; ils peuvent contrer les grappes de haine.

— Étant donné que de nombreux groupes haineux en ligne ont des points de vue opposés, les administrateurs de la plateforme devraient introduire un groupe artificiel d'utilisateurs pour semer la division entre ces groupes. Les chercheurs ont découvert que ce genre de batailles pouvait faire tomber de grands groupes de haine qui ont des points de vue opposés.

Quelle est la probabilité? Certaines des politiques, en particulier les deux dernières, sont assez radicales. Mais comme les approches actuelles sont si profondément inefficaces, il vaut certainement la peine pour les entreprises de médias sociaux de les essayer. À vous, Mark Zuckerberg.

Inscrivez-vous ici à notre newsletter quotidienne The Download pour recevoir votre dose des dernières nouvelles incontournables du monde de la technologie émergente.

cacher