CloudFlare abandonnant 8chan aide à combattre la haine même si 8chan revient

CloudflarePDG Matthew Prince Tech Crunch | Flickr

Il n'a fallu que quelques heures pour 8chan, un babillard électronique anonyme rempli de haine lié à trois fusillades de masse, dont le week-end dernier au Texas —de revenir en ligne après son fournisseur de sécurité, CloudFlare, l'a laissé tomber dans la nuit du 4 août . Au moment d'écrire ces lignes, le site était de nouveau en panne après que sa nouvelle société d'hébergement, Epik, ait été coupée par l'un de ses propres fournisseurs de services, mais peu de doutes qu'il finira par refaire surface.

La déplateforme par des entreprises comme CloudFlare est-elle donc inutile dans la lutte contre les discours de haine en ligne ? La réponse est non : d'abord parce que la recherche suggère que la déplateforme nuit aux communautés en ligne même si elles réapparaissent par la suite, et ensuite parce que la décision de CloudFlare, un acteur clé du marché de la sécurité des sites Web, a changé les attentes concernant les obligations morales des entreprises technologiques. .

Après un groupe d'entreprises technologiques a donné un coup de pied au fondateur d'InfoWars, Alex Jones hors de leurs plateformes, l'intérêt initial pour lui a augmenté, mais un an plus tard, il avait presque disparu. Un étude 2017 a constaté que la décision de Reddit d'interdire des communautés comme r/fatpeoplehate et r/CoonTown a conduit à moins de discours de haine sur le site, déclare le co-auteur de l'étude Eshwar Chandrasekharan , doctorant à Georgia Tech. La raison : les utilisateurs extrêmement motivés suivront une communauté ou une personnalité vers un nouvel endroit, mais les membres moins engagés abandonneront complètement.

De même, le site néo-nazi Daily Stormer était autrefois un espace central d'organisation pour l'extrême droite. Puisque c'était abandonné par la société d'hébergement Web GoDaddy il y a deux ans, son influence au sein du mouvement a considérablement diminué, dit Becca Lewis , un chercheur qui étudie les sous-cultures politiques en ligne. Si 8chan reste en panne, il y a des raisons de croire que cela aurait un impact important sur ce que nous voyons en termes d'organisation en ligne dans le mouvement d'extrême droite, ajoute-t-elle.

Les critiques de la déplateforme soulignent que cela pourrait être une pente glissante vers la censure. Initialement, CloudFlare a déclaré qu'il n'interdirait pas 8chan parce que nous sommes en grande partie un service public neutre . En tant que critique technologique Zeynep Tufekci a souligné, sans procédure régulière, il n'y a pas grand-chose pour empêcher les entreprises, par exemple, de dénigrer les politiciens qui préconisent la suppression des échappatoires fiscales pour les grandes entreprises. Ces problèmes sont profonds et compliqués, et Tufekci suggère que les législateurs, les plateformes et les utilisateurs travaillent ensemble pour créer un système cohérent qui inclut le droit pour les utilisateurs de contester une interdiction de plate-forme.

Il faudra beaucoup de temps avant que nous ayons ce système cohérent. Pendant ce temps, les tireurs ont continué à poster leurs manifestes. Compte tenu de cela, Tarleton Gillespie , chercheur principal chez Microsoft Research et auteur de Gardiens d'Internet , dit que la décision CloudFlare elle-même peut être une forme de procédure régulière.

S'ils avaient laissé tomber [8chan] parce qu'ils étaient des conservateurs grincheux ou des libéraux radicaux, alors il y aurait beaucoup de sites qui diraient: 'C'est scandaleux, viens avec nous', dit Gillespie. Mais le consensus selon lequel 8chan est au-delà de la pâleur semble presque universel, et cela aide à établir une nouvelle norme pour ce qui est attendu d'une entreprise comme CloudFlare.

Cela pourrait marquer un changement comparable à celui qui a affecté les plateformes de médias sociaux comme Facebook. Il fut un temps où ils ont insisté sur le fait qu'ils étaient des plates-formes neutres et qu'ils ne pouvaient en aucun cas être responsables de la surveillance des discours de haine. Ce temps est révolu depuis longtemps; Facebook emploie désormais 30 000 modérateurs de contenu . Mais jusqu'à présent, il y avait un accord général sur le fait que les sociétés d'hébergement comme CloudFlare, qui ne publiaient pas elles-mêmes de contenu, pouvaient rester neutres. Maintenant, cela aussi ne peut plus être tenu pour acquis.

Gillespie ne soutient pas que l'opinion publique devrait remplacer les directives réelles, et il existe de nombreuses autres complications. Mais, dit-il, il peut être nécessaire de s'appuyer sur des discussions publiques maladroites qui se transforment en de nouvelles attentes sur les types de discours qui ne peuvent être tolérés et sur ce que les entreprises devraient faire. (Il convient de noter que ces discussions doivent être très prudentes. Comme l'ont montré les recherches de Data & Society, certains types de rapports peut amplifier et jouer dans les souhaits d'extrême droite.)

La technologie n'est bien sûr qu'une petite partie du problème des fusillades de masse. Lois laxistes sur les armes à feu , et le manque de volonté politique aux États-Unis pour les changer, sont un problème beaucoup plus important. Mais la décision de CloudFlare a changé le calcul pour une nouvelle classe d'entreprises technologiques. Une société d'hébergement ou une société de sécurité qui continue à desservir un site comme 8chan prendra une décision politique. La neutralité n'est plus neutre.

cacher