Bien sûr, vous auriez pu le voir venir

Chris Kleponis/Sipa USA, via AP Images

Peut-être avez-vous vu cela arriver il y a près d'une décennie, lorsque #YourSlipIsShowing a révélé à quel point les utilisateurs racistes de Twitter se faisaient passer pour des femmes noires sur Internet. Peut-être, pour vous, c'était pendant Gamergate, la campagne d'abus en ligne ciblant les femmes de l'industrie. Ou peut-être était-ce la fusillade de masse à Christchurch, en Nouvelle-Zélande, quand un tireur imprégné de la culture de 8chan s'est diffusé en direct en train d'assassiner des dizaines de personnes.

C'est peut-être lorsque vous, ou votre ami, ou votre communauté, êtes devenu la cible d'une foule extrémiste en ligne et que vous avez vu la colère en ligne devenir un danger et un mal dans le monde réel.

Ou peut-être que ce qui s'est passé mercredi, lorsqu'une foule de partisans de Trump alimentés par Internet a envahi le Capitole, a été une surprise.

Pendant des semaines, ils avaient planifié leur action à la vue de tous sur Internet, mais ils vous ont montré qui ils sont depuis des années. Le niveau de choc que vous ressentez actuellement face au pouvoir et au danger de l'extrémisme en ligne dépend de votre attention.

Les conséquences de l'inaction

La foule qui a tenté d'empêcher le Congrès de confirmer la victoire présidentielle de Joe Biden a montré comment la stupidité et le danger d'Internet d'extrême droite pouvaient à nouveau apparaître dans le monde réel, mais cette fois, elle a frappé au centre du gouvernement américain. Les banderoles néo-nazies n'étaient pas seulement à l'intérieur du Capitole; ils montaient un spectacle devant un public de dizaines de milliers de personnes qui les poussaient dans les discussions. La foule s'amusait à faire des mèmes dans les couloirs de la démocratie américaine en tant que femme... une partisane de Trump dont l'historique des médias sociaux montre son dévouement à QAnon - a été tué en essayant de s'introduire dans les bureaux du Congrès.

Histoire connexe

Comment un mensonge sur Internet à propos de l'invasion du Capitole s'est transformé en une théorie du complot instantanée Les fausses affirmations selon lesquelles l'invasion du Congrès a été mise en scène se sont propagées à un rythme effréné, grâce aux militants, aux médias et aux politiciens républicains.

L'année dernière, surtout depuis la pandémie, a été une démonstration géante des conséquences de l'inaction : les conséquences d'ignorer les très nombreuses personnes qui ont supplié les entreprises de médias sociaux de prendre les extrémistes créateurs de mèmes et les théoriciens du complot qui ont prospéré sur leurs plates-formes au sérieux.

Facebook et Twitter ont agi pour ralentir la montée de QAnon au cours de l'été , mais seulement après que la théorie du complot pro-Trump ait pu y pousser relativement librement pendant trois ans . Les interdictions de comptes et les ajustements d'algorithmes ont longtemps été trop peu, trop tard pour traiter les racistes, les extrémistes et les théoriciens du complot, et ils ont rarement abordé le fait que ces puissants systèmes fonctionnaient exactement comme prévu.

J'ai parlé avec une petite poignée de personnes qui auraient pu vous dire que cela arrivait pour un article en octobre. Des chercheurs, des technologues et des militants m'ont dit que les grandes entreprises de médias sociaux ont, tout au long de leur histoire, choisi de ne rien faire ou de n'agir que après leurs plateformes causent des abus et des préjudices.

Ariel Waldman a tenté de faire en sorte que Twitter traite de manière significative les abus là-bas en 2008. Des chercheurs comme Shafiqah Hudson, I'Nasah Crockett et Shireen Mitchell ont suivi exactement comment le harcèlement fonctionne et trouve un public sur ces plateformes pendant des années. Whitney Phillips a expliqué à quel point elle était hantée par les rires – pas seulement des autres, mais aussi des siens – dès les premiers jours de ses recherches sur la culture en ligne et la pêche à la traîne, lorsque des chercheurs et des personnalités majoritairement blancs traitaient les extrémistes parmi eux comme des curiosités énervées.

Beaucoup, beaucoup de gens ont supplié les entreprises de médias sociaux de prendre au sérieux les extrémistes créateurs de mèmes et les théoriciens du complot.

Ellen Pao, qui a brièvement occupé le poste de PDG de Reddit en 2014 et a démissionné après avoir introduit la première politique anti-harcèlement de la plate-forme, a été étonnée que Reddit n'ait interdit r/The_Donald qu'en juin 2020, après que des preuves se soient accumulées pendant des années pour montrer que le populaire Le babillard pro-Trump a servi d'espace d'organisation pour les extrémistes et de canal pour les abus de la foule. Bien sûr, au moment où il a été interdit, bon nombre de ses utilisateurs avaient déjà migré de Reddit vers TheDonald.win, un forum indépendant créé par les mêmes personnes qui dirigeaient la version précédente. Ses pages étaient remplies de des dizaines d'appels à la violence avant le rassemblement de mercredi s'est transformé en tentative de coup d'État.

Interdire Trump ne résout pas le problème

Facebook, Twitter et YouTube n'ont pas créé de pensée complotiste ou d'idéologies extrémistes, bien sûr. Ils n'ont pas non plus inventé l'idée de dangereux cultes de la personnalité. Mais ces plateformes ont, de par leur conception, donné à ces groupes les mécanismes pour atteindre un public beaucoup plus large beaucoup plus rapidement, et pour recruter et radicaliser de nouveaux convertis, même aux dépens des personnes et des communautés que ces idéologies ciblent pour les abus. Et surtout, même lorsqu'il était clair ce qui se passait, ils ont choisi le minimum de changement ou ont décidé de ne pas intervenir du tout.

À la suite de la tentative de coup d'État au Capitole, les gens regardent à nouveau les principales sociétés de médias sociaux pour voir comment elles réagissent. L'accent est mis sur les comptes personnels de Trump , qu'il utilisait pour encourager les supporters à descendre sur DC, puis à les féliciter lorsqu'ils le faisaient. Sera-t-il banni de Twitter ? Il existe des arguments convaincants pour expliquer pourquoi il devrait l'être.

Mais aussi lourd et conséquent que cela puisse être, c'est aussi, à d'autres égards… non. Les abus, le harcèlement, la pensée complotiste et le racisme pourront toujours bénéficier des entreprises de médias sociaux qui ne souhaitent agir que lorsqu'il est trop tard, même sans que Trump ne les retweete et ne les encourage.

Facebook a interdit Trump indéfiniment, et il a également augmenté la modération des groupes, où vivent de nombreuses activités alimentées par le complot. Ces changements sont bons, mais encore une fois, ce n'est pas nouveau : les gens en parlent à Facebook depuis des années ; Facebook des employés en ont parlé à Facebook pendant des années. Les groupes ont joué un rôle déterminant dans l'organisation des manifestations Stop the Steal dans les jours qui ont suivi les élections, et avant cela dans les manifestations anti-masques, et avant cela dans la diffusion de fausses nouvelles, et avant cela comme espace central de désinformation anti-vaccin. Rien de tout cela est nouveau.

Il n'y a que tant de façons de dire que plus de gens auraient dû écouter. Si vous faites attention maintenant, vous commencerez peut-être enfin à entendre ce qu'ils disent.

cacher