Il est trop tard pour arrêter QAnon avec des vérifications des faits et des interdictions de compte

Unsplash/@ dole777

Twitter est parfait comme mégaphone pour l'extrême droite : ses sujets tendances sont faciles à jouer, les journalistes passent beaucoup trop de temps sur le site et, si vous avez de la chance, le président des États-Unis pourrait vous retweeter.

QAnon, la théorie du complot pro-Trump en constante évolution, est bonne sur Twitter de la même manière que d'autres idéologies natives d'Internet réussies — utiliser la plate-forme pour manipuler l'information, l'attention et la distribution en même temps. Mardi, Twitter a franchi une étape visant à limiter le succès de QAnon, notamment en supprimant environ 7 000 comptes qui promeuvent le complot, en désignant QAnon comme une activité nuisible coordonnée et en empêchant les termes associés d'apparaître dans les tendances et les résultats de recherche.

Nous suspendrons définitivement les comptes Tweetant sur ces sujets dont nous savons qu'ils enfreignent notre politique multi-comptes, coordonnent les abus autour de victimes individuelles ou tentent d'échapper à une suspension précédente, Twitter a annoncé . La société a ajouté qu'elle avait constaté une augmentation de ces activités au cours des dernières semaines.

le Le New York Times a rapporté que Facebook prévoyait de prendre des mesures similaires pour limiter la portée du contenu QAnon sur sa plate-forme le mois prochain, citant deux employés de l'entreprise qui ont parlé de manière anonyme. Le vendredi, TikTok a bloqué plusieurs hashtags liés à QAnon à partir des résultats de recherche.

Cette poussée la plus récente pour limiter la portée de QAnon fait suite à deux campagnes très médiatisées motivées par la théorie du complot. La première mannequin et célébrité américaine Chrissy Teigen, qui compte plus de 13 millions de followers sur Twitter, a été la cibler d'une intense campagne de harcèlement. Puis, plus récemment, les comptes QAnon ont joué un rôle déterminant dans la diffusion d'un fausse théorie du complot sur la traite des êtres humains à propos du marché du meuble Wayfair. Les affirmations se sont propagées à partir de la barre de tendance de Twitter à Instagram et TikTok comptes faisant la promotion de la théorie auprès de leurs abonnés.

Histoire connexe

Comment parler aux théoriciens du complot - et toujours être gentil

Les experts et les modérateurs du subreddit r/ChangeMyView proposent 10 conseils pour démystifier les théories du complot de manière convaincante.

Cette activité a rehaussé le profil du problème de très longue date des brigades coordonnées. Ce type de harcèlement de masse a un impact significatif sur la vie des gens, a déclaré Renee DiResta, responsable de recherche à l'Observatoire Internet de Stanford et experte en désinformation en ligne.

Mais la maîtrise de Twitter n'est qu'une petite partie de la raison pour laquelle QAnon exerce une influence, et juste un exemple de la façon dont les plateformes amplifient les croyances marginales et les activités nuisibles. Pour arrêter QAnon, selon les experts, il faudrait beaucoup plus de travail et de coordination. C'est-à-dire si c'est encore possible.

Une omniconspiration

QAnon est né fin 2017 après une boutade du président Donald Trump lors d'une conférence de presse sur un calme avant que la tempête n'engendre une série de messages mystérieux sur 4chan attribuée à Q, prédisant l'arrestation prochaine d'Hillary Clinton. Bien que cela ne se soit pas produit, Q a continué à publier, affirmant tout savoir sur un plan secret mené par Trump pour arrêter ses ennemis.

QAnon trouve son origine dans une conversation multiplateforme qui a débuté sur les réseaux sociaux, dans un environnement pseudonyme, où il n'y a aucune conséquence pour la parole, explique Brian Friedberg, chercheur principal au Harvard Shorenstein Center’s Technology and Social Change Project. Les messages sont passés d'un site à un autre à la suite d'interdictions et apparaissent maintenant sur un babillard appelé 8kun.

Les messages ont attiré des abonnés qui passent leur temps à interpréter ces messages, à tirer des conclusions et à mener des campagnes pour rendre les messages plus visibles. Certains adhérents de QAnon ont mené des campagnes de harcèlement coordonnées contre des journalistes, des communautés en ligne rivales, des célébrités et des politiciens libéraux. D'autres se sont présentés aux rassemblements de Trump portant des produits sur le thème Q. Le président a retweeté des comptes Twitter liés à Q ou aux théories du complot des dizaines de fois , bien que ce soit une question ouverte à quel point il est conscient de ce qu'est Q, au-delà d'un mouvement qui soutient sa présidence sur Internet. Et il y a eu plusieurs incidents de violences réelles lié aux partisans de QAnon.

Histoire connexe

Comment les théoriciens du complot Covid-19 exploitent la culture YouTube Les théoriciens du complot Covid-19 obtiennent toujours des millions de vues sur YouTube, même si la plate-forme sévit contre la désinformation sur la santé.

La compréhension traditionnelle de QAnon était que ses idées sont diffusées par un nombre relativement restreint d'adhérents qui sont extrêmement doués pour manipuler les médias sociaux pour une visibilité maximale. Mais la pandémie a rendu cela plus compliqué, car QAnon a commencé à fusionner plus profondément avec la désinformation sur la santé et augmentant rapidement sa présence sur Facebook.

À ce stade, QAnon est devenu une théorie de l'omniconspiration, dit DiResta - il ne s'agit plus seulement de quelques messages sur les babillards électroniques, mais plutôt d'un vaste mouvement promouvant de nombreuses idées différentes et liées. Les chercheurs savent que la croyance en une théorie du complot peut conduire à l'acceptation des autres, et de puissants algorithmes de recommandation sur les réseaux sociaux ont essentiellement accéléré ce processus. Par exemple, dit DiResta, des recherches ont montré que les membres de groupes Facebook anti-vaccins voyaient des recommandations pour des groupes qui faisaient la promotion de la théorie du complot Pizzagate en 2016.

L'algorithme de recommandation semble avoir reconnu une corrélation entre les utilisateurs qui partageaient la conviction que le gouvernement cachait une vérité secrète. Les détails de la vérité secrète variaient, dit-elle.

Les chercheurs savent depuis des années que différentes plateformes jouent des rôles différents dans des campagnes coordonnées. Les gens se coordonneront dans une application de chat, un babillard électronique ou un groupe Facebook privé, cibleront leurs messages (y compris le harcèlement et les abus) sur Twitter et hébergeront des vidéos sur le tout sur YouTube.

Dans cet écosystème d'informations, Twitter fonctionne plus comme une campagne de marketing pour QAnon : le contenu est créé pour être vu et utilisé par des étrangers. Pendant ce temps, Facebook est un moteur de coordination, en particulier dans les groupes fermés.

'Q' a fait de nombreuses prédictions incorrectes et continue de faire croire qu'il existe un complot 'de l'État profond' contre Donald Trump.

Reddit était autrefois une plaque tournante de l'activité QAnon, jusqu'à ce que le site commencé à le serrer en 2018 pour incitation à la violence et violation répétée de ses conditions d'utilisation. Mais au lieu de perdre son pouvoir, QAnon s'est simplement déplacé vers d'autres plates-formes de médias sociaux grand public où il était moins susceptible d'être interdit.

Tout cela signifie que lorsqu'une plateforme agit seule pour bloquer ou réduire l'impact de QAnon, elle n'attaque qu'une partie du problème.

Friedberg a déclaré que pour lui, c'était comme si les plateformes de médias sociaux attendaient un acte de violence de masse afin de coordonner un effort de déplateforme plus agressif. Mais le préjudice potentiel de QAnon est déjà évident si vous arrêtez de le considérer comme une curiosité pro-Trump et le voyez plutôt pour ce qu'il est : un mécanisme de distribution de désinformation de toutes sortes, a déclaré Friedberg, et un mécanisme que les adhérents sont prêts à promouvoir ouvertement. et s'identifier, quelles qu'en soient les conséquences.

Trois ans d'accès presque sans entraves

Steven Hassan, conseiller en santé mentale et spécialiste des sectes qui s'est échappé de l'église de l'unification de Sun Myung Moon , connu sous le nom de Moonies, dit que discuter de groupes comme QAnon comme uniquement un problème de désinformation ou d'algorithme ne suffit pas.

Je considère QAnon comme une secte, dit Hassan. Lorsque vous êtes recruté dans une secte de contrôle de l'esprit et que vous êtes endoctriné dans un nouveau système de croyances, cela est en grande partie motivé par la peur.

Ils ont eu trois ans d'accès presque illimité pour se développer et se développer.

Les gens peuvent être déprogrammés à partir de cela, dit Hassan. Mais les personnes qui réussiront le mieux à faire cela sont les membres de la famille et les amis. Les personnes qui sont déjà proches d'un partisan de QAnon pourraient être formées pour avoir de multiples interactions au fil du temps dans l'espoir de retirer la personne.

Si les plateformes voulaient sérieusement s'attaquer à des idéologies comme QAnon, elles feraient bien plus qu'elles ne le sont, dit-il.

Premièrement, Facebook devrait éduquer les utilisateurs non seulement sur la façon de repérer la désinformation, mais aussi sur la façon de comprendre quand ils sont manipulés par des campagnes coordonnées. Les poussées coordonnées sur les médias sociaux sont un facteur majeur dans QAnon portée croissante sur les plateformes grand public , comme l'a récemment documenté le Guardian. Le groupe a explicitement embrassé la guerre de l'information comme tactique d'influence. En mai, Facebook a supprimé une petite collection de comptes affiliés à QAnon pour comportement inauthentique .

Et deuxièmement, Hassan recommande que les plates-formes empêchent les gens de descendre dans des tunnels algorithmiques ou de recommandation liés à QAnon, et les alimentent plutôt avec du contenu de personnes comme lui, qui ont survécu et échappé à des sectes, en particulier de ceux qui ont été aspirés et sortis de QAnon.

Friedberg, qui a étudié le mouvement en profondeur, dit qu'il pense qu'il est absolument trop tard pour que les plateformes de médias sociaux grand public arrêtent QAnon, bien qu'il y ait certaines choses qu'ils pourraient faire pour, par exemple, limiter la capacité de ses adhérents à évangéliser sur Twitter.

Ils ont eu trois ans d'accès presque sans entraves en dehors de certaines plateformes pour se développer et se développer, dit Friedberg. De plus, les partisans de QAnon entretiennent une relation active avec la source de la théorie du complot, qui publie constamment de nouveaux contenus à déchiffrer et mentionne les messages des médias sociaux des partisans de Q dans ses publications. Briser l'influence de QAnon nécessiterait de rompre la confiance entre Q, une figure anonyme sans caractéristiques déterminantes, et ses partisans. Étant donné que la longue expérience de Q en matière de prédictions inexactes n'a pas brisé cette confiance, c'est difficile, et la couverture médiatique critique ou la déplateforme n'ont pas encore vraiment fait grand-chose sur ce front. Au contraire, ils ne font qu'inciter les croyants de QAnon à supposer qu'ils sont sur quelque chose.

Les meilleures idées pour limiter QAnon nécessiteraient des changements drastiques et une introspection de la part des personnes qui dirigent les entreprises sur les plates-formes desquelles il a prospéré. Mais même les annonces de cette semaine ne sont pas aussi dramatiques qu'elles pourraient le sembler au premier abord : Twitter clarifié qu'il n'appliquerait pas automatiquement ses nouvelles politiques contre les politiciens qui font la promotion du contenu QAnon, dont plusieurs promoteurs qui se présentent aux élections aux États-Unis.

Et, a déclaré Friedberg, les partisans de QAnon étaient sur le point de tester ces limitations, et testent déjà ces limitations. Par exemple, Twitter a interdit le partage de certaines URL affiliées à un complot, mais les gens en ont déjà d'autres à utiliser.

En fin de compte, faire quelque chose à ce sujet nécessiterait de repenser l'ensemble de l'écosystème de l'information, déclare DiResta. Et je veux dire cela dans un sens beaucoup plus large que de simplement réagir à une faction complotiste.

cacher