Pourquoi les médias sociaux ne peuvent pas continuer à modérer le contenu dans l'ombre

Pexels

En 2016, je pouvais compter sur une main les types d'interventions que les entreprises technologiques étaient prêtes à utiliser pour débarrasser leurs plateformes de la désinformation, des discours de haine et du harcèlement. Au fil des ans, des mécanismes rudimentaires tels que le blocage de contenu et l'interdiction de comptes se sont transformés en un ensemble d'outils plus complexes, notamment la mise en quarantaine de sujets, la suppression de publications de la recherche, l'interdiction de recommandations et la rétrogradation des publications en priorité.

Et pourtant, même avec plus d'options à leur disposition, la désinformation reste un problème sérieux. La désinformation a fait l'objet d'une large couverture le jour du scrutin - ma collègue Emily Drefyuss a découvert, par exemple, que lorsque Twitter a tenté de gérer le contenu à l'aide du hashtag #BidenCrimeFamily, avec des tactiques telles que la désindexation en bloquant les résultats de recherche, des utilisateurs comme Donald Atout adapté en utilisant des variantes de la même balise . Mais nous ne savons toujours pas grand-chose sur la façon dont Twitter a décidé de faire ces choses en premier lieu, ou comment il pèse et apprend de la façon dont les utilisateurs réagissent à la modération.

Quelles actions ces entreprises ont-elles entreprises ? Comment fonctionnent leurs équipes de modération ? Quel est le processus de prise de décision ?

Alors que les entreprises de médias sociaux suspendaient des comptes et étiquetaient et supprimaient des messages, de nombreux chercheurs, organisations de la société civile et journalistes se sont efforcés de comprendre leurs décisions. Le manque de transparence de ces décisions et processus signifie que, pour beaucoup, les résultats des élections se terminent par un astérisque cette année, tout comme en 2016.

Quelles actions ces entreprises ont-elles entreprises ? Comment fonctionnent leurs équipes de modération ? Quel est le processus de prise de décision ? Au cours des dernières années, les sociétés de plateformes ont mis sur pied d'importants groupes de travail dédiés à la suppression de la désinformation électorale et à l'étiquetage des premières déclarations de victoire. Sarah Robert , professeur à UCLA, a écrit sur le travail invisible des modérateurs de contenu de plate-forme comme une industrie de l'ombre, un labyrinthe d'entrepreneurs et de règles complexes que le public connaît peu. Pourquoi n'en sait-on pas plus ?

Dans le brouillard post-électoral, les médias sociaux sont devenus le terrain d'une guerre de bas étage contre notre sécurité cognitive, avec la prolifération de campagnes de désinformation et de théories du complot. Lorsque le secteur de l'information télévisée jouait le rôle de gardien de l'information, il était aux prises avec des obligations d'intérêt public tels que le partage d'informations opportunes, locales et pertinentes. Les entreprises de médias sociaux ont hérité d'une position similaire dans la société, mais elles n'ont pas assumé les mêmes responsabilités. Cette situation a chargé les canons des allégations de partialité et de censure dans la manière dont ils ont modéré le contenu lié aux élections.

Prise en charge des frais

En octobre, je rejoint un panel d'experts sur la désinformation, le complot et les infodémies pour le House Permanent Select Committee on Intelligence. J'étais flanqué de Cindy Otis, une ancienne analyste de la CIA ; Nina Jankowicz, chercheuse en désinformation au Wilson Center ; et Melanie Smith, responsable de l'analyse chez Graphika.

Alors que je préparais mon témoignage, Facebook avait du mal à faire face à QAnon, un mouvement social militarisé surveillé par leur département des organisations dangereuses et condamné par la Chambre dans un projet de loi bipartite . Mon équipe a été enquêtant sur QAnon depuis des années . Cette théorie du complot est devenue un sujet de prédilection parmi les chercheurs en désinformation en raison de toutes les façons dont elle est restée extensible, adaptable et résiliente face aux efforts des sociétés de plateformes pour la mettre en quarantaine et la supprimer.

QAnon est également devenu un problème pour le Congrès, car il ne s'agit plus de personnes participant à un étrange jeu en ligne : il s'est abattu comme une tornade dans la vie des politiciens, qui sont maintenant la cible de campagnes de harcèlement qui traversent le fièvre rêves de conspirateurs à la violence . De plus, cela s'est produit rapidement et de manière nouvelle. Les théories du complot mettent généralement des années à se répandre dans la société, avec la promotion de personnalités politiques, médiatiques et religieuses clés. Les médias sociaux ont accéléré ce processus grâce à des formes toujours croissantes de diffusion de contenu. Les abonnés de QAnon ne se contentent pas de commenter les dernières nouvelles ; ils le plient à leurs enchères .

J'ai concentré mon témoignage sur les nombreux préjudices sans nom causés par l'incapacité des entreprises de médias sociaux à empêcher la désinformation de saturer leurs services. Les journalistes, les professionnels de la santé publique et de la santé, les dirigeants de la société civile et les administrateurs municipaux, comme les forces de l'ordre et les responsables électoraux, supportent le coût de la désinformation à grande échelle et le fardeau de la lutte contre ses effets. De nombreuses personnes abordent les questions politiques sur la pointe des pieds lorsqu'elles discutent avec leurs amis et leur famille, mais alors que la désinformation sur les manifestations commençait à mobiliser des miliciens blancs et que la désinformation médicale conduisait les gens à minimiser la pandémie, différents secteurs professionnels ont assumé de nouveaux rôles importants en tant que défenseurs de la vérité .

Prenez les professionnels de la santé publique et de la santé, qui ont dû développer des ressources pour atténuer la désinformation médicale sur le covid-19. Les médecins tentent de devenir des influenceurs en ligne afin de corriger les faux conseils et les fausses allégations de remèdes miracles, ce qui prend du temps pour dispenser des soins ou développer des traitements. De nombreuses salles de rédaction, quant à elles, se sont adaptées à la normalisation de la désinformation sur les réseaux sociaux en développant un rythme de désinformation – démystifiant les théories du complot ou les fausses nouvelles qui pourraient affecter leurs lecteurs. Mais ces ressources seraient bien mieux dépensées pour soutenir le journalisme plutôt que d'agir essentiellement en tant que modérateurs de contenu tiers.

Histoire connexe

Merci d'avoir publié : Les leçons du tabagisme pour réglementer les médias sociaux D'anciens dirigeants de Facebook admettent qu'ils ont utilisé le manuel de l'industrie du tabac pour les produits addictifs. Peut-être qu'il peut aussi être utilisé pour réparer les dégâts.

Les organisations de la société civile ont également été contraintes de consacrer des ressources à la surveillance de la désinformation et à la protection de leur base contre les campagnes ciblées. Désinformation racialisée est une tactique chevronnée des opérations d'influence nationales et étrangères : les campagnes se font passer pour des communautés de couleur ou utilisent le racisme pour renforcer la polarisation sur les problèmes de coin. Brandi Collins-Dexter a témoigné sur ces questions lors d'une audience du Congrès en juin, soulignant comment les entreprises technologiques se cachent derrière des appels pour protéger la liberté d'expression à tout prix sans en faire assez pour protéger les communautés noires ciblées quotidiennement sur les réseaux sociaux par la désinformation médicale, les discours de haine, l'incitation et le harcèlement.

Agents électoraux , les forces de l'ordre et les premiers intervenants sont sérieusement désavantagés lorsqu'ils tentent de faire leur travail alors que des rumeurs et des théories du complot se répandent en ligne. À l'heure actuelle, les forces de l'ordre se préparent à la violence dans les bureaux de vote.

Une piste à améliorer

Lorsque la désinformation se propage du monde numérique au monde physique, elle peut rediriger les ressources publiques et menacer la sécurité des personnes. C'est pourquoi les entreprises de médias sociaux doivent prendre le problème aussi au sérieux qu'elles prennent leur désir de profit.

Mais ils ont besoin d'une voie pour s'améliorer. Article 230 de la loi sur les communications et la décence permet aux entreprises de médias sociaux d'améliorer la modération du contenu, mais les politiciens ont menacé de supprimer ces protections afin qu'ils puissent poursuivre leurs propres campagnes de propagande. Tout au long de l'audience d'octobre, le spectre d'une nouvelle agence qui pourrait auditer de manière indépendante les violations des droits civils, examiner les questions de confidentialité des données et évaluer les externalités de marché de cette industrie sur d'autres secteurs.

Comme je l'ai soutenu lors de l'audience, l'énorme portée des médias sociaux à travers le monde signifie qu'il est important que la réglementation ne commence pas par le démantèlement de l'article 230 jusqu'à ce qu'une nouvelle politique soit en place.

D'ici là, nous avons besoin de plus de transparence. La désinformation ne concerne pas uniquement les faits ; il s'agit de savoir qui peut dire quels sont les faits. Les décisions équitables de modération du contenu sont essentielles à la responsabilité publique.

Plutôt que de s'accrocher à la technostalgie pendant une période où ce n'était pas si grave, il vaut parfois la peine de se demander ce qu'il faudrait pour désinventer les médias sociaux, afin que nous puissions tracer la voie du Web que nous voulons - un Web qui promeut la démocratie, connaissances, soins et équité. Sinon, chaque décision inexpliquée des entreprises technologiques concernant l'accès à l'information devient potentiellement du fourrage pour les conspirationnistes et, pire encore, le fondement d'une politique gouvernementale excessive.

cacher