Une nouvelle plate-forme de médias sociaux veut imposer la gentillesse. Est-ce que ça peut marcher ?

Mme Tech | Pexels

Au collège et au lycée, Nora Tan a téléchargé les trois grands des réseaux sociaux. C'était naturel. J'ai grandi à une époque où les médias sociaux étaient vraiment en plein essor, explique Tan, un chef de produit basé à Seattle. J'ai créé un compte Facebook en 2009, un compte Instagram en 2010, un compte Twitter après quand j'étais au lycée.

Au moment où elle est arrivée à l'université, Tan remettait en question sa décision. J'ai réfléchi à la manière dont le contenu devrait être modéré et à la manière dont il était utilisé dans les campagnes politiques et pour faire avancer les programmes, dit-elle. Troublée par ce qu'elle a appris, Tan a supprimé Twitter, n'a utilisé Instagram que pour suivre les comptes de la nature et des amis proches, et a téléchargé une extension Chrome afin que lorsqu'elle tapait Facebook dans sa barre de recherche, elle ne recevait que des notifications de ses amis.

Elle était donc assez cynique lorsqu'un ami l'a invitée à devenir bêta-testeur privé pour une nouvelle plate-forme de médias sociaux, Télépathe , en mars 2019. Elle était particulièrement sceptique en tant que femme de couleur dans la tech. Dix-huit mois plus tard, c'est maintenant à Tan seul forme de médias sociaux.

Telepath a été cofondé par l'ancien directeur de Quora, Marc Bodnick, et cela se voit - son format ressemble à celui de Quora à certains égards. L'application sur invitation uniquement permet aux utilisateurs de suivre des personnes ou des sujets. Les fils de discussion combinent l'urgence de Twitter avec l'éphémère de Snapchat (les messages disparaissent après 30 jours).

Ce n'est pas particulièrement remarquable, mais le principal argument de vente de Telepath est le suivant : une équipe de modération de contenu interne fait preuve de gentillesse et les utilisateurs sont tenus d'afficher leur vrai nom.

La politique de nom de Telepath vise à s'assurer que l'équipe de modération de contenu peut se concentrer pleinement sur la détection des abus plutôt que de jouer à la taupe avec des comptes de brûleur. C'est aussi un moyen d'humaniser la conversation. Nous exigeons des numéros de téléphone uniques et une vérification afin qu'il ne puisse pas s'agir d'un numéro jetable sur Google Voice, déclare Tatiana Estévez, responsable de la communauté et de la sécurité. Plusieurs comptes de marionnettes à chaussettes sont l'endroit où vous obtenez certaines des choses les plus désagréables sur d'autres plates-formes.

La politique a déjà invité certains critique des spectateurs qui pensent que cela pourrait mettre en danger les femmes et les communautés marginalisées.

Il y a un croyance largement répandue que si les gens utilisent leurs noms légaux, ils se comporteront mieux dans les environnements sociaux parce que d'autres personnes peuvent les identifier et il peut y avoir des conséquences sociales pour leurs actions, dit J. Nathan Matias , professeur et fondateur du Citizens and Technology Lab de l'Université Cornell. Bien qu'il y ait eu quelques premières preuves de cela dans les années 1980, ces preuves ne concernaient pas un groupe diversifié de personnes et ne tenaient pas compte de ce que nous voyons maintenant sur Internet.

En fait, de nombreuses personnes qui utilisent des pseudonymes appartiennent à des groupes plus marginalisés ou vulnérables et le font pour se protéger du harcèlement et du doxxing en ligne.

Doxxing - l'utilisation d'informations d'identification en ligne pour harceler et menacer - est un problème potentiellement mortel pour de nombreuses personnes marginalisées et les a aigris sur les réseaux sociaux comme Facebook et Twitter, qui ont été critiqués pour ne pas protéger les personnes à risque (bien que Twitter et Facebook a tenté de faire amende honorable ces derniers temps en supprimant les tweets faisant la promotion de la désinformation, par exemple). Estévez dit que même si elle est très empathique à ce sujet et que les personnes trans peuvent s'identifier par le nom et les pronoms qu'elles ont choisis, la vérification du nom du téléphone et la structure d'invitation uniquement de l'application étaient nécessaires pour prévenir les comportements abusifs.

Télépathe de courtoisie

Estévez, qui a passé des années en tant que modérateur bénévole chez Quora avant de diriger l'équipe de modération, a importé la directive communautaire de Quora de Soyez gentil, soyez respectueux à Télépathe. Les gens réagissent bien au fait d'être bien traités, dit-elle. Les gens sont plus heureux. Les gens sont vraiment attirés par les communautés bienveillantes et les endroits où ils peuvent avoir leur mot à dire et ne pas se sentir ridiculisés.

L'équipe de Telepath a été très délibérée avec son langage sur ce concept. Nous avons pris la décision d'utiliser le mot «gentillesse» au lieu de «civil», explique Bodnick. La civilité implique une règle que vous pouvez atteindre sans enfreindre, comme si vous étiez 'juste curieux' ou 'juste en train de poser des questions'. Nous pensons que la gentillesse est un bon moyen de décrire une bonne intention, en se donnant mutuellement le bénéfice du doute , sans se livrer à des attaques personnelles. Nous espérons que c'est la force de faire ces évaluations qui attire les gens.

Historiquement, les plates-formes ont été réticentes à appliquer la sécurité de base des utilisateurs, sans parler de la gentillesse, déclare Danielle Citron, professeur de droit à la faculté de droit de l'Université de Boston, qui a écrit sur la modération de contenu et conseillé les plates-formes de médias sociaux. La gentillesse n'est pas une mauvaise idée, dit Citron.

C'est aussi extrêmement vague et subjectif, surtout lorsque protéger certaines personnes peut signifier critiquer les autres. Remettre en question un certain point de vue, même d'une manière qui semble critique ou désobligeante, peut parfois être nécessaire. Ceux qui commettent des micro-agressions devraient être informés de ce qui ne va pas dans leurs actions. Quelqu'un qui répète une insulte doit être confronté et éduqué. Dans une année électorale volatile aux États-Unis qui a vu un calcul racial sans précédent depuis les années 1970 et une pandémie unique dans une génération aggravée par la désinformation, peut-être qu'être gentil ne suffit plus.

Comment Telepath va-t-il enfiler cette aiguille ? Cela dépendra de l'équipe interne de modération du contenu, dont le travail consistera à contrôler la gentillesse sur la plate-forme.

Ce ne sera pas forcément facile. Nous venons seulement de commencer à comprendre comment la modération de contenu traumatisante peut être grâce à un séries de des articles de Casey Newton, anciennement à The Verge, qui a exposé les conditions de travail clandestin auxquelles sont confrontés les modérateurs qui travaillent sous contrat au salaire minimum. Même si ces travailleurs étaient mieux payés, le contenu dont beaucoup traitent est indéniablement dévastateur. La société cherche toujours à rendre la modération de contenu gérable pour les humains, dit Matias.

Interrogé sur ces questions, Estévez souligne que chez Telepath, la modération de contenu sera holistique et que le travail est censé être une carrière. Nous ne cherchons pas à ce que les gens fassent cela pendant quelques mois et partent, dit-elle. Je n'ai pas de gros soucis.

Les organisateurs de Telepath pensent que le modèle sur invitation uniquement aidera à cet égard (la plate-forme prend actuellement en charge environ 3 000 personnes). En étouffant la croissance dans une certaine mesure, nous allons l'améliorer pour nous-mêmes, dit Estévez.

Mais le modèle présente un autre problème. L'un des problèmes omniprésents rencontrés par de nombreuses plateformes sociales lancées aux États-Unis est un problème de diversité, déclare Matias. S'ils commencent avec un groupe d'utilisateurs qui ne sont pas diversifiés, des cultures peuvent se développer dans le réseau qui sont peu accueillantes et, dans certains cas, hostiles aux personnes marginalisées.

Cette crainte d'une culture de groupe hostile est bien fondée. Clubhouse, une première application de médias sociaux audio utilisée par de nombreuses personnes ayant des liens avec la Silicon Valley, a été lancée pour critique acclamer plus tôt cette année, seulement pour rend le dans le type de vitriol misogyne qui s'est infiltré dans tous les coins d'Internet. Juste la semaine dernière, il a été critiqué pour antisémitisme .

Jusqu'à présent, Telepath a été dominé par des types de la Silicon Valley, des journalistes et d'autres personnes ayant des sphères d'influence en dehors de l'application. Ce n'est pas une foule diversifiée, et Estévez dit que l'équipe le reconnaît. Il ne s'agit pas seulement d'inviter des gens; il ne s'agit pas seulement d'inviter des femmes et des Noirs, dit-elle. C'est pour qu'ils [les femmes et les Noirs] aient une bonne expérience, pour qu'ils voient d'autres femmes et des Noirs et ne se fassent pas maltraiter ou subir des micro-agressions.

C'est un équilibre délicat. D'une part, le maintien d'une communauté sur invitation uniquement de membres partageant les mêmes idées permet à Telepath de contrôler le nombre de messages et de membres qu'il doit surveiller. Mais ce type d'environnement peut également devenir une chambre d'écho qui ne remet pas en cause les normes, allant à l'encontre du but de la conversation en premier lieu et offrant potentiellement un accueil hostile aux étrangers.

Tan, la première à adopter, dit que les personnes avec lesquelles elle interagit appartiennent certainement à un type : elles sont de gauche et technophiles. Les premières personnes qui l'utilisaient venaient des réseaux de Marc [Bodnick] ou de Richard [Henry], dit-elle, faisant référence aux cofondateurs. Il a tendance à être beaucoup de gens de technologie. Tan dit que les conversations de l'application sont très variées et qu'elle a été agréablement surprise de la profondeur de la discussion.

Tout site de médias sociaux peut être une chambre d'écho, selon qui vous suivez, ajoute-t-elle.

Telepath est finalement dans un bras de fer : est-il possible d'encourager un débat animé mais décent sur une plate-forme sans le voir dégénérer en harcèlement ? La plupart des utilisateurs supposent qu'être en ligne implique de subir un certain nombre d'abus, en particulier si vous êtes une femme ou si vous appartenez à un groupe marginalisé. Idéalement, cela ne doit pas être le cas.

Ils doivent s'engager, qu'il ne s'agit pas seulement d'être gentils, dit Citron. Les gens déploient souvent des produits en version bêta et pensent ensuite au mal, mais il est alors trop tard. C'est malheureusement l'histoire d'internet. Jusqu'à présent, mais peut-être que ce n'est pas nécessaire.

cacher