L'algorithme de YouTube semble diriger les gens vers des vidéos alt-right

Catégorie: L'homme et la technologie Posté 29 janvier

Un nouveau étudier suggère que ce que nous soupçonnons depuis des années est vrai : YouTube est un pipeline pour l'extrémisme et la haine.

Comment savons-nous cela? Plus de 330 000 vidéos sur près de 350 chaînes YouTube ont été analysées et classées manuellement selon un système conçu par l'Anti-Defamation League. Ils ont été étiquetés comme médias (ou ce que nous considérons comme des informations factuelles), alt-lite intellectuelle dark web ou alt-right.

Les groupes : L'alt-right est ce qui est traditionnellement associé à la suprématie blanche, poussant pour un ethno-état blanc. Ceux qui s'affilient au dark web intellectuel justifient la suprématie blanche sur la base de l'eugénisme et de la science raciale. Les membres de l'alt-lite prétendent ne pas soutenir la suprématie blanche, bien qu'ils croient aux théories du complot sur le remplacement par des groupes minoritaires.

Passerelle: Les auteurs de l'étude ont émis l'hypothèse que l'alt-lite et le dark web intellectuel servent souvent de passerelle vers des idéologies d'extrême droite plus extrêmes. Ils ont donc testé cela en traçant les auteurs de 72 millions de commentaires sur environ deux millions de vidéos entre mai et juillet de l'année dernière. Les résultats étaient inquiétants. Plus de 26% des personnes qui ont commenté des vidéos alt-lite avaient tendance à dériver vers des vidéos alt-right et à y commenter par la suite.

Jeu du blâme : Il est assez facile d'accéder au contenu alt-lite et intellectuel du dark web avec une simple recherche, mais les vidéos alt-right ont tendance à être plus difficiles à trouver pour les nouveaux utilisateurs. Pourtant, les chercheurs ont découvert que l'algorithme de YouTube orientait souvent les utilisateurs qui recherchaient des mots-clés spécifiques vers un contenu de plus en plus violent et extrême.

Et c'est de pire en pire : L'équipe, de l'Ecole polytechnique fédérale de Lausanne, a également trouvé des preuves que le chevauchement entre les alt-righters et les autres qui se mêlent du dark web intellectuel et du matériel alt-lite est en augmentation. Les auteurs estiment qu'environ 60 000 personnes qui ont commenté du contenu Web alt-lite ou intellectuel ont été exposées à des vidéos alt-right sur une période d'environ 18 mois. Le travail a été présenté à la Conférence 2020 sur l'équité, la responsabilité et la transparence à Barcelone cette semaine.

Nous ne savons toujours pas grand-chose sur la radicalisation de YouTube : D'une part, nous ne savons pas exactement ce qui pousse les gens à passer du matériel alt-lite au matériel d'extrême droite. C'est en partie parce que YouTube limite l'accès aux données de recommandation. Il est également possible que certaines personnes viennent sur YouTube après avoir déjà été radicalisées par une source externe non YouTube. Mais cette recherche suggère que les algorithmes de recommandation de YouTube pourraient jouer un rôle important.

L'arrière-plan: YouTube a longtemps lutté avec l'équilibre entre le maintien de la liberté d'expression et la lutte contre le discours de haine. La société a pris quelques mesures initiales en interdisant certaines chaînes, notamment Infowars d'Alex Jones. Mais les critiques affirment que YouTube n'en a pas fait assez.

Dans un communiqué, YouTube a déclaré qu'il travaillait sur ces problèmes : Au cours des dernières années... Nous avons modifié nos algorithmes de recherche et de découverte pour nous assurer que davantage de contenu faisant autorité est mis en évidence et étiqueté de manière proéminente dans les résultats de recherche et les recommandations et avons commencé à réduire les recommandations de contenu limite et vidéos susceptibles de désinformer les utilisateurs de manière préjudiciable. »

Un porte-parole a ajouté que YouTube conteste la méthodologie et qu'il ne tient pas compte des mises à jour plus récentes de sa politique ou de ses recommandations en matière de discours de haine. 'Nous sommes fortement en désaccord avec la méthodologie, les données et, surtout, les conclusions de cette nouvelle recherche', a déclaré le porte-parole.

Note de l'éditeur : cette histoire a été modifiée pour inclure le commentaire et le différend de YouTube.