YouTube expérimente des moyens de rendre son algorithme encore plus addictif

Illustration montrant l'interface YouTube avec des vidéos ASMR Mme Tech ; Images : captures d'écran de YouTube | Gibi ASMR/ASMR Darling/Magazine W/ASMR Glow

Les algorithmes de recommandation font partie des systèmes d'apprentissage automatique les plus puissants aujourd'hui en raison de leur capacité à façonner les informations que nous consommons. L'algorithme de YouTube, en particulier, a une influence démesurée. On estime que la plate-forme est la deuxième après Google en termes de trafic Web, et 70% de ce que les utilisateurs regardent leur est transmis par le biais de recommandations.

Ces dernières années, cette influence a fait l'objet d'un examen minutieux. Parce que l'algorithme est optimisé pour amener les gens à s'engager avec des vidéos, il a tendance à offrir des choix qui renforcent ce que quelqu'un aime ou croit déjà, ce qui peut créer une expérience addictive qui exclut les autres vues. Cela récompense aussi souvent les vidéos les plus extrêmes et controversées, qui études ont montré peuvent rapidement pousser les gens dans trous de lapin profonds de contenu et conduire à des politiques radicalisation .

Bien que YouTube ait déclaré publiquement qu'il travaillait à résoudre ces problèmes, un nouveau papier de Google, propriétaire de YouTube, semble raconter une histoire différente. Il propose une mise à jour de l'algorithme de la plateforme qui vise à recommander un contenu encore plus ciblé aux utilisateurs dans le but d'augmenter l'engagement.

Voici comment le système de recommandation de YouTube fonctionne actuellement . Pour remplir la barre latérale des vidéos recommandées, il compile d'abord une liste restreinte de plusieurs centaines de vidéos en trouvant celles qui correspondent au sujet et aux autres caractéristiques de celle que vous regardez. Ensuite, il classe la liste en fonction des préférences de l'utilisateur, qu'il apprend en alimentant tous vos clics, likes et autres interactions dans un algorithme d'apprentissage automatique.

Parmi les mises à jour proposées, les chercheurs ciblent spécifiquement un problème qu'ils identifient comme un biais implicite. Cela fait référence à la façon dont les recommandations elles-mêmes peuvent affecter le comportement des utilisateurs, ce qui rend difficile de déchiffrer si vous avez cliqué sur une vidéo parce que vous l'avez aimée ou parce qu'elle était fortement recommandée. L'effet est qu'au fil du temps, le système peut éloigner de plus en plus les utilisateurs des vidéos qu'ils souhaitent réellement regarder.

Pour réduire ce biais, les chercheurs suggèrent une modification de l'algorithme : chaque fois qu'un utilisateur clique sur une vidéo, il prend également en compte le classement de la vidéo dans la barre latérale de recommandation. Les vidéos qui se trouvent près du haut de la barre latérale reçoivent moins de poids lorsqu'elles sont introduites dans l'algorithme d'apprentissage automatique ; les vidéos situées en profondeur dans le classement, qui obligent un utilisateur à faire défiler, en reçoivent davantage. Lorsque les chercheurs ont testé les changements en direct sur YouTube, ils ont trouvé beaucoup plus d'engagement des utilisateurs.

Bien que le journal ne dise pas si le nouveau système sera déployé de manière permanente, Guillaume Chaslot, un ancien ingénieur de YouTube qui dirige maintenant AlgoTransparency.org, a déclaré qu'il était assez confiant que cela se produirait relativement rapidement : Ils ont dit que cela augmente la surveillance temps de 0,24 %. Si vous calculez le montant, je pense que c'est peut-être des dizaines de millions de dollars.

Plusieurs experts qui ont examiné le document ont déclaré que les changements pourraient avoir des effets pervers. Dans nos recherches, nous avons découvert que les algorithmes de YouTube créaient une communauté d'extrême droite isolée, poussaient les utilisateurs vers des vidéos d'enfants et favorisaient la désinformation, a déclaré Jonas Kaiser, affilié au Berkman Klein Center for Internet & Society. En marge, ce changement pourrait […] favoriser la formation de communautés plus isolées qu'on ne l'a déjà vu. Jonathan Albright, directeur de l'initiative de criminalistique numérique au Tow Center for Digital Journalism, a déclaré que si la réduction du biais de position est un bon début pour ralentir la boucle de rétroaction du contenu de faible qualité, en théorie, le changement pourrait également favoriser davantage le contenu extrême.

Becca Lewis, une ancienne chercheuse de Data & Society qui étudie l'extrémisme en ligne, a déclaré qu'il était difficile de savoir comment les changements se dérouleraient. C'est également vrai pour YouTube en interne, a-t-elle déclaré. Il y a tellement de communautés différentes sur YouTube, différentes façons dont les gens utilisent YouTube, différents types de contenu, que les implications seront différentes dans de nombreux cas. Nous devenons des sujets de test pour YouTube.

Lorsqu'il a été contacté pour commenter, un porte-parole de YouTube a déclaré que ses ingénieurs et ses équipes de produits avaient déterminé que les changements ne conduiraient pas à des bulles de filtre. En revanche, l'entreprise s'attend à ce que les changements les diminuent et diversifient globalement les recommandations.

Les trois chercheurs externes contactés par MIT Technology Review recommandent à YouTube de consacrer plus de temps à l'exploration de l'impact des modifications algorithmiques par le biais de méthodes telles que des entretiens, des enquêtes et des commentaires d'utilisateurs. YouTube l'a fait dans une certaine mesure, a déclaré le porte-parole, s'efforçant de supprimer le contenu extrême sous forme de discours de haine sur sa plate-forme.

YouTube devrait consacrer plus d'énergie à comprendre quels acteurs leurs algorithmes favorisent et amplifient que comment garder les utilisateurs sur la plate-forme, a déclaré Kaiser.

Ce qui est frustrant, c'est que ce n'est pas dans l'intérêt commercial de YouTube de faire cela, a ajouté Lewis. Mais il y a un impératif éthique.

Corrections : L'impact du changement de YouTube serait probablement de l'ordre de dizaines de millions, et non de milliards de dollars. L'histoire a également été mise à jour le 27 septembre 2019 à 15 h 30 HE pour refléter la réponse de YouTube.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.

cacher