Un ancien ingénieur de Google gratte YouTube pour faire éclater nos bulles de filtre

Si vous avez déjà utilisé YouTube, vous avez probablement remarqué qu'il est facile de tomber dans une sorte de transe visuelle : vous commencez à regarder une vidéo amusante sur un chat, et tout à coup, c'est une heure plus tard et vous en avez parcouru un tas d'autres... chacun vous est recommandé sur le côté droit de l'écran, servi utilement par l'algorithme du site.

Comme nous apprenons de plus en plus des réseaux sociaux comme Facebook et Twitter, les algorithmes peuvent être utilisés pour manipuler les gens de toutes sortes de façons en nous montrant plus d'une chose et moins d'une autre. Cela peut être bien (et amusant !) Lorsque vous recherchez des vidéos de chatons mignons, mais cela peut vous conduire sur la voie de la peur, des théories du complot et de la pensée unilatérale si vous vous retrouvez à regarder des vidéos sur d'autres sujets, tels que comme les vaccins, les récentes fusillades dans les écoles ou le changement climatique.

YouTube, dont plus d'un milliard d'utilisateurs regardent plus d'un milliard d'heures par jour, nous montre certaines données, comme le nombre de fois qu'une vidéo a été visionnée, aimée ou détestée. Mais il cache des détails plus granulaires sur chaque vidéo, comme la fréquence à laquelle le site l'a recommandée à d'autres personnes. Sans une image complète, il peut être difficile de savoir pourquoi, exactement, son algorithme vous oriente dans une certaine direction.

Guillaume Chaslot, un programmeur qui travaillait pour YouTube et Google, a construit AlgoTransparency.org. Avec l'aimable autorisation de Guillaume Chaslot

Guillaume Chaslot, un programmeur informatique qui a passé du temps à travailler sur les recommandations chez YouTube et sur la publicité display chez sa société mère, Google, pense que c'est un problème, et il se bat pour apporter plus de transparence dans la manière dont les vidéos sont recommandées. Il a créé un site Web, AlgoTransparence , afin que les visiteurs puissent voir où l'algorithme de YouTube vous emmène si vous suivez ses recommandations, que vous recherchiez des vidéos sur les élections récentes, les fusillades de masse, la science ou une poignée d'autres sujets généraux et des termes de recherche associés qu'il est choisi pour gratter.

Tout le monde devrait savoir, si vous commencez à passer du temps sur YouTube, où cela vous mènera, dit-il.

Depuis qu'il a commencé à suivre les recommandations en 2016, il a découvert que pour certaines phrases, comme les faits sur les vaccins ou le réchauffement climatique, l'algorithme de recommandation de YouTube pousse les téléspectateurs vers des vidéos sur la théorie du complot, l'anti-science ou l'anti-média. Et l'algorithme semble favoriser les vidéos de politiciens plus controversés, qui parlent de manière agressive et intimidante, dit-il.

Il suit également les termes les plus fréquemment mentionnés dans les vidéos les plus recommandées. Le 1er avril, par exemple, les résultats pour est la terre plate ou ronde des mots les plus couramment utilisés comme plat, NASA, preuve et secret.

Chaslot, qui a travaillé chez YouTube en 2011 puis chez Google jusqu'en 2013 (il réclamations il a été licencié pour avoir tenté de donner aux utilisateurs plus de contrôle sur les algorithmes qui recommandent le contenu ; ni Google ni YouTube n'ont abordé cette affirmation dans une réponse à une demande de commentaire à ce sujet et sur d'autres problèmes qu'il a soulevés), l'ont compris en suivant l'algorithme de suggestion de YouTube. Il a testé sa théorie en créant un logiciel qui simule le fait de commencer à regarder une vidéo sur YouTube, puis de cliquer sur la vidéo suivante recommandée (qui sera également lue automatiquement si la fonction de lecture automatique de YouTube est activée), encore et encore.

En plus de suivre où les algorithmes peuvent mener, Chaslot souhaite inciter les téléspectateurs de YouTube à réfléchir davantage à la manière dont les recommandations pourraient être utilisées pour accumuler des vues. Par exemple, si vous recherchez le tournage de Parkland et que vous voyez une vidéo qui compte 2,5 millions de vues sur YouTube, a-t-elle été recommandée par algorithme 50 millions de fois pour que ces 2,5 millions de personnes la regardent, ou a-t-elle été recommandée 500 000 fois puis partagée de manière organique ?

C'est un monde de différence, dit Chaslot. Et il n'y a actuellement aucun moyen de le savoir.

Répondant aux questions sur comment et pourquoi YouTube suggère des vidéos aux utilisateurs, une porte-parole de YouTube a déclaré que son système de recommandation avait considérablement changé au fil du temps et ne fonctionnait plus comme il le faisait il y a cinq ans, lorsque Chaslot était un employé. Alors que YouTube se concentrait sur le temps de visionnage, dit-il, il examine maintenant également le degré de satisfaction des gens, tel que mesuré par des enquêtes, des goûts, des aversions et d'autres preuves.

YouTube apporte également des modifications pour résoudre les problèmes liés à ses recommandations. Une version de l'application YouTube Kids aurait abandonnez l'algorithme pour les recommandations vidéo en faveur de la création par des humains. Et en mars, la PDG de YouTube, Susan Wojcicki, a déclaré que le site ajouterait des liens Wikipédia vers des vidéos contenant des sujets largement débattus, tels que ceux axés sur les théories du complot.

Pour ce deuxième mouvement, Chaslot se demande pourquoi YouTube n'ajouterait pas simplement des liens Wikipédia pour toutes sortes de sujets pertinents pour ses vidéos. Ce serait plus naturel, dit-il.

De plus, il ne pense pas qu'il soit difficile de créer des outils qui peuvent amener les gens à naviguer plus largement. Alors qu'il était chez YouTube en 2011, dit-il, il a en fait créé un prototype d'outil qui fonctionnait avec les résultats de recherche Google des utilisateurs et tenait compte de leur historique de recherche pour élargir leurs horizons.

Si vous recherchiez, par exemple, Ford Focus, vous verriez des résultats spécifiques, mais en faisant défiler la page, vous verriez des résultats de voiture plus généraux. Si vous continuez, vous verrez des résultats liés à d'autres choses que vous avez recherchées dans le passé (par exemple, le patinage sur glace).

Il est facile de créer des outils pour faire sortir les gens de leurs bulles de filtre, leur permettre d'aller plus loin, voir ce qui se trouve au-delà de leur bulle de filtre, dit-il.

cacher