DeepMind demande comment l'IA a contribué à transformer Internet en chambre d'écho

MME. TECH | PHOTOS : YOUTUBE Mme Tech | Photos : YouTube

L'une des applications les plus courantes de l'apprentissage automatique concerne les algorithmes de recommandation. Netflix et YouTube les utilisent pour vous proposer de nouvelles émissions et vidéos ; Google et Facebook les utilisent pour classer le contenu dans vos résultats de recherche et votre fil d'actualité. Bien que ces algorithmes offrent une grande commodité, ils ont des effets secondaires indésirables. Vous en avez probablement déjà entendu parler : bulles filtrantes et chambres d'écho .

L'inquiétude suscitée par ces effets n'est pas nouvelle. En 2011, Eli Pariser, aujourd'hui PDG d'Upworthy, a mis en garde contre les bulles de filtre sur la scène TED. Même avant cela, dans son livre république.com , le professeur de droit de Harvard, Cass Sunstein, a prédit avec précision un effet de polarisation de groupe, entraîné par l'essor d'Internet, qui finirait par remettre en question une démocratie saine. Facebook n'existerait pas avant trois ans.

Les deux idées ont été rapidement popularisées au lendemain des élections américaines de 2016, ce qui a entraîné une vague de recherches pertinentes. Maintenant, la propre filiale d'IA de Google, DeepMind, s'ajoute au corps de la recherche. (Mieux vaut tard que jamais, n'est-ce pas?)

Dans un nouveau papier , les chercheurs ont analysé comment différents algorithmes de recommandation peuvent accélérer ou ralentir les deux phénomènes, que les chercheurs définissent séparément. Les chambres d'écho, disent-ils, renforcent les intérêts des utilisateurs grâce à une exposition répétée à un contenu similaire. Les bulles de filtre, en comparaison, réduisent la portée du contenu auquel les utilisateurs sont exposés. Les deux sont des exemples dans le langage académique de boucles de rétroaction dégénérées. Un niveau de dégénérescence plus élevé, dans ce cas, fait référence à un effet de bulle de filtre ou de chambre d'écho plus fort.

Ils ont exécuté des simulations de cinq algorithmes de recommandation différents, qui accordaient différents degrés de priorité à la prédiction précise de ce qui intéressait l'utilisateur plutôt qu'à la promotion aléatoire de nouveaux contenus. Les algorithmes qui donnaient la priorité à la précision, ont-ils découvert, conduisaient à une dégénérescence beaucoup plus rapide du système. En d'autres termes, la meilleure façon de lutter contre les bulles de filtre ou les chambres d'écho est de concevoir des algorithmes plus exploratoires, en vous montrant des choses moins sûres de capter votre intérêt. L'élargissement de l'ensemble d'informations à partir duquel les recommandations sont tirées peut également être utile.

Joseph A. Konstan, professeur d'informatique à l'Université du Minnesota, qui a précédemment dirigé rechercher sur les bulles de filtre, affirme que les résultats de l'analyse de DeepMind ne sont pas surprenants. Les chercheurs ont compris depuis longtemps la tension entre une prédiction précise et une exploration efficace dans les systèmes de recommandation, dit-il.

Malgré des études antérieures montrant que les utilisateurs toléreront des niveaux de précision inférieurs pour bénéficier de diverses recommandations, les développeurs ont toujours une dissuasion à concevoir leurs algorithmes de cette façon. Il est toujours plus facile d''avoir raison' en recommandant des choix sûrs, dit Konstan.

Konstan critique également l'étude DeepMind pour avoir abordé les bulles de filtres et les chambres d'écho comme des simulations d'apprentissage automatique plutôt que comme des systèmes interactifs impliquant des humains - une limitation que les chercheurs ont également notée. Je suis toujours préoccupé par le travail qui se limite à des études de simulation (ou à des analyses de données hors ligne), dit-il. Les gens sont complexes. D'une part, nous savons qu'ils apprécient la diversité, mais d'autre part, nous savons également que si nous étendons trop les recommandations - au point où les utilisateurs estiment que nous ne sommes pas dignes de confiance - nous risquons de perdre les utilisateurs entièrement.

Correction: Le titre a été mis à jour pour mieux refléter la portée de la recherche.

cacher