Sensibilisation aux algorithmes

De plus en plus, ce sont des algorithmes qui choisissent les produits à nous recommander et des algorithmes qui décident si nous devons recevoir une nouvelle carte de crédit. Mais ces algorithmes sont enterrés hors de notre perception. Comment commencer à donner un sens à ces mystérieuses forces cachées ?

Karrie Karahalios

La question a récemment pris de l'ampleur lorsque Facebook a révélé une étude scientifique sur la contagion des émotions qui avait été menée via son fil d'actualité. L'étude a montré que l'affichage de moins de mises à jour positives dans les flux des utilisateurs les amène à publier eux-mêmes moins de messages positifs et plus de messages négatifs. Ce résultat est intéressant mais dérangeant, révélant toute la puissance de l'influence algorithmique de Facebook ainsi que sa volonté de l'utiliser.

Pour explorer la question de la conscience algorithmique, en 2013, trois collègues et moi avons construit un outil qui aide les gens à comprendre comment fonctionne leur fil d'actualité Facebook.

Utilisant la propre interface de programmation de Facebook, notre outil affichait une liste d'histoires qui apparaissaient sur son fil d'actualité sur la moitié gauche de l'écran. Sur la droite, les utilisateurs ont vu une liste d'histoires publiées par l'ensemble de leur réseau d'amis, c'est-à-dire qu'ils ont vu le flux pur sans curation ou manipulation algorithmique.

Un troisième panneau a montré quels messages d'amis étaient principalement cachés et quels messages d'amis apparaissaient le plus souvent. Enfin, l'outil permettait aux utilisateurs de choisir manuellement les publications qu'ils souhaitaient voir et celles qu'ils souhaitaient supprimer.

Nous avons recruté 40 personnes (un petit échantillon mais très représentatif de la démographie des États-Unis) pour participer à une étude visant à déterminer comment elles donnaient un sens à leur fil d'actualité. Certains ont été choqués d'apprendre que leur alimentation avait été manipulée. Mais à la fin de notre étude, lorsque les participants ont choisi les publications qu'ils voulaient voir, ils ont trouvé de la valeur dans le flux qu'ils ont organisé.

Lorsque nous avons suivi des mois plus tard, beaucoup ont dit qu'ils se sentaient plus forts. Certains avaient modifié leurs paramètres Facebook afin de pouvoir manipuler eux-mêmes le flux. Sur les 40 participants, une personne a complètement cessé d'utiliser Facebook parce que cela violait une attente sur le fonctionnement d'un flux.

Le tollé suscité par l'étude sur les émotions de Facebook a montré que peu de gens saisissent vraiment la façon dont les algorithmes façonnent le monde que nous vivons. Et nos recherches montrent l'importance de donner aux gens les moyens de prendre le contrôle de cette expérience.

Nous méritons de comprendre le pouvoir que les algorithmes détiennent sur nous, pour le meilleur ou pour le pire.

Karrie Karahalios est professeure agrégée d'informatique à l'Université de l'Illinois.

cacher