Dystopie des données

Les dystopies du 20e siècle se présentaient principalement sous deux formes : l'imposant état de surveillance, comme le montre Orwell 1984 , et le dôme de plaisir stupéfiant, comme dans Huxley Brave Nouveau Monde . Et si ce n'étaient pas des cauchemars séparés ? La vraie menace pourrait être la surveillance au service de la séduction plutôt que de la punition.

Facebook a tellement de succès parce qu'il nous aide à répondre à l'envie de rester connectés les uns aux autres. Cette envie a conduit environ un milliard d'entre nous à fournir à une seule entreprise les empreintes d'une partie importante de notre vie sociale (voir Ce que sait Facebook) .

Cette histoire faisait partie de notre numéro de juillet 2012

• Voir le reste du numéro
• S'abonner

En tant que spécialiste des sciences sociales, je suis terriblement enthousiasmé par cette mine de données, car c'est une excellente ressource pour étudier l'animal humain. Les nouvelles sources de Big Data (Facebook est l'une des meilleures) ont le potentiel de contribuer à notre compréhension de la société. Mais ces informations ont des utilisations qui vont au-delà du ciblage des publicités. Bien que la perspective ne semble pas dérouter les utilisateurs de Facebook jusqu'à présent, elle pourrait être utilisée pour cibler les messages civiques, politiques et sociaux d'une manière malsaine pour la démocratie.

Les campagnes politiques, par exemple, encouragent désormais les électeurs à se connecter à leurs applications ou pages Facebook, qui peuvent accéder à des données détaillées non seulement sur une personne, mais aussi sur ses réseaux sociaux et ses interactions. Cela crée des opportunités de profilage à une précision et à une échelle sans précédent. J'attends la première vague de campagnes politiques négatives et vicieuses sur Facebook. (La plupart d'entre nous ne le remarqueront peut-être même pas, car il pourrait être étroitement ciblé sur un créneau réceptif, ou même sur des individus.)

La façon dont Facebook utilise ses données collectées peut influencer nos interactions sociales. Le fil d'actualité de Facebook ne montre pas toutes les mises à jour, ni même les plus récentes, mais plutôt ce que Facebook pense qui vous fera cliquer ou commenter. Les algorithmes de flux d'actualités créent des spirales de renforcement pour certains comportements. Les détails sont secrets, mais l'ingénierie inverse montre que Facebook pense que les photos génèrent plus d'engagement que le texte ; les mises à jour avec eux sont mises en évidence, ce qui conduit à encore plus d'engagement. Même sans instructions explicites, les gens comprendront sans aucun doute ces signaux et commenceront à publier de plus en plus de photos. À d'autres égards également, Facebook peut guider notre façon de socialiser. Peut-être que les messages joyeux ont plus d'importance. Peut-être apprendrons-nous un jour un suicide à la suite d'une brève mise à jour de statut cryptique à laquelle personne n'a répondu parce que Facebook l'a rétrogradé dans le fil d'actualité des gens en jugeant que ce n'était pas le genre de publication qui génère des clics.

Je ne prétends pas qu'il existe des réponses faciles aux questions soulevées par Facebook. Tout algorithme pour le fil d'actualité aurait son inconvénient. Mais les questions sont importantes car Facebook occupe un créneau civique important. Les décisions sur la façon dont il utilise son trésor de données, ce qu'il rend public et l'accès qu'il donne aux campagnes politiques et corporatives nous affecteront tous. Nous devons parler non seulement du potentiel de cette formidable banque de données, mais aussi du pouvoir dont dispose l'entreprise et de l'éthique qu'elle défend.

Zeynep Tufekci est professeure adjointe à l'Université de Caroline du Nord et membre du Berkman Center for Internet and Society à Harvard.

cacher