Les smartphones sont des armes de manipulation de masse, et ce type leur déclare la guerre

Tristan Harris pense que la grande technologie profite de nous tous. Son pouvoir peut-il être utilisé pour le bien ? Par

• Rachel Metz page d'archives

19 octobre 2017

Tristan Harris

Si, comme une majorité toujours croissante de personnes aux États-Unis, vous possédez un smartphone, vous pourriez avoir l'impression que les applications à l'ère de l'ordinateur de poche sont conçues pour garder votre attention aussi longtemps que possible. Vous n'avez peut-être pas l'impression qu'ils vous manipulent un clic, un balayage ou une notification à la fois.

Mais Tristan Harris pense que c'est exactement ce qui arrive aux milliards d'entre nous qui utilisent les réseaux sociaux comme Facebook, Instagram, Snapchat et Twitter, et il a pour mission de nous orienter vers des solutions potentielles - ou du moins de nous faire reconnaître que cette manipulation est, en fait, continue.

Harris, ancien chef de produit devenu éthicien du design chez Google, dirige une organisation à but non lucratif appelée Temps bien dépensé , qui se concentre sur la nature addictive de la technologie et sur la façon dont les applications pourraient être mieux conçues ; il poursuit le plaidoyer public et soutient des normes de conception qui tiennent compte de ce qui est bon pour la vie des gens, plutôt que de simplement chercher à maximiser le temps d'écran. Il dit qu'il s'éloigne de Time Well Spent ces jours-ci (son nouvel effort est encore sans nom), essayant de tenir l'industrie technologique responsable de la façon dont elle nous persuade de passer autant de temps que possible en ligne, avec des tactiques allant de Snapchat séquences instantanées à la lecture automatique de vidéos sur des sites comme YouTube et Facebook.

C'est tellement invisible ce que nous nous faisons, dit-il. C'est comme une crise de santé publique. C'est comme les cigarettes, sauf que parce qu'on nous donne tellement d'avantages, les gens ne peuvent pas réellement voir et admettre l'érosion de la pensée humaine qui se produit en même temps.

Histoire connexe

Histoire connexe

Harris soutient que, parce que les modèles commerciaux des entreprises technologiques dépendent en grande partie des revenus publicitaires, il n'est pas vraiment dans leur intérêt de nous pousser, par exemple, à quitter le réseau social du jour et à sortir pour sortir avec des amis. Il ne dit pas que Facebook (ou l'un de ses pairs, d'ailleurs) est mauvais, ou que nous devrions arrêter d'utiliser nos smartphones. Mais après avoir passé des années dans l'industrie de la technologie - il a rejoint Google en 2011 lorsqu'il a acheté la startup qu'il a cofondée, une société de recherche sur la page Web appelée Apture - il dit qu'ils sont les machines de persuasion sociale les plus puissantes jamais construites, et il s'inquiète de la façon dont nous les utilisons. Ou, plus précisément, comment ils nous utilisent.

C'est une préoccupation de plus en plus valable. Pour toutes les grandes choses que la technologie mobile rend possibles, un nombre croissant de recherches suggère que l'utilisation de réseaux sociaux y compris Facebook , Instagram , Snapchat et Twitter peuvent avoir des conséquences négatives, comme augmenter vos risques de dépression ou d'isolement social. En effet, tout simplement avoir votre téléphone à portée de main pourrait réduire votre capacité cognitive.

Pour faire passer son message, Harris travaille avec des collègues, notamment Roger McNamee , capital-risqueur et premier investisseur de Facebook et Google, qui a récemment écrit de ses regrets au sujet de ces mouvements de gagner de l'argent.

Il devient également adepte de la prise de parole en public : un conférence TED qu'il a donné en avril a été visionné environ 1,5 million de fois et il a été présenté sur 60 minutes ce même mois. Il semblait donc dans son élément quand je l'ai vu pour la première fois, debout devant une salle de conférence bondée de l'Université de Stanford un soir d'automne, s'adressant à un cours sur l'intelligence artificielle et la société avec une présentation intitulée Construire une IA pour l'attention humaine.

Ce n'était pas le cadre le plus glamour. Alors que Stanford est un bastion verdoyant, vaste et coûteux de l'apprentissage de la Silicon Valley, cette salle de conférence particulière était sans fenêtre et les bureaux des chaises étaient vieux et inconfortables. Harris, confortablement vêtu d'une chemise en chambray et d'un pantalon noir, avait l'air à l'étroit, debout derrière un vieux pupitre dans un coin de la pièce.

Une vue de la Silicon Valley, vue d'en haut. Flickr | Patrick Nohailler

Mais si l'histoire est un indicateur, c'est l'un des meilleurs endroits pour atteindre les personnes mêmes avec lesquelles Harris espère se connecter : des étudiants brillants qui pourraient très bien être les leaders technologiques de demain (il le saurait, puisqu'il est un ancien de Stanford et compte comme ses amis certains diplômés célèbres de la technologie de Stanford, les fondateurs d'Instagram Kevin Systrom et Mike Krieger).

Et même dans ce cadre, Harris était charismatique et son message dérangeant mais mesuré. Pendant plus d'une heure, il a retenu l'attention des étudiants alors qu'il parlait de la course à l'attention de l'industrie technologique et de ses techniques pour tirer sur les consommateurs, récitant des statistiques comme le fait qu'il y a plus de personnes sur Facebook maintenant qu'il n'y a de musulmans dans le monde.

La question est, une fois que vous commencez à monopoliser ce à quoi les gens pensent, est-ce réellement bon pour la société ? À quoi est-ce vulnérable ? Où cela pourrait-il mal tourner ? Il a demandé.

J'avais moi-même quelques questions après l'avoir entendu parler. Au début, j'ai trouvé la rhétorique de Harris intéressante mais inutilement alarmiste. J'utilise Facebook, Twitter, Instagram et bien sûr Google depuis des années. Je dépends tellement d'eux que je recueille et diffuse des informations tout au long de la journée - trouver des conseils d'histoire, rester en contact avec mes amis et ma famille, publier de jolies photos et vidéos de mon bébé, lire des nouvelles, etc. Je me demandais, est-ce vraiment si grave ? Suis-je vraiment contrôlé ou influencé d'une manière ou d'une autre ?

Mais après la conférence de Harris à Stanford, j'ai commencé à réfléchir beaucoup plus à la façon dont j'étais aspirée à regarder des publicités en lecture automatique pour des soutiens-gorge et des chaussures que je voulais vraiment acheter. Et ce que je ressens lorsque je reçois une notification sur mon smartphone indiquant que quelqu'un a aimé, aimé ou retweeté l'un de mes messages sur Facebook, Instagram ou Twitter. Il y a définitivement une petite charge dans mon estomac et un ping dans mon cerveau, et j'aime vraiment, vraiment ça. J'en ai envie, même après avoir mis en place une photo de bébé particulièrement adorable ou une mise à jour de statut intelligemment formulée, et recevoir l'une de ces notifications m'incite inévitablement à ouvrir l'application sociale d'où elle vient pour voir ce qui se passe. Est-ce que je vais continuer à aimer les photos sur Facebook, à retweeter des bribes amusantes sur Twitter et à alimenter l'IA qui gère ces réseaux jusqu'à ce que je m'effondre et meure ?

Le lendemain, j'ai rattrapé Harris et lui ai parlé de tout cela lors d'un déjeuner de sushi à San Francisco. Il n'avait pas de solutions faciles pour apaiser mes craintes, mais il a exposé sa vision de ce que des sites comme Facebook pourraient être s'ils n'étaient pas tenus de capter votre attention mais dédiés au service de la société (ce qui, si vous y réfléchissez, semble conforme à la vision originale du fondateur de Facebook, Mark Zuckerberg).

Le Facebook qui existe maintenant a aidé de nombreuses personnes à se connecter et à communiquer de manière positive, mais il a également conduit à des choses comme russe ingérence dans la dernière élection présidentielle américaine.

Le problème est que ce sont les conséquences involontaires de stratégies bien intentionnées, dit McNamee, qui se décrit comme l'ailier de Harris.

Et si, se demande Harris, le contenu que vous avez vu sur Facebook incluait des moyens d'améliorer le monde ou au moins votre communauté, ou d'améliorer votre vie ? Dans sa vision d'un réseau social avec une sorte de persuasion éthique intégrée, Facebook pourrait faire des choses comme suggérer plusieurs façons spécifiques d'aider à lutter contre le changement climatique, comme baisser la température de base de votre chauffage de quelques degrés ou installer des panneaux solaires sur votre toit. . Ou peut-être que cela vous encouragerait à rencontrer des personnes hors Facebook pour discuter de politique en personne.

C'est tellement difficile d'imaginer cela, parce que tout ce qui se trouve dans le flux est essentiellement des choses que vous consommez - d'autres articles que vous pouvez lire ou des vidéos que vous pouvez regarder - au lieu de ce que vous pouvez faire aujourd'hui qui vous rapprocherait de la vie que vous voulez vivre , il dit.

Et bien que vous puissiez dire que les gens font déjà ce qu'ils veulent vraiment sur Facebook, Twitter, Instagram et d'autres réseaux sociaux, représentant des préférences avec des clics et des choix sur les personnes et les sources d'information qu'ils suivent, Harris ne pense pas que nous soyons vraiment dans contrôle des médias sociaux tel qu'il existe actuellement.

Tout ce que [Facebook] sait de moi peut être utilisé pour me persuader d'atteindre un objectif futur, dit-il. Et c'est très puissant; il sait exactement ce qui me persuaderait, car il m'a persuadé dans le passé.

Les outils de persuasion peuvent devenir encore plus puissants pour les annonceurs en particulier : Facebook est aurait laisser certaines marques essayer de passer au crible les publications et les commentaires publics (sans nom d'utilisateur) pour les aider à cibler les utilisateurs.

J'ai contacté Facebook pour savoir s'il travaillait sur des efforts impliquant une persuasion éthique; il n'a pas répondu.

Harris n'attend pas Facebook, cependant. Lui et McNamee travaillent sur le plaidoyer politique pour rendre les gens, à la fois dans la politique et le grand public, plus conscients du contrôle que les grandes entreprises technologiques ont sur les utilisateurs. McNamee dit que leur mission initiale était de stimuler une conversation sur le rôle approprié des monopoles de plateforme Internet dans la société, et qu'ils ont parlé aux gens, mais il ne nommera pas de noms. Harris espère également intéresser davantage les employés des entreprises technologiques à son travail. C'est arrivé dans un peu cas déjà, surtout après que les gens ont quitté leur poste.

Les entreprises ne vont pas changer elles-mêmes, dit-il.

cacher