L'économie de l'attention de la Big Tech peut être réformée. Voici comment.

Mme Tech | Getty

Cette semaine, une foule violente a organisé la plus grande attaque contre le Capitole, siège de la démocratie américaine, en plus de 200 ans, motivée par la fausse croyance que l'élection présidentielle avait été volée. L'auteur principal de cette affirmation était le président Donald Trump, mais la disposition de la foule à croire que c'était en grande partie le produit de l'économie de l'attention que la technologie moderne a créée.

Les flux d'actualités sur Facebook ou Twitter fonctionnent sur un modèle commercial consistant à marchandiser l'attention de milliards de personnes par jour, en triant les tweets, les publications et les groupes pour déterminer ceux qui obtiennent le plus d'engagement (clics, vues et partages) - ce qui suscite le plus d'émotions réactions. Ces plates-formes d'attention marchandisatrices ont déformé la psyché collective. Ils ont conduit à des visions plus étroites et plus folles du monde.

Remarque : Cet essai est un extrait adapté de Le nouveau possible : visions de notre monde au-delà de la crise , à paraître le 26 janvier 2021 chez Cascade Books.

Les algorithmes de recommandation de YouTube, qui déterminent 70 % du temps de visionnage quotidien pour des milliards de personnes, suggèrent ce qui est censé être des vidéos similaires, mais poussent en fait les téléspectateurs vers un contenu plus extrême, plus négatif ou plus complotiste, car c'est ce qui les maintient plus longtemps sur leurs écrans. Pendant des années, YouTube a recommandé thinspiration (des vidéos faisant la promotion de l'anorexie) aux adolescentes qui regardaient des vidéos sur les régimes. Et lorsque les gens regardaient des vidéos scientifiques de l'alunissage de la NASA, YouTube recommandait des vidéos sur la théorie du complot sur la Terre plate. Il l'a fait des centaines de millions de fois. Les flux d'actualités et les systèmes de recommandation comme celui-ci ont créé une spirale descendante de négativité et de paranoïa, découplant lentement la perception de la réalité par des milliards de personnes de la réalité elle-même.

Histoire connexe

Comment un mensonge sur Internet à propos de l'invasion du Capitole s'est transformé en une théorie du complot instantanée Les fausses affirmations selon lesquelles l'invasion du Congrès a été mise en scène se sont propagées à un rythme effréné, grâce aux militants, aux médias et aux politiciens républicains.

Voir la réalité clairement et honnêtement est fondamental pour notre capacité à faire n'importe quoi. En monétisant et en marchandisant l'attention, nous avons vendu notre capacité à voir les problèmes et à adopter des solutions collectives. Ce n'est pas nouveau. Presque chaque fois que nous permettons aux systèmes de survie de notre planète ou de notre société d'être marchandisés, cela entraîne d'autres pannes. Lorsque vous marchandisez la politique avec des publicités micro-ciblées optimisées pour l'IA, vous supprimez l'intégrité de la politique. Lorsque vous marchandisez les aliments, vous perdez le contact avec le cycle de vie qui rend l'agriculture durable. Lorsque vous marchandisez l'éducation en flux numériques de contenu, vous perdez l'interdépendance du développement humain, de la confiance, de l'attention et de l'autorité des enseignants. Lorsque vous marchandisez l'amour en transformant les gens en cartes à jouer sur Tinder, vous rompez la danse complexe impliquée dans l'établissement de nouvelles relations. Et lorsque vous marchandisez la communication en blocs de messages et de fils de commentaires sur Facebook, vous supprimez le contexte, les nuances et le respect. Dans tous ces cas, les systèmes extractifs érodent lentement les fondements d'une société saine et d'une planète saine.

Déplacer les systèmes pour protéger l'attention

E.O. Wilson, le célèbre biologiste, a proposé que les humains ne dirigent que la moitié de la Terre et que le reste soit laissé seul. Imaginez quelque chose de similaire pour l'économie de l'attention. Nous pouvons et devons dire que nous voulons protéger l'attention humaine, même si cela sacrifie une partie des bénéfices d'Apple, Google, Facebook et d'autres grandes entreprises technologiques.

Les bloqueurs de publicités sur les appareils numériques sont un exemple intéressant de ce qui pourrait devenir un changement structurel dans le monde numérique. Les bloqueurs de publicités sont-ils un droit humain ? Si tout le monde pouvait bloquer les publicités sur Facebook, Google et les sites Web, Internet ne serait pas en mesure de s'autofinancer et l'économie publicitaire perdrait d'énormes quantités de revenus. Ce résultat annule-t-il le droit ? Votre attention est-elle un droit ? En êtes-vous propriétaire ? Doit-on y mettre un prix ? Vendre des organes humains ou des personnes réduites en esclavage peut répondre à une demande et générer des profits, mais nous disons que ces articles n'ont pas leur place sur le marché. Comme les êtres humains et leurs organes, l'attention humaine devrait-elle être quelque chose que l'argent ne peut pas acheter ?

Votre attention est-elle un droit ? En êtes-vous propriétaire ? Doit-on y mettre un prix ? Comme les êtres humains et leurs organes, l'attention humaine devrait-elle être quelque chose que l'argent ne peut pas acheter ?

La pandémie de covid-19, le mouvement Black Lives Matter, le changement climatique et d'autres crises écologiques ont fait prendre conscience à de plus en plus de gens à quel point nos systèmes économiques et sociaux sont brisés. Mais nous n'abordons pas les racines de ces crises interconnectées. Nous tombons dans le piège d'interventions qui semblent être la bonne réponse, mais qui sont plutôt des pièges qui maintiennent subrepticement le statu quo. Des pratiques policières légèrement meilleures et des caméras corporelles n'empêchent pas les abus de la police. L'achat d'une Prius ou d'une Tesla ne suffit pas pour vraiment réduire les niveaux de carbone dans l'atmosphère. Remplacer les pailles en plastique par des pailles biodégradables ne sauvera pas les océans. La décision d'Instagram de cacher le nombre de likes ne transforme pas les problèmes de santé mentale des adolescents, alors que le service repose sur une comparaison sociale constante et un détournement systémique de la volonté humaine de connexion. Nous avons besoin d'une réforme systémique beaucoup plus profonde. Nous devons réorienter les institutions pour servir l'intérêt public d'une manière qui soit proportionnelle à la nature et à l'ampleur des défis auxquels nous sommes confrontés.

Au Center for Humane Technology, une chose que nous avons faite a été de convaincre Apple, Google et Facebook d'adopter - au moins en partie - la mission de Time Well Spent même si cela allait à l'encontre de leurs intérêts économiques. Il s'agit d'un mouvement que nous avons lancé par le biais de vastes campagnes de sensibilisation des médias publics et de plaidoyer, et il a gagné en crédibilité auprès des concepteurs de technologies, des parents concernés et des élèves. Il appelait à faire passer les incitations du monde numérique d'une course au temps passé sur les écrans et les applications à une course au sommet pour aider les gens à bien passer leur temps. Cela a conduit à un réel changement pour des milliards de personnes. Apple, par exemple, a introduit les fonctionnalités Screen Time en mai 2018 qui sont désormais livrées avec tous les iPhones, iPads et autres appareils. En plus de montrer à tous les utilisateurs combien de temps ils passent sur leur téléphone, Screen Time propose un tableau de bord des contrôles parentaux et des limites de temps des applications qui montrent aux parents combien de temps leurs enfants passent en ligne (et ce qu'ils font). Google a lancé son similaire Bien-être numérique initiative à peu près à la même époque. Il comprend d'autres fonctionnalités que nous avions suggérées, telles que faciliter le débranchement avant le coucher et limiter les notifications. Dans le même ordre d'idées, YouTube a introduit les notifications de pause.

Ces changements montrent que les entreprises sont prêtes à faire des sacrifices, même dans le domaine des milliards de dollars. Néanmoins, nous n'avons pas encore changé la logique de base de ces sociétés. Qu'une entreprise fasse quelque chose contre son intérêt économique est une chose ; faire quelque chose contre l'ADN de son but et de ses objectifs est une tout autre chose.

Vers une action collective

Nous avons besoin d'une réforme profonde et systémique qui incitera les entreprises technologiques à servir avant tout l'intérêt public. Nous devons réfléchir plus largement à l'ampleur du changement systémique qui pourrait être possible et à la manière d'exploiter la volonté collective du peuple.

Histoire connexe

Les évangéliques recherchent des réponses en ligne. Ils trouvent QAnon à la place. Comment le mouvement croissant pro-Trump s'en prend aux fidèles pour répandre ses théories du complot.

Récemment au Center for Humane Technology, nous avons interviewé Christiana Figueres, l'ancienne secrétaire exécutive de la Convention des Nations Unies sur les changements climatiques (2010-2016) , pour notre podcast Your Undivided Attention. Elle était responsable de la diplomatie collaborative qui a conduit à l'Accord de Paris, et nous avons appris comment elle était capable de le faire : amener 195 pays différents, contre toute attente, à prendre des résolutions partagées et de bonne foi pour lutter contre le changement climatique. Au départ, Figueres ne croyait pas qu'il était possible d'amener autant de pays à s'entendre, mais elle s'est rendu compte que le fait d'accueillir avec succès la Convention de Paris signifiait qu'elle-même devrait changer. Elle devait croire sincèrement qu'il était possible d'amener les pays à s'engager dans l'action climatique. C'est ainsi qu'elle a pu se concentrer ensuite sur le fait d'amener les pays participants à croire en la possibilité de lutter également contre le changement climatique. Là où les précédentes négociations internationales sur le climat avaient échoué, les efforts de Figueres ont réuni les nations pour s'entendre sur le financement, les nouvelles technologies et d'autres outils pour maintenir l'augmentation de la température mondiale en dessous de 2 ou, mieux encore, de 1,5 °C.

Dans le cas de l'industrie technologique, nous avons une longueur d'avance dans la mesure où nous n'avons pas besoin de convaincre des centaines de pays ou des millions de personnes. Moins de 10 personnes gèrent l'infrastructure numérique la plus puissante du XXIe siècle, les sociétés dites FAANG, comprenant Facebook, Amazon, Apple, Netflix et Alphabet (anciennement Google). Si ces personnes se réunissaient et convenaient que la maximisation du profit des actionnaires n'était plus l'objectif commun, l'infrastructure numérique pourrait être différente. Si Christiana Figueres pouvait parvenir à un consensus entre 195 nations, nous pourrions envisager la possibilité de le faire avec 10 PDG de la tech.

Une nouvelle économie de la technologie humaine

Plusieurs principes économiques doivent changer pour que la technologie s'aligne sur l'humanité et la planète. L'un d'eux est le paradigme de la croissance. Vous ne pouvez tout simplement pas appliquer une logique de croissance infinie sur un substrat fini. La recherche d'une croissance économique infinie conduit à une crise écologique planétaire. Pour les entreprises technologiques, poursuivre la croissance infinie de l'attention humaine extraite conduit à une crise similaire de la conscience mondiale et du bien-être social. Nous devons passer à une économie de l'attention post-croissance qui place la santé mentale et le bien-être au centre de nos résultats souhaités.

Plusieurs principes économiques doivent changer pour que la technologie s'aligne sur l'humanité et la planète.

Un petit indice de ce changement se produit dans des pays comme la Nouvelle-Zélande et l'Écosse, où des organisations telles que la Wellbeing Economy Alliance s'efforcent de passer d'une économie qui favorise le produit intérieur brut (PIB) à une autre avec ces priorités alternatives. Les dirigeants se demandent comment le bien-être peut informer le public sur la compréhension des politiques et des choix politiques, guider les décisions et devenir une nouvelle base pour la pensée et la pratique économiques.

Un autre changement vers une technologie plus humaine nécessite un éventail plus large de parties prenantes qui peuvent rendre compte de l'impact social à long terme de nos actions. À l'heure actuelle, il est possible pour les grandes entreprises technologiques de gagner de l'argent en vendant de fausses tranches d'attention de plus en plus minces, en vendant de faux clics provenant de fausses sources d'information à de faux annonceurs. Ces entreprises gagnent de l'argent même si le lien ou l'article mène à une erreur flagrante et propage la désinformation. Cet opportunisme avilit l'écologie de l'information en détruisant notre capacité à faire confiance aux sources de connaissances ou à partager des croyances sur ce qui est vrai, ce qui à son tour détruit notre capacité à prendre de bonnes décisions. Le résultat est la polarisation, la désinformation et l'effondrement de la citoyenneté démocratique. Nous devons créer des mécanismes qui incitent les participants du monde numérique à envisager des délais plus longs et l'impact plus large que leurs actions ont sur la société.

La volonté humaine joue ici un rôle important. Et si les dirigeants derrière le modèle de distribution des revenus de l'App Store d'Apple - qui agit comme la banque centrale ou la Réserve fédérale de l'économie de l'attention - choisissaient simplement de distribuer les revenus aux fabricants d'applications en fonction des utilisateurs qui ont acheté le plus de biens virtuels ou passé le plus de temps à utiliser l'application, mais sur qui parmi les créateurs d'applications a le mieux coopéré avec d'autres applications sur le téléphone pour aider tous les membres de la société à vivre davantage selon leurs valeurs ?

En fin de compte, il s'agit d'établir les bonnes règles. Il est difficile pour un acteur d'optimiser son bien-être et son alignement sur les valeurs de la société lorsque d'autres acteurs sont encore en concurrence pour des ressources et un pouvoir limités. Sans règles ni garde-corps, les acteurs les plus impitoyables gagnent. C'est pourquoi la législation et les politiques sont nécessaires, ainsi que la volonté collective du peuple de les promulguer. La plus grande méta-crise est que les processus démocratiques de création de garde-fous fonctionnent à un rythme beaucoup plus lent que le rythme de développement technologique nécessaire pour faire la différence. La technologie continuera de progresser plus vite que les méfaits ne peuvent être bien compris par les institutions démocratiques du XXe siècle. Le secteur technologique lui-même doit se rassembler, collaborer et trouver des moyens de fonctionner de manière à ce que les objectifs sociétaux partagés soient placés au-dessus de l'hyper-concurrence et de la maximisation des profits.

Enfin, nous devons reconnaître le pouvoir asymétrique massif que les entreprises technologiques ont sur les individus et la société. Ils nous connaissent mieux que nous nous connaissons nous-mêmes. Toute structure de pouvoir asymétrique doit suivre le modèle fiduciaire ou devoir de diligence illustré par un bon enseignant, thérapeute, médecin ou soignant, c'est-à-dire qu'elle doit travailler au service de ceux qui ont moins de pouvoir. Elle ne doit pas fonctionner avec un modèle économique basé sur l'extraction. Les modèles commerciaux améliorés pour la technologie doivent être génératifs : ils doivent nous traiter comme le client et non comme le produit, et s'aligner sur nos valeurs et notre humanité les plus profondément ancrées.

Vers l'être humain

E.O. Wilson a dit : « Le problème avec l'humanité, c'est que nous avons des émotions paléolithiques, des institutions médiévales et une technologie divine. Nous devons embrasser nos émotions paléolithiques dans toutes leurs faiblesses et vulnérabilités fixes. Nous devons moderniser nos institutions pour y intégrer plus de sagesse, de prudence et d'amour. Et nous devons ralentir le développement d'une technologie divine dont les pouvoirs vont au-delà de notre capacité à diriger la direction du navire sur lequel nous nous trouvons tous.

Le domaine du possible continue de s'étendre, mais il surgit en même temps que des problèmes mondiaux d'une difficulté exponentielle qui nécessitent une meilleure information, un meilleur leadership et une meilleure action. Plutôt que d'accepter une course vers le bas qui nous dégrade et nous divise, nous pouvons créer ensemble un paysage technologique qui permet une course vers le haut, qui prend en charge notre interconnexion, notre civilité et notre intelligence profonde. Le changement, je crois, est humainement possible.

Tristan Harris est cofondateur et président du Center for Humane Technology.

cacher