211service.com
Le vrai problème de confidentialité
Alors que les sociétés Web et les agences gouvernementales analysent de plus en plus d'informations sur nos vies, il est tentant de réagir en adoptant de nouvelles lois sur la confidentialité ou en créant des mécanismes qui nous rémunèrent pour nos données. Au lieu de cela, nous avons besoin d'une solution civique, car la démocratie est en danger. 22 octobre 2013
En 1967, The Public Interest, alors un lieu de premier plan pour le débat politique de haut niveau, a publié un essai provocateur de Paul Baran, l'un des pères de la méthode de transmission de données connue sous le nom de commutation par paquets. Titré Le futur utilitaire informatique , l'essai supposait qu'un jour, quelques gros ordinateurs centralisés fourniraient le traitement de l'information… de la même manière que l'on achète maintenant de l'électricité.
Notre console d'ordinateur domestique sera utilisée pour envoyer et recevoir des messages, comme des télégrammes. Nous pourrions vérifier si le grand magasin local a en stock le maillot de sport annoncé dans la couleur et la taille souhaitées. Nous pourrions demander quand la livraison serait garantie, si nous commandions. Les informations seraient à jour et exactes. Nous pouvions payer nos factures et calculer nos impôts via la console. Nous posions des questions et recevions des réponses des banques d'informations, des versions automatisées des bibliothèques d'aujourd'hui. Nous obtiendrions une liste à la minute près de tous les programmes de télévision et de radio… L'ordinateur pourrait, à lui seul, envoyer un message pour nous rappeler un anniversaire imminent et nous sauver des conséquences désastreuses de l'oubli.
Cette histoire faisait partie de notre numéro de novembre 2013
- Voir le reste du numéro
- S'abonner
Il a fallu des décennies pour que le cloud computing réalise la vision de Baran. Mais il était suffisamment prémonitoire pour craindre que l'informatique utilitaire ait besoin de son propre modèle de réglementation. Voici un employé de la RAND Corporation – à peine une redoute de la pensée marxiste – s'inquiétant de la concentration du pouvoir de marché entre les mains de grands services informatiques et exigeant l'intervention de l'État. Baran voulait également des politiques qui pourraient offrir une protection maximale à la préservation des droits à la confidentialité des informations :
Des informations personnelles et commerciales très sensibles seront stockées dans de nombreux systèmes envisagés… À l'heure actuelle, rien de plus que la confiance - ou, au mieux, un manque de sophistication technique - s'oppose à un éventuel espion… Aujourd'hui, nous manquons de les mécanismes pour assurer des garanties adéquates. En raison de la difficulté de reconstruire des systèmes complexes pour intégrer des sauvegardes à une date ultérieure, il apparaît souhaitable d'anticiper ces problèmes.
Analyse pointue et sans conneries : le techno-futurisme est en déclin depuis lors.
Toutes les solutions de confidentialité dont vous entendez parler sont sur la mauvaise voie.
Lire l'essai de Baran (un des nombreux essais publiés à l'époque sur l'informatique utilitaire), c'est se rendre compte que notre problème contemporain de protection de la vie privée n'est pas contemporain. Ce n'est pas seulement une conséquence du fait que Mark Zuckerberg a vendu son âme et nos profils à la NSA. Le problème a été reconnu dès le début, et peu a été fait pour y remédier.
Presque toutes les utilisations envisagées par Baran pour l'informatique utilitaire sont purement commerciales. Commander des chemises, payer des factures, chercher du divertissement, vaincre l'oubli : ce n'est pas l'Internet des communautés virtuelles et des internautes. Baran a simplement imaginé que l'informatique en réseau nous permettrait de faire des choses que nous faisons déjà sans l'informatique en réseau : achats, divertissement, recherche. Mais aussi : espionnage, surveillance et voyeurisme.
Si la révolution informatique de Baran ne semble pas très révolutionnaire, c'est en partie parce qu'il n'imaginait pas qu'elle bouleverserait les fondements du capitalisme et de l'administration bureaucratique qui étaient en place depuis des siècles. Dans les années 1990, cependant, de nombreux passionnés du numérique pensaient le contraire ; ils étaient convaincus que la généralisation des réseaux numériques et la baisse rapide des coûts de communication représentaient une véritable nouvelle étape du développement humain. Pour eux, la surveillance déclenchée dans les années 2000 par le 11 septembre et la colonisation de ces espaces numériques vierges par Google, Facebook et les mégadonnées étaient des aberrations auxquelles on pouvait résister ou du moins renverser. Si seulement nous pouvions maintenant effacer la décennie que nous avons perdue et revenir à l'utopie des années 1980 et 1990 en adoptant des lois plus strictes, en donnant aux utilisateurs plus de contrôle et en créant de meilleurs outils de cryptage !
Une lecture différente de l'histoire récente donnerait un agenda différent pour l'avenir. Le sentiment généralisé d'émancipation par l'information que beaucoup de gens attribuent encore aux années 1990 n'était probablement qu'une hallucination prolongée. Le capitalisme et l'administration bureaucratique se sont facilement adaptés au nouveau régime numérique ; les deux prospèrent grâce aux flux d'informations, plus ils sont automatisés, mieux c'est. Les lois, les marchés ou les technologies n'entraveront ni ne réorienteront cette demande de données, car tous trois jouent un rôle dans le maintien du capitalisme et de l'administration bureaucratique en premier lieu. Il faut autre chose : la politique.
Même des programmes qui semblent anodins peuvent saper la démocratie.
Tout d'abord, abordons les symptômes de notre malaise actuel. Oui, les intérêts commerciaux des entreprises technologiques et les intérêts politiques des agences gouvernementales ont convergé : tous deux s'intéressent à la collecte et à l'analyse rapide des données des utilisateurs. Google et Facebook sont obligés de collecter toujours plus de données pour augmenter l'efficacité des publicités qu'ils vendent. Les agences gouvernementales ont besoin des mêmes données - elles peuvent les collecter elles-mêmes ou en coopération avec des entreprises technologiques - pour poursuivre leurs propres programmes.
Bon nombre de ces programmes portent sur la sécurité nationale. Mais ces données peuvent être utilisées de nombreuses autres manières qui portent également atteinte à la vie privée. Le gouvernement italien, par exemple, est à l'aide d'un outil appelé le redditometro, ou compteur de revenus, qui analyse les recettes et les habitudes de dépenses pour signaler les personnes qui dépensent plus qu'elles ne prétendent en revenus comme des fraudeurs potentiels. Une fois que les paiements mobiles remplaceront une grande partie des transactions en espèces - avec Google et Facebook comme intermédiaires - les données collectées par ces sociétés seront indispensables aux collecteurs d'impôts. De même, les universitaires du droit sont occupés à explorer comment l'exploration de données peut être utilisée pour rédiger des contrats ou des testaments adaptés aux personnalités, aux caractéristiques et au comportement passé des citoyens, améliorant ainsi l'efficacité et réduisant les fautes professionnelles.
Sur un autre front, des technocrates comme Cass Sunstein, l'ancien administrateur du Bureau de l'information et des affaires réglementaires de la Maison Blanche et l'un des principaux partisans de l'art des nounous qui pousse les citoyens à faire certaines choses , espérons que la collecte et l'analyse instantanée de données sur les individus peuvent aider à résoudre des problèmes tels que l'obésité, le changement climatique et la conduite en état d'ébriété en orientant notre comportement. Un nouveau livre de trois universitaires britanniques— Changer les comportements : la montée de l'état psychologique – présente une longue liste de tels programmes à l'œuvre au Royaume-Uni, où l'unité de nudging du gouvernement, inspirée par Sunstein, a connu un tel succès que c'est sur le point de devenir une opération à but lucratif.
Grâce aux smartphones ou aux Google Glass, nous pouvons désormais recevoir un ping chaque fois que nous sommes sur le point de faire quelque chose de stupide, malsain ou malsain. Nous n'aurions pas nécessairement besoin de savoir pourquoi l'action serait mauvaise : les algorithmes du système font eux-mêmes le calcul moral. Les citoyens endossent le rôle de machines à information qui alimentent le complexe techno-bureaucratique avec nos données. Et pourquoi ne le ferions-nous pas, si on nous promet un tour de taille plus mince, un air plus pur ou une vie plus longue (et plus sûre) en retour ?
Cette logique de préemption n'est pas différente de celle de la NSA dans sa lutte contre le terrorisme : prévenons les problèmes plutôt que de traiter leurs conséquences. Même si nous lions les mains de la NSA - par une combinaison d'une meilleure surveillance, de règles plus strictes sur l'accès aux données ou de technologies de cryptage plus solides et plus conviviales - la soif de données des autres institutions étatiques resterait. Ils le justifieront. Sur des questions comme l'obésité ou le changement climatique - où les décideurs politiques s'empressent d'ajouter que nous sommes confrontés à un scénario de bombe à retardement - ils diront qu'un petit déficit de démocratie peut faire beaucoup.
Voici à quoi ressemblerait ce déficit : la nouvelle infrastructure numérique, prospère comme elle le fait sur les données en temps réel fournies par les citoyens, permet aux technocrates de retirer la politique, avec tout son bruit, ses frictions et son mécontentement, du processus politique. Il remplace les tâches compliquées de la constitution de coalitions, des négociations et des délibérations par la propreté et l'efficacité d'une administration basée sur les données.
Ce phénomène a un nom convivial pour les mèmes : régulation algorithmique , comme l'appelle l'éditeur de la Silicon Valley Tim O'Reilly. Essentiellement, les démocraties riches en informations ont atteint un point où elles veulent essayer de résoudre des problèmes publics sans avoir à s'expliquer ou à se justifier auprès des citoyens. Au lieu de cela, ils peuvent simplement faire appel à notre propre intérêt et ils en savent assez sur nous pour concevoir un coup de pouce parfait, hautement personnalisé et irrésistible.
La vie privée est un moyen pour la démocratie, pas une fin en soi.
Un autre avertissement du passé. C'était en 1985 et Spiros Simitis, le plus grand spécialiste et praticien allemand de la protection de la vie privée, à l'époque commissaire à la protection des données de l'État allemand de Hesse, s'adressait à la faculté de droit de l'Université de Pennsylvanie. Le sien lecture exploré le même problème qui préoccupait Baran : l'automatisation du traitement des données. Mais Simitis n'a pas perdu de vue l'histoire du capitalisme et de la démocratie, il a donc vu les changements technologiques sous un jour beaucoup plus ambigu.
Il a également reconnu que la vie privée n'est pas une fin en soi. C'est un moyen d'atteindre un certain idéal de politique démocratique, où l'on fait confiance aux citoyens pour être plus que de simples fournisseurs d'informations satisfaits pour des technocrates qui voient tout et optimisent tout. Lorsque la vie privée est démantelée, a averti Simitis, à la fois la possibilité d'évaluer personnellement le processus politique… et la possibilité de développer et de maintenir un style de vie particulier s'estompent.
Trois tendances technologiques sous-tendent l'analyse de Simitis. Tout d'abord, a-t-il noté, même à l'époque, chaque sphère d'interaction sociale était médiatisée par les technologies de l'information. En conséquence, la vie privée n'était plus uniquement le problème d'un malheureux pris au dépourvu dans une situation délicate ; c'était devenu le problème de tout le monde. Deuxièmement, les nouvelles technologies telles que les cartes à puce et le vidéotex permettaient non seulement d'enregistrer et de reconstituer les activités individuelles dans les moindres détails, mais normalisaient également la surveillance, l'intégrant dans notre vie quotidienne. Troisièmement, les informations personnelles enregistrées par ces nouvelles technologies permettaient aux institutions sociales d'imposer des normes de comportement, déclenchant des stratégies de manipulation à long terme destinées à modeler et à ajuster la conduite individuelle.
Les institutions modernes avaient certainement tout à gagner de tout cela. Les compagnies d'assurance pourraient adapter leurs programmes de réduction des coûts aux besoins et aux demandes des patients, des hôpitaux et de l'industrie pharmaceutique. La police pourrait utiliser les bases de données nouvellement disponibles et divers profils de mobilité pour identifier les criminels potentiels et localiser les suspects. Les agences de protection sociale pourraient soudainement découvrir un comportement frauduleux.
Mais comment ces technologies nous affecteraient-elles en tant que citoyens, en tant que sujets qui participent à la compréhension et à la réforme du monde qui nous entoure, et pas seulement en tant que consommateurs ou clients qui en profitent simplement ?
Au cas par cas, a fait valoir Simitis, nous risquions de perdre. Au lieu d'obtenir plus de contexte pour les décisions, nous en obtiendrions moins ; au lieu de voir la logique conduire nos systèmes bureaucratiques et de rendre cette logique plus précise et moins kafkaïenne, nous obtiendrions plus de confusion parce que la prise de décision devenait automatisée et personne ne savait exactement comment fonctionnaient les algorithmes. Nous percevrons une image plus trouble de ce qui fait fonctionner nos institutions sociales ; malgré la promesse d'une plus grande personnalisation et d'une plus grande autonomie, les systèmes interactifs ne donneraient qu'une illusion d'une plus grande participation. En conséquence, les systèmes interactifs… suggèrent une activité individuelle où en fait il ne se produit que des réactions stéréotypées.
Si vous pensez que Simitis décrivait un avenir qui ne s'est jamais réalisé, envisagez un papier récent sur la transparence des systèmes de prédiction automatisés en Tel Zarski , l'un des plus grands experts mondiaux de la politique et de l'éthique de l'exploration de données. Il note que l'exploration de données peut indiquer des individus et des événements, indiquant un risque élevé, sans nous le dire Pourquoi ils ont été sélectionnés. En l'occurrence, le degré de interprétabilité est l'une des décisions politiques les plus importantes à prendre dans la conception de systèmes d'exploration de données. Zarsky voit ici de vastes implications pour la démocratie :
Un processus non interprétable pourrait découler d'une analyse d'exploration de données qui n'est pas explicable en langage humain. Ici, le logiciel prend ses décisions de sélection sur la base de plusieurs variables (voire des milliers)… Il serait difficile pour le gouvernement de fournir une réponse détaillée lorsqu'on lui demande pourquoi un individu a été choisi pour recevoir un traitement différencié par un système de recommandation automatisé. Tout ce que le gouvernement pourrait dire, c'est que c'est ce que l'algorithme a trouvé sur la base de cas précédents.
C'est l'avenir dans lequel nous somnambulons. Tout semble fonctionner, et les choses pourraient même s'améliorer, c'est juste que nous ne savons pas exactement pourquoi ni comment.
Trop peu d'intimité peut mettre en danger la démocratie. Mais trop d'intimité aussi.
Simitis a bien saisi les tendances. Libre d'hypothèses douteuses sur l'ère d'Internet, il est arrivé à une défense originale mais prudente de la vie privée en tant que caractéristique vitale d'une démocratie autocritique - pas la démocratie d'une théorie politique abstraite mais la démocratie désordonnée et bruyante dans laquelle nous vivons, avec son jamais -mettre fin aux contradictions. En particulier, l'idée la plus cruciale de Simitis est que la vie privée peut à la fois soutenir et saper la démocratie.
Traditionnellement, notre réponse aux changements dans le traitement automatisé des informations a été de les considérer comme un problème personnel pour les personnes concernées. Un exemple en est l'article fondateur Le droit à la vie privée , par Louis Brandeis et Samuel Warren. Écrivant en 1890, ils ont demandé le droit d'être laissés seuls, de vivre une vie tranquille, loin des intrus. Selon Simitis, ils exprimaient un désir, commun à beaucoup d'individus autodidactes à l'époque, de profiter, strictement pour eux-mêmes et dans des conditions qu'ils déterminaient, des fruits de leur activité économique et sociale.
Un objectif louable : sans étendre une telle couverture légale aux entrepreneurs, le capitalisme américain moderne n'aurait peut-être jamais été aussi robuste. Mais ce droit, déconnecté de toute responsabilité correspondante, pourrait aussi sanctionner un niveau de repli excessif qui nous met à l'abri du monde extérieur et sape les fondements du régime même démocratique qui a rendu ce droit possible. Si tous les citoyens exerçaient pleinement leur droit à la vie privée, la société serait privée des données transparentes et facilement disponibles qui sont nécessaires non seulement pour le bien des technocrates mais, plus encore, pour que les citoyens puissent évaluer les problèmes, se forger des opinions et débattre ( et, occasionnellement, licencier les technocrates).
Il ne s'agit pas d'un problème spécifique au droit à la vie privée. Pour certains penseurs contemporains, comme l'historien et philosophe français Marcel Gauchet , les démocraties risquent d'être victimes de leur propre succès : ayant institué un régime juridique de droits qui permet aux citoyens de poursuivre leurs propres intérêts privés sans aucune référence à ce qui est bon pour le public, ils risquent d'épuiser les ressources mêmes qui leur ont permis de s'épanouir.
Quand tous les citoyens revendiquent leurs droits mais ignorent leurs responsabilités, les questions politiques qui ont défini la vie démocratique au fil des siècles : Comment vivre ensemble ? Qu'est-ce qui est dans l'intérêt public, et comment puis-je équilibrer mon propre intérêt avec celui-ci ? — sont subsumés dans les domaines juridique, économique ou administratif. Le politique et le public ne s'enregistrent plus du tout en tant que domaines ; les lois, les marchés et les technologies remplacent le débat et la contestation en tant que solutions préférées et moins compliquées.
Mais une démocratie sans citoyens engagés ne ressemble pas beaucoup à une démocratie et pourrait ne pas survivre en tant que telle. C'était une évidence pour Thomas Jefferson qui, tout en souhaitant que chaque citoyen soit un participant au gouvernement des affaires, croyait également que la participation civique implique une tension constante entre la vie publique et la vie privée. Une société qui croit, comme le dit Simitis, que l'accès du citoyen à l'information s'arrête là où le bourgeois La revendication de la vie privée commence ne durera pas comme une démocratie qui fonctionne bien.
Ainsi, l'équilibre entre la confidentialité et la transparence a particulièrement besoin d'être ajusté en période d'évolution technologique rapide. Cet équilibre lui-même est une question politique par excellence , à régler par le débat public et toujours ouvert à la négociation. Cela ne peut pas être réglé une fois pour toutes par une combinaison de théories, de marchés et de technologies. Comme le disait Simitis : Loin d'être considérée comme un élément constitutif d'une société démocratique, la vie privée apparaît comme une contradiction tolérée, dont les implications doivent être sans cesse reconsidérées.
Les lois et les mécanismes du marché sont des solutions insuffisantes.
Au cours des dernières décennies, alors que nous commencions à générer plus de données, nos institutions sont devenues accros. Si vous avez retenu les données et coupé les boucles de rétroaction, il n'est pas certain qu'elles puissent continuer. Nous, en tant que citoyens, sommes pris dans une position étrange : notre raison de divulguer les données n'est pas que nous nous sentons profondément préoccupés par le bien public. Non, nous publions des données par intérêt personnel, sur Google ou via des applications d'auto-suivi. Nous sommes trop bon marché pour ne pas utiliser des services gratuits subventionnés par la publicité. Ou nous voulons suivre notre forme physique et notre alimentation, puis nous vendons les données.
Simitis savait même en 1985 que cela conduirait inévitablement à la régulation algorithmique qui prend forme aujourd'hui, alors que la politique devient une administration publique qui fonctionne sur pilote automatique afin que les citoyens puissent se détendre et s'amuser, pour être poussés, occasionnellement, chaque fois qu'ils sont sur le point d'oublier de acheter du brocoli.
Les habitudes, les activités et les préférences sont compilées, enregistrées et récupérées pour faciliter un meilleur ajustement, ne pas améliorer la capacité d'agir et de décider de l'individu. Quelle qu'ait été l'incitation originelle à l'informatisation, le traitement apparaît de plus en plus comme le moyen idéal pour adapter un individu à un comportement prédéterminé et standardisé qui vise le plus haut degré possible de conformité avec le modèle patient, consommateur, contribuable, employé ou citoyen.
Ce que Simitis décrit ici, c'est la construction de ce que j'appelle des barbelés invisibles autour de nos vies intellectuelles et sociales. Les mégadonnées, avec ses nombreuses bases de données interconnectées qui se nourrissent d'informations et d'algorithmes de provenance douteuse, imposent de sévères contraintes sur notre façon de mûrir politiquement et socialement. Le philosophe allemand Jürgen Habermas a eu raison d'avertir – en 1963 – qu'une civilisation exclusivement technique […] est menacée […] par la scission des êtres humains en deux classes – les ingénieurs sociaux et les pensionnaires d'institutions sociales fermées.
Le fil de fer barbelé invisible des mégadonnées limite nos vies à un espace qui peut sembler assez calme et attrayant, mais qui n'est pas de notre choix et que nous ne pouvons pas reconstruire ou agrandir. Le pire, c'est que nous ne le voyons pas comme tel. Parce que nous croyons que nous sommes libres d'aller n'importe où, le fil de fer barbelé reste invisible. Pire, il n'y a personne à blâmer : certainement pas Google, Dick Cheney ou la NSA. C'est le résultat de nombreuses logiques et systèmes différents - du capitalisme moderne, de la gouvernance bureaucratique, de la gestion des risques - qui sont suralimentés par l'automatisation du traitement de l'information et par la dépolitisation de la politique.
Plus nous révélons d'informations sur nous-mêmes, plus ce fil de fer barbelé devient dense mais invisible. Nous perdons progressivement notre capacité de raisonner et de débattre ; nous ne comprenons plus pourquoi les choses nous arrivent.
Mais tout n'est pas perdu. Nous pourrions apprendre à nous percevoir comme piégés dans ce fil de fer barbelé et même à le couper. La vie privée est la ressource qui nous permet de le faire et, si nous avons de la chance, même de planifier notre itinéraire d'évacuation.
C'est là que Simitis a exprimé une idée vraiment révolutionnaire qui se perd dans les débats contemporains sur la protection de la vie privée : aucun progrès ne peut être réalisé, a-t-il déclaré, tant que la protection de la vie privée est plus ou moins assimilée au droit d'un individu de décider quand et quelles données doivent être accessibles. . Le piège dans lequel tombent de nombreux défenseurs de la vie privée bien intentionnés est de penser que si seulement ils pouvaient fournir à l'individu plus de contrôle sur ses données - grâce à des lois plus strictes ou à un régime de propriété robuste - alors le fil de fer barbelé invisible deviendrait visible et effiloché. Ce ne sera pas le cas, pas si ces données sont finalement renvoyées aux institutions mêmes qui érigent le fil autour de nous.
Pensez à la vie privée en termes éthiques.
Si nous acceptons la vie privée comme un problème de et pour la démocratie, alors les solutions populaires sont inadéquates. Par exemple, dans son livre À qui appartient l'avenir ? , Jaron Lanier propose que nous ne tenions pas compte d'un pôle de la vie privée, le juridique, et que nous nous concentrions plutôt sur l'économique. Les droits commerciaux sont mieux adaptés à la multitude de petites situations insolites qui se présenteront dans la vie réelle que les nouveaux types de droits civils dans le sens de la confidentialité numérique, écrit-il. Dans cette logique, en transformant nos données en un actif que nous pourrions vendre, nous accomplissons deux choses. Premièrement, nous pouvons contrôler qui y a accès, et deuxièmement, nous pouvons compenser certaines des pertes économiques causées par la perturbation de tout ce qui est analogique.
La proposition de Lanier n'est pas originale. Dans Code et autres lois du cyberespace (publié pour la première fois en 1999), Lawrence Lessig s'est enthousiasmé pour la construction d'un régime de propriété autour des données privées. Lessig voulait un majordome électronique capable de négocier avec les sites Web : l'utilisateur définit ses préférences une fois - spécifie comment elle négocierait la confidentialité et ce qu'elle est prête à abandonner - et à partir de ce moment, lorsqu'elle entre sur un site, le site et sa machine négocier. Ce n'est que si les machines sont d'accord que le site pourra obtenir ses données personnelles.
Il est facile de voir où un tel raisonnement pourrait nous mener. Nous aurions tous des applications personnalisées pour smartphone qui intégreraient en permanence les dernières informations sur les personnes que nous rencontrons, les lieux que nous visitons et les informations que nous possédons afin de mettre à jour le prix de notre portefeuille de données personnelles. Ce serait extrêmement dynamique : si vous passez devant un magasin de fantaisie vendant des bijoux, le magasin pourrait être prêt à payer plus pour connaître l'anniversaire de votre conjoint que lorsque vous êtes assis à la maison à regarder la télévision.
Le régime de propriété peut, en effet, renforcer la confidentialité : si les consommateurs veulent un bon retour sur leur portefeuille de données, ils doivent s'assurer que leurs données ne sont pas déjà disponibles ailleurs. Ainsi, soit ils le louent comme Netflix loue des films, soit ils le vendent à condition qu'il ne puisse être utilisé ou revendu que dans des conditions strictement contrôlées. Certaines entreprises proposent déjà des casiers de données pour faciliter de tels échanges sécurisés.
Donc, si vous voulez défendre le droit à la vie privée pour lui-même, transformer les données en un actif négociable pourrait dissiper vos inquiétudes. La NSA obtiendrait toujours ce qu'elle voulait ; mais si vous craignez que nos informations privées soient devenues trop liquides et que nous ayons perdu le contrôle de leurs mouvements, un modèle commercial intelligent, associé à un solide régime de gestion des droits numériques, pourrait résoudre ce problème.
Pendant ce temps, les agences gouvernementales engagées dans la gestion des nounous voudraient également ces données. Peut-être qu'ils pourraient payer une somme modique ou promettre un crédit d'impôt pour le privilège de vous donner un coup de coude plus tard, avec l'aide des données de votre smartphone. Les consommateurs gagnent, les entrepreneurs gagnent, les technocrates gagnent. La vie privée, d'une manière ou d'une autre, est également préservée. Alors qui, exactement, perd ici ? Si vous avez lu votre Simitis, vous connaissez la réponse : la démocratie oui.
Ce n'est pas seulement parce que le fil de fer barbelé invisible resterait. Nous devons également nous inquiéter des implications pour la justice et l'égalité. Par exemple, ma décision de divulguer des renseignements personnels, même si je ne les divulgue qu'à ma compagnie d'assurance, aura inévitablement des implications pour d'autres personnes, dont beaucoup sont moins aisées. Les personnes qui disent que le suivi de leur condition physique ou de leur emplacement n'est qu'un choix affirmatif dont elles peuvent se retirer ont peu de connaissances sur la façon dont les institutions pensent. Une fois qu'il y aura suffisamment d'adoptants précoces qui s'auto-suivront - et la plupart d'entre eux sont susceptibles d'y gagner quelque chose - ceux qui refusent ne seront plus considérés comme de simples individus excentriques exerçant leur autonomie. Non, ils seront considérés comme des déviants avec quelque chose à cacher. Leur assurance sera plus chère. Si nous ne perdons jamais de vue ce fait, notre décision de nous auto-suivre ne sera pas aussi facile à réduire à un pur intérêt économique ; à un moment donné, des considérations morales peuvent entrer en jeu. Ai-je vraiment envie de partager mes données et d'obtenir un coupon dont je n'ai pas besoin si cela signifie qu'une autre personne qui a déjà trois emplois devra peut-être finalement payer plus ? De telles préoccupations morales deviennent sans objet si nous déléguons la prise de décision aux majordomes électroniques.
Peu d'entre nous ont eu des problèmes moraux à propos des schémas de partage de données, mais cela pourrait changer. Avant que l'environnement ne devienne une préoccupation mondiale, peu d'entre nous ont réfléchi à deux fois avant de prendre les transports en commun si nous pouvions conduire. Avant que la consommation éthique ne devienne une préoccupation mondiale, personne n'aurait payé plus pour un café qui avait le même goût mais qui promettait un commerce équitable. Considérez un T-shirt bon marché que vous voyez dans un magasin. Il est peut-être parfaitement légal de l'acheter, mais après des décennies de travail acharné par des groupes d'activistes, un label Made in Bangladesh nous fait réfléchir à deux fois avant de le faire. Peut-être craignons-nous qu'il ait été fabriqué par des enfants ou des adultes exploités. Ou, après y avoir réfléchi, peut-être que nous voulons acheter le T-shirt parce que nous espérons qu'il pourrait soutenir le travail d'un enfant qui serait autrement forcé à se prostituer. Quelle est la bonne chose à faire ici? Nous ne savons pas, alors nous faisons des recherches. Un tel examen ne peut pas s'appliquer à tout ce que nous achetons, ou nous ne quitterions jamais le magasin. Mais les échanges d'informations – l'oxygène de la vie démocratique – devraient entrer dans la catégorie Appliquer plus de réflexion, pas moins. Ce n'est pas quelque chose à déléguer à un majordome électronique - pas si nous ne voulons pas nettoyer notre vie de sa dimension politique.
Saboter le système. Provoquer plus de questions.
Nous devrions également être troublés par la suggestion selon laquelle nous pouvons réduire le problème de la vie privée à une dimension juridique. La question que nous nous posons depuis deux décennies - Comment pouvons-nous nous assurer d'avoir plus de contrôle sur nos informations personnelles ? - ne peut pas être la seule question à poser. À moins que nous apprenions et réapprenions continuellement comment le traitement automatisé de l'information favorise et entrave la vie démocratique, une réponse à cette question pourrait s'avérer sans valeur, surtout si le régime démocratique devait mettre en œuvre la réponse que nous trouvions entre-temps.
Intellectuellement au moins, ce qu'il faut faire est clair : nous devons affronter la question non seulement dans les dimensions économiques et juridiques mais aussi dans une dimension politique, en liant l'avenir de la vie privée à l'avenir de la démocratie d'une manière qui refuse de réduire vie privée aux marchés ou aux lois. Que signifie concrètement cette intuition philosophique ?
Premièrement, nous devons politiser le débat sur la confidentialité et le partage d'informations. Articuler l'existence – et les conséquences politiques profondes – des barbelés invisibles serait un bon début. Nous devons scruter la résolution de problèmes à forte intensité de données et exposer son caractère parfois antidémocratique. Parfois, nous devrions accepter plus de risque, d'imperfection, d'improvisation et d'inefficacité au nom de la préservation de l'esprit démocratique.
Deuxièmement, nous devons apprendre à saboter le système, peut-être en refusant de s'auto-suivre du tout. Si refuser d'enregistrer notre apport calorique ou nos allées et venues est le seul moyen d'amener les décideurs politiques à s'attaquer aux causes structurelles de problèmes comme l'obésité ou le changement climatique, et pas seulement à modifier leurs symptômes en les poussant, les boycotts de l'information pourraient être justifiables. Refuser de gagner de l'argent avec vos propres données peut être un acte aussi politique que refuser de conduire une voiture ou de manger de la viande. La vie privée peut alors réapparaître en tant qu'instrument politique pour maintenir vivant l'esprit de la démocratie : nous voulons des espaces privés parce que nous croyons toujours en notre capacité à réfléchir sur ce qui afflige le monde et à trouver un moyen d'y remédier, et nous préférons ne pas abandonner cela. capacité aux algorithmes et aux boucles de rétroaction.
Troisièmement, nous avons besoin de plus services numériques provocateurs . Il ne suffit pas qu'un site Web nous invite à décider qui doit voir nos données. Au lieu de cela, il devrait réveiller notre propre imagination. Bien conçus, les sites n'inciteraient pas les citoyens à protéger ou à partager leurs informations privées, mais révéleraient les dimensions politiques cachées de divers actes de partage d'informations. Nous ne voulons pas d'un majordome électronique, nous voulons un provocateur électronique. Au lieu d'une autre application qui pourrait nous dire combien d'argent nous pouvons économiser en surveillant notre routine d'exercice, nous avons besoin d'une application qui peut nous dire combien de personnes sont susceptibles de perdre leur assurance maladie si le secteur des assurances dispose d'autant de données que la NSA, la plupart ont été contribués par des consommateurs comme nous. Finalement, nous pourrions discerner de telles dimensions par nous-mêmes, sans aucune invite technologique.
Enfin, nous devons abandonner les idées préconçues sur le fonctionnement et l'interconnexion de nos services numériques. Sinon, nous serons victimes de la même logique qui a contraint l'imagination de tant de défenseurs de la vie privée bien intentionnés qui pensent que défendre le droit à la vie privée - et non lutter pour préserver la démocratie - est ce qui devrait guider la politique publique. Alors que de nombreux activistes d'Internet soutiendraient sûrement le contraire, ce qui arrive à Internet n'a qu'une importance secondaire. Tout comme pour la vie privée, c'est le sort de la démocratie elle-même qui devrait être notre objectif principal.
Après tout, en 1967, Paul Baran a eu la chance de ne pas savoir ce que deviendrait Internet. Cela ne l'a pas empêché de voir les avantages de l'informatique utilitaire et ses dangers. Abandonnez l'idée qu'Internet est tombé en disgrâce au cours de la dernière décennie. Nous libérer de cette mauvaise lecture de l'histoire pourrait nous aider à faire face aux menaces antidémocratiques de l'avenir numérique.
Evgeny Morozov est l'auteur de L'illusion du net : le côté obscur de la liberté d'Internet et Pour tout sauver, cliquez ici : La folie du solutionnisme technologique.