211service.com
Le problème avec notre obsession des données
La quête pour recueillir toujours plus d'informations peut nous faire valoriser les mauvaises choses et devenir trop confiants à propos de ce que nous savons. 20 février 2013
Une question controversée sur le scrutin de Californie en 2008 a inspiré une simple innovation en ligne : un site Web appelé Eightmaps.com. Le numéro dans le nom faisait référence à la proposition 8, qui demandait que la constitution de l'État soit modifiée pour interdire le mariage homosexuel. En vertu des lois californiennes sur le financement des campagnes, tous les dons supérieurs à 100 $ à des groupes plaidant pour ou contre la proposition 8 étaient enregistrés dans une base de données accessible au public. Quelqu'un (on ne sait toujours pas qui) a pris toutes les données sur les partisans de la proposition - leurs noms et codes postaux, et leurs employeurs dans certains cas - et les a tracées sur une carte Google.
Après s'être retrouvés sur la carte, plusieurs partisans de l'interdiction du mariage homosexuel ont déclaré qu'ils étaient harcelé ou leurs entreprises ont été boycottées. Cela a même déstabilisé certains opposants à la proposition 8 ; c'est sûrement ne serait pas long , ont-ils dit, avant, disons, que les fondamentalistes religieux créent un outil similaire pour appeler les partisans d'une mesure des droits des homosexuels. Le comité qui avait soutenu la proposition 8 a demandé à un juge fédéral d'annuler la loi sur la divulgation ou d'augmenter son seuil au-delà de 100 $ afin que davantage de personnes puissent donner de manière anonyme. Mais il a refusé , arguant que les mesures de vote ont besoin de l'ensoleillement que procure la divulgation des dons. Sa décision était alignée sur l'idée qu'autant de données que possible sur le processus politique devraient être révélé .
Cette histoire faisait partie de notre numéro de mars 2013
- Voir le reste du numéro
- S'abonner
Evgeny Morozov s'inquiète que nous fassions trop souvent ce compromis - en choisissant de publier plus d'informations pour accroître la transparence même si cela sape des principes tels que la confidentialité ou l'engagement civique. Dans son nouveau livre incisif, Pour tout sauvegarder, cliquez ici, Morozov, écrivain pour Ardoise et La Nouvelle République, utilise l'épisode Eightmaps pour étayer son affirmation selon laquelle l'Internet-centrisme déforme notre vision de ce qui est vraiment important.
La transparence augmente au détriment d'autres valeurs, suggère Morozov, principalement parce qu'Internet est si peu coûteux et si facile à utiliser pour diffuser des données qui pourraient un jour s'avérer utiles. Et parce qu'on nous dit si souvent qu'Internet nous a libérés des contrôles que les gardiens exerçaient sur l'information, repenser la disponibilité de l'information semble rétrograde - et la tendance à l'ouverture prend encore plus de force. (Notez que Facebook dit que sa mission est de rendre le monde plus ouvert et transparent .)
Choses examinées
Pour tout sauver, cliquez ici : la folie du solutionnisme technologique
Evgeny Morozov
Affaires publiques, 2013
Contre la transparence
Laurent Lessig
La Nouvelle République, 9 octobre 2009Le monde fermé : les ordinateurs et la politique du discours dans l'Amérique de la guerre froide
Paul N. Edwards
Presse MIT, 1996
Morozov n'est pas le seul à craindre trop de transparence. Le professeur de Harvard Lawrence Lessig a décrit avec éloquence pourquoi avoir plus de données sur les politiciens est plus susceptible d'induire les gens en erreur dans le cynisme que d'améliorer la politique. Mais Lessig semble résigné à l'inévitabilité de tels projets de collecte de données à l'ère d'Internet. Il pense que la solution est de financer publiquement les élections, afin que les gens aient moins de raisons d'être cyniques quant aux motivations de leurs législateurs.
Cela exaspère Morozov, car il pense que Lessig ne fait que favoriser une idée fausse selon laquelle Internet est comme une force de la nature plutôt qu'une création humaine - que la résistance est futile. Au contraire, dit Morozov, il faut de la résistance. Sa réponse au problème soulevé par Eightmaps n'est pas simplement d'accepter que plus d'informations seront facilement consultables et de modifier la loi en conséquence. Au lieu de cela, nous devrions exiger que nos systèmes en ligne respectent des valeurs au-delà de la simple transparence. Les bases de données de dons de campagne, par exemple, pourraient être conçues de manière à ce que les enregistrements ne puissent pas en être extraits en masse. Oui, cela empêcherait certaines découvertes de données faciles. Mais cela pourrait renforcer la démocratie à long terme en permettant aux gens de se sentir plus libres de soutenir des causes qui pourraient être impopulaires dans leur quartier ou leur bureau.
Le premier livre de Morozov, L'illusion du net : le côté obscur de la liberté d'Internet, a cherché à briser le mythe selon lequel les médias sociaux sont une arme puissante contre les dictatures. Bien au contraire, a-t-il déclaré : les régimes avisés utilisent le Web pour garder un œil sur les dissidents. Cela semble certainement être vrai en Chine, en Syrie et en Iran. Dans son nouveau livre, il essaie de dégonfler une idée plus amorphe : le solutionnisme. C'est son mot pour la conviction qu'avec suffisamment de données sur de nombreux aspects complexes de la vie, y compris non seulement la politique mais aussi la criminalité, la circulation et la santé, nous pouvons résoudre les problèmes d'inefficacité. Par exemple, un logiciel prédictif analyse désormais les statistiques de la criminalité et aide la police à décider où renforcer les patrouilles. Les algorithmes suivent les clics sur le site Web et conseillent les journalistes sur les types d'histoires à écrire. Morozov voit de nombreuses façons que cela pourrait mal tourner. D'une part, l'efficacité maximale n'est pas nécessairement une valeur à rechercher ; l'inefficacité produit souvent des avantages sociaux. Ne pas savoir exactement combien de lectorat chaque article a obtenu a probablement conduit les journaux à une large couverture du gouvernement de l'État.
Hubris technologique
Mais le problème potentiel le plus effrayant est que les données que nous utilisons pour nous guider peuvent être incomplètes ou trop réductrices. De nombreux crimes ne sont pas signalés, ce qui pourrait faire croire à un logiciel de police prédictive qu'un quartier est sûr. Les flics sur le rythme, cependant, pourraient être en mesure de dire quand les choses ne semblent pas tout à fait correctes et de garder un œil sur. Morozov craint un avenir dans lequel une telle connaissance intuitive sur la façon de déployer des ressources est annulée par des algorithmes qui ne peuvent fonctionner qu'avec des données concrètes et ne peuvent, bien sûr, pas tenir compte des données dont ils ne disposent pas. De même, les enregistrements en ligne des dons de campagne d'une personne peuvent sembler détaillés et donc instructifs, mais ils offriront toujours au mieux un compte rendu partiel des croyances ou du rôle de cette personne dans le processus politique.
Ce concept pourrait être le point le plus fort de Morozov : que, aussi objectives que soient les données, l'interprétation est subjective, tout comme notre choix quant aux données à enregistrer en premier lieu. S'il peut sembler évident que les données, quelle que soit leur taille, ne peuvent pas parfaitement représenter la vie dans toute sa complexité, la technologie de l'information produit tellement d'informations qu'il est facile d'oublier tout ce qui manque.
Ce n'est pas un nouveau problème; les qualités trompeuses voire aveuglantes des mégadonnées tourmentaient les premiers utilisateurs puissants de l'informatique. Pendant la guerre du Vietnam, l'armée américaine voulait empêcher le Vietnam du Nord d'utiliser la piste Ho Chi Minh, un système de passages dans la jungle à travers le Laos voisin, pour envoyer des fournitures à l'insurrection communiste dans le sud. Le secrétaire à la Défense Robert S. McNamara, qui s'était appuyé sur des méthodes de gestion quantitatives lorsqu'il dirigeait Ford Motor, a fait ce qui est venu naturellement : il recherché plus de données sur ce qui se passait sur le sentier. Ainsi commença Opération Igloo Blanc . De 1967 à 1972, des avions américains ont survolé la piste et ont largué 20 000 capteurs alimentés par batterie qui ressemblaient à des plantes ou du bois mais pouvaient détecter des voix et d'autres sons, la chaleur corporelle, l'urine et les perturbations sismiques particulières aux camions. Ces capteurs ont envoyé des signaux aux avions américains, qui ont relayé les données à une installation de commandement et de contrôle américaine en Thaïlande, où des techniciens assis à des banques de terminaux pouvaient voir des cartes de la piste Ho Chi Minh. Lorsqu'un capteur détectait quelque chose, cette section du sentier s'éclairait comme un ver blanc. Les ordinateurs IBM 360/65 au centre ont calculé la vitesse à laquelle le ver se déplaçait ; cette information a été transmise par radio aux bombardiers américains donc la zone en question pourrait être attaquée .
Du centre de contrôle, Igloo White aurait pu avoir l'air plutôt bien. Des vers sont apparus sur les écrans puis ont disparu dans les bombardements. Les données semblaient indiquer que les Américains avaient détruit des milliers de camions et interrompu des itinéraires livrant des quantités importantes de fournitures. L'armée était suffisamment heureuse de dépenser 1 milliard de dollars par an pour le programme.
Mais les enquêteurs du Congrès finiraient par mettre en doute les hypothèses du Pentagone sur le nombre de camions bombardés. Les communistes n'ont finalement pas été dissuadés de déplacer des fournitures vers le sud. Ils ont même livré des chars utilisés lors d'une énorme offensive dans le sud en 1972. Il s'est avéré que les Américains ne se rendaient pas compte à quel point eux et leurs machines IBM agissaient sur des données incomplètes et peu fiables. D'une part, ils ne pouvaient pas encombrer tout le sentier de capteurs. Et les Vietnamiens ont compris comment jouer avec le système avec des sacs d'urine et des sons de camion enregistrés.
Il pourrait être tentant de considérer cela comme une autre erreur absurde dans une guerre pleine d'entre eux. Mais ce serait passer à côté d'un point crucial. La leçon n'est pas que la technologie de collecte de données d'Igloo White était limitée, même si elle l'était, mais que les personnes qui utilisaient les données n'en comprenaient pas les limites. Dans le livre de 1996 Le monde fermé, historien Paul N. Edwards décrit Igloo White comme un exemple d'orgueil technologique. Les planificateurs militaires pensaient que les ordinateurs et les communications en temps réel leur permettraient de créer un dôme de surveillance technologique mondiale, offrant une certitude toujours plus grande sur ce qui se passait dans le monde. Mais beaucoup de choses ne rentrent pas parfaitement sous le dôme ; la vie est désordonnée et tout ne peut pas être résumé en données sur lesquelles les ordinateurs peuvent agir.
Les données semblent différentes de nos jours, mais notre foi en leur valeur et l'impulsion de créer un panoptique d'information - rester obstinément. Google dit vouloir organiser l'information mondiale et la rendre universellement accessible et utile. Morozov a raison de se demander si c'est un objectif louable. Qui sait quels projets d'analyse de données en cours auront l'air aussi aveugles dans 40 ans qu'Igloo White le fait aujourd'hui ?