211service.com
La dictature des données
Les mégadonnées sont sur le point de transformer la société, de la façon dont nous diagnostiquons la maladie à la façon dont nous éduquons les enfants, en permettant même à une voiture de se conduire toute seule. L'information apparaît comme un nouvel intrant économique, une ressource vitale. Les entreprises, les gouvernements et même les particuliers mesureront et optimiseront tout ce qui est possible.
Nombre de corps : Le secrétaire américain à la Défense, Robert McNamara, informant la presse sur le Vietnam au Pentagone en 1965.
Mais il y a un côté obscur. Les mégadonnées érodent la vie privée. Et lorsqu'il est utilisé pour faire des prédictions sur ce que nous sommes susceptibles de faire mais que nous n'avons pas encore fait, il menace également la liberté. Pourtant, le big data exacerbe également un problème très ancien : se fier aux chiffres alors qu'ils sont bien plus faillibles qu'on ne le pense. Rien ne souligne davantage les conséquences d'une analyse de données qui a mal tourné que l'histoire de Robert McNamara.
McNamara était un gars des chiffres. Nommé secrétaire américain à la Défense lorsque les tensions au Vietnam ont augmenté au début des années 1960, il a insisté pour obtenir des données sur tout ce qu'il pouvait. Ce n'est qu'en appliquant la rigueur statistique, croyait-il, que les décideurs pourraient comprendre une situation complexe et faire les bons choix. Le monde, selon lui, était une masse d'informations indisciplinées qui, si elles étaient délimitées, dénotées, délimitées et quantifiées, pouvaient être apprivoisées par la main de l'homme et tomber sous le coup de la volonté humaine. McNamara cherchait la Vérité, et cette Vérité pouvait être trouvée dans les données. Parmi les chiffres qui lui sont revenus figurait le décompte des corps.
McNamara a développé son amour des chiffres en tant qu'étudiant à la Harvard Business School, puis en tant que plus jeune professeur adjoint à l'âge de 24 ans. Il a appliqué cette rigueur pendant la Seconde Guerre mondiale au sein d'une équipe d'élite du Pentagone appelée Statistical Control, qui a apporté une décision fondée sur les données. faire à l'une des plus grandes bureaucraties du monde. Avant cela, les militaires étaient aveugles. Il ne connaissait pas, par exemple, le type, la quantité ou l'emplacement des pièces détachées d'avion. Les données sont venues à la rescousse. Le simple fait de rendre l'approvisionnement en armement plus efficace a permis d'économiser 3,6 milliards de dollars en 1943. La guerre moderne exigeait une allocation efficace des ressources ; le travail de l'équipe a été un succès retentissant.
À la fin de la guerre, les membres de ce groupe ont offert leurs compétences aux entreprises américaines. La Ford Motor Company pataugeait, et un Henry Ford II désespéré leur a remis les rênes. Tout comme ils ne savaient rien de l'armée lorsqu'ils ont aidé à gagner la guerre, ils n'avaient aucune idée de la fabrication de voitures. Pourtant, les soi-disant Whiz Kids ont transformé l'entreprise.
McNamara a rapidement gravi les échelons, troquant un point de données pour chaque situation. Les directeurs d'usine harcelés produisirent les chiffres qu'il demandait, qu'ils soient corrects ou non. Lorsqu'un décret est tombé selon lequel tout l'inventaire d'un modèle de voiture doit être utilisé avant qu'un nouveau modèle ne puisse commencer la production, les responsables hiérarchiques exaspérés ont simplement déversé les pièces excédentaires dans une rivière voisine. La blague à l'usine était qu'un homme pouvait marcher sur l'eau, sur des pièces rouillées de voitures de 1950 et 1951.
McNamara incarnait l'exécutif hyper-rationnel qui s'appuyait sur des chiffres plutôt que sur des sentiments, et qui pouvait appliquer ses compétences quantitatives à n'importe quelle industrie vers laquelle il les tournait. En 1960, il a été nommé président de Ford, poste qu'il n'a occupé que quelques semaines avant d'être appelé à rejoindre le cabinet du président Kennedy en tant que secrétaire à la Défense.
Alors que le conflit du Vietnam s'intensifiait et que les États-Unis envoyaient plus de troupes, il est devenu clair qu'il s'agissait d'une guerre de volontés et non de territoire. La stratégie américaine consistait à amener le Viet Cong à la table des négociations. La façon de mesurer les progrès, par conséquent, était par le nombre d'ennemis tués. Le décompte des corps a été publié quotidiennement dans les journaux. Pour les partisans de la guerre, c'était une preuve de progrès ; aux critiques, preuve de son immoralité. Le décompte des corps était le point de données qui définissait une époque.
McNamara s'est appuyé sur les chiffres, les a fétichisés. Avec ses cheveux parfaitement coiffés et sa cravate parfaitement nouée, McNamara sentit qu'il ne pouvait comprendre ce qui se passait sur le terrain qu'en regardant une feuille de calcul, toutes ces lignes et colonnes ordonnées, ces calculs et ces graphiques, dont la maîtrise semblait lui apporter un écart type plus proche de Dieu.
En 1977, deux ans après le décollage du dernier hélicoptère du toit de l'ambassade des États-Unis à Saigon, un général de l'armée à la retraite, Douglas Kinnard, a publié une enquête historique intitulée Les chefs de guerre qui a révélé le bourbier de la quantification. À peine 2% des généraux américains considéraient le décompte des corps comme un moyen valable de mesurer les progrès. Un faux—totalement sans valeur, a écrit un général dans ses commentaires. Des mensonges souvent flagrants, a écrit un autre. Ils ont été grossièrement exagérés par de nombreuses unités, principalement en raison de l'intérêt incroyable manifesté par des personnes comme McNamara, a déclaré un troisième.
L'utilisation, l'abus et la mauvaise utilisation des données par l'armée américaine pendant la guerre du Vietnam est une leçon troublante sur les limites de l'information alors que le monde se précipite vers l'ère des mégadonnées. Les données sous-jacentes peuvent être de mauvaise qualité. Il peut être biaisé. Il peut être mal analysé ou utilisé de manière trompeuse. Et encore plus accablant, les données peuvent ne pas capturer ce qu'elles prétendent quantifier.
Nous sommes plus sensibles que nous ne le pensons à la dictature des données, c'est-à-dire à laisser les données nous gouverner d'une manière qui peut faire autant de mal que de bien. La menace est que nous nous laissions inconsciemment liés par le résultat de nos analyses, même lorsque nous avons des motifs raisonnables de soupçonner que quelque chose ne va pas. L'éducation semble sur les dérapages? Poussez des tests standardisés pour mesurer les performances et pénaliser les enseignants ou les écoles. Vous voulez prévenir le terrorisme ? Créez des couches de listes de surveillance et de listes d'interdiction de vol afin de surveiller le ciel. Vous voulez perdre du poids ? Achetez une application pour compter chaque calorie mais évitez l'exercice réel.
La dictature des données piège même les meilleurs d'entre eux. Google gère tout en fonction des données. Cette stratégie a largement contribué à son succès. Mais cela fait aussi trébucher l'entreprise de temps en temps. Ses cofondateurs, Larry Page et Sergey Brin, ont longtemps insisté pour connaître les scores SAT de tous les candidats et leurs moyennes pondérées lorsqu'ils ont obtenu leur diplôme universitaire. Dans leur réflexion, le premier nombre mesurait le potentiel et le second mesurait les réalisations. Les managers accomplis dans la quarantaine ont été traqués pour les scores, à leur grand désarroi. L'entreprise a même continué à exiger les chiffres bien après que ses études internes n'aient montré aucune corrélation entre les scores et les performances au travail.
Google devrait mieux se renseigner, ne pas se laisser séduire par les faux charmes des données. La mesure laisse peu de place au changement dans la vie d'une personne. Il compte l'intelligence des livres au détriment de la connaissance. Et cela peut ne pas refléter les qualifications des personnes issues des sciences humaines, où le savoir-faire peut être moins quantifiable qu'en sciences et en ingénierie. L'obsession de Google pour ces données à des fins RH est particulièrement étrange étant donné que les fondateurs de l'entreprise sont des produits des écoles Montessori, qui mettent l'accent sur l'apprentissage, pas sur les notes. Selon les normes de Google, ni Bill Gates, ni Mark Zuckerberg ni Steve Jobs n'auraient été embauchés, car ils n'ont pas de diplôme universitaire.
La déférence de Google envers les données a été poussée à l'extrême. Pour déterminer la meilleure couleur d'une barre d'outils sur le site Web, Marissa Mayer, lorsqu'elle était l'un des cadres supérieurs de Google avant d'aller chez Yahoo, a une fois ordonné au personnel de tester 41 dégradés de bleu pour voir lesquels les gens utilisaient le plus. En 2009, le meilleur designer de Google, Douglas Bowman, a démissionné en colère parce qu'il ne supportait pas la quantification constante de tout. J'ai eu récemment un débat sur la question de savoir si une bordure devait avoir une largeur de 3, 4 ou 5 pixels, et on m'a demandé de prouver mon cas. Je ne peux pas opérer dans un environnement comme ça, a-t-il écrit sur un blog annonçant sa démission. Lorsqu'une entreprise est remplie d'ingénieurs, elle se tourne vers l'ingénierie pour résoudre les problèmes. Réduisez chaque décision à un simple problème de logique. Ces données finissent par devenir une béquille pour chaque décision, paralysant l'entreprise.
C'est la dictature des données. Et cela rappelle la pensée qui a conduit les États-Unis à intensifier la guerre du Vietnam en partie sur la base du décompte des corps, plutôt que de fonder leurs décisions sur des mesures plus significatives. Il est assez vrai que toutes les situations humaines complexes imaginables ne peuvent pas être entièrement réduites aux lignes sur un graphique, ou aux points de pourcentage sur un graphique, ou aux chiffres sur un bilan, a déclaré McNamara dans un discours en 1967, alors que les protestations nationales étaient croissance. Mais toute réalité peut être raisonnée. Et ne pas quantifier ce qui peut être quantifié, c'est seulement se contenter de quelque chose de moins que l'éventail complet de la raison. Si seulement les bonnes données étaient utilisées de la bonne manière, non respectées pour l'amour des données.
Robert Strange McNamara a dirigé la Banque mondiale tout au long des années 1970, puis s'est peint comme une colombe dans les années 1980. Il est devenu un critique virulent des armes nucléaires et un partisan de la protection de l'environnement. Plus tard dans la vie, il a produit un mémoire, En rétrospective , qui critiquait la pensée derrière la guerre et ses propres décisions en tant que secrétaire à la Défense. Nous avions tort, terriblement tort, a-t-il écrit de façon célèbre. Mais McNamara, décédé en 2009 à l'âge de 93 ans, faisait référence à la stratégie globale de la guerre. Sur la question des données, et du décompte des corps en particulier, il est resté impénitent. Il a admis que de nombreuses statistiques étaient trompeuses ou erronées. Mais les choses que vous pouvez compter, vous devriez les compter. La perte de la vie en est une.
Les mégadonnées serviront de fondement à l'amélioration des médicaments que nous prenons, de la façon dont nous apprenons et des actions des individus. Cependant, le risque est que ses pouvoirs extraordinaires nous poussent à commettre le péché de McNamara : devenir tellement obsédés par les données, et tellement obsédés par le pouvoir et les promesses qu'elles offrent, que nous ne parvenons pas à apprécier sa capacité inhérente à induire en erreur.
Kenneth Cukier est l'éditeur de données de L'économiste . Viktor Mayer-Schönberger est professeur de gouvernance et de réglementation de l'Internet à l'Oxford Internet Institute au Royaume-Uni. Ils sont les auteurs de Big Data : une révolution qui transformera notre façon de vivre, de travailler et de penser (Houghton Mifflin Harcourt, 2013), dont cet article a été adapté.