Le fiasco de l'application de recherche de contacts au Royaume-Uni est une classe de maître en matière de mauvaise gestion

Edward Howell sur Unsplash

Il y a des avantages à être l'un des plus grands systèmes de soins de santé à payeur unique au monde. Pour le National Health Service du Royaume-Uni, le NHS, le big data en fait de plus en plus partie.

Son essai de récupération, lancé au début de l'épidémie de coronavirus pour collecter des informations à travers le système, a conduit à la découverte de la dexaméthasone comme l'un des traitements vitaux les plus prometteurs pour le nouveau coronavirus. Dans d'autres domaines de la médecine, son magasin de données sur le cancer, qui existe depuis près de dix ans, est l'une des sources de données cliniques les plus riches au monde pour la recherche sur le cancer.

Il n'est donc pas surprenant que lorsque les ministres britanniques ont proposé une application pour smartphone de suivi des contacts, les responsables du NHS aient vu une opportunité de créer une technologie de pointe.

Mais jeudi, le gouvernement britannique a annoncé qu'il abandonnait son plan initial en faveur d'une option de sauvegarde beaucoup plus simple, attirant les critiques et la colère, et laissant de nombreuses personnes préoccupées par la perspective de la technologie de recherche des contacts en général. Que s'est-il passé?

Big data, grandes idées

La recherche numérique des contacts - des notifications de téléphone à téléphone qui peuvent alerter les utilisateurs d'une exposition potentielle à la maladie - est une nouvelle technologie, et l'utilité de ces applications pour aider les efforts de suivi et de traçabilité n'a en grande partie pas été testée . Mais peut-être que si l'application pouvait également collecter des informations pour aider à suivre le virus d'autres manières - en recherchant des modèles dans la façon dont la maladie se propage, en identifiant des grappes, en trouvant des épidémies tôt ou même en ajoutant des données démographiques et autres - alors son potentiel pourrait être considérablement augmenté .

C'est ce qui a motivé les responsables et les développeurs du NHS à préconiser un modèle centralisé pour leur application. Ils pensaient qu'il pourrait rassembler les informations qu'il avait collectées sur les contacts dans un magasin de données protégé, avec le potentiel d'être anonymisé afin que les gens puissent être alertés s'ils étaient entrés en contact avec quelqu'un qui présentait des symptômes de coronavirus ou avait reçu un résultat de test positif .

L'approche centralisée permettrait beaucoup plus d'analyses de données que les modèles décentralisés, qui donnent aux utilisateurs des notifications d'exposition mais ne permettent pas aux fonctionnaires d'avoir presque autant accès aux données. Ces modèles, comme celui proposé par Google et Apple qui est maintenant utilisé par le NHS, sont beaucoup moins envahissants pour la vie privée. L'espoir est que ces protections de la vie privée augmentent la confiance dans l'application, incitant davantage de personnes à l'utiliser.

D'autres facteurs ont conduit le Royaume-Uni à développer une application centralisée : son appareil de test limité et son nombre relativement faible de traceurs de contacts humains signifiaient que le système pouvait être rapidement dépassé s'il était alerté de chaque notification d'un cas positif potentiel, tandis qu'un système centralisé modèle basé sur les cas confirmés plutôt que sur les cas suspects était plus conforme à la capacité.

Pendant ce temps, les fonctionnaires recherchaient la gloire (et même la chevalerie), et les ministres se concentraient sur le déploiement d'un battre le monde app, plutôt qu'un simple succès, afin qu'ils puissent revendiquer la victoire sur la scène mondiale. L'élan vers un système centralisé est devenu irrésistible et les défis de la construction d'un système ont été largement écartés.

Problème technique et chaos organisationnel

Parmi les nombreux obstacles techniques, il y a eu les performances du Bluetooth. Presque toutes les applications de suivi des contacts s'appuient sur la fonction Bluetooth d'un téléphone pour suivre qui a été à proximité de qui. En théorie, s'il fonctionne constamment, cela peut être très précis, fournir des résultats fiables sans inonder le système de santé de faux positifs qui pourraient saper la confiance, nécessiter des milliers de tests supplémentaires et obliger les gens à s'isoler inutilement. Mais en pratique, obtenir des résultats précis est difficile , et l'amélioration de leur qualité a nécessité un travail supplémentaire considérable de la part des concepteurs d'applications du monde entier.

Ces systèmes sont perfectionnés et améliorés, mais l'approche initiale du Royaume-Uni a également ignoré un autre fait important : Apple et Google avaient une politique existante pour protéger la vie privée des utilisateurs en bloquant spécifiquement les applications d'exécuter constamment des analyses Bluetooth et d'envoyer les données ailleurs - et ils étaient refusant de modifier la politique pour les applications de coronavirus. Au lieu de cela, les géants de la technologie créaient leur propre boîte à outils pour aider les applications décentralisées à faire quelque chose de similaire, sans transmettre les données des utilisateurs à une autorité centrale.

Cela a laissé le Royaume-Uni essayer de persuader les entreprises technologiques les plus puissantes du monde de la laisser être l'exception ou de créer une application qui contourne spécifiquement les protections conçues par Apple et Google, et espère simplement qu'elles n'ont pas fermé les portes dérobées que les développeurs ont utilisées. de.

Les progrès de l'application britannique se sont en fait mieux déroulés que certains sceptiques ne le pensaient : les développeurs ont trouvé des astuces qui l'ont aidée à fonctionner, du moins sur les téléphones Android. Mais en quelque sorte, ce n'est pas assez bon pour un outil destiné à un déploiement généralisé pendant une crise sanitaire mondiale.

Ainsi, il y a plus d'un mois, le gouvernement britannique a tranquillement chargé une équipe de commencer à développer une deuxième application qui utilisait le modèle décentralisé. Les deux systèmes concurrents ont été développés en tandem, à un coût substantiel.

Cela a coïncidé avec une série chaotique de réorganisations au sein de la haute direction des efforts plus larges de suivi et de traçabilité du Royaume-Uni. De nouveaux patrons sont arrivés et les agences responsables de différentes parties de l'effort ont été échangées, ce qui a laissé le programme de traçage plus large confus et déconnecté : à divers moments les scripts donnés aux traceurs de contact ne correspondaient même pas à ceux des applications .

Cette semaine, le gouvernement a rendu public ce qui était déjà apparent dans les coulisses : le Royaume-Uni abandonnerait son application centralisée au profit de la sauvegarde décentralisée. Il avait discrètement attribué le contrat d'exploitation une semaine plus tôt.

Le Royaume-Uni n'essaie plus de battre le monde : l'objectif est maintenant de produire une application avec des fonctionnalités similaires à celles tentées par d'autres pays.

Compte tenu de son arrivée tardive et du fait que d'autres pays ont eu succès mitigé avec leurs propres applications de traçage décentralisées , il n'est pas clair si le nouveau système jouera un jour autre chose qu'un rôle périphérique dans la réponse britannique au coronavirus.

Erreurs coûteuses et déroutantes

Alors que pouvons-nous apprendre de tout cela ?

Premièrement, la couverture médiatique des efforts du Royaume-Uni a souvent été confuse, ce qui à son tour brouille les tentatives de comprendre ce qui n'allait pas. Plusieurs rapports ont indiqué que le Royaume-Uni utiliserait désormais une application développée par Google et Apple, confondant une boîte à outils pour les développeurs avec une application entièrement formée – et manquant donc que le Royaume-Uni dispose déjà d'une application décentralisée bien en cours.

Les médias sociaux ont été plus préoccupés par le rôle de Dominic Cummings, le conseiller en chef profondément controversé du Premier ministre, qui détient un intérêt marqué pour l'utilisation des données en politique après l'avoir utilisé pour concevoir avec succès la campagne pro-Brexit Vote Leave.

Plusieurs tweets viraux affirment que l'approche britannique était un offre d'entreprise pour saisir des données , alors que ceux qui sont proches du développement réel de l'application dire il s'agissait d'une tentative sincère d'utiliser les solides antécédents du NHS en matière de données pour rendre l'application plus utile.

D'autres critiques voient l'échec de l'application centralisée en termes d'affrontement entre le gouvernement britannique et les géants de la technologie, que les géants de la technologie ont remporté. De telles confrontations arrivent, mais il n'est pas clair que ce soit l'une d'entre elles. Le Royaume-Uni n'a fait aucun effort pour obliger légalement Google ou Apple à agir : il leur a demandé d'affaiblir volontairement leurs protections de la vie privée. Les géants de la technologie, voyant de nombreux autres pays heureux d'adopter une approche décentralisée, ont décidé de tenir bon. Le Royaume-Uni a finalement décidé que le combat n'en valait pas la peine.

Ces problèmes sont principalement spécifiques à la situation du Royaume-Uni, ce qui rend difficile de tirer des conclusions plus larges des échecs précis de l'approche du NHS. Mais il y a encore des leçons à tirer de cet échec, même si elles sont plus banales.

Tout d'abord, l'équipe s'est concentrée sur les avantages potentiels d'une application centralisée et a initialement ignoré tous les défis supplémentaires qu'elle impliquait. En dehors des préoccupations, beaucoup diffusés publiquement , ont été ignorés. Le projet est alors géré de manière chaotique et fait l'objet de bras de fer bureaucratiques. Le résultat était des dépenses excessives, des efforts inutiles et, pire encore, du temps perdu.

Les enjeux de l'indécision et de l'erreur sont extrêmement élevés, d'autant plus que la Grande-Bretagne est l'un des pays les plus touchés au monde, avec plus de 40 000 décès confirmés du covid-19 à ce jour. Que le sort du plan initial compte ou non comme une grève contre la recherche numérique des contacts en général, il est clair que le manque de communication prudente et claire de la part des autorités britanniques a nui au potentiel de toutes les technologies actuellement mises en place.

La seule consolation est qu'il y a est une alternative, ce qui signifie que la situation n'est pas aussi fiasco qu'elle aurait pu l'être. Le gouvernement aurait pu décider de continuer avec son prototype problématique, partiellement utilisable, et de le pousser à l'ensemble de la nation malgré les nombreux obstacles et préoccupations. Mais le NHS a vu où les choses se dirigeaient et a commencé à développer un plan B. Il n'a pas essayé de déployer l'application centralisée à l'échelle nationale lorsqu'elle a sous-performé lors de son essai.

Les gros titres d'aujourd'hui, comme on pouvait s'y attendre et à juste titre, sont terribles pour le gouvernement britannique. Cela aurait pu être encore bien pire.

James Ball est rédacteur mondial au Bureau of Investigative Journalism et auteur de Post-vérité et Bluffocratie . Son prochain livre, Le système : à qui appartient Internet et comment nous appartient-il ? , sera publié en août 2020.

cacher