Il y a une crise de la reconnaissance faciale et de la police aux États-Unis

Mme Tech | Unsplash

Lorsque la nouvelle a éclaté qu'une correspondance erronée d'un système de reconnaissance faciale avait conduit la police de Detroit à arrêter Robert Williams pour un crime qu'il n'avait pas commis, c'était fin juin et le pays était déjà bouleversé par la mort de George Floyd un mois plus tôt. . Peu de temps après, il est apparu qu'un autre Noir, Michael Oliver, avait été arrêté dans des circonstances similaires à celles de Williams. Alors qu'une grande partie des États-Unis continue de réclamer la justice raciale, une conversation plus calme se dessine sur la technologie de reconnaissance faciale et la police. Nous ferions bien d'écouter.

Lorsque Jennifer Strong et moi avons commencé à rendre compte de l'utilisation de la technologie de reconnaissance faciale par la police pour notre nouveau podcast, Dans les machines auxquelles nous faisons confiance , nous savions que ces systèmes alimentés par l'IA étaient adoptés par des flics partout aux États-Unis et dans d'autres pays. Mais nous n'avions aucune idée de tout ce qui se passait hors de l'œil du public.

Pour commencer, nous ne savons pas à quelle fréquence les services de police aux États-Unis utilisent la reconnaissance faciale pour la simple raison que dans la plupart des juridictions, ils n'ont pas à signaler lorsqu'ils l'utilisent pour identifier un suspect dans un crime. le les chiffres les plus récents sont spéculatifs et datent de 2016 , mais ils suggèrent qu'à l'époque, au moins la moitié des Américains avaient des photos dans un système de reconnaissance faciale. Un comté de Floride a effectué 8 000 recherches chaque mois.

Nous ne savons pas non plus quels services de police disposent de la technologie de reconnaissance faciale, car il est courant que la police obscurcisse son processus d'approvisionnement. Il est prouvé, par exemple, que de nombreux ministères achètent leur technologie grâce à des subventions fédérales ou à des dons à but non lucratif, qui sont exemptés de certaines lois sur la divulgation. Dans d'autres cas, les entreprises proposent à la police des périodes d'essai pour leurs logiciels qui permettent aux agents d'utiliser des systèmes sans aucune approbation ou surveillance officielle. Cela permet aux entreprises qui fabriquent des systèmes de reconnaissance faciale de prétendre que leurs produits sont largement utilisés et de donner l'impression extérieure qu'ils sont à la fois des outils de résolution de crimes populaires et fiables.

Algorithmes protégés qui ne servent pas

Mais si la reconnaissance faciale est connue pour quelque chose, c'est à quel point elle n'est pas fiable. Comme nous le rapportons dans l'émission, en janvier, la police métropolitaine de Londres a lancé un système de reconnaissance faciale en direct que dans les tests avaient un taux de précision inférieur à 20% . A New York, le Metro Transit Authority a testé un système sur les artères principales avec un taux rapporté de précision de 0 %. Les systèmes sont également souvent racistes - une étude a révélé que dans certains systèmes commerciaux, même dans des conditions de laboratoire taux d'erreur dans l'identification des femmes à la peau plus foncée étaient d'environ 35 %. Lors de nos reportages pour l’émission, nous avons constaté qu’il n’est pas rare que la police modifie des photos pour améliorer ses chances de trouver une correspondance. Certains ont même défendu la pratique comme essentielle pour faire du bon travail policier.

Deux des sociétés les plus controversées et les plus avancées dans le domaine, ClearviewAI et NTechLabs, affirment avoir résolu le problème de biais et atteint une précision presque parfaite. ClearviewAI affirme qu'il est utilisé par environ 600 services de police aux États-Unis (certains experts à qui nous avons parlé étaient sceptiques quant à ce chiffre). NTechLabs, basé en Russie, s'est engagé pour la reconnaissance faciale vidéo en direct dans toute la ville de Moscou.

Mais il n'y a presque aucun moyen de vérifier indépendamment leurs affirmations. Les deux sociétés ont des algorithmes qui reposent sur des bases de données de milliards de photos publiques. Le National Institute of Standards and Technology (NIST), quant à lui, propose l'un des rares audits indépendants de la technologie de reconnaissance faciale. Le NIST Vendor Test utilise un ensemble de données beaucoup plus petit, ce qui, avec la qualité et la diversité des images dans la base de données, limite sa puissance en tant qu'outil d'audit. ClearviewAI n'a pas passé le test le plus récent du NIST. NTechLabs a passé le test d'image statique et a bien fonctionné, mais il n'existe actuellement aucun test utilisé pour la reconnaissance faciale vidéo en direct. Il n'y a pas non plus de test indépendant spécifiquement pour les biais.

Reconnaissance dans la rue

La récente vague de manifestations Black Lives Matter, déclenchée par la mort de Floyd, a remis en question une grande partie de ce que nous avons accepté à propos de la police moderne, y compris leur utilisation de la technologie. L'ironie noire est que, lorsque les gens descendent dans la rue pour protester contre le racisme dans la police, certains policiers ont utilisé des outils de pointe avec un préjugé racial connu contre les personnes rassemblées. Nous savons, par exemple, que le département de police de Baltimore a utilisé l'identification faciale sur les manifestants après la mort de Freddie Gray en 2015. Et nous savons qu'une poignée de départements ont lancé des appels publics pour obtenir des images des manifestations de cette année. Il a été documenté que la police de Minneapolis a accès à une gamme de technologies, y compris les services de ClearviewAI . Selon Jameson Spivack du Center on Privacy and Technology de l'Université de Georgetown, que nous avons interviewé dans l'émission, si la reconnaissance faciale est utilisée lors des manifestations du BLM, elle cible et décourage spécifiquement le discours politique des Noirs.

Après des années de lutte pour la réglementation, par des organisations dirigées principalement par des Noirs et des bruns , nous n'avons jamais été à un meilleur moment pour vraiment changer. Microsoft, Amazon et IBM ont tous annoncé des interruptions ou des moratoires de leurs produits de reconnaissance faciale. Au cours des derniers mois, une poignée de grandes villes américaines ont annoncé des interdictions ou des moratoires sur la technologie. D'autre part, la technologie évolue rapidement. Les capacités des systèmes, ainsi que le potentiel de mauvaise utilisation et d'abus, continueront de croître à pas de géant. Nous commençons déjà à voir les services de police et les fournisseurs de technologie aller au-delà des systèmes de reconnaissance faciale statiques et rétrospectifs pour adopter des analyses vidéo en direct qui sont intégrées à d'autres types de flux de données comme les systèmes de surveillance audio par balle.

Certains des policiers à qui nous avons parlé ont dit qu'il ne fallait pas les laisser avec des outils archaïques pour lutter contre le crime au 21e siècle. Et il est vrai que dans certains cas, la technologie peut rendre les services de police moins violents et moins sujets aux préjugés humains.

Mais après des mois de reportage sur notre mini-série audio, j'ai eu un sentiment d'appréhension. Les enjeux augmentent de jour en jour, et jusqu'à présent, le public a été laissé loin derrière dans sa compréhension de ce qui se passe. On ne sait pas comment cela va changer à moins que toutes les personnes de tous bords sur cette question ne conviennent que tout le monde a le droit d'être informé.

cacher