Pourquoi 2020 a été une année charnière et contradictoire pour la reconnaissance faciale

Alexandre Farnsworth | Getty

La première arrestation injustifiée confirmée par la technologie de reconnaissance faciale aux États-Unis a eu lieu en janvier 2020. Robert Williams, un homme noir, a été arrêté dans son allée juste à l'extérieur de Detroit, sous les yeux de sa femme et de sa jeune fille. Il a passé la nuit en prison. Le lendemain, dans la salle d'interrogatoire, un détective a glissé une photo sur la table à Williams d'un autre homme noir qui avait été filmé en train de voler des montres à la boutique Shinola.

Est-ce toi? Il a demandé .

Non, ce n'est pas moi. Williams a répondu.

Le détective passa sur une autre photo. Je suppose que ce n'est pas toi non plus ?

Williams a tenu la photo à côté de son visage. Ce n'était clairement pas lui. Williams a dit, ce n'est pas moi. J'espère que vous ne pensez pas que tous les Noirs se ressemblent.

L'ordinateur dit que c'est vous, répondit le détective.

La chose nouvelle à propos de la arrestation de Robert Williams n'était pas qu'il s'est produit, ou que c'était une erreur. La reconnaissance faciale est connue pour être moins précise pour les personnes à la peau plus foncée. Et la technologie est largement utilisée par les services de police aux États-Unis, bien qu'il n'y ait pas de bonnes données sur son omniprésence. La partie inhabituelle de l'histoire de Williams est que la police a admis avoir utilisé la reconnaissance faciale lors de son arrestation.

La nouvelle de l'affaire a été rendue publique début août et, après un été de protestations axées sur la façon dont les communautés noires sont contrôlées en Amérique, elle a suscité une indignation nationale. Quelques semaines plus tard, une autre arrestation injustifiée d'un homme noir à Detroit en raison de la technologie de reconnaissance faciale a été révélée.

Même avant cela, les militants avaient exigé la fin du projet Greenlight, l'initiative publique-privée à l'échelle de la ville qui utilise la reconnaissance faciale dans le but de réduire la criminalité. Et pourtant, non seulement le projet est toujours en cours : fin septembre, le conseil municipal a voté la prolongation du contrat entre la police de Detroit et son fournisseur de reconnaissance faciale, DataWorks Plus.

Une année de contradictions

Les événements de Detroit illustrent notre relation compliquée avec la reconnaissance faciale en ce moment. Son utilisation est croissante et, dans certains domaines, la technologie est devenue incontournable. Dans d'autres, comme le commerce de détail, la reconnaissance faciale commence à être déployée avec de grands espoirs pour l'avenir. De nombreux fournisseurs de technologie parient que le public sera de plus en plus à l'aise avec l'utilisation de la biométrie, et bientôt elle fera partie intégrante de la vie numérique : Apple a beaucoup misé dessus, et maintenant des millions de personnes utilisent son système Face ID pour déverrouiller leur iPhone tous les jours.

Mais le public a également une nouvelle conscience des dangers que représente la reconnaissance faciale, en particulier dans le domaine de la justice pénale. Il y a beaucoup plus de sensibilisation, plus d'inquiétude et plus de conversation que jamais auparavant, et cette année a vu plus de législation sur la reconnaissance faciale que toutes les années précédentes combinées. Il y a eu des interdictions ou des moratoires dans six villes des États-Unis en 2019, et la même chose encore cette année.

Concilier ces lois avec la croissance de l'industrie sera difficile. Mais les événements de 2020 donnent quelques indices sur la façon dont ces compromis pourraient se concrétiser au cours de l'année à venir.

Petits acteurs, grande industrie

En janvier, le New York Times publié une enquête de ClearviewAI, une petite entreprise de reconnaissance faciale qui a exécuté son algorithme sur une base de données de milliards d'images extraites des médias sociaux. Les services de police utilisant le système de ClearviewAI accédaient efficacement à vos photos Facebook pour faire correspondre des images de police souvent floues ou incomplètes pendant les enquêtes.

L'entreprise a été vivement critiquée et rapport ultérieur par BuzzFeed News a montré que le système était utilisé par pas moins de 2 200 organismes chargés de l'application de la loi aux États-Unis, ainsi que par l'Immigration and Customs Enforcement, le ministère de la Justice et des détaillants, dont Macy's et Walmart.

L'histoire de Clearview a vraiment effrayé beaucoup de gens, comme il se doit, déclare Jameson Spivack, associé en politique au Centre sur la confidentialité et la technologie de l'Université de Georgetown. De nombreuses préoccupations portent sur la fragmentation du domaine. Alors que les grandes entreprises comme IBM et Microsoft sont des forces importantes, il existe également de nombreuses petites entreprises privées, comme ClearviewAI et NtechLab, qui fonctionnent avec peu de surveillance publique. Le reportage a également révélé à quel point le public savait peu de choses sur l'utilisation généralisée de la technologie par le gouvernement.

Le catalyseur : les protestations raciales

Ces histoires ont sensibilisé aux problèmes, mais Spivack dit que les manifestations de Black Lives Matter après le meurtre de George Floyd ont été le principal catalyseur de la législation restreignant l'utilisation de la reconnaissance faciale aux États-Unis. Les Américains ont soudainement commencé à réexaminer la police et ses outils, politiques et culture.

L'inquiétude avait commencé à grandir après que les chercheurs Joy Buolamwini et Timnit Gebru aient découvert et préjugés raciaux documentés dans les produits commerciaux de reconnaissance faciale en 2018, conduisant plusieurs villes et États à adopter des lois qui a empêché la police d'utiliser la reconnaissance faciale de concert avec des caméras corporelles.

Mais lors du plus grand mouvement de protestation de l'histoire américaine, les militants s'inquiétaient que les technologies de surveillance policière seraient utilisées à des fins de représailles. Il a depuis été confirmé qu'au moins le New York , Miami , et Washington, DC, service de police s ont utilisé la reconnaissance faciale pour surveiller les manifestants.

Le 1er juin à Washington, DC, la police a utilisé des boules de poivre et des gaz lacrymogènes pour repousser les manifestants de Lafayette Square afin que le président Trump puisse prendre une photo dans une église voisine. Au milieu du chaos, un manifestant a donné un coup de poing à un policier. Quelques jours plus tard, les agents ont trouvé une photo de l'homme sur Twitter et l'ont fait passer par leur système de reconnaissance faciale, ont obtenu une correspondance et ont procédé à une arrestation. De même à Miami, une femme accusée d'avoir jeté des pierres sur la police lors d'une manifestation a été arrêtée sur la base d'un match de reconnaissance faciale.

Spivack a vu des militants de base contre la reconnaissance faciale travailler en étroite collaboration avec des groupes de réforme de la police tout au long de l'été et de l'automne, dirigés par d'autres groupes de défense comme l'American Civil Liberties Union. À Portland, en Oregon, un manifestant a même créé un système de reconnaissance faciale pour identifier des policiers anonymes .

Au fil de 2020, une législation visant à limiter l'utilisation de cette technologie par la police a été proposée aux niveaux municipal, étatique et même fédéral. En juin, les législateurs démocrates ont présenté un projet de loi interdisant l'utilisation de la reconnaissance faciale par les forces de l'ordre fédérales. Dans le Vermont, un décret du gouverneur a créé une interdiction à l'échelle de l'État de l'utilisation de la technologie par le gouvernement. Dans le Massachusetts, les villes de Cambridge et de Boston ont adopté des interdictions sur la technologie cet été, et le gouvernement de l'État a approuvé une interdiction de la reconnaissance faciale pour les organismes publics, y compris les forces de l'ordre, en décembre ; Le gouverneur Charlie Baker est actuellement refuser de signer la facture .

La Californie a lancé son propre débat sur la législation à l'échelle de l'État en mai, et les villes de San Francisco et d'Oakland ont déjà interdit l'utilisation de la reconnaissance faciale par les forces de l'ordre. En juillet, la ville de New York a institué un moratoire sur la reconnaissance faciale dans les écoles jusqu'en 2022. À Portland, dans l'Oregon, une nouvelle interdiction à l'échelle de la ville interdit l'utilisation de la technologie par tout groupe public ou privé.

Mais ce changement ne se produit pas partout, comme le montre le réengagement de la surveillance à Detroit. Spivack spécule que la dynamique du pouvoir racial pourrait influencer la lutte politique autour de la surveillance policière. Si vous regardez beaucoup de villes qui ont été parmi les premières à interdire la reconnaissance faciale, elles étaient généralement - pas toujours, mais généralement - plus riches, plus blanches, très progressistes, peut-être avec plus de capital politique et la capacité d'avoir un impact sur les législateurs, plus encore que les communautés plus marginalisées, dit-il.

Une perspective nationale ?

Cependant, toutes les réactions n'ont pas pris la forme d'une législation. Début juin, IBM a annoncé qu'il avait cessé de vendre l'un de ses produits de reconnaissance faciale. Amazon et Microsoft ont emboîté le pas en mettant fin temporairement à leurs contrats avec les services de police. Et en juillet, l'ACLU a déposé un procès contre ClearviewAI pour avoir omis de se conformer à la loi sur la confidentialité des informations biométriques de l'Illinois, la première contestation judiciaire complète de l'entreprise.

Microsoft, Amazon, IBM et des groupes industriels comme la Security Industry Association se préparent à un combat. Ils ont dramatiquement augmenté le lobbying sur la reconnaissance faciale de 2018 à 2019, et on s'attend à ce que 2020 affiche une augmentation encore plus importante. Beaucoup sont en faveur d'une réglementation accrue, mais pas des interdictions. Le moratoire d'Amazon prendra fin en juin, et celui de Microsoft dépend de l'institution d'une loi fédérale.

Pendant ce temps, l'ACLU continue de rédiger une législation visant à interdire la technologie. Une déclaration sur son site Web indique que l'organisation s'adresse aux tribunaux, aux rues, aux assemblées législatives, aux conseils municipaux et même aux conseils d'administration des entreprises pour défendre nos droits contre les dangers croissants de cette technologie de surveillance non réglementée.

Les priorités de la nouvelle administration façonneront également la réglementation en 2021 et au-delà. En tant que candidate à la présidentielle, Kamala Harris règlement cité de la reconnaissance faciale dans l'application de la loi dans le cadre de son plan de réforme de la police. Si l'administration fait pression pour une législation fédérale, il est plus probable que cela devienne un problème national, avec pour résultat que moins de ressources seront dirigées vers des campagnes de surveillance plus locales. Mais sinon, le combat continuera probablement à se dérouler au niveau de l'État et de la ville.

cacher