Le NYPD a utilisé un outil de reconnaissance faciale controversé. Voici ce que vous devez savoir.

Getty

La semaine a été chargée pour Clearview AI, la société controversée de reconnaissance faciale qui utilise 3 milliards de photos récupérées sur le Web pour alimenter un moteur de recherche de visages. Le 6 avril, Buzzfeed News a publié une base de données de plus de 1 800 entités – y compris la police nationale et locale et d'autres agences financées par les contribuables telles que les systèmes de santé et les écoles publiques – qui, selon elle, ont utilisé les produits controversés de l'entreprise. Beaucoup de ces agences ont répondu aux accusations en disant qu'elles n'avaient fait qu'essayer la technologie et n'avaient aucun contrat formel avec l'entreprise.

Mais la veille, la définition d'un essai avec Clearview a été détaillée lors d'un site d'information à but non lucratif Muckrock a publié des e-mails entre le département de police de New York et l'entreprise. Les documents, obtenus grâce à des demandes d'accès à l'information de la Legal Aid Society et de la journaliste Rachel Richards, retracent une relation amicale de deux ans entre le département et la société de technologie au cours de laquelle le NYPD a testé la technologie à plusieurs reprises et a utilisé la reconnaissance faciale dans des enquêtes en direct. .

Histoire connexe

Il y a une crise de la reconnaissance faciale et de la police aux États-Unis La technologie profondément défectueuse est largement utilisée, largement hors de vue du public

Le NYPD a précédemment minimisé sa relation avec Clearview AI et son utilisation de la technologie de l'entreprise. Mais les e-mails montrent que la relation entre eux était bien développée, avec un grand nombre de policiers effectuant un volume élevé de recherches avec l'application et les utilisant dans de véritables enquêtes. Le NYPD a exécuter plus de 5 100 recherches avec Clearview AI.

Cela est particulièrement problématique car les politiques énoncées empêchent le NYPD de créer un référentiel de photos non supervisé auquel les systèmes de reconnaissance faciale peuvent faire référence et limitent l'utilisation de la technologie de reconnaissance faciale à une équipe spécifique. Les deux politiques semblent avoir été contournées avec Clearview AI. Les e-mails révèlent que le NYPD a donné à de nombreux agents extérieurs à l'équipe de reconnaissance faciale l'accès au système, qui s'appuie sur une immense bibliothèque de photos publiques provenant des médias sociaux. Les e-mails montrent également comment les agents du NYPD ont téléchargé l'application sur leurs appareils personnels, en violation de la politique indiquée, et ont utilisé le puissant et biaisé technologie de façon décontractée.

Clearview AI exécute un puissant réseau de neurones qui traite les photographies de visages et compare leur mesure précise et leur symétrie avec une énorme base de données d'images pour suggérer des correspondances possibles. On ne sait pas à quel point la technologie est précise, mais elle est largement utilisée par les services de police et d'autres agences gouvernementales. Clearview AI a été fortement critiqué pour son utilisation d'informations personnellement identifiables, sa décision de violer la vie privée des personnes en grattant des photographies sur Internet sans leur permission, et son choix de clientèle.

Les e-mails couvrent une période d'octobre 2018 à février 2020, commençant lorsque Hoan Ton-That, PDG de Clearview AI a été présenté à l'inspecteur adjoint du NYPD, Chris Flanagan. Après les premières réunions, Clearview AI a conclu un contrat de fournisseur avec le NYPD en décembre 2018 à titre d'essai qui a duré jusqu'au mois de mars suivant.

Les documents montrent que de nombreuses personnes au NYPD ont eu accès à Clearview pendant et après cette période, de la direction du département aux officiers subalternes. Tout au long des échanges, Clearview AI a encouragé une plus grande utilisation de ses services. (Voyez si vous pouvez atteindre 100 recherches, ses instructions d'intégration ont exhorté les agents.) Les e-mails montrent que les comptes d'essai pour le NYPD ont été créés jusqu'en février 2020, près d'un an après la fin de la période d'essai.

Nous avons examiné les e-mails et discuté de leur contenu avec les meilleurs experts en surveillance et en droit. Voici ce que vous devez savoir.

NYPD a menti sur l'étendue de sa relation avec Clearview AI et l'utilisation de sa technologie de reconnaissance faciale

Le NYPD a dit Nouvelles de BuzzFeed et le Poste de New York auparavant qu'il n'avait aucune relation institutionnelle avec Clearview AI, formellement ou informellement. Le département a révélé qu'il avait testé Clearview AI, mais les e-mails montrent que la technologie a été utilisée pendant une période prolongée par un grand nombre de personnes qui ont effectué un volume élevé de recherches dans le cadre d'enquêtes réelles.

Lors d'un échange, un détective travaillant dans l'unité de reconnaissance faciale du département a déclaré: L'application fonctionne très bien. Dans un autre, un officier de l'équipe de vol d'identité du NYPD a déclaré que nous continuons à recevoir des résultats positifs et que nous avons procédé à des arrestations. (Nous avons supprimé les noms complets et les adresses e-mail de ces images ; d'autres informations personnelles ont été supprimées dans les documents originaux.)

Albert Fox Cahn, directeur exécutif du Surveillance Technology Oversight Project, une organisation à but non lucratif qui plaide pour l'abolition de l'utilisation par la police de la technologie de reconnaissance faciale à New York, affirme que les dossiers contredisent clairement les déclarations publiques précédentes du NYPD sur son utilisation de Clearview AI.

Ici, nous avons un schéma d'agents qui obtiennent des comptes Clearview - pas pendant des semaines ou des mois, mais au fil des années, dit-il. Nous avons des preuves de réunions avec des responsables au plus haut niveau du NYPD, y compris la section d'identification faciale. Ce ne sont pas quelques officiers qui décident de partir et d'obtenir un compte d'essai. Il s'agissait d'une adoption systématique de la technologie de reconnaissance faciale de Clearview pour cibler les New-Yorkais.

De plus, le NYPD description de son utilisation de la reconnaissance faciale , qui est requis en vertu d'une loi récemment adoptée, indique que les enquêteurs comparent les images de sonde obtenues au cours des enquêtes avec un groupe contrôlé et limité de photographies déjà en possession du NYPD. Clearview AI est connu pour sa base de données de plus de 3 milliards de photos extrait du Web.

Le NYPD travaille en étroite collaboration avec les services d'immigration et les agents ont référé Clearview AI à l'ICE

Les documents contiennent plusieurs courriels du NYPD qui semblent être des références pour aider Clearview à vendre sa technologie au Department of Homeland Security. Deux policiers avaient à la fois des affiliations au NYPD et à la sécurité intérieure dans leur signature électronique, tandis qu'un autre officier s'est identifié comme membre d'un groupe de travail sur la sécurité intérieure.

Il semble y avoir tellement de communication, peut-être de partage de données, et tellement d'utilisation non réglementée de la technologie.

New York est désignée comme ville sanctuaire, ce qui signifie que les forces de l'ordre locales limitent leur coopération avec les agences fédérales d'immigration. En fait, la reconnaissance faciale du NYPD déclaration de politique dit que les informations ne sont pas partagées dans le cadre de l'application de la loi sur l'immigration et que l'accès ne sera pas donné à d'autres agences dans le but de renforcer l'application de la loi sur l'immigration.

Je pense que l'un des principaux points à retenir est à quel point les interactions, la surveillance et le partage de données sont anarchiques et non réglementés entre la police locale, les forces de l'ordre fédérales et les services de l'immigration, déclare Matthew Guariglia, analyste à l'Electronic Frontier Foundation. Il semble y avoir tellement de communication, peut-être de partage de données, et tellement d'utilisation non réglementée de la technologie.

Cahn dit que les e-mails sonnent immédiatement la sonnette d'alarme, d'autant plus qu'un grand nombre d'informations sur les forces de l'ordre transitent par des systèmes centraux appelés centres de fusion.

Vous pouvez prétendre que vous êtes une ville sanctuaire autant que vous voulez, mais tant que vous continuez à avoir ces groupes de travail du DHS, tant que vous continuez à avoir des centres de fusion d'informations qui permettent l'échange de données en temps réel avec le DHS, vous faites cette promesse en mensonge.

De nombreux agents ont demandé à utiliser Clearview AI sur leurs appareils personnels ou via leurs comptes de messagerie personnels

Au moins quatre agents ont demandé l'accès à l'application de Clearview sur leurs appareils personnels ou via des e-mails personnels. Les appareils du département sont étroitement réglementés et il peut être difficile de télécharger des applications sur les téléphones mobiles officiels du NYPD. Certains agents ont clairement choisi d'utiliser leurs appareils personnels lorsque les téléphones du service étaient trop restrictifs.

Clearview a répondu à cet e-mail, Bonjour William, vous devriez recevoir sous peu un e-mail de configuration dans votre boîte de réception.

Jonathan McCoy est avocat en criminalistique numérique à la Legal Aid Society et a participé au dépôt de la demande d'accès à l'information. Il a trouvé l'utilisation d'appareils personnels particulièrement gênante : ce que je retiens, c'est qu'ils essayaient activement de contourner les politiques et procédures du NYPD qui stipulent que si vous allez utiliser la technologie de reconnaissance faciale, vous devez passer par la FIS (section d'identification faciale) et ils doivent utiliser la technologie qui a déjà été approuvée par le grossiste NYPD. NYPD dispose déjà d'un système de reconnaissance faciale, fourni par une société appelée Dataworks.

Histoire connexe

L'activiste démonte les algorithmes racistes de la police Hamid Khan gagne son combat pour l'abolition de la technologie de surveillance utilisée par le LAPD

Guariglia dit que cela indique une attitude de négligence de la part du NYPD et de Clearview AI. Je serais horrifié d'apprendre que des policiers utilisaient Clearview sur leurs appareils personnels pour identifier les personnes qui ont ensuite contribué aux arrestations ou aux enquêtes officielles du NYPD, dit-il.

Les inquiétudes suscitées par ces e-mails ne sont pas que théoriques : ils pourraient permettre de récuser la police devant les tribunaux, voire de faire annuler des affaires pour non-respect de la procédure. McCoy dit que la Legal Aid Society prévoit d'utiliser les preuves des e-mails pour défendre les clients qui ont été arrêtés à la suite d'une enquête qui a utilisé la reconnaissance faciale.

Nous aurions, espérons-le, une base pour aller au tribunal et dire que toute condamnation obtenue grâce à l'utilisation du logiciel a été faite d'une manière qui n'était pas conforme aux politiques et procédures du NYPD, dit-il. Étant donné que Clearview est une technologie non testée et peu fiable, nous pourrions soutenir que l'utilisation d'une telle technologie porte atteinte aux droits de nos clients.

cacher