Le nouveau procès qui montre la reconnaissance faciale est officiellement une question de droits civiques

ACLU

Le 9 janvier 2020, la police de Detroit s'est rendue dans la banlieue de Farmington Hill et a arrêté Robert Williams dans son allée sous les yeux de sa femme et de ses jeunes filles. Williams, un homme noir, a été accusé d'avoir volé des montres à Shinola, un magasin de luxe. Il a passé la nuit en prison.

Au cours de l'interrogatoire, un officier a montré à Williams une photo d'un suspect. Sa réponse, comme il dit à l'ACLU , était de rejeter la demande. Ce n'est pas moi, dit-il à l'officier. J'espère que vous ne pensez pas que tous les Noirs se ressemblent. Il dit que l'officier a répondu : L'ordinateur dit que c'est vous.

Histoire connexe

Que se passe-t-il lorsqu'un algorithme se trompe

La chose étrange à propos de la fausse arrestation de Robert Williams n'était pas que la police ait utilisé la reconnaissance faciale pour l'identifier. C'est qu'ils lui en ont parlé.

L'arrestation injustifiée de Williams, rapportée pour la première fois par le New York Times en août 2020 , était basé sur une mauvaise correspondance du système de reconnaissance faciale du département de police de Detroit. Deux de plus cas de fausses arrestations ont depuis été rendues publiques. Tous deux sont également des hommes noirs, et tous deux ont intenté une action en justice.

Maintenant, Williams suit leur chemin et va plus loin, non seulement en poursuivant le ministère pour son arrestation injustifiée, mais en essayant de faire interdire la technologie.

Mardi, l'ACLU et la Civil Rights Litigation Initiative de la faculté de droit de l'Université du Michigan a déposé une plainte au nom de Williams, alléguant que l'arrestation violait ses droits du quatrième amendement et était au mépris de la loi sur les droits civils du Michigan.

La poursuite demande une compensation, une plus grande transparence sur l'utilisation de la reconnaissance faciale et la fin de l'utilisation de la technologie de reconnaissance faciale par le département de police de Detroit, qu'elle soit directe ou indirecte.

Ce que dit le procès

le documents déposés mardi exposer le cas. En mars 2019, le DPD avait diffusé une photo granuleuse d'un homme noir avec une casquette rouge de la vidéo de surveillance de Shinola via son système de reconnaissance faciale, réalisé par une société appelée DataWorks Plus. Le système a renvoyé une correspondance avec une ancienne photo de permis de conduire de Williams. Les enquêteurs ont ensuite inclus la photo de licence de William dans le cadre d'une série de photos et un entrepreneur de sécurité de Shinola ( qui n'était pas réellement présent au moment du vol) a identifié Williams comme étant le voleur. Les agents ont obtenu un mandat, qui nécessite plusieurs approbations de la direction du département, et Williams a été arrêté.

La plainte fait valoir que la fausse arrestation de Williams était le résultat direct du système de reconnaissance faciale, et que cette affaire d'arrestation et d'emprisonnement injustifiés illustre le grave préjudice causé par l'utilisation abusive et la dépendance à l'égard de la technologie de reconnaissance faciale.

L'affaire contient quatre chefs d'accusation, dont trois portent sur l'absence de cause probable de l'arrestation tandis qu'un se concentre sur les disparités raciales dans l'impact de la reconnaissance faciale. En utilisant une technologie dont il est empiriquement prouvé qu'elle identifie à tort les Noirs à des taux beaucoup plus élevés que d'autres groupes de personnes, déclare-t-il, le DPD a refusé à M. Williams la pleine et égale jouissance des services, privilèges et avantages du département de police de Detroit en raison de sa race. ou couleur.

Les difficultés de la technologie de reconnaissance faciale à identifier les personnes à la peau plus foncée sont bien documenté . Après le meurtre de George Floyd à Minneapolis en 2020, certaines villes et certains États ont annoncé des interdictions et des moratoires sur l'utilisation par la police de la reconnaissance faciale. Mais beaucoup d'autres, dont Detroit, ont continué à l'utiliser malgré les inquiétudes croissantes.

S'appuyer sur des images de qualité inférieure

Lorsque la revue MIT Technology s'est entretenue avec l'avocat de l'ACLU de Williams, Phil Mayor, l'année dernière, il a souligné que les problèmes de racisme au sein des forces de l'ordre américaines rendaient l'utilisation de la reconnaissance faciale encore plus préoccupante.

Ce n'est pas une situation d'un seul mauvais acteur, a déclaré le maire. C'est une situation dans laquelle nous avons un système judiciaire pénal extrêmement rapide à inculper et extrêmement lent à protéger les droits des personnes, en particulier lorsqu'il s'agit de personnes de couleur.

Eric Williams, avocat senior à l'Economic Equity Practice à Detroit, affirme que les caméras ont de nombreuses limitations technologiques, notamment qu'elles sont codées en dur avec des gammes de couleurs pour reconnaître le teint de la peau et ne peuvent souvent tout simplement pas traiter les peaux plus foncées.

'Je pense que chaque Noir du pays a fait l'expérience d'être sur une photo et l'image devient soit plus claire, soit plus sombre.'

Je pense que chaque Noir du pays a fait l'expérience d'être sur une photo et que l'image devient soit plus claire soit plus sombre, dit Williams, qui est membre du comité des avocats de l'ACLU du Michigan mais ne travaille pas sur le Robert Affaire Williams. L'éclairage est l'un des principaux facteurs de la qualité d'une image. Ainsi, le fait que les forces de l'ordre s'appuient, dans une certaine mesure… sur des images vraiment médiocres, est problématique.

Il y a eu des cas qui ont contesté des algorithmes biaisés et des technologies d'intelligence artificielle sur la base de la race. Facebook, par exemple, a subi un audit massif des droits civils après que ses algorithmes de publicité ciblée ont été trouvés pour diffuser des publicités sur la base de la race, du sexe et de la religion. YouTube a été poursuivi en un recours collectif des créateurs noirs qui a allégué que ses systèmes d'IA profilaient les utilisateurs et censuraient ou discriminaient le contenu sur la base de la race. YouTube a également été poursuivi par des créateurs LGBTQ+ qui ont déclaré que les systèmes de modération de contenu signalé les mots gay et lesbienne.

Certains experts disent que ce n'était qu'une question de temps avant que l'utilisation d'une technologie biaisée par une grande institution comme la police ne se heurte à des contestations judiciaires.

Histoire connexe

Pourquoi 2020 a été une année charnière et contradictoire pour la reconnaissance faciale Le mouvement de justice raciale a poussé les problèmes de la technologie dans la conscience publique, mais malgré les scandales et les interdictions, sa croissance ne ralentit pas.

L'utilisation par le gouvernement de la reconnaissance faciale a clairement un impact disparate sur les personnes de couleur, déclare Adam Schwartz, avocat senior à l'Electronic Frontier Foundation. De nombreuses études montrent que cette technologie dangereuse a des taux de faux positifs beaucoup plus élevés pour les personnes de couleur que pour les personnes de race blanche. Ainsi, l'utilisation de cette technologie par le gouvernement enfreint les lois qui interdisent au gouvernement d'adopter des pratiques qui ont un impact disparate.

Mais le maire, l'avocat de Williams, s'attendait à un combat difficile. Il a déclaré l'année dernière au MIT Technology Review qu'il s'attendait à ce que le département de police de Detroit continuent d'affirmer que la reconnaissance faciale est un excellent outil d'enquête.

L'affaire Williams prouve que non. Ce n'est pas du tout, dit-il. Et en fait, cela peut nuire aux gens lorsque vous l'utilisez comme outil d'enquête.

Sous le microscope

Dans un communiqué, Lawrence Garcia, l'avocat de la ville de Détroit, a déclaré que la ville avait pour objectif de 'résoudre' l'affaire, mais a déclaré que la reconnaissance faciale n'était pas à blâmer pour la situation.

'Comme l'a expliqué le chef de la police, l'arrestation était le résultat d'une enquête de mauvaise qualité - et non d'une technologie défectueuse', a déclaré Garcia. «Le département de police de Detroit a mené une enquête interne et a été accusé d'inconduite à l'encontre de plusieurs membres du département. De nouveaux protocoles ont été mis en place par DPD pour éviter que des problèmes similaires ne se produisent.

Mais la poursuite Williams arrive à un moment critique pour la race et la police aux États-Unis. Il a été déposé alors que les avocats de la défense entamaient des plaidoiries dans le procès de Derek Chauvin, l'officier accusé du meurtre de George Floyd à Minneapolis en mai dernier – et le troisième jour des manifestations en réponse à la fusillade de Daunte Wright dans le Brooklyn Center, Minnesota. Wright, un homme noir de 20 ans, a été arrêté pour un contrôle routier et arrêté en vertu d'un mandat avant que l'agent Kim Potter ne lui tire dessus et ne le tue, prenant prétendument son arme de poing pour un taser.

Eric Williams dit qu'il est essentiel de comprendre la reconnaissance faciale dans ce contexte plus large d'échecs de la police :

Lorsque DPD a décidé d'acheter la technologie... on savait que la technologie de reconnaissance faciale avait tendance à mal identifier les personnes à la peau plus foncée avant que M. Williams ne soit arrêté, n'est-ce pas ? Malgré cela, dans une ville à plus de 80% noire, ils ont choisi d'utiliser cette technologie.

Vous accordez clairement moins de valeur à la vie, aux moyens de subsistance et aux libertés civiles des Noirs qu'aux Blancs. C'est tout simplement trop courant aux États-Unis actuels.

Cette histoire a été mise à jour pour inclure une déclaration de la ville de Detroit. Jennifer Strong a contribué au reportage de cette histoire.

cacher