Nous pourrions voir une réglementation fédérale sur la reconnaissance faciale dès la semaine prochaine

AP Photo/John Minchillo, Dossier

Le 10 mai, 40 groupes de défense ont envoyé une lettre ouverte exigeant une interdiction permanente sur l'utilisation du logiciel de reconnaissance faciale d'Amazon, Rekognition, par la police américaine. La lettre était adressée à Jeff Bezos et Andy Jassy, ​​les PDG actuels et entrants de la société, et est arrivée quelques semaines seulement avant Moratoire d'un an d'Amazon sur les ventes aux forces de l'ordre devait expirer.

La lettre mettait en contraste le soutien vocal de Bezos et Jassy aux militants de Black Lives Matter lors des manifestations de justice raciale de l’été dernier après le meurtre de George Floyd avec le fait que d'autres produits Amazon ont été utilisés par les forces de l'ordre pour identifier les manifestants .

Le 17 mai, Amazon annoncé il prolongerait son moratoire indéfiniment, rejoignant les concurrents IBM et Microsoft dans un purgatoire autorégulé. Cette décision est un clin d'œil au pouvoir politique des groupes qui luttent pour freiner la technologie et la reconnaissance que de nouveaux champs de bataille législatifs commencent à émerger. Nombreux sont ceux qui croient qu'une importante législation fédérale devrait bientôt arriver.

Les gens sont épuisés

L'année écoulée a été essentiel pour la reconnaissance faciale , avec des révélations sur le rôle de la technologie dans fausses arrestations , et les interdictions mises en place par presque deux douzaines de villes et sept états à travers les États-Unis. Mais l'élan a changé depuis un certain temps.

En 2018, des chercheurs en IA ont publié une étude comparant la précision des logiciels commerciaux de reconnaissance faciale d'IBM, Microsoft et Face++. Leur travail a révélé que la technologie identifiait les hommes à la peau plus claire avec beaucoup plus de précision que les femmes à la peau plus foncée ; Le système d'IBM a obtenu le pire score, avec une différence de taux d'erreur de 34,4 % entre les deux groupes.

Toujours en 2018, l'ACLU a testé la Rekognition d'Amazon et a constaté qu'il avait identifié à tort 28 membres du Congrès comme des criminels - une erreur affectant de manière disproportionnée les personnes de couleur. L'organisation a écrit sa propre lettre ouverte à Amazon , exigeant que l'entreprise interdise l'utilisation de la technologie par le gouvernement, tout comme le Congressional Black Caucus – mais Amazon n'a fait aucun changement.

(Un porte-parole d'Amazon a renvoyé MIT Technology Review à un réfutation publié en juillet 2018 qui expose les problèmes rencontrés par la société avec la précision et les méthodes du test de l'ACLU.)

'Si nous voulons nous engager en faveur de l'équité raciale dans le système de justice pénale … ​​l'une des choses les plus simples et les plus claires que vous puissiez faire est de mettre fin à l'utilisation de la technologie de reconnaissance faciale.'

Kate Ruane, ACLU

Lors des mouvements de justice raciale contre la brutalité policière l'été dernier, cependant, Amazon en a surpris beaucoup en annonçant qu'il mettait fin à l'utilisation de Rekognition par la police, à l'exception des agents fédéraux chargés de l'application des lois tels que l'ICE. L'annonce de la société a indiqué qu'elle espérait que la pause donnerait au Congrès suffisamment de temps pour mettre en place des règles appropriées.

Evan Greer est le directeur de Fight for the Future, un groupe de défense des technologies qui croit en l'abolition de la technologie de reconnaissance faciale et affirme que le public soutient de plus en plus sa réglementation. Elle dit que la prolongation du moratoire de cette semaine montre qu'Amazon réagit à cette énorme pression qu'ils subissent, pas seulement autour de la reconnaissance faciale, ajoutant, j'accorde vraiment un énorme crédit aux soulèvements nationaux pour la justice raciale qui se sont produits au cours de la dernière année et demi.

Une réalité politique

Bien qu'il y ait une pression croissante sur les grands fournisseurs de technologie, la réalité est que la plupart des utilisateurs des forces de l'ordre et du gouvernement n'achètent pas de logiciels de reconnaissance faciale auprès d'entreprises comme Amazon. Ainsi, bien que les moratoires et les interdictions soient les bienvenus pour les groupes de défense, ils n'empêchent pas nécessairement l'utilisation des technologies. Le Congrès, quant à lui, n'a pas encore adopté de législation fédérale sur la reconnaissance faciale dans les forces de l'ordre, le gouvernement ou les environnements commerciaux qui réglementerait les petits fournisseurs.

Certains espèrent cependant que la législation fédérale arrivera bientôt, soit par une action directe du Congrès, soit par un décret présidentiel, soit par des projets de loi sur les crédits et la réforme de la police.

Je pense que le meilleur scénario est que le Congrès adopte un moratoire sur son utilisation, déclare Kate Ruane, conseillère législative principale à l'ACLU. Elle pense que de nouvelles utilisations ne devraient être autorisées qu'après plus de travail législatif.

Plusieurs projets de loi fédéraux ont déjà été proposés qui limiteraient l'accès à la reconnaissance faciale.

• le Loi moratoire sur la reconnaissance faciale et la technologie biométrique appelle à interdire l'utilisation du logiciel par toutes les entités fédérales et à retenir l'argent des subventions fédérales à toutes les autorités étatiques et locales qui n'adoptent pas leur propre moratoire. Il a été proposé par quatre membres démocrates du Congrès et présenté au Sénat l'année dernière.
• le Loi sur la justice dans la police de George Floyd empêcherait l'utilisation de la reconnaissance faciale dans les caméras corporelles. Le projet de loi a déjà été adopté à la Chambre et devrait parvenir au Sénat la semaine prochaine. Le président Biden a demandé que le projet de loi soit adopté avant l'anniversaire de la mort de George Floyd le 25 mai.
• le Loi sur le quatrième amendement n'est pas à vendre , un projet de loi bipartite présenté par 18 sénateurs, empêche le gouvernement de travailler avec des fournisseurs de technologie qui enfreignent les conditions de service. En pratique, cela empêcherait en grande partie l'accès du gouvernement aux systèmes qui se livrent au web scraping, tels que Clearview AI .

Mutale Nkonde, PDG fondateur d'AI for the People, une organisation à but non lucratif qui défend la justice raciale dans la technologie, pense que nous verrons probablement une législation fédérale supplémentaire d'ici les élections de mi-mandat l'année prochaine.

Je pense qu'il y aura une législation fédérale qui régira tous les systèmes algorithmiques, y compris la reconnaissance faciale, dit Nkonde. Je pense que c'est une réalité politique.

Nkonde dit que le concept d'évaluations d'impact qui évaluent les systèmes technologiques sur la base des droits civils gagne du terrain dans les cercles politiques des deux côtés de l'allée.

L'ACLU fait pression sur l'administration Biden pour un décret exécutif, et elle a récemment a publié une lettre avec 40 autres groupes demandant une interdiction immédiate de l'utilisation de la technologie par le gouvernement.

Si nous nous engageons en faveur de la justice raciale, si nous nous engageons en faveur de l'équité raciale dans le système de justice pénale, nous allons nous engager dans ce genre de réformes, l'une des choses les plus simples et les plus claires que vous puissiez faire est de mettre fin l'utilisation de la technologie de reconnaissance faciale, explique Ruane.

Les gens sont juste plus radicaux

En attendant, Ruane s'attend à ce que l'autorégulation reste l'une des méthodes les plus efficaces pour empêcher l'utilisation étendue de la reconnaissance faciale. Il est plausible que des agences fédérales telles que les ministères du Logement, de la Sécurité intérieure et de l'Éducation envisagent d'imposer des règles interdisant l'utilisation de la technologie. .

Nkonde est optimiste sur le fait que les moratoires se transformeront en interdictions et en une législation plus permanente : je pense que les moratoires semblaient être ce qui était possible avant que George Floyd ne soit tué. Après cela, les gens sont simplement plus radicaux.

Mais Greer prévient que malgré tout l'élan contre la reconnaissance faciale, une législation qui se concentre fortement sur la précision raciale des systèmes pourrait ne pas résoudre des problèmes plus profonds. Je pense que ce serait une erreur si les décideurs politiques considéraient la précision comme le seul problème de reconnaissance faciale à résoudre, dit-elle. L'industrie serait en fait très satisfaite d'un projet de loi qui, par exemple, dirait quelque chose comme 'Si vous vendez un système de reconnaissance faciale, il doit être précis à 99 % sur des personnes de toutes races et de toutes couleurs de peau'.

Même si le biais n'est pas intégré au système, vous avez toujours un système de police biaisé qui est maintenant accéléré et en quelque sorte suralimenté avec cette technologie, ajoute-t-elle.

Cette histoire a été mise à jour pour inclure la réfutation d'Amazon au test de l'ACLU du système Rekognition d'Amazon en 2018.

cacher