Une étude du gouvernement américain confirme que la plupart des systèmes de reconnaissance faciale sont racistes

Catégorie: Intelligence artificielle Posté 20 décembre

Selon un étude historique .

Ce qu'ils ont testé : Le National Institute of Standards and Technology (NIST) des États-Unis a testé chaque algorithme sur deux des tâches les plus courantes de reconnaissance faciale. La première, connue sous le nom de correspondance un à un, consiste à faire correspondre une photo de quelqu'un à une autre photo de la même personne dans une base de données. Ceci est utilisé pour déverrouiller les smartphones ou vérifier les passeports, par exemple. La seconde, connue sous le nom de recherche un-à-plusieurs, consiste à déterminer si une photo de quelqu'un a une correspondance dans une base de données. Ceci est souvent utilisé par les services de police pour identifier les suspects dans une enquête.

L'agence a étudié quatre ensembles de données faciales actuellement utilisés dans les applications du gouvernement américain : des photos d'identité de personnes vivant aux États-Unis ; photos d'application de personnes demandant des prestations d'immigration ; photos d'application de personnes demandant des visas ; et des photos de personnes alors qu'elles traversaient la frontière vers les États-Unis. Au total, les ensembles de données comprenaient 18,27 millions d'images de 8,49 millions de personnes.

Ce qu'ils ont trouvé : Le NIST a partagé des résultats de haut niveau de l'étude. Les principaux :

1. Pour l'appariement un à un, la plupart des systèmes avaient un taux plus élevé de faux positifs pour les visages asiatiques et afro-américains que pour les visages caucasiens, parfois d'un facteur 10 ou même 100. En d'autres termes, ils étaient plus susceptibles de trouver une correspondance alors qu'il n'y en avait pas.

2. Cela a changé pour les algorithmes de reconnaissance faciale développés dans les pays asiatiques, qui produisaient très peu de différence dans les faux positifs entre les visages asiatiques et caucasiens.

3. Les algorithmes développés aux États-Unis étaient tous systématiquement mauvais pour faire correspondre les visages asiatiques, afro-américains et amérindiens. Les Amérindiens ont subi les taux de faux positifs les plus élevés.

4. Les systèmes d'appariement un à plusieurs avaient les pires taux de faux positifs pour les femmes afro-américaines, ce qui expose cette population au risque le plus élevé d'être faussement accusée d'un crime.

Pourquoi c'est important : L'utilisation des systèmes de reconnaissance faciale se développe rapidement dans l'application de la loi, le contrôle des frontières et d'autres applications dans l'ensemble de la société. Alors que plusieurs études universitaires ont déjà montré que les systèmes commerciaux populaires étaient biaisés en fonction de la race et du sexe, l'étude du NIST est l'évaluation la plus complète à ce jour et confirme ces résultats antérieurs. Les résultats remettent en question la question de savoir si ces systèmes devraient continuer à être aussi largement utilisés.

Prochaines étapes: Il appartient maintenant aux décideurs politiques de trouver la meilleure façon de réglementer ces technologies. Le NIST exhorte également les développeurs de reconnaissance faciale à mener davantage de recherches sur la manière dont ces biais pourraient être atténués.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.