Rendre la reconnaissance faciale moins biaisée ne la rend pas moins effrayante

Busà Photographie/Getty

Au cours des dernières années, il y a eu une augmentation spectaculaire de l'adoption de la technologie de reconnaissance, de détection et d'analyse des visages.

Vous êtes probablement le plus familier avec reconnaissance systèmes, comme le recommandateur de marquage de photos de Facebook et FaceID d'Apple, qui peuvent identifier des individus spécifiques. Détection les systèmes, d'autre part, déterminent si un visage est présent ou non ; et Analyse les systèmes tentent d'identifier des aspects comme le sexe et la race. Tous ces systèmes sont maintenant utilisés à diverses fins, de la embauche et la vente au détail à Sécurité et surveillance .

De nombreuses personnes pensent que ces systèmes sont à la fois très précis et impartiaux. La logique veut que le personnel de sécurité des aéroports puisse se fatiguer et que la police puisse mal juger les suspects, mais un système d'IA bien formé devrait être capable d'identifier ou de catégoriser de manière cohérente toute image d'un visage.

Mais dans la pratique, la recherche a montré à plusieurs reprises que ces systèmes traitent certains groupes démographiques de manière beaucoup plus imprécise que d'autres. L'année dernière, Nuances de genre , une étude phare menée par Joy Buolamwini, chercheuse au MIT Media Lab, a révélé que les systèmes de classification par sexe vendus par IBM, Microsoft et Face++ avaient un taux d'erreur jusqu'à 34,4 points de pourcentage plus élevé pour les femmes à la peau plus foncée que pour les hommes à la peau plus claire. L'ACLU de Californie du Nord trouvé de la même manière que la plate-forme d'Amazon était plus susceptible d'identifier à tort les membres non blancs que les membres blancs du Congrès.

Le problème est que les systèmes de reconnaissance et d'analyse des visages sont souvent formés sur des ensembles de données biaisés : ils reçoivent beaucoup moins d'images de femmes et de personnes à la peau foncée que d'images d'hommes et de personnes à la peau claire. Et bien que beaucoup d'entre eux soient censés être testés pour leur équité, ces tests ne vérifient pas les performances sur une gamme suffisamment large de visages, comme l'a constaté Buolamwini. Ces disparités perpétuent et enracinent davantage les injustices existantes et entraînent des conséquences qui ne font qu'empirer à mesure que les enjeux augmentent.

Trois nouveaux articles publiés la semaine dernière attirent désormais l'attention sur cette question. Voici une brève description de chacun d'eux.

Papier #1. Jeudi dernier, Buolamwini publié une mise à jour de Gender Shades en testant à nouveau les systèmes qu'elle avait précédemment examinés et en élargissant son examen pour inclure la reconnaissance d'Amazon et un nouveau système d'une petite société d'intelligence artificielle appelée Kairos. Il y a quelques bonnes nouvelles. Elle a constaté qu'IBM, Face ++ et Microsoft ont tous amélioré la précision de leur classification par sexe pour les femmes à la peau plus foncée, Microsoft réduisant son taux d'erreur à moins de 2 %. D'autre part, les plates-formes d'Amazon et de Kairos présentaient toujours des écarts de précision de 31 et 23 points de pourcentage, respectivement, entre les hommes plus clairs et les femmes plus foncées. Buolamwini mentionné l'étude montre que ces technologies doivent faire l'objet d'un audit externe pour les tenir techniquement responsables.

Papier #2. Dimanche, un étudier du MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) a démontré l'efficacité d'un nouvel algorithme pour atténuer les biais dans un système de détection de visage même lorsqu'il est formé sur des données fortement biaisées. Au fur et à mesure qu'il s'entraîne, il identifie également les exemples dans les données qui sont sous-représentés et passe plus de temps à les examiner pour compenser. Lorsque les chercheurs ont testé le système par rapport à l'ensemble de données Gender Shades de Buolamwini, ils ont constaté qu'il aidait à combler leur plus grand écart de précision, entre les hommes à la peau plus claire et plus foncée, par rapport à un algorithme d'entraînement standard (bien qu'il ne l'élimine pas complètement) .

Papier #3. Ce matin, IBM Research a publié un papier qui identifie des dizaines de caractéristiques pour mesurer la diversité au-delà de la couleur de la peau et du sexe, y compris la hauteur de la tête, la largeur du visage, la distance intra-oculaire et l'âge. Les résultats sont basés sur des recherches antérieures sur les visages humains. À moins que nous ayons des mesures de la diversité faciale, dit John Smith, l'un des coauteurs de l'article, nous ne pouvons pas revenir et les appliquer pendant que nous formons ces systèmes de reconnaissance faciale. Parallèlement, l'équipe a publié un nouvel ensemble de données avec 1 million d'images de visages, annotées avec ces nouvelles mesures.

Différentes mesures de la diversité faciale, présentées dans le nouvel article d'IBM Research. Recherche IBM

Chacune de ces études a pris des mesures importantes pour lutter contre les biais dans la reconnaissance faciale, en tenant les entreprises responsables, en créant de nouveaux algorithmes et en élargissant notre compréhension de la diversité des données. Mais créer des systèmes plus justes et plus précis n'est que la moitié de la bataille.

Même les systèmes les plus justes et les plus précis peuvent encore être utilisés pour porter atteinte aux libertés civiles des personnes. L'année dernière, un Daily Beast enquête a constaté qu'Amazon présentait activement sa plate-forme de surveillance faciale à l'Immigration and Customs Enforcement des États-Unis, mieux connue sous le nom d'ICE, pour l'aider à réprimer les communautés de migrants. Une interception enquête a également constaté qu'IBM avait développé la capacité d'identifier l'origine ethnique des visages dans le cadre d'un partenariat à long terme avec le département de police de New York. Cette technologie a ensuite été déployée dans des caméras de surveillance publiques pour des tests, à l'insu des habitants de la ville. Déjà, la police métropolitaine britannique utilise la reconnaissance faciale pour scanner les foules publiques pour les personnes sur les listes de surveillance, et la Chine l'utilise pour surveillance de masse de tous les résidents, notamment à des fins de suivi des dissidents.

En réponse à la prolifération rapide de ces systèmes, un nombre croissant de militants des droits civiques et technologues ont demandé qu'ils soient réglementés; Google a même suspendu sa vente de tels systèmes jusqu'à ce qu'il dispose de stratégies claires pour prévenir leur abus.

Sans justice algorithmique, la précision algorithmique/l'équité technique peut créer des outils d'IA qui sont militarisés, dit Buolamwini.

Cette histoire a paru à l'origine dans notre newsletter AI The Algorithm. Pour le recevoir directement dans votre boîte de réception, inscrivez-vous ici gratuitement.

cacher