Les systèmes de reconnaissance faciale sont-ils précis ? Dépend de votre race.

Tout ce que nous savons sur les systèmes de reconnaissance faciale utilisés par le FBI et la police suggère que le logiciel a un préjugé racial intégré. Ce n'est pas exprès - c'est un artefact de la façon dont les systèmes sont conçus et des données sur lesquelles ils sont formés. Mais c'est problématique. Les forces de l'ordre s'appuient de plus en plus sur ces outils pour faciliter les enquêtes criminelles, ce qui augmente le risque que quelque chose tourne mal.

Les organismes chargés de l'application de la loi n'ont pas fourni beaucoup de détails sur la façon dont ils utilisent les systèmes de reconnaissance faciale, mais en juin, le Government Accountability Office a publié un rapport indiquant que le FBI n'avait pas correctement testé la précision de son système d'appariement des visages, ni celle du vaste réseau de bases de données d'appariement de visages au niveau de l'État auxquelles il peut accéder.

Et bien que les systèmes d'appariement de visages à la pointe de la technologie puissent être précis à près de 95% sur les bases de données de mugshots, ces photos sont prises dans des conditions contrôlées avec des sujets généralement coopératifs. Les images prises dans des circonstances moins qu'idéales, comme un mauvais éclairage, ou qui capturent des poses et des expressions faciales inhabituelles, peuvent entraîner des erreurs.

Illustration de Sophia Foster-Dimino

Les algorithmes peuvent également être biaisés en raison de la façon dont ils sont formés, dit Anil Jaïn , chef du groupe de recherche en biométrie à la Michigan State University. Pour fonctionner, le logiciel d'appariement de visage doit d'abord apprendre à reconnaître les visages à l'aide de données d'entraînement, un ensemble d'images qui donne au logiciel des informations sur la façon dont les visages diffèrent. Si un sexe, un groupe d'âge ou une race est sous-représenté dans les données d'entraînement, cela se reflétera dans les performances de l'algorithme, explique Jain.

En 2012, Jain et plusieurs collègues ont utilisé une série de clichés du bureau du shérif du comté de Pinellas en Floride pour examiner les performances de plusieurs systèmes de reconnaissance faciale disponibles dans le commerce, y compris ceux de fournisseurs qui fournissent les forces de l'ordre. Les algorithmes étaient toujours moins précis sur les femmes, les Afro-Américains et les jeunes. Apparemment, ils ont été formés sur des données qui n'étaient pas assez représentatives de ces groupes, dit Jain.

Si votre ensemble d'entraînement est fortement biaisé en faveur d'une race particulière, votre algorithme reconnaîtra mieux cette race, dit Alice O’Toole , responsable du laboratoire de recherche sur la perception des visages à l'Université du Texas à Dallas. O'Toole et plusieurs collègues trouvé en 2011 qu'un algorithme développé dans les pays occidentaux était meilleur pour reconnaître les visages caucasiens que pour reconnaître les visages d'Asie de l'Est. De même, les algorithmes d'Asie de l'Est ont mieux performé sur les visages d'Asie de l'Est que sur ceux de race blanche.

Au cours des années qui se sont écoulées depuis ces études, la précision des algorithmes commerciaux s'est considérablement améliorée dans de nombreux domaines, et Jain affirme que les écarts de performances entre les différents sexes et races peuvent s'être réduits. Mais si peu d'informations sur les tests sont disponibles, il est difficile de le savoir. Les nouvelles approches de reconnaissance faciale, telles que les systèmes d'apprentissage en profondeur que Google et Facebook ont ​​développés, peuvent commettre le même type d'erreurs si les données de formation sont déséquilibrées, dit-il.

Jonathon Phillips, ingénieur en électronique à l'Institut national des normes et de la technologie, effectue des tests de performance d'algorithmes commerciaux. Il dit qu'il est possible de concevoir un test pour mesurer les préjugés raciaux dans les systèmes d'appariement des visages. En fait, les experts en protection de la vie privée ont appeler pour faire de ces tests une exigence.

Le FBI et MorphoTrust, le fournisseur qui fournit le logiciel de reconnaissance faciale du bureau, n'ont pas répondu aux questions par courrier électronique de Examen de la technologie MIT quant à savoir s'ils testent les performances de leurs algorithmes par race, sexe ou âge.

Les arrangements entre les vendeurs et les nombreux organismes d'application de la loi des États utilisant la reconnaissance faciale ne sont pas non plus clairs. Mais Pete Langenfeld, responsable de l'analyse et de l'identification numériques pour la police de l'État du Michigan, affirme que son organisation ne teste pas l'exactitude spécifique au groupe. Il a dit qu'il ne savait pas non plus si le fournisseur qui a fourni la technologie effectuait de tels tests, mais a ajouté qu'il s'agissait d'informations exclusives et que la société n'était pas tenue de divulguer ces informations.

cacher