Le nouveau détecteur de sourire AI de Google montre comment embrasser la race et le sexe peut réduire les préjugés

Catégorie: Non classé Posté 04 décembre

La vision par ordinateur devient de plus en plus efficace pour reconnaître différentes expressions faciales, mais pour certains groupes qui ne sont pas suffisamment représentés dans les ensembles de données d'entraînement, comme les minorités raciales ou les femmes aux traits androgynes, les algorithmes peuvent encore être sous-performants.

Un nouvel article publié dans arXiv par les chercheurs de Google a amélioré les algorithmes de détection de sourire à la pointe de la technologie en incluant et en formant des classificateurs raciaux et de genre dans leur modèle. Le classificateur racial a été formé sur quatre sous-groupes raciaux et deux sur le sexe (les chercheurs n'ont pas nommé les groupes raciaux, mais les images semblent être composées de personnes asiatiques, noires, hispaniques et blanches).

Leur méthode a atteint une précision de près de 91% pour détecter les sourires dans l'ensemble de données Faces of the World (FotW), un ensemble de 13 000 images de visages collectées sur le Web qui est parfois utilisé comme référence pour de tels algorithmes. Cela représente une amélioration d'un peu plus de 1,5 % par rapport à la marque précédente. Les résultats ont montré une précision globale améliorée dans tous les domaines, montrant que prêter attention à la race et au sexe peut donner de meilleurs résultats que d'essayer de créer un algorithme daltonien.

De nombreux chercheurs hésitent à inclure des classificateurs comme celui-ci sous l'hypothèse qu'il est plus facile d'être coupable de parti pris (ou du moins d'en être accusé) lorsque votre système a des catégories raciales ou de genre explicites. Les résultats de l'équipe de Google prouvent que l'effort déployé pour former des classificateurs raciaux ou de genre peut en fait réduire le problème de biais. Les chercheurs ont également utilisé des classifications telles que Genre 1 et Genre 2 pour éviter d'introduire autant que possible des préjugés sociétaux inconscients.

Même avec les résultats prometteurs et le soin apporté à être conscients des préjugés sous toutes leurs formes, les chercheurs ont inclus une section dans leur article intitulée Considérations éthiques, dans laquelle ils prennent soin de noter que leur travail n'est pas destiné à motiver la race et le sexe. l'identification comme finalité. Ils soulignent également qu'il n'y a pas d'étalon-or pour décomposer les catégories raciales, et que le genre devrait peut-être être considéré comme un spectre dans les travaux futurs, plutôt qu'un état binaire.