Google Photos a toujours un problème avec les gorilles

Catégorie: Intelligence artificielle Posté 11 janvier

En 2015, Google s'était attiré des critiques lorsque son système de reconnaissance d'images Photos mal étiqueté une femme noire comme un gorille - mais deux ans plus tard, le problème n'est toujours pas correctement résolu. Au lieu de cela, Google a censuré les balises d'image relatives à de nombreux primates.

Quoi de neuf: Filaire testé Google Photos à nouveau avec un tas de photos d'animaux. Le logiciel pourrait facilement identifier des créatures allant des pandas aux caniches. Mais des images de gorilles, de chimpanzés et de chimpanzés ? Ils n'ont jamais été étiquetés. Filaire confirmé auprès de Google que ces balises sont censurées.

Mais: Certains des autres systèmes de vision par ordinateur de Google, tels que Cloud Vision, ont pu marquer correctement les photos de gorilles et fournir des réponses aux utilisateurs. Cela suggère que la suppression des balises est un mouvement de relations publiques honteux spécifique à la plate-forme.

Plus grand que la censure : Les préjugés humains existent partout dans les ensembles de données, reflétant les facettes de l'humanité que nous préférerions ne pas faire apprendre aux machines. Mais réduire et supprimer ce biais demandera beaucoup plus de travail que de simplement mettre des étiquettes sur liste noire.