L'IA a une vision du monde culturellement biaisée que Google a un plan pour changer

Catégorie: Intelligence artificielle Posté 02 décembre

Google a lancé une Concours d'images inclusives , un effort pour étendre la fluidité culturelle des logiciels de reconnaissance d'images. La tâche des participants : réduire le biais dans un système de vision par ordinateur formé sur un ensemble de données d'images culturellement biaisé.

Le contexte: Les machines doivent être formées sur des quantités massives de données d'image afin de reconnaître les objets. Les progrès récents dans la reconnaissance d'images ont coïncidé avec la publication de grands ensembles de données accessibles au public, y compris ImageNet et Images ouvertes .

Le problème: Les ensembles de données les plus populaires, cependant, sont centrés sur les États-Unis et l'Occident, simplement parce que ces images occidentales dominaient Internet lorsque les ensembles de données ont été compilés. En conséquence, les systèmes entraînés sur eux échouent souvent à décrire avec précision des scènes d'autres cultures et lieux. Prenez des photos de mariage comme exemple. Un système de reconnaissance d'image standard, formé sur des ensembles de données open source, peut reconnaître une mariée vêtue d'une robe blanche, reflétant la tradition occidentale classique. Mais il ne reconnaîtra pas une mariée en sari issue d'une cérémonie indienne.

Le défi: Une façon d'atténuer ce problème consiste à créer des ensembles de données d'images plus diversifiés et représentatifs. Alors que Google poursuit cette approche, l'entreprise croit également qu'il faut avancer d'une autre manière : en ajustant les algorithmes d'apprentissage automatique eux-mêmes pour qu'ils soient plus inclusifs lors de l'apprentissage à partir de données imparfaites.

Les résultats: Organisé en partenariat avec la conférence Neural Information Processing Systems (NeurIPS), l'un des plus grands rassemblements annuels pour la recherche en IA, le concours a reçu des soumissions de plus de 100 participants. Le chercheur de Google Brain, Pallavi Baljekar, a noté lors d'une conférence le dimanche 2 décembre que la première année gagnants du concours ont pu faire de petits pas vers des systèmes plus inclusifs. Mais une seule des cinq premières approches a réussi à reconnaître une mariée indienne. Il est clair que plus de travail doit être fait.