Facebook dit qu'il recherchera les préjugés raciaux dans ses algorithmes

Catégorie: Intelligence artificielle Posté 22 juil.

Les nouvelles: Facebook dit qu'il s'installe de nouvelles équipes internes pour rechercher les préjugés raciaux dans les algorithmes qui pilotent son principal réseau social et Instagram, selon le Wall Street Journal. En particulier, les enquêtes porteront sur les effets néfastes de l'apprentissage automatique, qui peut encoder le racisme implicite dans les données de formation - sur les Noirs, les Hispaniques et d'autres groupes minoritaires.

Pourquoi est-ce important: Ces dernières années, de plus en plus de chercheurs et de militants ont mis en lumière le problème de biais dans l'IA et le impact disproportionné sur les minorités . Facebook, qui utilise l'apprentissage automatique pour organiser l'expérience quotidienne de ses 2,5 milliards d'utilisateurs, est bien en retard pour une évaluation interne de ce type. Il existe déjà des preuves que les algorithmes de diffusion d'annonces de Facebook discriminer selon la race et permettre aux annonceurs d'empêcher des groupes raciaux spécifiques de voir leurs publicités, par exemple.

Sous pression: Facebook a l'habitude d'esquiver les accusations de partialité dans ses systèmes. Il a fallu plusieurs années de mauvaise presse et de pression des groupes de défense des droits civiques pour en arriver là. Facebook a mis en place ces équipes après un boycott publicitaire d'un mois organisé par des groupes de défense des droits civiques - dont la Ligue anti-diffamation, Color of Change et la NAACP - qui a conduit de gros dépensiers comme Coca-Cola, Disney, McDonald's et Starbucks à suspendre leurs campagnes.

Pas de solution facile : Le déménagement est le bienvenu. Mais lancer une enquête est loin de résoudre réellement le problème des préjugés raciaux, surtout lorsque personne ne sait vraiment comment le résoudre. Dans la plupart des cas, un biais existe dans les données de formation et il n'y a pas de bons moyens convenus pour le supprimer. Et ajuster ces données, une forme de action affirmative algorithmique - est controversé. Le biais d'apprentissage automatique n'est également qu'un des problèmes des médias sociaux en matière de race. Si Facebook examine ses algorithmes, cela devrait faire partie d'une refonte plus large qui s'attaque également aux politiques qui donnent des plates-formes aux politiciens racistes, aux groupes suprématistes blancs et aux négationnistes de l'Holocauste.

'Nous continuerons à travailler en étroite collaboration avec l'équipe d'IA responsable de Facebook pour nous assurer que nous examinons les biais potentiels sur nos plateformes respectives', a déclaré Stephanie Otway, porte-parole d'Instagram. 'Ce n'est que le début et nous prévoyons de partager plus de détails sur ce travail dans les mois à venir.'