211service.com
L'algorithme de diffusion d'annonces de Facebook discrimine en fonction du sexe et de la race
Mme Tech/ Logo : facebook
Les algorithmes sont biaisés – et celui de Facebook ne fait pas exception.
Pas plus tard que la semaine dernière, le géant de la technologie a été poursuivi par le Département américain du logement et du développement urbain pour avoir laissé les annonceurs cibler délibérément leurs publicités en fonction de la race, du sexe et de la religion, toutes des classes protégées par la loi américaine. La société a annoncé qu'elle cesserait d'autoriser cela.
Mais nouvelle preuve montre que l'algorithme de Facebook, qui décide automatiquement à qui une publicité est diffusée, effectue de toute façon la même discrimination, diffusant des publicités à plus de deux milliards d'utilisateurs sur la base de leurs informations démographiques.
Une équipe dirigée par Muhammad Ali et Piotr Sapiezynski de la Northeastern University a diffusé une série d'annonces par ailleurs identiques avec de légères variations dans le budget disponible, le titre, le texte ou l'image. Ils ont constaté que ces ajustements subtils avaient des impacts significatifs sur le public atteint par chaque annonce, notamment lorsque les annonces concernaient des emplois ou des biens immobiliers. Les postes d'enseignants et de secrétaires du préscolaire, par exemple, ont été montrés à une proportion plus élevée de femmes, tandis que les postes de concierges et de chauffeurs de taxi ont été montrés à une proportion plus élevée de minorités. Les annonces sur les maisons à vendre ont également été diffusées auprès d'un plus grand nombre d'utilisateurs blancs, tandis que les annonces de location ont été diffusées auprès d'un plus grand nombre de minorités.
Nous avons apporté des changements importants à nos outils de ciblage publicitaire et savons que ce n'est qu'une première étape, un porte-parole de Facebook mentionné dans une déclaration en réponse aux conclusions. Nous avons examiné notre système de diffusion de publicités et avons engagé des leaders de l'industrie, des universitaires et des experts des droits civils sur ce sujet précis, et nous explorons d'autres changements.
À certains égards, cela ne devrait pas être surprenant - le biais dans les algorithmes de recommandation est un problème connu depuis de nombreuses années. En 2013, par exemple, Latanya Sweeney, professeur de gouvernement et de technologie à Harvard, a publié un article qui montrait la discrimination raciale implicite de l'algorithme de diffusion d'annonces de Google. Le problème revient au fonctionnement fondamental de ces algorithmes. Tous sont basés sur l'apprentissage automatique, qui trouve des modèles dans d'énormes quantités de données et les réapplique pour prendre des décisions. Il existe de nombreuses façons dont les préjugés peuvent s'infiltrer au cours de ce processus, mais les deux plus apparentes dans le cas de Facebook concernent des problèmes lors de la définition des problèmes et de la collecte de données.
Un biais se produit lors de la définition du problème lorsque l'objectif d'un modèle d'apprentissage automatique n'est pas aligné sur la nécessité d'éviter la discrimination. L'outil publicitaire de Facebook permet aux annonceurs de choisir parmi trois objectifs d'optimisation : le nombre de vues qu'une publicité obtient, le nombre de clics et le niveau d'engagement qu'elle reçoit, et la quantité de ventes qu'elle génère. Mais ces objectifs commerciaux n'ont rien à voir avec, disons, le maintien de l'égalité d'accès au logement. En conséquence, si l'algorithme découvrait qu'il pouvait gagner plus d'engagement en montrant plus de maisons d'utilisateurs blancs à l'achat, il finirait par discriminer les utilisateurs noirs.
Un biais se produit lors de la collecte de données lorsque les données de formation reflètent des préjugés existants. L'outil publicitaire de Facebook fonde ses décisions d'optimisation sur les préférences historiques dont les gens ont fait preuve. Si plus de minorités interagissaient avec des annonces de location dans le passé, le modèle d'apprentissage automatique identifiera ce modèle et le réappliquera à perpétuité. Une fois de plus, il s'engagera aveuglément sur la voie de la discrimination en matière d'emploi et de logement, sans qu'on lui dise explicitement de le faire.
Bien que ces comportements dans l'apprentissage automatique soient étudiés depuis un certain temps, la nouvelle étude offre un aperçu plus direct de l'étendue de son impact sur l'accès des personnes au logement et aux opportunités d'emploi. Ces découvertes sont explosives ! Christian Sandvig, directeur du Center for Ethics, Society, and Computing de l'Université du Michigan, Raconté L'économiste. Le journal nous dit que [...] les mégadonnées, utilisées de cette façon, ne pourront jamais nous donner un monde meilleur. En fait, il est probable que ces systèmes aggravent le monde en accélérant les problèmes dans le monde qui rendent les choses injustes.
La bonne nouvelle est qu'il existe peut-être des moyens de résoudre ce problème, mais ce ne sera pas facile. De nombreux chercheurs en intelligence artificielle recherchent actuellement des solutions techniques au biais d'apprentissage automatique qui pourraient créer des modèles plus justes de publicité en ligne. Une récente papier de l'Université de Yale et de l'Indian Institute of Technology, par exemple, suggère qu'il pourrait être possible de contraindre les algorithmes à minimiser les comportements discriminatoires, bien qu'à un faible coût pour les revenus publicitaires. Mais les décideurs politiques devront jouer un rôle plus important si les plateformes doivent commencer à investir dans de tels correctifs, surtout si cela peut affecter leur résultat net.
Ceci est apparu à l'origine dans notre newsletter AI The Algorithm. Pour le recevoir directement dans votre boîte de réception, inscrivez-vous ici gratuitement.