L'économie du gig est-elle truquée ?

Illustration par Matthew Hollister

Les applications et les sites qui peuvent être utilisés pour embaucher des personnes pour des tâches individuelles telles que faire l'épicerie ou concevoir un nouveau logo ont pris leur essor ces dernières années, promettant un marché de l'emploi plus efficace et plus équitable. Cependant, une nouvelle étude de la Northeastern University à Boston suggère que la discrimination raciale et sexuelle pourrait être courante sur deux plates-formes populaires d'économie de concerts.

Des chercheurs dirigés par Christo Wilson , professeur adjoint à Northeastern, et Ancsa Hannak , doctorant, a examiné TaskRabbit, une plateforme d'embauche de personnes pour faire des courses, et Fiverr, une place de marché pour les services créatifs. Dans les deux cas, ils ont trouvé des preuves de préjugés selon les critères raciaux et sexistes.

Ce n'est qu'un exemple de la façon dont les préjugés s'infiltrent dans les plateformes et les services en ligne. Et c'est troublant parce que l'économie des concerts promettait d'être non seulement plus efficace et flexible, mais aussi moins biaisée, puisque les algorithmes font le travail de connecter les gens.

Sur Fiverr, les chercheurs ont trouvé des preuves que les travailleurs noirs et asiatiques recevaient des notes inférieures à celles des Blancs. Et sur TaskRabbit, les femmes ont reçu moins d'avis que les hommes, et les travailleurs noirs ont reçu des notes plus faibles que les blancs. Peut-être le plus troublant, les chercheurs ont également trouvé des preuves d'un tel biais dans l'algorithme de recommandation sur TaskRabbit. La recherche sera présentée lors d'une conférence universitaire à New York cette semaine.

Il est impossible de dire avec certitude que la corrélation identifiée par Wilson et Hannák est due à des préjugés raciaux et sexistes de la part des recruteurs, par opposition à un facteur de confusion inconnu, mais Wilson dit que la tendance est préoccupante. On nous dit que c'est l'avenir du travail, dit-il. Si vous allez déployer un algorithme qui sera utilisé par des millions de personnes, vous avez une sorte de responsabilité envers le public d'examiner ce que vous déployez, de l'évaluer et de voir s'il va avoir l'un de ces effets secondaires négatifs.

Un porte-parole de Fiverr affirme que la méthodologie de l'étude était défectueuse en ce qu'elle ignore des facteurs tels que les frontières internationales et les différences linguistiques. Elle note également que les utilisateurs n'ont pas à fournir d'informations démographiques pour utiliser le service, ce qui permet d'éviter facilement la discrimination. TaskRabbit n'a pas répondu à une demande de commentaire.

Il existe cependant de plus en plus de preuves que les préjugés peuvent affecter toutes sortes de services numériques. Le mois dernier, des chercheurs du MIT, de Stanford et de l'Université de Washington découvert que que les chauffeurs d'Uber à Boston annulaient plus souvent les trajets pour les clients aux noms à consonance afro-américaine, et que les clients noirs d'Uber à Seattle faisaient face à des temps d'attente plus longs que leurs homologues blancs. Dans une étude publiée l'an dernier, des chercheurs de la CMU trouvé des preuves que les annonces pour des emplois bien rémunérés étaient diffusées plus souvent aux hommes qu'aux femmes.

Dans de nombreux cas, le biais observé ne fait que refléter ce qui se trouve dans le monde réel, comme les préjugés conscients et inconscients que les employeurs peuvent apporter aux décisions d'embauche. Ainsi, pour les moteurs de recommandation ou les systèmes d'apprentissage automatique, la question est de savoir comment éliminer les biais, soit des ensembles de données alimentés par les algorithmes, soit des algorithmes eux-mêmes.

Les gens ont cette idée que parce que c'est un ordinateur, c'est neutre, ajoute Wilson. Si vous avez des données biaisées, il est logique que vous entraîniez un algorithme biaisé.

Don MacKenzie , professeur adjoint à l'Université de Washington et l'un des auteurs de la récente étude Uber, souligne que l'étude ne prouve pas que des préjugés raciaux ou sexistes sont en jeu. Mais il dit qu'il est important de tenir compte des biais dans l'économie des concerts et des algorithmes sous-jacents, ajoutant que le problème devrait être gérable si les entreprises sont prudentes.

C'est un domaine émergent, et s'il existe un ensemble de meilleures pratiques, je ne le connais pas, dit MacKenzie. De mon point de vue, les entreprises, les développeurs et les scientifiques des données doivent être vigilants, écouter les commentaires et ne pas avoir peur d'essayer différentes solutions. Je pense que si tout le monde aborde ces questions de bonne foi, de manière constructive et avec la volonté d'essayer différentes choses, nous pouvons nous rapprocher de l'élimination des préjugés dans ces systèmes.

cacher