L'IA doit faire face à son problème de travailleur invisible

SAIPH SAUVAGE

Bon nombre des modèles d'apprentissage automatique les plus réussis et les plus largement utilisés sont formés avec l'aide de milliers de travailleurs de chantier mal payés . Des millions de personnes dans le monde gagnent de l'argent sur des plateformes comme Amazon Mechanical Turk, qui permettent aux entreprises et aux chercheurs d'externaliser de petites tâches à des crowdworkers en ligne. Selon une estimation , plus d'un million de personnes rien qu'aux États-Unis gagnent de l'argent chaque mois en travaillant sur ces plateformes. Environ 250 000 d'entre eux gagnent ainsi au moins les trois quarts de leurs revenus. Mais même si beaucoup travaillent pour certains des laboratoires d'IA les plus riches du monde, ils sont payés en dessous du salaire minimum et n'ont aucune possibilité de développer leurs compétences.

Saïph Sauvage est directrice du laboratoire d'interaction homme-ordinateur de l'Université de Virginie-Occidentale, où elle travaille sur la technologie civique, en se concentrant sur des questions telles que la lutte contre la désinformation et l'aide aux travailleurs de chantier pour améliorer leurs conditions de travail. Cette semaine, elle a donné un conférence invitée à NeurIPS , l'une des plus grandes conférences mondiales sur l'IA, intitulée A future of work for the invisible workers in AI. J'ai parlé à Savage sur Zoom la veille de sa conférence.

Notre conversation a été modifiée pour plus de clarté et de longueur.

Vous parlez des travailleurs invisibles de l'IA. Quels types d'emplois ces personnes font-elles?

De nombreuses tâches impliquent d'étiqueter des données, en particulier des données d'image, qui sont introduites dans des modèles d'apprentissage automatique supervisés afin qu'ils comprennent mieux le monde. D'autres tâches impliquent la transcription audio. Par exemple, lorsque vous parlez à Alexa d'Amazon, vous pouvez avoir des employés qui transcrivent ce que vous dites afin que l'algorithme de reconnaissance vocale apprenne à mieux comprendre la parole. Et je viens d'avoir une réunion avec des crowdworkers dans la campagne de Virginie-Occidentale. Ils sont embauchés par Amazon pour lire de nombreux dialogues afin d'aider Alexa à comprendre comment les gens de cette région parlent. Vous pouvez également demander à des employés d'étiqueter des sites Web susceptibles d'être remplis de discours de haine ou de pédophilie. C'est pourquoi, lorsque vous recherchez des images sur Google ou Bing, vous n'êtes pas exposé à ces choses.

Des personnes sont embauchées pour effectuer ces tâches sur des plateformes comme Amazon Mechanical Turk. Les grandes entreprises technologiques peuvent utiliser des versions internes - Facebook et Microsoft ont les leurs, par exemple. La différence avec Amazon Mechanical Turk est que n'importe qui peut l'utiliser. Les chercheurs et les startups peuvent se connecter à la plate-forme et s'alimenter avec des travailleurs invisibles.

Quels sont les problèmes de ces travailleurs invisibles ?

Je ne vois pas vraiment le crowdwork comme une mauvaise chose; c'est vraiment une bonne idée. Il a été très facile pour les entreprises d'ajouter une main-d'œuvre externe.

Histoire connexe

La guerre à venir contre les algorithmes cachés qui piègent les gens dans la pauvreté Un groupe croissant d'avocats découvre, navigue et combat les systèmes automatisés qui privent les pauvres de logements, d'emplois et de services de base.

Mais il y a un certain nombre de problèmes. La première est que les travailleurs de ces plateformes gagnent des salaires très bas. Nous avons mené une étude dans laquelle nous avons suivi des centaines de travailleurs d'Amazon Mechanical Turk pendant plusieurs années et nous avons constaté qu'ils gagnaient environ 2 dollars de l'heure. C'est bien moins que le salaire minimum américain. Il y a des gens qui consacrent leur vie à ces plateformes ; c'est leur principale source de revenus.

Et cela apporte d'autres problèmes. Ces plates-formes réduisent également les futures opportunités d'emploi, car les crowdworkers à temps plein n'ont pas la possibilité de développer leurs compétences, du moins pas celles qui sont reconnues. Nous avons constaté que beaucoup de gens ne mettent pas leur travail sur ces plateformes sur leur CV. S'ils disent avoir travaillé sur Amazon Mechanical Turk, la plupart des employeurs ne sauront même pas ce que c'est. La plupart des employeurs ne savent pas que ce sont les travailleurs derrière notre IA.

Il est clair que vous avez une réelle passion pour ce que vous faites. Comment en êtes-vous arrivé à travailler là-dessus ?

J'ai travaillé sur un projet de recherche à Stanford où j'étais essentiellement un crowdworker, et cela m'a exposé aux problèmes. J'ai aidé à concevoir une nouvelle plate-forme, qui ressemblait à Amazon Mechanical Turk mais contrôlée par les travailleurs. Mais j'étais aussi technicien chez Microsoft. Et cela m'a également ouvert les yeux sur ce que c'est que de travailler au sein d'une grande entreprise de technologie. Vous devenez sans visage, ce qui est très similaire à ce que vivent les crowdworkers. Et cela m'a vraiment donné envie de changer de lieu de travail.

Vous avez parlé de faire une étude. Comment savoir ce que font ces travailleurs et à quelles conditions ils sont confrontés?

Je fais trois choses. J'interviewe des travailleurs, je mène des enquêtes et je construis des outils qui me donnent une perspective plus quantitative sur ce qui se passe sur ces plateformes. J'ai pu mesurer le temps que les travailleurs consacrent à l'accomplissement des tâches. Je mesure également la quantité de travail non rémunéré que font les travailleurs, comme la recherche de tâches ou la communication avec un employeur - des choses pour lesquelles vous seriez payé si vous aviez un salaire.

Vous avez été invité à donner une conférence à NeurIPS cette semaine. Pourquoi est-ce quelque chose que la communauté de l'IA a besoin d'entendre ?

Eh bien, ils alimentent leurs recherches avec le travail de ces travailleurs. Je pense qu'il est très important de réaliser qu'une voiture autonome ou quoi que ce soit d'autre existe à cause de personnes qui ne sont pas payées au salaire minimum. Pendant que nous réfléchissons à l'avenir de l'IA, nous devrions penser à l'avenir du travail. Il est utile de se rappeler que ces travailleurs sont des humains.

Êtes-vous en train de dire que les entreprises ou les chercheurs sous-payent délibérément ?

Non ce n'est pas ça. Je pense qu'ils pourraient sous-estimer ce qu'ils demandent aux travailleurs de faire et combien de temps cela prendra. Mais la plupart du temps, ils n'ont tout simplement pas pensé à l'autre côté de la transaction.

Parce qu'ils voient juste une plate-forme sur Internet. Et c'est pas cher.

Oui, exactement.

Que faisons-nous à propos de cela?

Beaucoup de choses. J'aide les travailleurs à se faire une idée du temps qu'une tâche peut leur prendre. De cette façon, ils peuvent évaluer si une tâche en vaut la peine. J'ai donc développé un plug-in d'IA pour ces plates-formes qui aide les travailleurs à partager des informations et à se coacher mutuellement sur les tâches qui valent leur temps et qui vous permettent de développer certaines compétences. L'IA apprend quel type de conseil est le plus efficace. Il prend dans le texte les commentaires que les travailleurs s'écrivent et apprend quels conseils conduisent à de meilleurs résultats, et les promeut sur la plate-forme.

Disons que les travailleurs veulent augmenter leurs salaires. L'IA identifie le type de conseil ou de stratégie le mieux adapté pour aider les travailleurs à le faire. Par exemple, cela pourrait suggérer que vous effectuez ces types de tâches auprès de ces employeurs, mais pas ces autres types de tâches là-bas. Ou il vous dira de ne pas passer plus de cinq minutes à chercher du travail. Le modèle d'apprentissage automatique est basé sur l'opinion subjective des travailleurs d'Amazon Mechanical Turk, mais j'ai trouvé qu'il pouvait encore augmenter les salaires des travailleurs et développer leurs compétences.

Il s'agit donc d'aider les travailleurs à tirer le meilleur parti de ces plateformes ?

C'est un début. Mais il serait intéressant de penser aux échelles de carrière. Par exemple, nous pourrions guider les travailleurs pour effectuer un certain nombre de tâches différentes qui leur permettent de développer leurs compétences. On peut aussi penser à offrir d'autres opportunités. Les entreprises mettant des emplois sur ces plateformes pourraient proposer des micro-stages en ligne aux travailleurs.

Et nous devrions soutenir les entrepreneurs. J'ai développé des outils qui aident les gens à créer leurs propres marchés de concerts. Pensez à ces travailleurs : ils connaissent très bien le travail à la demande et ils pourraient avoir de nouvelles idées sur la façon de gérer une plate-forme. Le problème est qu'ils n'ont pas les compétences techniques pour en créer une, donc je construis un outil qui rend la mise en place d'une plate-forme un peu comme la configuration d'un modèle de site Web.

Il s'agit en grande partie d'utiliser la technologie pour modifier l'équilibre des pouvoirs.

Il s'agit aussi de changer le récit. J'ai récemment rencontré deux crowdworkers à qui j'ai parlé et ils s'appellent en fait des travailleurs de la technologie, ce qui, je veux dire, ce sont des travailleurs de la technologie d'une certaine manière parce qu'ils alimentent notre technologie. Lorsque nous parlons de crowdworkers, ils sont généralement présentés comme ayant ces emplois horribles. Mais il peut être utile de changer notre façon de penser à qui sont ces personnes. C'est juste un autre travail technique.

cacher