Ces entreprises prétendent fournir un travail de données équitable. Est-ce qu'ils?

Illustration montrant l'ouverture du cerveau, révélant les travailleurs des données Rose Wang

Par un après-midi frais de février à New York, Leon Campbell s'est accroupi à son bureau dans un bureau du centre de Manhattan. Il a enregistré un podcast sur les jeux et a lancé une plate-forme logicielle sur son ordinateur portable. Pendant les heures qui ont suivi, il a cliqué sur les coins des véhicules dans les images, incitant le logiciel à dessiner des cadres autour d'eux.

En identifiant des images de voitures et de VUS, Campbell et d'autres ont créé des tonnes de données pour des algorithmes de formation tels que ceux des véhicules autonomes. C'était un travail monotone, a déclaré Campbell, qui a 24 ans et est autiste. Souvent, cela impliquait de dessiner des boîtes dans des positions similaires et de réajuster les boîtes afin qu'elles soient toujours autour de l'objet lorsqu'elles se déplacent un peu hors du cadre. Néanmoins, il était content de l'avoir. Cela m'aide à me préparer pour les projets futurs que je souhaite poursuivre, a-t-il déclaré, ajoutant qu'il espère devenir programmeur ou concepteur de jeux.

Beaucoup de travail humain est consacré à la construction de systèmes d'intelligence artificielle. Une grande partie consiste à nettoyer, catégoriser et étiqueter les données avant que les IA ne les ingèrent pour rechercher des modèles. L'AI Now Institute, un organisme d'éthique, fait référence à ce travail en tant que travail caché du pipeline de l'IA, fournissant le travail humain invisible qui soutient souvent les allégations de « magie » de l'IA une fois que ces systèmes sont déployés dans les produits et services.

Campbell est un membre relativement privilégié de ce bassin de main-d'œuvre. Il travaille 28 heures par semaine pour Daivergent, une plateforme de travail en ligne conçue pour aider les personnes autistes à acquérir une expérience de travail utile et à se préparer à une carrière, et gagne entre 12 et 20 dollars de l'heure. (Daivergent n'a pas divulgué son salaire exact, mais a déclaré qu'il s'agissait de la fourchette typique de l'entreprise et du taux du marché pour la ville de New York.)

En revanche, la plupart des personnes qui annotent des données ne travaillent pas dans des bureaux de Manhattan, mais depuis leur domicile dans des endroits comme l'Inde, le Kenya, la Malaisie et les Philippines. Ils se connectent aux plateformes en ligne de quelques minutes à plusieurs heures par jour, en faisant peut-être la distinction entre des grappes d'oignons verts et des branches de céleri ou entre des lunettes de soleil œil de chat et de style aviateur. Comme détaillé dans le récent livre Ghost Work de Mary Gray et Siddharth Suri, la plupart d'entre eux sont des travailleurs à la demande avec un faible salaire, un emploi précaire et aucune possibilité d'avancement professionnel.

Un petit groupe d'entreprises d'annotation de données vise à réécrire ce récit. Mais ces entreprises qui visent à bien faire en faisant du bien dans les services de données d'IA trouvent que le chemin vers l'illumination de l'entreprise peut être semé d'embûches.

Allégion

Un jeu de chiffres

En règle générale, les travailleurs d'annotation de données se connectent à Mechanical Turk d'Amazon ou aux plates-formes de travail à la demande de sociétés d'annotation de données comme Appen. Là, ils effectuent des tâches sous-traitées par des entreprises d'intelligence artificielle qui paient les plates-formes des éclats d'un cent par minute. Dans la concurrence acharnée pour les entreprises, ces plates-formes rivalisent d'échelle, de vitesse et de coût.

Appen, par exemple, dispose d'un pool d'un million de sous-traitants qui effectuent des tâches telles que la catégorisation d'images médicales ou la traduction de texte pour les chatbots. Lorsque la société a acheté le fournisseur d'annotation de données Figure Eight pour 300 millions de dollars en mars, la société expliqué que l'achat l'aiderait à répondre aux exigences d'échelle, de rapidité et de qualité des clients.

C'est vraiment une course vers le bas, explique Daniel Kaelin, directeur du succès client chez Alegion, une société de services d'annotation de données à Austin, au Texas. Toute cette industrie est très, très compétitive; tout le monde essaie de trouver cette petite main-d'œuvre moins chère ailleurs dans le monde.

Qu'est-ce que l'impact signifie vraiment?

Alegion est l'une des nombreuses plates-formes, dont CloudFactory, Digital Divide Data (DDD), iMerit et Samasource, qui disent vouloir que les données d'IA fonctionnent dignement. Ils s'appellent eux-mêmes des entreprises à impact et prétendent offrir une main-d'œuvre de données d'origine éthique, avec de meilleures conditions de travail et de meilleures perspectives de carrière que la plupart des entreprises du secteur. C'est comme les grains de café du commerce équitable, mais pour d'énormes ensembles de données.

Cependant, il n'y a pas de réglementation et seulement des normes industrielles faibles sur ce que signifie l'approvisionnement éthique. Et les propres définitions des entreprises varient considérablement.

Chez iMerit, par exemple, les personnes qui travaillent dans l'entreprise depuis plusieurs années ont gravi les échelons pour servir de chefs d'équipe, de chefs de projet et de formateurs de domaine, explique Radha Basu, cofondatrice et PDG de l'entreprise. L'entreprise compte 2 300 employés à temps plein, la plupart basés en Inde ; la moitié sont des femmes, qui peuvent bénéficier jusqu'à six mois de congé de maternité. iMerit a été créée en 2012 en tant qu'entreprise à but lucratif à double résultat, ce qui signifie qu'elle se mesure sur des mesures d'impact social, telles que l'inclusion et la diversité, ainsi que sur des mesures fiscales traditionnelles.

Les personnes au Kenya et en Ouganda travaillant pour le fournisseur de services de données Samasource ont également des emplois à temps plein avec des avantages tels que les soins de santé, les pensions, les repas subventionnés et 90 jours de congé de maternité. DDD, quant à lui, embauche des jeunes à faible revenu, des migrants ruraux et des habitants des bidonvilles urbains - dont au moins 50% sont des femmes - pour effectuer des tâches numériques pendant six à huit heures par jour, selon un rapport de 2018 de l'entreprise. L'entreprise paie pour une certaine formation et aide ses employés associés à passer à des emplois ailleurs.

Alegion et CloudFactory, en revanche, offrent tous deux principalement un travail contractuel horaire - la norme parmi les entreprises d'annotation de données - plutôt qu'un emploi à temps plein. CloudFactory indique que 79 % de ses travailleurs du cloud déclarent que l'entreprise est leur principale source de revenus,contre 28 % en 2015. Pour Alegion, cependant, une grande partie est considérée comme un revenu supplémentaire plutôt que comme un revenu primaire, déclare le PDG d'Alegion, Nathaniel Gates. Ce n'est pas une carrière pour eux.

Troy Stringfield, qui a pris la direction de l'impact mondial d'Alegion en 2018, défend le label d'impact - que l'entreprise de sept ans n'a adopté que depuis un an environ - en disant que l'impact signifie créer un travail qui améliore la vie des gens. Il entre et dit: 'Qu'est-ce qu'un salaire décent?' Qu'est-ce qui les rend meilleurs que là où ils en sont? », Dit-il.

Mais Sara Enright, directrice de projet à la Global Impact Sourcing Coalition (GISC), un organisme industriel financé par ses membres, dit qu'il est douteux qu'un tel travail doive être appelé impact sourcing : s'il s'agit uniquement d'un travail à la demande auquel un individu accède à temps partiel des salaires d'une heure par jour ici et là, cela n'a pas d'impact sur l'emploi, car cela ne conduit pas réellement à un développement de carrière et, en fin de compte, à une réduction de la pauvreté.

CloudFactory, DDD, iMerit et Samasource (mais pas Alegion) sont tous membres du GISC, qui a établi un impact sur la norme d'approvisionnement . Il définit les exigences minimales et les meilleures pratiques volontaires pour l'emploi qui améliorent la vie des personnes qui, autrement, ont des perspectives limitées d'emploi formel. L'organisation, fondée en 2016, exige que les performances de ses membres en matière de non-discrimination, d'égalité de rémunération et d'autres critères soient évaluées tous les deux ans.

Pourtant, les membres du GISC ne sont pas pénalisés ou expulsés s'ils ne réussissent pas l'évaluation. Les entreprises varient également dans la mesure dans laquelle elles déclarent publiquement. Samasource , par exemple, publie audits d'impact rendre compte de la démographie de la main-d'œuvre, du nombre de personnes sorties de la pauvreté, etc. JDD Les rapports annuels de incluent des données montrant les revenus mensuels moyens des employés et l'augmentation estimée du revenu à vie.

CloudFactory, d'autre part, a publié un rapport d'impact social en 2015 mais n'en a pas sorti depuis. La société a déclaré au MIT Technology Review qu'elle rapportait chaque année des mesures d'impact à la Fondation Rockefeller, un investisseur dans la société. Pendant ce temps, iMerit a déclaré qu'en tant qu'entreprise à but lucratif, elle ne publie pas de tels rapports, tandis qu'Alegion a déclaré qu'elle avait des objectifs généraux qu'elle souhaitait atteindre, mais n'a pas fourni de mesures spécifiques.

Entrer sur le marché américain

Dans leur tentative d'expansion, des entreprises comme Alegion et iMerit tentent également de constituer un pool de travailleurs des données aux États-Unis, en s'appuyant sur les populations défavorisées et marginalisées là-bas. Cela leur donne un accès lucratif aux clients gouvernementaux, financiers et de soins de santé qui exigent des mesures de sécurité strictes, travaillent avec des données médicales et financières réglementées ou ont besoin que le travail soit effectué aux États-Unis pour d'autres raisons juridiques.

Pour recruter ces travailleurs américains, les entreprises d'impact peuvent passer par des entreprises comme Daivergent, qui sert de conduit à des organisations telles que l'Autism Society et Autism Speaks. (C'est là que Campbell, que nous avons rencontré plus tôt dessinant des boîtes autour des voitures, travaille.) Alegion a également fait un essai en utilisant des travailleurs fournis par IAM23, un groupe de soutien pour les vétérans militaires.

Mais essayer d'apporter aux États-Unis un modèle basé sur l'externalisation à l'étranger présente un problème. Vous avez toujours besoin d'avoir la main-d'œuvre bon marché, dit Stringfield d'Alegion.

iMerit a également eu du mal à accroître sa main-d'œuvre aux États-Unis. Lorsque l'entreprise s'est installée à la Nouvelle-Orléans l'année dernière, promettant 100 nouveaux emplois, le maire Mitch Landrieu l'a publiquement félicitée. Mais après plus d'un an, l'entreprise ne compte plus que 30 employés à temps plein dans la ville. Pour atteindre 100, il faut plus de contrats clients, explique Jai Natarajan, responsable du marketing de l'entreprise.

Une partie du discours de l'entreprise est qu'elle ne fournit pas seulement un travail de concert bon marché, mais quelque chose d'assez spécialisé. En juin, par exemple, Basu d'iMerit était à la Nouvelle-Orléans pour aider à développer un programme de formation pour les travailleurs effectuant un type d'analyse d'image qui peut prendre jusqu'à 45 à 90 minutes par tâche. Les gens regardent l'impact sourcing et supposent que les personnes issues de milieux pauvres ne font que l'étiquetage de niveau le plus bas. C'est assez inexact, dit Basu. Mais la course au prix le plus bas dans l'industrie de l'étiquetage des données contribue à renforcer la perception générale que le travail est simple et devrait être bon marché. Cela rend l'affirmation d'iMerit - que ses services nécessitent des compétences plus élevées - difficile à vendre.

La concurrence avec les grandes entreprises à but lucratif a également été difficile pour Samasource, que Leila Janah a lancée en tant qu'organisation à but non lucratif il y a 11 ans. Un genre de nerd autoproclamé de justice sociale totale qui a donné des conférences à SXSW, à plusieurs événements TedX et à l'assemblée annuelle du FMI en 2016, Janah a écrit un livre en 2017, Give Work: Reversing Poverty One Job at a Time. Après avoir lancé sa marque de soins de la peau de luxe équitable LXMI, Janah est apparue dans les pages brillantes de Vogue en 2018 , aux côtés de créateurs de mode, de mannequins, d'une paire de frères et sœurs danseurs sur glace et d'autres qui effectuent des changements et mènent des conversations partout où leur carrière les mène.

Malgré ses efforts prolifiques, dit Janah, Samasource n'avait aucune chance contre les startups à but lucratif. Nous allions essentiellement être foutus par toutes ces entreprises… sans aucun intérêt pour l'éthique ou le paiement de salaires équitables, mais levant 20 millions de dollars en fonds de capital-risque pour créer des données de formation avec, par exemple, une main-d'œuvre anonyme, dit-elle.

Elle est donc passée à un modèle hybride dans lequel l'association fondatrice détient la majorité des actions d'une société à but lucratif qui peut lever des capitaux auprès d'investisseurs. C'est un modèle de plus en plus courant pour les entrepreneurs sociaux dans des domaines comme le microcrédit, les soins de santé et la formation professionnelle.

Allégion

Mais il est venu avec un compromis. Samasource a décidé que pour séduire les investisseurs, elle n'avait d'autre choix que de leur donner le droit de vote. Aucun investisseur n'investirait autrement dans une entreprise où un conseil d'administration à but non lucratif dictait en quelque sorte les résultats, dit Janah. Elle dit que son conseil d'administration estimait que le risque que les investisseurs se débarrassent du modèle d'impact de Samasource était très faible, et elle ne préciserait pas si les investisseurs ont réellement pris des décisions qui l'ont affaibli.

Lavage à impact ?

En l'absence de normes de reporting et de validation par des tiers, nous devons croire les entreprises sur parole que ce qu'elles font n'est pas seulement un gadget marketing, ou ce que certains appellent l'impact-washing.

Il est juste de se poser des questions lorsqu'une entreprise dit sans beaucoup de qualifications : 'Regardez l'impact que nous obtenons en fournissant simplement de bons emplois', déclare Enright. Le simple fait de développer une entreprise dans un pays en développement n'en fait pas nécessairement une entreprise percutante, simplement parce qu'elle offre de bons emplois à des personnes qui, autrement, n'auraient pas ces emplois.

Contrairement aux produits du commerce équitable, il y a peu de pression publique sur les entreprises pour qu'elles soient honnêtes, car elles fournissent leurs services aux entreprises, pas directement aux consommateurs. Les consommateurs peuvent apprécier l'approvisionnement éthique - par exemple, chez Patagonia et diverses marques grand public - et vous y adhérez en quelque sorte en tant que consommateur, déclare Natarajan d'iMerit. Mais il reste à voir ce que signifie l'approvisionnement éthique dans le secteur b-to-b. Comme un Numéro 2014 de Pulse , un magazine de l'industrie de l'externalisation, a noté que les entreprises devraient faire le choix d'utiliser des fournisseurs de main-d'œuvre soucieux de leur impact. Sans lois ni pression publique, on ne sait pas ce qui peut les pousser à faire un tel choix, et sans normes ni responsabilité, on ne sait pas comment ils devraient évaluer les prestataires.

En fin de compte, ce n'est peut-être que la réglementation qui modifie les pratiques de travail. Il n'y a aucun moyen de changer l'emploi de l'intérieur des marchés. Oui, ils font tout ce qu'ils peuvent, et c'est comme dire que j'ai un vélo sans pédales, et je fais tout ce que je peux pour le conduire aussi vite que cette chose est conçue pour aller, dit Gray, le Travail fantôme coauteur. Il n'y a pas d'organisation des droits des travailleurs et de l'emploi équitable sans impliquer la société civile, et nous ne l'avons pas encore fait.

Kate Kaye est journaliste indépendante et fondatrice du site de rapport sur l'éthique de l'IA Queue rouge .

cacher