211service.com
L'économie de l'intelligence artificielle vient pour vous
L'industrie de l'intelligence artificielle repose sur le travail invisible d'humains travaillant dans des conditions isolées et souvent terribles - et le modèle se répand dans de plus en plus d'entreprises. 31 mai 2019
Une image de l'anthropologue Mary Gray qui a co-écrit le livre Ghost Work. Avec l'aimable autorisation de Houghton Mifflin Harcourt
Mercredi, le Guardian a publié un article sur les réalités de la production de Google Assistant. Derrière la magie de sa capacité à interpréter 26 langues se cache une énorme équipe de linguistes, travaillant en sous-traitance, qui doivent fastidieusement étiqueter les données d'apprentissage pour que cela fonctionne. Ils gagnent de bas salaires et sont régulièrement obligés de faire des heures supplémentaires non rémunérées. Leurs préoccupations concernant les conditions de travail ont été rejetées à plusieurs reprises.
Ce n'est qu'une histoire parmi des dizaines qui ont commencé à lever le voile sur le fonctionnement de l'industrie de l'intelligence artificielle. Les travailleurs humains ne se contentent pas d'étiqueter les données qui font fonctionner l'IA. Parfois des travailleurs humains sont l'intelligence artificielle. Derrière l'IA modératrice de contenu de Facebook se trouvent des milliers de modérateurs de contenu ; derrière Amazon Alexa se trouve un équipe mondiale de transcripteurs ; et derrière Google Duplex se trouvent des appelants parfois très humains imitant l'IA qui imite les humains . L'intelligence artificielle ne fonctionne pas avec de la poussière de lutin magique. Il fonctionne sur des travailleurs invisibles qui forment des algorithmes sans relâche jusqu'à ce qu'ils aient automatisé leur propre travail.
Dans leur nouveau livre Ghost Work : Comment empêcher la Silicon Valley de créer une nouvelle sous-classe mondiale , l'anthropologue Mary Gray et l'informaticien Siddharth Suri soutiennent que vous et moi pourrions être les prochains.
J'ai rencontré Gray cette semaine pour discuter des raisons pour lesquelles les gens se tournent vers le travail fantôme, comment leur invisibilité les rend plus vulnérables aux conditions de travail terribles et comment nous pouvons rendre cette nouvelle forme de travail plus durable.
Ce qui suit a été modifié pour plus de longueur et de clarté.
MIT Technology Review : Comment définissez-vous le travail fantôme ?
Marie Gray : Il s'agit de tout travail qui pourrait être, du moins en partie, sourcé, planifié, géré, expédié et construit via une interface de programmation d'application, Internet et peut-être une pincée d'intelligence artificielle. Cela devient sans doute un travail fantôme lorsque la proposition est qu'il n'y a pas d'humains impliqués dans cette boucle, que c'est juste une question de logiciel qui travaille sa magie.
Avec l'aimable autorisation de Houghton Mifflin Harcourt
La définition dépend donc vraiment de la manière dont le produit ou service final est commercialisé.
Ouais. Le travail, ou le résultat, n'est pas intrinsèquement mauvais ou bon. Ce sont précisément les conditions de travail qui la rendent mauvaise ou bonne. Fournir un service comme ceux que nous décrivons dans le livre, sous-titrer une traduction ou nettoyer les données de formation pour les algorithmes de formation - ce travail est souvent considéré comme une corvée banale. Pensez à la modération de contenu en ce moment et à la façon dont elle est sensationnalisée comme quelque chose d'horrible et de terrible à faire. Du point de vue des travailleurs, c'est un travail. Et c'est un travail qui demande en fait pas mal de créativité, de perspicacité et de jugement. Le problème est que les conditions de travail ne reconnaissent pas l'importance de la personne dans ce processus. Cela diminue leur travail et crée vraiment des conditions de travail qui ne sont pas viables.
Les entreprises exploitent depuis longtemps la main-d'œuvre des communautés moins privilégiées. Vous évoquez l'exemple de l'industrie de la mode dans votre livre. Y a-t-il quelque chose de particulièrement distinct dans le travail fantôme qui suscite encore plus d'inquiétude ?
À certains égards, le travail fantôme est en effet une continuation des mauvais traitements infligés à de nombreux travailleurs. Pour moi, le changement radical est que nous n'avons jamais eu d'industries vendant aussi complètement le travail contractuel que l'automatisation - pas seulement pour qu'il soit difficile pour un consommateur de voir la chaîne d'approvisionnement comme nous le pouvons dans le textile, l'alimentation et l'agriculture, mais aussi pour dire qu'il n'y a vraiment personne qui travaille ici. J'ai des frissons rien qu'en pensant : si cela est appliqué à tous les secteurs qui vendent efficacement des services d'information, cela fait beaucoup de monde et leur participation à l'économie est effacée. Cela rend également si difficile pour les travailleurs de s'organiser et de récupérer le pouvoir.
Il s'agit vraiment du démantèlement de l'emploi.
Dans le textile, ce qui permet un peu de s'organiser, c'est qu'on a des gens situés dans le même immeuble. Il est possible pour eux de voir une cause commune et de dire : Cela ne m'arrive pas seulement. Avec le travail fantôme, nous n'avons jamais eu une main-d'œuvre aussi complètement répartie dans le monde. Cela crée un défi tellement différent pour les travailleurs, à la fois pour attirer l'attention des consommateurs sur le problème et pour voir qu'ils ne sont pas seuls.
Parce qu'ils ne se connaissent pas, ils ne peuvent pas exiger de bonnes conditions de travail. Et parce que la société ne les connaît pas, il n'y a aucune responsabilité.
Exactement. Et à bien des égards, c'est ce qui revient à la maison. De nombreuses industries ont toujours compté sur des travailleurs occasionnels. Mais maintenant, nous avons complètement construit une économie qui repose sur des travailleurs occasionnels. Il n'y a plus rien, je ne fais que combler les trous ici avec des entrepreneurs, et mes employés à temps plein font la plupart du travail. C'est radical. Nous devrions vraiment faire une pause. Une grande partie du courant dominant de notre économie consiste à avoir un emploi de bureau, et c'est sur le point d'être éliminé. Il n'y a pas de version de cela dans laquelle vous passez à un travail à la demande à temps plein et plus stable. Si nous ne l'attrapons pas maintenant, tout devient un travail fantôme. Il s'agit vraiment du démantèlement de l'emploi.
Oui, ce qui m'a le plus surpris dans votre livre, c'est le nombre de personnes très instruites qui font du travail fantôme. Le fait que tant de personnes titulaires d'une maîtrise se tournent vers le travail fantôme indique vraiment jusqu'où nous avons permis à cette tendance de se développer.
Le grand paradoxe des services d'information à la demande est qu'ils ne peuvent pas être facilement automatisés. Tout travail impliquant de répondre aux besoins de quelqu'un d'autre nécessite un peu d'intelligence et d'attention, donc une éducation universitaire est devenue la nouvelle barre de l'éducation universelle, et les personnes participant à la boucle sont devenues fondamentalement nécessaires. Mais nous ne savons clairement pas comment évaluer cela.
Alors, quels sont les changements à grande échelle qui, selon vous, doivent se produire pour que nous ne soyons pas tous engloutis par le travail fantôme ?
Le fait de dépendre du travail contractuel signifie essentiellement que nous dépendons de la disponibilité des personnes. Ainsi, la première intervention dont les travailleurs et les entreprises ont besoin est de reconstruire notre contrat social pour l'emploi autour de la valeur de la disponibilité. Cela supposerait que tous les adultes en âge de travailler ont le potentiel de participer à notre économie et sont précieux précisément parce qu'ils sont prêts à apporter la capacité proprement humaine de répondre aux demandes d'aide des gens pour les projets.
À l'heure actuelle, nous consacrons beaucoup d'énergie à essayer de déterminer comment amener les gens à travailler à temps plein, en particulier aux États-Unis, pour obtenir des prestations. Nous devrions cesser d'essayer d'obtenir des avantages par le biais d'un chantier. Au lieu de cela, nous devrions nous demander : quels sont les avantages dont les gens ont besoin pour pouvoir participer à ce type d'économie ? Ils ont besoin de quelques choses : ils ont besoin d'avoir accès aux soins de santé ; ils ont besoin de congés payés; ils ont besoin d'accéder à des espaces de coworking sains ; ils ont besoin de collègues et de réseaux de pairs, et d'un accès à la formation continue pour apprendre à faire progresser et à développer leurs capacités.
Au-delà de cela, ce dont la plupart des gens ont besoin pour rendre le travail contractuel habitable, c'est la capacité de contrôler trois choses : leur temps, leurs opportunités et les chances de contribuer à différents réseaux de collaborateurs qui leur apprendront de nouvelles choses qu'ils pourront appliquer au prochain projet. Si nous leur donnons les moyens de contrôler leur participation à l'économie (permettons d'entrer et de sortir du marché au besoin pour tomber malade, fonder une famille, acquérir de nouvelles capacités à apporter à différents projets), ils seront mieux en mesure d'apporter leurs capacités contracter des travaux.