La course pour comprendre le monde exaltant et dangereux de l'IA linguistique

Ariel Davis

Le 18 mai, le PDG de Google, Sundar Pichai, a annoncé un nouvel outil impressionnant : un système d'IA appelé LaMDA qui peut discuter avec les utilisateurs de n'importe quel sujet.

Pour commencer, Google prévoit d'intégrer LaMDA dans son portail de recherche principal, son assistant vocal et Workplace, sa collection de logiciels de travail basés sur le cloud qui comprend Gmail, Docs et Drive. Mais l'objectif final, a déclaré Pichai, est de créer une interface conversationnelle permettant aux utilisateurs de récupérer tout type d'informations (texte, visuel, audio) sur tous les produits Google, simplement en demandant.

Le déploiement de LaMDA signale une autre manière dont les technologies linguistiques s'emmêlent dans notre vie quotidienne. Mais la présentation flashy de Google a démenti le débat éthique qui entoure désormais ces systèmes de pointe. LaMDA est ce qu'on appelle un grand modèle de langage (LLM), un algorithme d'apprentissage en profondeur formé sur d'énormes quantités de données textuelles.

Des études ont déjà montré à quel point les idées racistes, sexistes et abusives sont intégrées dans ces modèles. Ils associent des catégories comme les médecins aux hommes et les infirmières aux femmes ; bons mots avec les blancs et mauvais avec les noirs. Sondez-les avec les bonnes invites, et ils commencent également à encourager des choses comme génocide , l'automutilation , et abus sexuel sur enfant . En raison de leur taille, ils ont une empreinte carbone incroyablement élevée . En raison de leur aisance, ils confondre facilement les gens en pensant qu'un humain a écrit ses résultats, ce qui, selon les experts, pourrait permettre la production massive de désinformation.

En décembre, Google a évincé son co-responsable de l'IA éthique Timnit Gebru après elle a refusé de retirer un papier qui a fait beaucoup de ces points. Quelques mois plus tard, après une dénonciation à grande échelle de ce qu'une lettre ouverte des employés de Google a appelé la censure sans précédent de la recherche de l'entreprise, elle a également licencié la co-auteure et co-directrice de Gebru, Margaret Mitchell.

Il n'y a pas que Google qui déploie cette technologie. Les modèles de langage les plus en vue à ce jour ont été ceux d'OpenAI GPT-2 et GPT-3 , qui crache des passages de texte remarquablement convaincants et peut même être réutilisé pour compléter des compositions musicales et du code informatique. Microsoft désormais exclusivement licences GPT-3 à incorporer dans des produits encore non annoncés. Facebook a développé ses propres LLM pour la traduction et la modération de contenu. Et les startups créent des dizaines de produits et services basés sur les modèles des géants de la technologie. Bientôt, toutes nos interactions numériques - lorsque nous envoyons des e-mails, recherchons ou publions sur les réseaux sociaux - seront filtrées par les LLM.

Malheureusement, très peu de recherches sont en cours pour comprendre comment les défauts de cette technologie pourraient affecter les personnes dans les applications du monde réel, ou pour comprendre comment concevoir de meilleurs LLM qui atténuent ces défis. Comme Google l'a souligné dans son traitement de Gebru et Mitchell, les quelques entreprises suffisamment riches pour former et entretenir des LLM ont un intérêt financier important à refuser de les examiner attentivement. En d'autres termes, les LLM sont de plus en plus intégrés dans l'infrastructure linguistique d'Internet sur des bases scientifiques fragiles.

Plus de 500 chercheurs du monde entier se précipitent désormais pour en savoir plus sur les capacités et les limites de ces modèles. Travailler ensemble sous le projet BigScience dirigés par Huggingface, une startup qui adopte une approche scientifique ouverte pour comprendre le traitement du langage naturel (TAL), ils cherchent à créer un LLM open source qui servira de ressource partagée pour la communauté scientifique. L'objectif est de générer autant de bourses d'études que possible au cours d'une seule année ciblée. Leur question centrale : comment et quand les LLM doivent-ils être développés et déployés pour récolter leurs bénéfices sans leurs conséquences néfastes ?

Nous ne pouvons pas vraiment arrêter cette folie autour de grands modèles de langage, où tout le monde veut les former, explique Thomas Wolf, le directeur scientifique de Huggingface, qui co-dirige l'initiative. Mais ce que nous pouvons faire, c'est essayer de pousser cela dans une direction qui est finalement plus bénéfique.

Perroquets stochastiques

Le même mois que BigScience a lancé ses activités, une startup nommée Cohere est discrètement sortie de la clandestinité. Lancé par d'anciens chercheurs de Google, il promet d'apporter des LLM à toute entreprise qui en souhaite un, avec une seule ligne de code. Il a développé une technique pour former et héberger son propre modèle avec les restes de ressources informatiques inutilisés dans un centre de données, ce qui réduit les coûts de location de l'espace cloud nécessaire à l'entretien et au déploiement.

Parmi ses premiers clients figure la startup Il y a du soutien , une plate-forme pour créer des chatbots de support client sans code, qui a elle-même des clients comme Facebook et Zoom. Et la liste des investisseurs de Cohere comprend certains des plus grands noms du domaine : le pionnier de la vision par ordinateur Fei-Fei Li, le lauréat du prix Turing Geoffrey Hinton et le responsable de l'IA d'Apple, Ian Goodfellow.

Cohere est l'une des nombreuses startups et initiatives qui cherchent maintenant à apporter des LLM à diverses industries. Il y a aussi Aleph Alpha, une startup basée en Allemagne qui cherche à construire un GPT-3 allemand ; une entreprise anonyme lancée par plusieurs anciens chercheurs d'OpenAI ; et l'initiative open-source Eleuther, qui a récemment lancé GPT-Neo , une reproduction gratuite (et un peu moins puissante) de GPT-3.

Mais c'est l'écart entre ce que sont les LLM et ce à quoi ils aspirent qui préoccupe un nombre croissant de chercheurs. Les LLM sont effectivement les technologies de saisie semi-automatique les plus puissantes au monde. En ingérant des millions de phrases, de paragraphes et même d'échantillons de dialogue, ils apprennent les modèles statistiques qui régissent la manière dont chacun de ces éléments doit être assemblé dans un ordre raisonnable. Cela signifie que les LLM peuvent améliorer certaines activités : par exemple, ils sont bons pour créer des chatbots plus interactifs et fluides sur le plan conversationnel. qui suivent un script bien établi . Mais ils ne comprennent pas réellement ce qu'ils lisent ou disent. Bon nombre des fonctionnalités les plus avancées des LLM d'aujourd'hui ne sont également disponibles qu'en anglais.

Histoire connexe

Nous avons lu le journal qui a forcé Timnit Gebru à quitter Google. Voici ce qu'il dit.

Le chercheur en éthique vedette de l'entreprise a souligné les risques des grands modèles linguistiques, qui sont essentiels aux activités de Google.

Entre autres choses, c'est ce contre quoi Gebru, Mitchell et cinq autres scientifiques ont mis en garde dans leur article, qui appelle les perroquets stochastiques LLM. La technologie linguistique peut être très, très utile lorsqu'elle est correctement délimitée, située et encadrée, déclare Emily Bender, professeur de linguistique à l'Université de Washington et l'un des coauteurs de l'article. Mais la nature polyvalente des LLM - et la force de persuasion de leur mimétisme - incite les entreprises à les utiliser dans des domaines pour lesquels elles ne sont pas nécessairement équipées.

Dans un récent discours d'ouverture lors de l'une des plus grandes conférences sur l'IA, Gebru a lié ce déploiement précipité de LLM aux conséquences qu'elle avait subies dans sa propre vie. Gebru est né et a grandi en Éthiopie, où une guerre qui s'intensifie a ravagé la région la plus septentrionale du Tigré. L'Éthiopie est également un pays où 86 langues sont parlées, presque toutes absentes des technologies linguistiques courantes.

Bien que les LLM aient ces déficiences linguistiques, Facebook s'appuie fortement sur eux pour automatiser la modération de son contenu à l'échelle mondiale. Lorsque la guerre du Tigré a éclaté pour la première fois en novembre, Gebru a vu la plate-forme patauger pour maîtriser la vague de désinformation. Ceci est emblématique d'un modèle persistant que les chercheurs ont observé dans la modération de contenu. Des communautés qui parler des langues non priorisés par la Silicon Valley souffrent des environnements numériques les plus hostiles.

Gebru a noté que ce n'est pas non plus là que le mal s'arrête. Lorsque les fausses nouvelles, les discours de haine et même les menaces de mort ne sont pas modérés, ils sont ensuite supprimés en tant que données de formation pour créer la prochaine génération de LLM. Et ces modèles, reprenant ce sur quoi ils sont formés, finissent par régurgiter ces schémas linguistiques toxiques sur Internet.

Dans de nombreux cas, les chercheurs n'ont pas suffisamment étudié pour savoir comment cette toxicité pourrait se manifester dans les applications en aval. Mais certaines bourses existent. Dans son livre de 2018 Algorithmes d'oppression , Safiya Noble, professeure agrégée d'information et d'études afro-américaines à l'Université de Californie à Los Angeles, a documenté comment les préjugés intégrés dans la recherche Google perpétuent le racisme et, dans des cas extrêmes, peuvent même motiver la violence raciale.

Les conséquences sont assez graves et importantes, dit-elle. Google n'est pas seulement le principal portail de connaissances pour les citoyens moyens. Il fournit également l'infrastructure d'information pour les institutions, les universités et les gouvernements étatiques et fédéraux.

Google utilise déjà un LLM pour optimiser certains de ses résultats de recherche. Avec sa dernière annonce de LaMDA et une proposition récente il a publié dans un article préimprimé, la société a clairement indiqué qu'elle ne ferait qu'augmenter sa dépendance à l'égard de la technologie. Noble s'inquiète que cela puisse aggraver les problèmes qu'elle a découverts : le fait que l'équipe d'IA éthique de Google ait été licenciée pour avoir soulevé des questions très importantes sur les schémas de discrimination racistes et sexistes intégrés dans les grands modèles linguistiques aurait dû être un signal d'alarme.

BigScience

Le projet BigScience a commencé en réponse directe au besoin croissant d'examen scientifique des LLM. En observant la prolifération rapide de la technologie et la tentative de censure de Google sur Gebru et Mitchell, Wolf et plusieurs collègues ont réalisé qu'il était temps pour la communauté des chercheurs de prendre les choses en main.

Inspirés par des collaborations scientifiques ouvertes comme le CERN en physique des particules, ils ont conçu l'idée d'un LLM open source qui pourrait être utilisé pour mener des recherches critiques indépendamment de toute entreprise. En avril de cette année, le groupe a reçu une subvention pour le construire à l'aide du supercalculateur du gouvernement français.

Dans les entreprises technologiques, les LLM sont souvent construits par seulement une demi-douzaine de personnes qui ont principalement une expertise technique. BigScience souhaitait faire venir des centaines de chercheurs d'un large éventail de pays et de disciplines pour participer à un processus de construction de modèles véritablement collaboratif. Wolf, qui est français, a d'abord approché la communauté française du PNL. À partir de là, l'initiative a fait boule de neige en une opération mondiale englobant plus de 500 personnes.

Le collaboratif est maintenant vaguement organisé en une douzaine de groupes de travail et compte, chacun abordant différents aspects du développement et de l'investigation du modèle. Un groupe mesurera l'impact environnemental du modèle, y compris l'empreinte carbone de la formation et de l'exécution du LLM et la prise en compte des coûts du cycle de vie du supercalculateur. Un autre se concentrera sur le développement de moyens responsables d'obtenir les données de formation, en cherchant des alternatives au simple grattage des données sur le Web, comme la transcription d'archives radio historiques ou de podcasts. L'objectif ici est d'éviter le langage toxique et la collecte non consensuelle d'informations privées.

Histoire connexe

Pourquoi GPT-3 est le meilleur et le pire de l'IA en ce moment

L'IA linguistique d'Open AI a séduit le public par son apparente maîtrise de l'anglais – mais est-ce une illusion ?

D'autres groupes de travail se consacrent au développement et à l'évaluation du multilinguisme du modèle. Pour commencer, BigScience a sélectionné huit langues ou familles de langues, dont l'anglais, le chinois, l'arabe, l'indien (y compris l'hindi et l'ourdou) et le bantou (y compris le swahili). Le plan est de travailler en étroite collaboration avec chaque communauté linguistique pour cartographier autant de ses dialectes régionaux que possible et s'assurer que ses normes de confidentialité des données distinctes sont respectées. Nous voulons que les gens aient leur mot à dire sur la manière dont leurs données sont utilisées, déclare Yacine Jernite, chercheur chez Huggingface.

Le but n'est pas de construire un LLM commercialement viable pour concurrencer GPT-3 ou LaMDA. Le modèle sera trop gros et trop lent pour être utile aux entreprises, estime Karën Fort, maître de conférences à la Sorbonne. Au lieu de cela, la ressource est conçue uniquement pour la recherche. Chaque point de données et chaque décision de modélisation sont soigneusement et publiquement documentés, il est donc plus facile d'analyser comment tous les éléments affectent les résultats du modèle. Il ne s'agit pas seulement de livrer le produit final, explique Angela Fan, chercheuse sur Facebook. Nous envisageons chaque pièce comme un point de livraison, comme un artefact.

Le projet est sans aucun doute ambitieux - plus vaste et collaboratif à l'échelle mondiale que tout ce que la communauté de l'IA a vu auparavant. La logistique de la coordination d'un si grand nombre de chercheurs est en soi un défi. (En fait, il y a aussi un groupe de travail pour ça.) De plus, chaque chercheur contribue bénévolement. La subvention du gouvernement français ne couvre que les ressources informatiques, et non humaines.

Mais les chercheurs affirment que le besoin commun qui a réuni la communauté a galvanisé un niveau impressionnant d'énergie et d'élan. Beaucoup sont optimistes sur le fait que d'ici la fin du projet, qui se poursuivra jusqu'en mai de l'année prochaine, ils auront produit non seulement des connaissances plus approfondies sur les limites des LLM, mais également de meilleurs outils et pratiques pour les construire et les déployer de manière responsable.

Les organisateurs espèrent que cela incitera davantage de personnes au sein de l'industrie à intégrer ces pratiques dans leur propre stratégie LLM, bien qu'ils soient les premiers à admettre qu'ils sont idéalistes. Au contraire, le grand nombre de chercheurs impliqués, dont beaucoup de géants de la technologie, contribuera à établir de nouvelles normes au sein de la communauté PNL.

À certains égards, les normes ont déjà changé. En réponse aux conversations autour du licenciement de Gebru et Mitchell, Cohere a appris de plusieurs de ses clients qu'ils s'inquiétaient de la sécurité de la technologie. Sur son site, il inclut une page sur son site Web présentant un engagement à investir en permanence dans la recherche technique et non technique pour atténuer les dommages éventuels de son modèle. Il dit qu'il réunira également un conseil consultatif composé d'experts externes pour l'aider à créer des politiques sur l'utilisation autorisée de ses technologies.

La PNL est à un tournant très important, dit Fort. C'est pourquoi BigScience est passionnant. Il permet à la communauté de faire avancer la recherche et de fournir une alternative pleine d'espoir au statu quo au sein de l'industrie : il dit : 'Prenons une autre passe'. Prenons-le ensemble - pour comprendre tous les moyens et toutes les choses que nous pouvons faire pour aider la société.

Je veux que la PNL aide les gens, dit-elle, pas qu'elle les rabaisse.

Mettre à jour: Les actions de responsabilité de Cohere ont été précisées.

cacher