Une chercheuse de premier plan en éthique de l'IA dit qu'elle a été licenciée de Google

Timnit Gebru

Kimberly White / Corde





Le 2 décembre, la communauté des chercheurs en intelligence artificielle a été choquée d'apprendre que Timnit Gebru avait été licenciée de son poste chez Google. Gebru, l'une des principales voix de la recherche responsable sur l'IA, est connu entre autres pour avoir co-écrit un travail révolutionnaire qui a révélé la caractère discriminatoire de la reconnaissance faciale , cofondateur du groupe d'affinité Black in AI, et plaider sans relâche pour la diversité dans l'industrie technologique .

Mais mercredi soir, elle a annoncé sur Twitter qu'elle avait été licenciée de son poste de co-responsable de l'IA éthique de Google. Apparemment, la responsable de mon manager a envoyé un e-mail [à] mes subalternes directs disant qu'elle acceptait ma démission. Je n'avais pas démissionné, dit-elle.

Dans une interview avec Bloomberg Jeudi, Gebru a déclaré que le licenciement avait eu lieu après une lutte prolongée avec ses supérieurs au sujet de la publication d'un article de recherche sur l'éthique de l'IA. Un des tweets de Gebru et un plus tard messagerie interne de Jeff Dean, responsable de Google AI, suggèrent que le document critiquait les coûts environnementaux et les biais intégrés des grands modèles de langage.



Gebru, qui avait rédigé le document avec quatre collègues de Google et deux collaborateurs externes, l'avait soumis à une conférence de recherche qui se tiendra l'année prochaine. Après un examen interne, on lui a demandé de retirer le document ou de supprimer les noms des employés de Google. Elle a répondu qu'elle le ferait si ses supérieurs remplissaient une série de conditions. S'ils ne pouvaient pas, elle le ferait travailler à un dernier rendez-vous , elle a dit.

Elle a également envoyé un e-mail frustré à une liste de diffusion interne, Google Brain Women and Allies, détaillant les difficultés répétées qu'elle a connues en tant que chercheuse noire. Nous venons d'avoir une recherche noire toutes mains avec une telle exaspération émotionnelle, a-t-elle écrit. Savez-vous ce qui s'est passé depuis ? Faire taire de la manière la plus fondamentale possible.

Gebru est ensuite partie en vacances et a reçu un e-mail de résiliation de Megan Kacholia, vice-présidente de l'ingénierie chez Google Research, avant son retour. Merci d'avoir précisé vos conditions, l'e-mail a indiqué , comme tweeté par Gebru. Nous ne pouvons pas accepter les points 1 et 2 comme vous le demandez. Nous respectons votre décision de quitter Google et nous acceptons votre démission. Son e-mail au listserv était incompatible avec les attentes d'un responsable de Google, a-t-il poursuivi. En conséquence, nous acceptons votre démission immédiatement, à compter d'aujourd'hui.

Jeudi matin, après une vague de soutien à Gebru sur les réseaux sociaux, Dean a envoyé un messagerie interne au groupe AI de Google avec son compte rendu de la situation. Il a dit que l'article de Gebru n'avait pas atteint notre barre de publication car il ignorait trop de recherches pertinentes. Il a également déclaré que les conditions de Gebru incluaient la révélation de l'identité de chaque personne à qui Megan et moi avions parlé et consulté dans le cadre de l'examen du document et des commentaires exacts.



Étant donné le rôle de Timnit en tant que chercheur respecté et gestionnaire dans notre équipe d'IA éthique, je me sens mal que Timnit en soit arrivée à un point où elle ressent cela à propos du travail que nous faisons, a-t-il écrit. Je sais que nous partageons tous sincèrement la passion de Timnit pour rendre l'IA plus équitable et inclusive.

Ni Gebru, ni Dean, ni les communications de Google n'ont répondu aux demandes de commentaires, et de nombreux détails concernant la progression exacte des événements ou la cause de la résiliation restent flous. Alors qu'ils continuent d'émerger, beaucoup ont attiré une attention renouvelée sur un tweet du 30 novembre que Gebru a épinglé en haut de son profil. Y a-t-il quelqu'un qui travaille sur une réglementation protégeant les chercheurs en IA éthique, similaire à la protection des lanceurs d'alerte ? ça lit. Parce qu'avec la quantité de censure et d'intimidation à l'encontre de personnes appartenant à des groupes spécifiques, comment peut-on croire qu'une véritable recherche dans ce domaine peut avoir lieu ?

cacher