Le Congrès veut des réponses de Google sur le limogeage de Timnit Gebru

yvette clarke

Représentante Yvette Clarke Photo AP/Kathy Willens





Neuf membres du Congrès américain ont envoyé une lettre à Google lui demandant de clarifier les circonstances entourant le départ forcé de son ancien co-responsable de l'IA éthique, Timnit Gebru. Dirigé par la représentante Yvette Clarke et le sénateur Ron Wyden, et cosigné par les sénateurs Elizabeth Warren et Cory Booker, la lettre envoie un signal important sur la façon dont le Congrès examine les géants de la technologie et réfléchit à la réglementation à venir.

Gebru, une voix de premier plan dans l'éthique de l'IA et l'une des rares femmes noires de Google, a été congédié sans ménagement il y a deux semaines, après un désaccord prolongé sur un document de recherche. Le papier détaillé les risques des grands modèles de langage d'IA formés sur d'énormes quantités de données textuelles, qui sont au cœur de la recherche de Google, alimentant divers produits, y compris sa lucrative recherche Google.



Citant la couverture de MIT Technology Review, la lettre soulève trois questions : le potentiel de biais dans les grands modèles de langage, l'influence croissante des entreprises sur la recherche en IA et le manque de diversité de Google. Il demande au PDG de Google, Sundar Pichai, un plan concret sur la manière dont il abordera chacun de ces problèmes, ainsi que sa politique actuelle d'examen des recherches et des détails sur son enquête en cours sur la sortie de Gebru (Pichai s'est engagé dans cette enquête en une note interne , d'abord publié par Axios). En tant que membres du Congrès cherchant activement à améliorer la recherche, la responsabilité et la diversité en matière d'IA par le biais de la législation et de la surveillance, nous sollicitons respectueusement votre demande pour les demandes de renseignements suivantes, indique la lettre.

En avril 2019, Clarke et Wyden ont présenté un projet de loi, le Loi sur la responsabilité algorithmique , cela obligerait les grandes entreprises à auditer leurs systèmes d'apprentissage automatique pour détecter les biais et à prendre des mesures correctives en temps opportun si de tels problèmes étaient identifiés. Cela obligerait également ces entreprises à auditer tous les processus impliquant des données sensibles, y compris les informations personnellement identifiables, biométriques et génétiques, pour les risques de confidentialité et de sécurité. À l'époque, de nombreux experts juridiques et technologiques ont loué le projet de loi pour sa compréhension nuancée de l'IA et des technologies basées sur les données. Excellent premier pas, a écrit Andrew Selbst, professeur adjoint à la faculté de droit de l'Université de Californie à Los Angeles, sur Twitter. Nécessiterait une documentation, une évaluation et des tentatives pour traiter les impacts prévus. C'est nouveau, excitant et incroyablement nécessaire.

Histoire connexe

Nous avons lu le journal qui a forcé Timnit Gebru à quitter Google. Voici ce qu'il dit.

Le chercheur en éthique vedette de l'entreprise a souligné les risques des grands modèles linguistiques, qui sont essentiels aux activités de Google.



La dernière lettre n'est pas directement liée à la loi sur la responsabilité algorithmique, mais elle fait partie de la même initiative de certains membres du Congrès visant à élaborer une législation qui atténuerait les biais de l'IA et les autres dommages des systèmes automatisés basés sur les données. Notamment, cela survient au milieu d'une pression croissante pour une réglementation antitrust. Plus tôt ce mois-ci, la Federal Trade Commission des États-Unis déposé une plainte antitrust contre Facebook pour son comportement anticoncurrentiel et ses méthodes de concurrence déloyale. Au cours de l'été, les démocrates de la Chambre ont publié un rapport de 449 pages sur les pratiques monopolistiques de Big Tech.

La lettre intervient également dans un contexte de montée des tensions géopolitiques. Alors que les relations américano-chinoises ont atteint un creux historique pendant la pandémie, les responsables américains ont souligné l'importance stratégique des technologies émergentes comme l'IA et la 5G. La lettre soulève également cette dimension, reconnaissant le leadership de Google en matière d'IA et son rôle dans le maintien du leadership américain. Mais il précise que cela ne devrait pas saper l'action réglementaire, un argumentaire popularisé par le PDG de Facebook, Mark Zuckerberg . Pour s'assurer que l'Amérique remporte la course à l'IA, indique la lettre, les entreprises technologiques américaines ne doivent pas seulement être à la tête du monde en matière d'innovation ; ils doivent également s'assurer que cette innovation reflète les valeurs de notre nation.

Notre lettre devrait avertir tout le monde dans le secteur de la technologie, pas seulement Google, que nous y prêtons attention, a déclaré Clarke dans une déclaration au MIT Technology Review. L'IA éthique est le champ de bataille pour l'avenir des droits civils. Nos préoccupations concernant les développements récents ne concernent pas seulement une personne ; ils portent sur ce à quoi ressemblera le 21e siècle si la liberté et l'inclusion académiques passent au second plan au profit d'autres priorités. Nous ne pouvons pas atténuer le biais algorithmique si nous entravons ceux qui cherchent à le rechercher et à l'étudier.



cacher