Les employés de Google font la queue pour jeter le conseil d'éthique de l'IA de Google

Getty Images/Léon Neal

Près d'un millier d'employés de Google, de chercheurs universitaires et d'autres personnalités de l'industrie technologique ont signé une lettre protestant contre la composition d'un conseil indépendant que Google a créé pour guider l'éthique de ses projets d'IA.

Le géant de la recherche annoncé la création du conseil la semaine dernière à EmTech Digital, l'événement du MIT Technology Review à San Francisco. Connu sous le nom de Conseil consultatif externe sur les technologies avancées (ATEAC), il compte huit membres, dont des économistes, des philosophes, des décideurs et des technologues spécialisés dans des questions telles que le biais algorithmique . Il est censé tenir quatre réunions par an, à partir de ce mois-ci, et rédiger des rapports destinés à fournir des commentaires sur les projets de l'entreprise qui utilisent l'intelligence artificielle.

Mais deux de ces membres se sont avérés controversés. L'un, Dyan Gibbens, est PDG de Trumbull, une entreprise qui développe des systèmes autonomes pour l'industrie de la défense - un choix controversé étant donné que des milliers d'employés de Google ont protesté contre la décision de l'entreprise de fournir à l'US Air Force de l'IA pour l'imagerie par drone. La plus grande indignation, cependant, est venue de l'inclusion de Kay Coles James, présidente de la Heritage Foundation, un groupe de réflexion qui s'oppose à la réglementation des émissions de carbone, adopte une ligne dure en matière d'immigration et s'est prononcé contre la protection des droits LGBTQ.

Un membre du conseil, Alessandro Achats , professeur à l'Université Carnegie Mellon spécialisé dans les questions de confidentialité numérique, a annoncé le 30 mars qu'il n'assumerait pas ce rôle. Bien que je me consacre à la recherche aux prises avec des questions éthiques clés d'équité, de droits et d'inclusion dans l'IA, je ne pense pas que ce soit le bon forum pour moi pour m'engager dans cet important travail », il a tweeté .

La création d'ATEAC - et l'inclusion de Gibbens et James - ont peut-être en fait été conçues pour apaiser les critiques de droite de Google. À peu près au même moment où le conseil a été annoncé, Sundar Pichai, PDG de Google, rencontrait le président Donald Trump. Trump a tweeté plus tard : Il a déclaré avec force qu'il était totalement engagé envers l'armée américaine, pas l'armée chinoise. [Nous] avons également discuté de l'équité politique et de diverses choses que Google peut faire pour notre pays. La réunion s'est très bien terminée !

Mais un employé de Google impliqué dans la rédaction de la lettre de protestation, qui a parlé sous couvert d'anonymat, a déclaré que James était plus qu'une simple voix conservatrice au sein du conseil. C'est une réactionnaire qui nie l'existence des personnes trans, qui soutient des positions radicalement anti-immigrées et des positions anti-changement climatique et anti-science.

Certains algorithmes d'IA notés peuvent renforcer les préjugés déjà observés dans la société ; certains ont montré mal identifier les personnes transgenres , par example. Dans ce contexte, le fait que [James] ait été inclus est assez choquant, a déclaré l'employé. Ces technologies façonnent nos institutions sociales, nos vies et l'accès aux ressources. Lorsque l'IA échoue, elle n'échoue pas pour les hommes blancs riches travaillant dans des entreprises technologiques. Il échoue précisément pour les populations auxquelles les politiques de la Fondation du patrimoine visent déjà à nuire.

Des messages postés sur une plateforme de communication interne de Google critiquaient notamment la nomination de James. Selon un post, plus tôt rapporté par le bord et confirmé par l'employé, James ne mérite pas une plate-forme légitimée par Google, et n'appartient certainement à aucune conversation sur la façon dont la technologie Google devrait être appliquée au monde.

À 17 h 30, heure de l'Est des États-Unis, la lettre publique, publiée sur Medium, avait été signée par 855 employés de Google et 143 autres personnes, dont un certain nombre d'éminents universitaires. Non seulement les opinions de James vont à l'encontre des valeurs déclarées de Google, indique la lettre, mais elles vont directement à l'encontre du projet visant à garantir que le développement et l'application de l'IA donnent la priorité à la justice plutôt qu'au profit. Un tel projet devrait plutôt placer les représentants des communautés vulnérables au centre de la prise de décision.

Correction : Une version antérieure de cette histoire indiquait que seuls sept employés de Google avaient signé la lettre sur Medium.

cacher