211service.com
Hé Google, désolé que vous ayez perdu votre conseil d'éthique, nous en avons donc créé un pour vous
Eh bien, cela n'a pas pris longtemps. Après un peu plus d'une semaine, Google a fait marche arrière sur la création de son conseil consultatif externe sur les technologies avancées, ou ATEAC, un comité destiné à donner à l'entreprise des conseils sur la manière de développer de manière éthique de nouvelles technologies telles que l'IA. L'inclusion de la présidente de la Heritage Foundation, Kay Coles James, au sein du conseil a provoqué un tollé face à ses opinions anti-écologistes, anti-LGBTQ et anti-immigrants, et dirigé près de 2 500 employés de Google signer une pétition pour son expulsion. Au lieu de cela, le géant de l'Internet a simplement décidé de tout fermer.
Comment les choses ont-elles si mal tourné ? Et Google peut-il les corriger ? Nous avons demandé à une douzaine d'experts en intelligence artificielle, en technologie et en éthique de nous dire où l'entreprise s'est égarée et ce qu'elle pourrait faire ensuite. Si ces personnes avaient été sous ATEAC, l'histoire aurait pu avoir un résultat différent.
'Soyez transparent et précis sur les rôles et les responsabilités des comités d'éthique'
Rashida Richardson, directrice de la recherche sur les politiques à l'AI Now Institute
'Nous ne savons pas si les comités d'éthique sont en fait une boussole morale ou juste un autre tampon en caoutchouc'
En théorie, les comités d'éthique pourraient être très utiles lorsqu'il s'agit de s'assurer que les produits d'IA sont sûrs et non discriminatoires. Mais pour que les comités d'éthique aient un impact significatif, ils doivent être publiquement responsables et avoir un véritable pouvoir de surveillance.
Cela signifie que les entreprises technologiques devraient être disposées à partager les critères qu'elles utilisent pour sélectionner qui peut siéger à ces comités d'éthique. Ils devraient également être transparents et précis quant aux rôles et responsabilités de leurs comités d'éthique afin que le public puisse évaluer leur efficacité. Sinon, nous ne savons pas si les comités d'éthique sont en fait une boussole morale ou juste un autre tampon en caoutchouc. Compte tenu de l'influence et de la responsabilité mondiales des grandes entreprises d'IA, ce niveau de transparence et de responsabilité est essentiel.
Considérez ce que signifie réellement gouverner la technologie de manière efficace et juste
Jake Metcalf, chercheur en éthique technologique chez Data & Society
Le brouhaha de l'ATEAC nous montre à quel point cette nouvelle ère de l'éthique technologique sera probablement tendue et controversée. Google a clairement mal interprété la pièce dans ce cas. Les populations politiquement marginales qui sont soumises aux caprices classificatoires des technologies d'IA/ML sont susceptibles de subir les pires préjudices éthiques de la prise de décision automatisée. Google favorisant Kay Coles James pour la diversité des points de vue par rapport à sa haine ouverte des personnes transgenres montre qu'ils ne considèrent pas suffisamment ce que signifie réellement gouverner la technologie de manière efficace et juste.
«L'éthique signifie deux choses différentes qui peuvent être contradictoires dans la pratique. Les entreprises sont sensibles au premier et terrifiées par le second'
C'est délicat pour les entreprises, car l'éthique signifie deux choses différentes qui peuvent être contradictoires dans la pratique : c'est à la fois le travail quotidien de compréhension et d'atténuation des conséquences (comme la gestion d'un outil de détection des préjugés ou l'organisation d'une réunion de conception délibérative), et le jugement sur la façon dont la société peut être ordonné le plus justement (par exemple, si des dommages disparates aux communautés marginalisées signifient qu'une gamme de produits doit être enrichie). Les entreprises sont sensibles aux premiers et terrifiées par les seconds. Mais si l'éthique de l'IA ne consiste pas à empêcher les abus automatisés, à bloquer le transfert de technologies dangereuses vers des gouvernements autocratiques ou à interdire l'automatisation de la violence d'État, alors il est difficile de savoir ce que les entreprises technologiques pensent que c'est autre que des gestes vides de sens. Sous le nouvel outil de rapport d'éthique qui est compatible avec les indicateurs KPI de l'entreprise se cache une véritable préoccupation que des vies sont en jeu. Les garder en tête en même temps est un défi pour les entreprises bureaucratiques et pour les éthiciens investis à voir des technologies plus justes l'emporter.
Reconnaissez d'abord l'éléphant dans la pièce : les principes d'IA de Google
Evan Selinger, professeur de philosophie au Rochester Institute of Technology
Google a mis le holà à ATEAC sans d'abord reconnaître l'éléphant dans la pièce : les principes de l'IA que le PDG Sundar Pichai a articulé au cours de l'été. Des universitaires de premier plan, des membres d'organisations de la société civile et des cadres supérieurs d'entreprises technologiques m'ont toujours dit que même si les principes semblent bons sur le papier, ils sont suffisamment flexibles pour être interprétés de manière à éviter à Google de devoir compromettre toute croissance à long terme. stratégies, notamment parce que les mécanismes d'application pour violer les principes ne sont pas bien définis et, en fin de compte, l'entreprise entière reste une entreprise d'autorégulation.
Cela dit, cela aiderait certainement à rendre les dirigeants plus responsables devant un comité d'éthique si le groupe était (a) correctement constitué; (b) doté de pouvoirs institutionnels clairs et solides (plutôt que d'être simplement là pour offrir des conseils) ; et (c) également, elle-même, être tenue à des normes de responsabilité transparentes pour s'assurer qu'elle ne devienne pas un rouage dans une machine à laver l'éthique et rationalisante.
Changer les personnes chargées de constituer ces groupes
Ellen Pao, fondatrice de Project Include
Cet effort raté montre exactement pourquoi Google a besoin de meilleurs conseillers. Mais peut-être doivent-ils également changer les personnes chargées de constituer ces groupes – et peut-être que leurs équipes internes devraient également faire ce travail. Il y a eu plusieurs problèmes avec le résultat comme nous l'avons tous vu, mais aussi des problèmes avec le processus. Lorsque vous n'avez pas communiqué à l'ensemble du groupe avec qui ils vont travailler, c'est une énorme erreur. Amener des personnes qui reflètent davantage le monde dans lequel nous vivons aurait dû se faire en interne avant d'essayer de constituer un groupe externe.
Remarque complémentaire, les gens devraient examiner les groupes auxquels ils se joignent, les panels de conférence auxquels ils prennent la parole et leurs équipes avant de s'engager afin qu'ils sachent à quoi ils s'inscrivent. C'est incroyable à quel point vous pouvez les influencer et comment vous pouvez changer la composition d'un groupe simplement en demandant.
Renforcez l'antagonisme - pas ces partenariats internes amicaux et ces efforts de soutien
Meg Leta Jones, professeure adjointe en communication, culture et technologie à l'Université de Georgetown
Les conseils d'éthique ne sont le travail quotidien de personne et n'offrent qu'une possibilité de conversations peu fréquentes de haut niveau qui, au mieux, fournissent un aperçu et, au pire, une couverture. Si nous voulons établir la confiance dans les institutions, y compris les technologies, les entreprises technologiques, les médias et le gouvernement, notre culture politique actuelle exige l'antagonisme, et non ces partenariats internes amicaux et ces efforts de soutien. Renforcer les antagonistes et soutenir l'antagonisme peut répondre de manière plus appropriée et plus efficace aux objectifs d'une « IA éthique ».
'Les conseils d'éthique donnent au mieux un aperçu et au pire une couverture'
Introspectez-vous et responsabilisez les employés qui sont solidaires avec les groupes vulnérables
Anna Lauren Hoffmann, professeure adjointe à The Information School de l'Université de Washington
L'échec du conseil d'administration ATEAC de Google indique clairement que l'éthique de l'IA ne concerne pas seulement la façon dont nous concevons, développons et mettons en œuvre les technologies d'IA, mais également la manière dont nous pratiquons l'éthique. Les vulnérabilités vécues, les distributions de pouvoir et d'influence, et dont les voix s'élèvent sont toutes des considérations intégrales lors de la poursuite de l'éthique dans le monde réel. À cette fin, la débâcle de l'ATEAC et d'autres cas de refoulement (par exemple, contre Project Maven, Dragonfly et les politiques sur le harcèlement sexuel) montrent clairement que Google dispose déjà d'une formidable ressource dans nombre de ses propres employés. Bien que nous ayons également besoin d'une réglementation et d'une surveillance externe significatives, l'entreprise doit se tourner vers elle-même et responsabiliser les employés déjà marginalisés prêts à s'organiser et à être solidaires avec les groupes vulnérables pour s'attaquer aux problèmes omniprésents de transphobie, de racisme, de xénophobie et de haine.
Un conseil d'administration ne peut pas être simplement composé de « quelques personnes importantes que nous connaissons ». Vous avez besoin de véritables éthiciens
Patrick Lin, directeur du Groupe Éthique + Sciences émergentes à Cal Poly
Dans les mots d'Aaliyah, je pense que la prochaine étape pour Google est de vous dépoussiérer et d'essayer à nouveau. Mais ils doivent être plus attentifs à qui ils mettent au conseil d'administration – cela ne peut pas être simplement une liste «demandons à des personnes importantes que nous connaissons», comme la version 1.0 du conseil semblait l'avoir été. Premièrement, s'il y a un intérêt sincère à obtenir des conseils éthiques, alors vous avez besoin de véritables éthiciens, c'est-à-dire d'experts qui ont une formation professionnelle en éthique théorique et appliquée. Sinon, ce serait un rejet de la valeur de l'expertise, qu'on voit déjà beaucoup trop de nos jours, par exemple, quand il s'agit de science fondamentale.
'Imaginez si l'entreprise voulait convoquer un conseil juridique sur l'IA, mais qu'il n'y avait qu'un seul avocat'
Imaginez si l'entreprise voulait convoquer un conseil juridique de l'IA, mais qu'il n'y avait qu'un seul avocat (tout comme il n'y avait qu'un seul philosophe au sein du conseil d'éthique de l'IA v1.0). Cela déclencherait de sérieux drapeaux rouges. Il ne suffit pas que quelqu'un travaille sur des questions d'importance juridique - des tonnes de gens le font, y compris moi, et ils peuvent bien compléter l'opinion d'experts des juristes et des avocats. Mais pour que ce conseil soit vraiment efficace, il doit inclure en son sein de véritables experts du domaine.
Les dernières semaines ont montré que l'organisation directe fonctionne
Os Keyes, doctorant au Data Ecologies Lab de l'Université de Washington
Pour être honnête, je n'ai aucun conseil pour Google. Google fait précisément ce que les entreprises de notre société sont censées faire ; travailler pour un avantage politique (et donc réglementaire, et donc financier) sans laisser une trace de moralité s'immiscer dans leurs résultats trimestriels ou leur plan stratégique. Mon conseil est pour tout le monde sauf Google. Pour les personnes extérieures à Google : appelez vos représentants. Demandez ce qu'ils font au sujet de la réglementation de l'IA. Demandez-leur ce qu'ils font au sujet des contrôles du lobbying. Demandez-leur ce qu'ils font au sujet de la réglementation des entreprises. Pour les universitaires : téléphonez à vos professeurs. Demandez-leur ce qu'ils font pour enseigner aux étudiants en éthique que l'éthique n'est importante que si elle est appliquée et vécue. Pour les personnes à l'intérieur de Google : téléphonez aux personnes extérieures et demandez-leur ce qu'elles attendent de vous. Les événements des dernières semaines ont montré que l'organisation directe fonctionne ; la solidarité fonctionne.
Quatre réunions par an ne sont pas susceptibles d'avoir un impact. Nous avons besoin d'une contribution éthique agile
Irina Raicu, directrice du programme d'éthique d'Internet à l'Université de Santa Clara
Je pense que c'était une belle occasion manquée. Cela m'a amené à me demander qui, au sein de Google, était impliqué dans la prise de décision concernant les personnes à inviter. (Cette décision, en soi, nécessitait des contributions diverses.) Mais cela renvoie au problème plus large ici : le fait que Google a annoncé la création du conseil d'administration sans aucune explication de ses critères de sélection des participants. Il y a également eu très peu de discussions sur les raisons pour lesquelles ils ont créé le conseil, sur l'impact qu'ils espéraient avoir, etc. S'ils avaient fourni plus de contexte, la discussion qui a suivi aurait pu être différente.
Il y a aussi d'autres problèmes; étant donné la rapidité avec laquelle l'IA se développe et est déployée, quatre réunions (même avec un groupe diversifié de conseillers en éthique de l'IA), au cours d'une année, ne sont pas susceptibles d'avoir un impact significatif - c'est-à-dire pour vraiment changer la trajectoire de la recherche ou du développement de produits. Tant que le modèle est un développement agile, nous avons également besoin d'une contribution éthique agile.
Le groupe doit avoir le pouvoir de dire non aux projets
Sam Gregory, directeur de programme chez Witness
Si Google veut véritablement intégrer le respect de l'éthique ou des droits de l'homme dans les initiatives d'IA, il doit d'abord reconnaître qu'un conseil consultatif, ou même un conseil de gouvernance, n'est qu'une partie d'une approche plus large. Ils doivent être clairs dès le départ sur le fait que le groupe a le pouvoir de dire non aux projets et d'être entendu. Ensuite, ils doivent être explicites sur le cadre - nous recommandons qu'il soit basé sur le droit international et les normes établies en matière de droits de l'homme - et par conséquent, un individu ou un groupe qui a des antécédents de discrimination ou d'abus ne devrait pas en faire partie.
Évitez de traiter l'éthique comme un jeu de relations publiques ou un problème technique
Anna Jobin, chercheuse au Health Ethics and Policy Lab de l'EPF
Si Google prend au sérieux l'IA éthique, l'entreprise doit éviter de traiter l'éthique comme un jeu de relations publiques ou un problème technique et l'intégrer dans ses pratiques et processus commerciaux. Il peut être nécessaire de repenser ses structures de gouvernance pour créer une meilleure représentation et une meilleure responsabilité à la fois de son personnel interne et de la société dans son ensemble. En particulier, il doit accorder la priorité au bien-être des minorités et des communautés vulnérables dans le monde entier, en particulier les personnes qui sont ou pourraient être affectées négativement par sa technologie.
'Rechercher non seulement l'expertise traditionnelle, mais aussi les idées de personnes expertes sur leurs propres expériences vécues'
Joy Buolamwini, fondatrice de la Ligue de justice algorithmique
Alors que nous réfléchissons à la gouvernance de l'IA, nous devons non seulement rechercher l'expertise traditionnelle, mais aussi les idées de personnes expertes sur leurs propres expériences vécues. Comment pourrions-nous faire participer les voix marginalisées à l'élaboration de l'IA ? À quoi pourrait ressembler une IA participative qui centre les points de vue de ceux qui sont les plus exposés aux effets néfastes de l'IA ?
'Je ne peux imaginer aucune recommandation d'un tel groupe consultatif faisant obstacle à ce que le marché exige'
Apprendre de l'expérience ATEAC Google devrait intégrer des processus d'examen communautaire rémunérés dans le développement de ses produits et services. Cela nécessitera une transparence significative et une surveillance continue. Et Google et les autres membres du Partenariat sur l'IA devraient mettre de côté une partie des bénéfices pour fournir un financement de consortium à la recherche sur l'éthique et la responsabilité de l'IA, sans se concentrer uniquement sur la recherche sur l'équité de l'IA qui élève uniquement les perspectives techniques.
C'est peut-être pour le mieux que la feuille de vigne du 'développement éthique' a été enlevée
Adam Greenfield, auteur de Technologies radicales
Tout ce que nous avons entendu à propos de ce conseil a été honteux, de l'instinct initial d'inviter James à la décision de le fermer plutôt que de consacrer de l'énergie à faire face aux conséquences de ce choix. Mais étant donné que mes sentiments à propos de l'IA sont plus ou moins ceux du Jihad Butlerien, c'est peut-être pour le mieux que la feuille de vigne du « développement éthique » a été enlevée. En fin de compte, je ne peux imaginer aucune recommandation d'un tel groupe consultatif, quelle que soit sa constitution, faisant obstacle à ce que le marché exige et/ou à la nécessité perçue de rivaliser avec d'autres acteurs engagés dans le développement de l'IA.
'Il est encourageant de voir le pouvoir de l'activisme des employés'
Tess Posner, PDG d'AI4ALL
C'est formidable de voir des entreprises, des organisations et des chercheurs travailler à la création de cadres éthiques pour l'IA. L'industrie de la technologie connaît des difficultés croissantes dans ce domaine - il est difficile de déterminer comment faire cela correctement et cela prendra du temps et des itérations. Nous pensons que c'est une opportunité de continuer à demander quelles voix doivent être incluses et de veiller à inclure diverses voix et voix qui peuvent être directement impactées par les résultats des décisions prises. Il est encourageant de voir le pouvoir de l'activisme des employés influencer le changement autour de cela et d'autres problèmes dans le domaine de la technologie.