Cinq façons de faire de l'IA une plus grande force pour le bien en 2021

Un ballon est attaché à un poids en métal. Une paire de ciseaux coupe la ficelle qui la maintient en place. Getty

Il y a un an, pas au courant de ce que 2020 apporterait, je reflété sur le moment charnière dans lequel se trouvait la communauté de l'IA. L'année précédente, 2018, avait vu une série d'échecs automatisés très médiatisés, comme accidents de voiture autonome et outils de recrutement discriminatoires . En 2019, le domaine a répondu avec plus de discussions sur l'éthique de l'IA que jamais auparavant. Mais parler, ai-je dit, ne suffisait pas. Nous devions prendre des mesures concrètes. Deux mois plus tard, le coronavirus a fermé le monde.

Dans notre nouvelle réalité socialement distante et éloignée de tout, ces conversations sur les dommages algorithmiques ont soudainement atteint leur paroxysme. Des systèmes qui avaient été à la marge, comme Algorithmes de numérisation de visage de HireVue et outils de surveillance du lieu de travail , devenaient grand public. D'autres, comme des outils pour suivre et évaluer les étudiants , tournaient en temps réel. En août, après un échec spectaculaire du gouvernement britannique pour remplacer les examens en personne par un algorithme d'admission à l'université, des centaines d'étudiants se sont réunis à Londres pour scander Fuck the algorithm. Cela devient le cri de guerre de 2020, tweeté Deb Raji, chercheuse sur la responsabilité de l'IA, lorsqu'un manifestant de Stanford l'a crié à nouveau en réponse à une débâcle différente quelques mois après.

En même temps, il y avait effectivement plus d'action. Lors d'une victoire majeure, Amazon, Microsoft et IBM ont interdit ou suspendu leur vente de reconnaissance faciale aux forces de l'ordre, après que le meurtre de George Floyd a déclenché des manifestations mondiales contre la brutalité policière. C'était l'aboutissement de deux ans de combat par des chercheurs et des militants des droits civiques pour démontrer les effets inefficaces et discriminatoires des technologies des entreprises. Un autre changement était petit mais notable : pour la toute première fois, NeurIPS, l'une des conférences de recherche les plus importantes sur l'IA, a demandé aux chercheurs de soumettre une déclaration d'éthique avec leurs papiers.

Nous voici donc au début de 2021, avec plus d'attention publique et réglementaire sur l'influence de l'IA que jamais auparavant. Ma résolution du Nouvel An : faisons en sorte que ça compte. Voici cinq espoirs que j'ai pour l'IA dans l'année à venir.

Réduire l'influence des entreprises dans la recherche

Les géants de la technologie ont un contrôle disproportionné sur l'orientation de la recherche en IA. Cela a déplacé la direction du domaine dans son ensemble vers de plus en plus de mégadonnées et de grands modèles, avec plusieurs conséquences. Cela fait exploser l'impact climatique des progrès de l'IA, empêche les laboratoires aux ressources limitées de participer sur le terrain et conduit à une enquête scientifique plus paresseuse en ignorant l'éventail des autres approches possibles. Comme Google l'éviction de Timnit Gebru révélée , les géants de la technologie limiteront également facilement la capacité d'enquêter sur d'autres conséquences.

Mais une grande partie de l'influence des entreprises se résume à l'argent et au manque de financement alternatif. Comme je l'ai écrit l'année dernière dans mon profil d'OpenAI , le laboratoire cherchait initialement à ne compter que sur des donateurs indépendants et fortunés. Le pari s'est avéré insoutenable et quatre ans plus tard, OpenAI a signé un accord d'investissement avec Microsoft. J'espère que nous verrons davantage de gouvernements combler ce vide pour offrir aux chercheurs des options de financement non liées à la défense. Ce ne sera pas une solution parfaite, mais ce sera un début. Les gouvernements sont redevables au public, pas à la ligne de fond.

Se recentrer sur une compréhension de bon sens

L'attention écrasante portée aux modèles plus gros et plus méchants a éclipsé l'un des objectifs centraux de la recherche en IA : créer des machines intelligentes qui ne se contentent pas de faire correspondre les modèles, mais qui comprennent réellement le sens. Bien que l'influence des entreprises soit un contributeur majeur à cette tendance, il existe également d'autres coupables. Les conférences de recherche et les publications à comité de lecture mettent fortement l'accent sur l'obtention de résultats de pointe. Mais l'état de l'art est souvent mal mesuré par des tests qui peut être battu avec plus de données et des modèles plus grands.

Histoire connexe

Nous avons lu le journal qui a forcé Timnit Gebru à quitter Google. Voici ce qu'il dit.

Le chercheur en éthique vedette de l'entreprise a souligné les risques des grands modèles linguistiques, qui sont essentiels aux activités de Google.

Ce n'est pas que les modèles à grande échelle ne pourraient jamais atteindre une compréhension de bon sens. C'est encore une question ouverte. Mais il existe d'autres voies de recherche qui méritent un investissement plus important. Certains experts ont misé sur IA neurosymbolique , qui combine l'apprentissage en profondeur avec des systèmes de connaissances symboliques. D'autres expérimentent techniques plus probabilistes qui utilisent beaucoup moins de données, inspirés par la capacité d'un enfant humain à apprendre à partir de très peu d'exemples.

En 2021, j'espère que le domaine réalignera ses incitations pour donner la priorité à la compréhension plutôt qu'à la prédiction. Non seulement cela pourrait conduire à des systèmes plus robustes sur le plan technique, mais les améliorations auraient également des implications sociales majeures. La susceptibilité des systèmes actuels d'apprentissage en profondeur à être trompés, par exemple, compromet la sécurité des voitures autonomes et ouvre des possibilités dangereuses pour armes autonomes . L'incapacité des systèmes à faire la distinction entre corrélation et causalité est également à l'origine de discrimination algorithmique .

Autonomiser les chercheurs marginalisés

Si les algorithmes codifient les valeurs et les perspectives de leurs créateurs, un large échantillon représentatif de l'humanité devrait être présent autour de la table lorsqu'ils sont développés. Je n'en ai pas vu de meilleure preuve qu'en décembre 2019, lorsque j'ai assisté à NeurIPS. Cette année-là, avec un nombre record de femmes et de conférenciers et de participants issus de minorités, j'ai pu sentir la teneur des débats changer de manière tangible . Il y a eu plus de discussions que jamais sur l'influence de l'IA sur la société.

À l'époque, j'ai félicité la communauté pour ses progrès. Mais Le traitement de Gebru par Google , l'une des rares femmes noires éminentes de l'industrie, a montré tout le chemin qu'il reste à parcourir. La diversité en nombre n'a pas de sens si ces personnes ne sont pas habilitées à apporter leur expérience vécue dans leur travail. Je suis optimiste, cependant, que la marée change. Le point d'éclair marqué par le licenciement de Gebru s'est transformé en un moment critique de réflexion pour l'industrie. J'espère que cet élan conduira à un changement systémique durable.

Centrer les perspectives des communautés touchées

Il y a aussi un autre groupe à amener à la table. L'une des tendances les plus intéressantes de l'année dernière a été l'émergence de apprentissage automatique participatif . C'est une provocation de réinventer le processus de développement de l'IA pour inclure ceux qui finissent par être soumis aux algorithmes.

En juillet, le premier atelier conférence dédié à cette approche a recueilli un large éventail d'idées sur ce à quoi cela pourrait ressembler. Les suggestions comprenaient de nouvelles procédures de gouvernance pour solliciter les commentaires de la communauté ; de nouvelles méthodes d'audit de modèles pour informer et impliquer le public ; et des refontes proposées des systèmes d'IA pour donner aux utilisateurs plus de contrôle sur leurs paramètres.

Mon espoir pour 2021 est de voir davantage de ces idées explorées et adoptées sérieusement. Facebook fait déjà un début : s'il donne suite en permettant à son conseil de surveillance externe d'apporter des modifications contraignantes aux politiques de modération de contenu de la plateforme, la structure de gouvernance pourrait devenir un mécanisme de rétroaction digne d'émulation.

Codifier les garde-corps dans la réglementation

Jusqu'à présent, les efforts de la base ont conduit le mouvement à atténuer les dommages algorithmiques et à tenir les géants de la technologie responsables. Mais il appartiendra aux régulateurs nationaux et internationaux de mettre en place des garde-fous plus permanents. La bonne nouvelle est que les législateurs du monde entier ont observé et sont en train de rédiger une législation. Aux États-Unis, les membres du Congrès ont déjà introduit des projets de loi pour lutter contre la reconnaissance faciale, les biais de l'IA et les deepfakes. Plusieurs d'entre eux aussi envoyé une lettre à Google en décembre exprimant leur intention de continuer à appliquer ce règlement.

Donc mon dernier espoir pour 2021 est que nous voyions passer certains de ces projets de loi. Il est temps de codifier ce que nous avons appris au cours des dernières années et de nous éloigner de la fiction de l'autorégulation.

cacher