Que faire lorsqu'un robot est le coupable

Le gouvernement devrait-il réglementer l'intelligence artificielle? Telle était la question centrale du premier atelier de la Maison Blanche sur les implications juridiques et de gouvernance de l'IA, tenue à Seattle mardi.

Nous observons que des problèmes liés à l'IA et à l'apprentissage automatique apparaissent dans tout le gouvernement, a déclaré Ed Felten, directeur adjoint de la technologie à la Maison Blanche. Nous sommes loin d'être sur le point de réglementer largement l'IA… mais le défi est de savoir comment garantir que l'IA reste sûre, contrôlable et prévisible à mesure qu'elle devient plus intelligente.

L'un des principaux objectifs de l'atelier, a déclaré l'un de ses organisateurs, professeur de droit à l'Université de Washington Ryan Calo , était d'aider le public à comprendre où en est la technologie et où elle se dirige. L'idée n'est pas pour le gouvernement d'intervenir et de réglementer l'IA, mais plutôt d'utiliser ses nombreux autres leviers, comme la coordination entre les agences et le pouvoir d'achat, a-t-il déclaré. Les participants comprenaient des entrepreneurs en technologie, des universitaires et des membres du public.

Dans un discours liminaire, Oren Etzioni, PDG de l'Allen Institute for Artificial Intelligence, a noté que nous sommes encore à l'âge sombre de l'apprentissage automatique, avec des systèmes d'IA qui ne fonctionnent généralement bien que sur des problèmes bien structurés comme les jeux de société et la conduite sur autoroute. Il a défendu une approche collaborative où l'IA peut aider les humains à devenir plus sûrs et plus efficaces. Les erreurs hospitalières sont la troisième cause de décès aux États-Unis, a-t-il déclaré. L'IA peut aider ici. Chaque année, des gens meurent parce que nous n'utilisons pas correctement l'IA dans les hôpitaux.

Oren Etzioni, PDG de l'Allen Institute for Artificial Intelligence, à gauche, s'entretient avec les participants à l'atelier de la Maison Blanche sur l'intelligence artificielle.

Néanmoins, Etzioni considère qu'il est beaucoup trop tôt pour parler de réglementation de l'IA : l'apprentissage en profondeur est encore à 99 % un travail humain et une ingéniosité humaine. 'Mon robot l'a fait' n'est pas une excuse. Nous devons assumer la responsabilité de ce que font nos robots, notre IA et nos algorithmes.

Un panel sur la sagesse artificielle s'est concentré sur le moment où ces interactions homme-IA tournent mal, comme dans le cas d'un algorithme conçu pour prédire les futurs délinquants qui semble être raciste. Le problème ne concerne pas les agents de l'IA eux-mêmes, mais les humains utilisant des outils technologiques pour opprimer d'autres humains dans les domaines de la finance, de la justice pénale et de l'éducation, a déclaré Jack Balkin de la Yale Law School.

Plusieurs universitaires ont soutenu l'idée d'un fiduciaire de l'information : donner aux personnes qui collectent des mégadonnées et utilisent l'IA les obligations légales de bonne foi et de fiabilité. Par exemple, les technologues pourraient être tenus responsables s'ils utilisent des données de mauvaise qualité pour former des systèmes d'IA, ou s'ils fossilisent des préjugés fondés sur la race, l'âge ou le sexe dans les algorithmes qu'ils conçoivent.

Comme les institutions gouvernementales s'appuient de plus en plus sur les systèmes d'IA pour la prise de décision, ces institutions auront besoin de personnel qui comprend les limites et les biais inhérents aux données et à la technologie de l'IA, a noté Kate Crawford , chercheur en sciences sociales chez Microsoft Research. Elle a suggéré que les étudiants apprennent l'éthique parallèlement aux compétences en programmation.

Bryant Walker Smith de l'Université de Caroline du Sud a proposé une flexibilité réglementaire pour les technologies en évolution rapide, telles que les voitures sans conducteur. Les entreprises individuelles devraient plaider publiquement en faveur de la sécurité de leurs véhicules autonomes, a-t-il déclaré. Ils devraient établir des mesures puis les surveiller tout au long de la durée de vie de leurs systèmes. Nous avons besoin d'une diversité d'approches pour éclairer le débat public.

Il s'agissait du premier des quatre ateliers prévus pour les mois à venir. Deux aborderont l'IA pour le bien social et les problèmes de sécurité et de contrôle, tandis que le dernier approfondira les implications sociales et économiques de la technologie. Felten a également annoncé que la Maison Blanche lancerait prochainement une demande d'informations pour donner au grand public l'occasion de se prononcer sur l'avenir de l'IA.

L'éléphant dans la pièce, bien sûr, était l'élection présidentielle de novembre. Dans un article de blog plus tôt ce mois-ci, Felten a dévoilé un nouveau sous-comité du Conseil national des sciences et de la technologie sur l'apprentissage automatique et l'intelligence artificielle, axé sur l'utilisation de l'IA pour améliorer les services gouvernementaux d'ici la fin de l'administration.

cacher