Des chercheurs de Harvard veulent scolariser le Congrès sur l'IA

Photo de la place Harvard Chensiyuan/Wikimedia commons

Lorsque le PDG de Facebook, Mark Zuckerberg, a témoigné devant le Congrès américain, les experts en technologie ont rapidement réalisé à quel point ses interlocuteurs étaient mal informés. Autant le Congrès voulait réglementer le géant de la technologie, autant il était clair qu'il ne savait pas comment. Au lieu de cela, ils l'ont laissé s'en tirer avec des affirmations grandioses sur la façon dont l'IA résoudrait tous les problèmes de l'entreprise.

Pour Dipayan Ghosh, chercheur à la Harvard Kennedy School (HKS), l'audience a souligné le besoin urgent de mettre les décideurs américains au courant des principaux problèmes technologiques, et de l'IA en particulier.

L'IA est une technologie formidable, mais il y a des problèmes vraiment saillants que nous avons vus prendre leur propre vie dans la société, dit Ghosh, qui était conseiller en politique technologique dans l'administration Obama. Nous devons informer les personnes en position de pouvoir sur le fonctionnement réel de ces systèmes, afin que la prochaine fois qu'ils lanceront un effort de réglementation, ils ne soient pas mal informés.

Ghosh co-dirige un nouvelle initiative politique en matière d'IA , lancé aujourd'hui, avec Tom Wheeler, chercheur principal à HKS et président de la Federal Communications Commission des États-Unis sous Obama.

Financée par le Centre Shorenstein sur les médias, la politique et la politique publique de HKS, l'initiative se concentrera sur l'expansion de la recherche juridique et universitaire autour de l'éthique et de la réglementation de l'IA. Il accueillera également un camp d'entraînement pour les membres du Congrès américain afin de les aider à en savoir plus sur la technologie. L'espoir est qu'avec ces efforts combinés, le Congrès et les autres décideurs politiques seront mieux équipés pour réglementer et guider efficacement l'impact croissant de l'IA sur la société.

Au cours de l'année écoulée, une série de scandales technologiques de grande envergure ont rendu de plus en plus claires les conséquences d'une IA mal mise en œuvre. Cela comprend l'utilisation de l'apprentissage automatique pour diffuser la désinformation par le biais des médias sociaux et l'automatisation des pratiques biaisées et discriminatoires grâce à la reconnaissance faciale et à d'autres systèmes automatisés.

En octobre, lors du symposium annuel AI Now, des technologues, des militants des droits de l'homme et des experts juridiques ont souligné à plusieurs reprises la nécessité pour les systèmes de tenir l'IA responsable.

Le gouvernement a une vision à long terme, a déclaré Sherrilyn Ifill, présidente et directrice-avocate du NAACP Legal Defence Fund. Ils détiennent, à bien des égards, la responsabilité de communiquer l'histoire aux entreprises et autres entreprises qui développent ces technologies.

Mais le gouvernement n'a pas les connaissances nécessaires pour assumer cette responsabilité, dit Ghosh. Si vous demandez à un membre du Congrès si l'IA fait partie du problème de la désinformation, il pourrait répondre 'Je ne pense pas' ou 'Je ne sais pas', dit-il.

Dans le cadre de l'initiative, Ghosh et Wheeler ont demandé à environ 30 experts de premier plan en informatique, philosophie, économie et autres domaines de se pencher sur des questions telles que la discrimination, l'équité, la transparence et la responsabilité.

Ces perspectives seront publiées au cours des prochains mois, à commencer par trois cette semaine : Catherine Tucker, professeur à la MIT Sloan School of Management, sur le contexte économique du biais algorithmique ; M. C. Elish et Danah Boyd, responsable de recherche et fondateur du Data & Society Research Institute, respectivement, sur l'éthique du moment et de la manière d'utiliser les systèmes d'IA sans exacerber l'injustice existante ; et Joseph Turow, professeur à l'Annenberg School for Communication, sur les conséquences discriminatoires du marketing hyper-personnalisé.

L'initiative organisera un camp d'entraînement à Washington, DC, en février prochain pour les membres du Congrès et leur personnel de politique technologique pour aider à traduire les articles en discussions politiques productives. Le camp explorera ce que signifie concevoir l'IA de manière éthique et quelles mesures réglementaires pourraient être prises pour atténuer ses dommages et favoriser ses avantages.

Ghosh reconnaît que le climat politique actuel rend difficile l'alignement des deux parties sur un objectif, mais il espère qu'ils trouveront un terrain d'entente sur l'urgence de la question.

cacher