Les Américains veulent réglementer l'IA mais ne font confiance à personne pour le faire

Emil Bruckner/Unsplash

En 2018, plusieurs controverses très médiatisées impliquant l'IA ont servi de signal d'alarme aux technologues, aux décideurs et au public. La technologie nous a peut-être apporté des avancées bienvenues dans de nombreux domaines, mais elle peut également échouer de manière catastrophique lorsqu'elle est construite de manière bâclée ou appliquée avec négligence.

Il n'est donc pas surprenant que les Américains aient un soutien mitigé pour le développement continu de l'IA et conviennent à une écrasante majorité qu'elle devrait être réglementée, selon un nouvelle étude du Centre pour la gouvernance de l'IA et du Future of Humanity Institute de l'Université d'Oxford.

Ce sont des leçons importantes que les décideurs politiques et les technologues doivent prendre en compte dans la discussion sur la meilleure façon de faire progresser et de réglementer l'IA, déclare Allan Dafoe, directeur du centre et co-auteur du rapport. Il n'y a pas actuellement de consensus en faveur du développement d'une IA avancée, ou que ce sera bon pour l'humanité, dit-il. Ce type de perception pourrait conduire à ce que le développement de l'IA soit perçu comme illégitime ou provoquer des réactions politiques contre le développement de l'IA.

Il est clair que les décideurs aux États-Unis et dans le monde doivent avoir une meilleure compréhension des préoccupations du public et de la manière dont elles doivent être traitées. Voici quelques-uns des principaux enseignements du rapport.

Les Américains ne sont pas sûrs que l'IA soit une bonne chose

Alors que plus d'Américains soutiennent que s'opposent au développement de l'IA, il n'y a pas de consensus fort de toute façon.

Un pourcentage plus élevé de répondants pensent également qu'une intelligence artificielle de haut niveau ferait plus de mal que de bien à l'humanité.

Lorsqu'on leur a demandé de classer leurs préoccupations spécifiques, ils ont cité en tête l'affaiblissement de la confidentialité des données et la sophistication accrue des cyberattaques, à la fois comme des problèmes de grande importance et comme ceux qui affecteront très probablement de nombreux Américains au cours des 10 prochaines années. Les armes autonomes suivaient de près en importance, mais étaient classées avec une probabilité plus faible d'impact à grande échelle.

Les Américains veulent une meilleure gouvernance de l'IA

Plus de 8 Américains sur 10 pensent que l'IA et la robotique doivent être gérées avec soin.

C'est plus facile à dire qu'à faire, car ils ne font pas non plus confiance à une seule entité pour reprendre ce flambeau. Parmi les différentes options présentées parmi les agences fédérales et internationales, les entreprises, les organisations à but non lucratif et les universités, aucune n'a reçu plus de 50 % de la confiance des répondants pour développer et gérer l'IA de manière responsable. Les chercheurs militaires et universitaires américains ont cependant reçu le plus de confiance pour le développement de la technologie, tandis que les entreprises technologiques et les organisations à but non lucratif ont reçu plus de confiance que les acteurs gouvernementaux pour la réglementer.

Je crois que l'IA pourrait être un avantage considérable, dit Dafoe. Mais le rapport montre un obstacle majeur pour y parvenir : il faut s'assurer d'avoir un large consensus légitime autour de ce que la société va entreprendre.

Correction: Une version antérieure de cette histoire comportait une faute de frappe dans le premier graphique, montrant que 31 % des Américains « s'opposent quelque peu » au développement de l'IA. Il a été corrigé à 13 %.

cacher