AI Doomsayer dit que ses idées font leur chemin

Au cours de l'année écoulée, le professeur de philosophie de l'Université d'Oxford Nick Boström a gagné en visibilité pour avertir des risques potentiels posés par des formes plus avancées d'intelligence artificielle. Il dit maintenant que ses avertissements attirent l'attention des entreprises qui repoussent les limites de la recherche sur l'intelligence artificielle.

Nick Boström

De nombreuses personnes travaillant sur l'IA restent sceptiques ou même hostiles aux idées de Bostrom. Mais depuis son livre sur le sujet, Superintelligence , paru l'été dernier, certains technologues et scientifiques éminents, dont Elon Musk, Stephen Hawking et Bill Gates, ont fait écho à certaines de ses préoccupations. Google est même en train de constituer un comité d'éthique pour superviser son travail sur l'intelligence artificielle.

Bostrom a rencontré la semaine dernière Examen de la technologie MIT Le chef du bureau de San Francisco, Tom Simonite, pour discuter de ses efforts pour amener les chercheurs en intelligence artificielle à considérer les dangers de leur travail (voir Notre peur de l'intelligence artificielle).

Comment en êtes-vous venu à croire que l'intelligence artificielle était un problème plus urgent pour le monde que, disons, un holocauste nucléaire ou une pandémie majeure ?

Beaucoup de choses pourraient provoquer des catastrophes, mais relativement peu pourraient réellement menacer tout l'avenir de la vie intelligente habitant la Terre. Je pense que l'intelligence artificielle est l'une des plus importantes, et elle semble être celle où les efforts d'un petit nombre de personnes, ou une unité supplémentaire de ressources, pourraient faire une différence non négligeable. Avec la guerre nucléaire, beaucoup de grands groupes puissants s'y intéressent déjà.

Qu'en est-il du changement climatique, qui est largement considéré comme la plus grande menace qui pèse sur l'humanité en ce moment ?

C'est un très, très petit risque existentiel. Pour qu'il en soit un, nos modèles actuels devraient être erronés - même les pires scénarios signifient [seulement] que le climat dans certaines parties du monde serait un peu plus défavorable. Ensuite, nous serions incapables de remédier à cela par une géo-ingénierie, ce qui semble également peu probable.

Certaines théories éthiques impliquent que le risque existentiel est bien plus important. Tout bien considéré, l'atténuation des risques existentiels devrait être beaucoup plus importante qu'elle ne l'est aujourd'hui. Le monde dépense beaucoup plus pour développer de nouvelles formes de rouge à lèvres que pour le risque existentiel.

Si quelqu'un venait vous voir et vous disait : Mon entreprise a développé une technologie qui semble pouvoir rendre l'intelligence artificielle beaucoup plus puissante, que lui conseilleriez-vous ?

La première suggestion serait de développer des compétences en interne dans la recherche sur la sécurité de l'IA. Une chose cruciale est d'établir une bonne relation de travail entre les personnes travaillant sur l'IA et les personnes qui réfléchissent aux problèmes de sécurité. La seule façon d'avoir un bon scénario est que ces idées soient créées puis mises en œuvre.

Google, Facebook et d'autres grandes entreprises technologiques semblent être à la pointe des progrès en matière d'intelligence artificielle. Parlez-vous déjà avec eux ?

Je ne veux pas citer de noms. Ce sont eux qui s'intéressent de près à ce domaine. Je pense qu'il est reconnu qu'il est logique que certaines personnes réfléchissent à [la sécurité de l'IA] maintenant, puis peut-être, au fur et à mesure que les choses avancent, pour accélérer cela. C'est bien d'avoir une graine là-dedans, quelqu'un qui surveille ces choses.

Quel genre de recherche est possible sur quelque chose d'aussi loin d'être réel aujourd'hui ?

Ce qui a été produit à ce jour est une compréhension plus claire de la nature du problème et de certains concepts qui peuvent être utilisés pour réfléchir à ces choses. Celles-ci peuvent ne pas ressembler à grand-chose sur le papier, mais auparavant, il n'était pas possible de passer à l'étape suivante, qui consiste à élaborer un programme de recherche technique.

Pouvez-vous donner un exemple de projet technique qui pourrait être là-dessus?

Par exemple, pourriez-vous concevoir un système de motivation de l'IA [afin] que l'IA ne résiste pas au programmeur qui vient changer son objectif ? Il y a tout un ensemble de choses qui pourraient être pratiquement utiles, comme les méthodes de boxe - des outils qui peuvent contenir une IA avant qu'elle ne soit prête à être publiée.

Mais ceux-ci sont loin des types de systèmes que les chercheurs, disons, de Google sont en train de construire aujourd'hui.

Oui. L'un des défis consiste à faire un travail utile dans ce domaine bien avant de disposer d'un système où elles pourraient ou devraient être appliquées.

Une intelligence artificielle bien en deçà du niveau humain ne pourrait-elle pas encore causer des problèmes ? Par exemple, s'il est utilisé par un gouvernement comme une arme, ou accidentellement s'il est lâché sur les marchés financiers ?

Il y a toute une classe de problèmes plus imminents et plus petits que certaines personnes disent être plus réels. Il y a le commerce algorithmique, ou les drones, ou l'automatisation et son impact sur les marchés du travail, ou si les systèmes pourraient discriminer consciemment ou non sur la base de la race. Je ne nie pas que ces problèmes existent - je pense simplement qu'il y a ce problème supplémentaire que le monde pourrait ne pas résoudre car il ne devient vraiment sérieux que lorsque l'IA atteint un certain niveau très élevé.

Vous prenez soin de dire que personne ne peut vraiment prédire à quel point ce niveau est proche. Mais y a-t-il des avancées particulières qui signaleraient que nous allons quelque part ?

Très probablement, un certain nombre de grandes percées devraient se produire, pour donner plus de capacités de raisonnement de bon sens, des capacités d'apprentissage générales dans différents domaines, [et] des capacités de planification plus flexibles.

Il y a eu au moins deux périodes où les bulles de battage médiatique dans le domaine ont ensuite été suivies de périodes de désillusion. Il se pourrait bien que nous soyons maintenant dans une troisième bulle de battage médiatique et que nous atteignions la limite de ce qui peut être fait avec ces nouvelles techniques et cela prendra beaucoup de temps avant la prochaine grande frontière. Mais ça pourrait aussi être la vague qui va jusque là.

Restez-vous optimiste quant à nos chances si c'est le cas ?

Mon point de vue à long terme est qu'il est fort probable que nous nous retrouvions dans un mauvais ou un très bon endroit, pas dans un endroit qui soit moyen. Espérons que cela se révélera génial.

cacher