L'IA veut être votre frère, pas votre ennemi

Illustration par John Malta

Les chances que l'intelligence artificielle asservisse ou élimine l'humanité au cours de la prochaine décennie sont heureusement minces. Ainsi se conclut un rapport majeur de l'Université de Stanford sur les implications sociales et économiques de l'intelligence artificielle.

Dans le même temps, cependant, le rapport conclut que l'IA semble bouleverser d'énormes aspects de la vie quotidienne, de l'emploi et de l'éducation aux transports et aux divertissements. Plus de 20 leaders dans les domaines de l'IA, de l'informatique et de la robotique ont coécrit le rapport. L'analyse est importante car l'inquiétude du public face à l'impact de l'IA menace de façonner les politiques publiques et les décisions des entreprises.

Il prédit que les camions automatisés, les véhicules volants et les robots personnels seront monnaie courante d'ici 2030, mais prévient que les obstacles techniques restants limiteront ces technologies à certaines niches. Il avertit également que les implications sociales et éthiques des progrès de l'IA, telles que le potentiel de chômage dans certains domaines et les érosions probables de la vie privée entraînées par de nouvelles formes de surveillance et d'exploration de données, devront être ouvertes à la discussion et au débat.

L'étude, qui fait partie d'un projet destiné à durer 100 ans, a été commandée en réponse aux progrès souvent vertigineux de l'informatique qui ont rendu les machines plus capables d'apprendre et de se comporter de manière intelligente. Mais c'est aussi en quelque sorte une réfutation de certaines des déclarations alarmistes qui ont été faites au sujet de ces progrès. Aucune machine avec des objectifs et une intention à long terme autonomes n'a été développée, et il est peu probable qu'elle soit développée dans un avenir proche, indique le rapport.

Je vois vraiment cela comme un moment de passage à l'âge adulte pour le domaine, dit Oren Etzioni , PDG de l'Allen Institute for Artificial Intelligence, un institut de recherche indépendant à Seattle, et co-auteur du rapport. Le battage médiatique extrêmement positif est faux, et l'alarmisme n'est basé sur aucune donnée.

Le rapport identifie les domaines les plus prometteurs pour la recherche future sur l'IA, et Etzioni affirme que parmi ceux-ci, la recherche sur les moyens pour les humains et les systèmes d'IA de collaborer et de coopérer efficacement.

L'étude de cent ans de Stanford rendra compte de ses conclusions tous les cinq ans. Le premier rapport se concentre sur plusieurs domaines clés dans lesquels l'IA aura un impact significatif, notamment les transports, les soins de santé, l'éducation et l'emploi.

Tout en rejetant les scénarios apocalyptiques au départ, le rapport prévient que l'IA aura un impact sur l'emploi, en éliminant des emplois dans certains secteurs, tels que les transports, et en augmentant les emplois - en prenant en charge des tâches clés - dans de nombreux autres domaines. Le rapport va jusqu'à suggérer qu'il faudrait envisager de nouveaux filets de sécurité sociale destinés à aider les personnes déplacées. Il n'est pas trop tôt pour un débat social sur la manière dont les fruits économiques des technologies de l'IA devraient être partagés, déclare-t-il.

Certains pays européens et une poignée d'entrepreneurs américains ont émis l'idée que la perturbation du monde du travail pourrait nécessiter une sorte de revenu de base, bien que l'idée reste controversée auprès de nombreux économistes (voir Basic Income : A Sellout of the American Dream ).

L'étude a été bien accueillie par d'autres experts en IA, dont certains en ont assez des récits de science-fiction qui semblent souvent entourer le débat public sur l'IA. Il est encourageant d'entendre moins d'alarmisme et une évaluation plus sobre de ce qui est susceptible de se produire, dit Ronald Arkin , un professeur de Georgia Tech qui étudie les implications des armes autonomes. Le rapport est un changement rafraîchissant par rapport au barrage constant des soi-disant experts du destin présageant les maux de l'IA et la disparition de l'humanité.

Une grande partie des discussions les plus controversées sur l'IA peuvent être attribuées aux idées de Nick Boström , philosophe à l'Université d'Oxford et auteur d'un livre influent, Superintelligence : Chemins, Dangers, Stratégies (voir AI Doomsayer dit que ses idées font leur chemin). Les idées de Bostrom ont évidemment persuadé d'autres personnes, dont l'influent entrepreneur et technologue Elon Musk et le physicien théoricien Stephen Hawking, de parler des dangers de l'IA.

Max Tegmark professeur de physique au MIT et président de la Institut du futur de la vie , une organisation créée pour étudier les technologies qui pourraient présenter un risque existentiel pour l'humanité, est d'accord avec les conclusions du rapport sur les opportunités pour l'IA. Mais il suggère que le rapport a peut-être été trop hâtif en écartant les risques posés par des changements technologiques imprévus. Son affirmation selon laquelle les robots surhumains sont probablement impossibles est controversée et considérée par certains chercheurs en intelligence artificielle comme trop pessimiste, dit-il.

Stuart Russel , professeur d'informatique à l'Université de Californie à Berkeley, qui dirige une nouvelle fondation annoncée cette semaine, le Center for Human-Compatible Artificial Intelligence, se demande également si le rapport est trop rose dans ses perspectives. Je suis d'accord avec l'affirmation du rapport selon laquelle il n'y a 'aucune raison de s'inquiéter que l'IA soit une menace imminente pour l'humanité', a écrit Russell par e-mail. Mais je ne suis pas d'accord avec la conclusion, impliquée par le rejet du rapport de ceux qui ont soulevé des préoccupations à long terme, qu'il n'y a pas de risque à long terme.

Etzioni, de l'Allen Institute for AI, dit qu'il espère que le rapport informera le public, mais il ne s'attend pas à ce qu'il mette un terme aux affirmations farfelues. Les extrémistes l'ignoreront, dit-il. L'espoir est que les personnes réfléchies seront influencées. Mais, vous savez, Hollywood ne changera pas sa perspective.

cacher