Intelligence artificielle générale : sommes-nous proches, et est-il même judicieux d'essayer ?

Ariel Davis

L'idée de l'intelligence artificielle générale telle que nous la connaissons aujourd'hui commence par une explosion de dot-com à Broadway.

Il y a vingt ans, avant que Shane Legg ne se mette en contact avec Demis Hassabis, diplômé en neurosciences, à propos d'une fascination commune pour l'intelligence ; avant que le couple ne se lie avec l'ami d'enfance de Hassabis, Mustafa Suleyman, un militant progressiste, pour transformer cette fascination en une entreprise appelée DeepMind; avant que Google n'achète cette société pour plus d'un demi-milliard de dollars quatre ans plus tard, Legg travaillait dans une startup à New York appelée Webmind, créée par le chercheur en intelligence artificielle Ben Goertzel. Aujourd'hui, les deux hommes représentent deux branches très différentes de l'avenir de l'intelligence artificielle, mais leurs racines remontent à un terrain d'entente.

Même pendant les jours grisants de la bulle Internet, les objectifs de Webmind étaient ambitieux. Goertzel voulait créer un cerveau de bébé numérique et le publier sur Internet, où il pensait qu'il grandirait pour devenir pleinement conscient de lui-même et bien plus intelligent que les humains. Nous sommes à la veille d'une transition d'une ampleur égale à l'avènement de l'intelligence, ou à l'émergence du langage, a-t-il dit au Moniteur de la science chrétienne en 1998.

Webmind a essayé de se financer en construisant un outil pour prédire le comportement des marchés financiers sur le côté, mais le plus grand rêve ne s'est jamais réalisé. Après avoir brûlé 20 millions de dollars, Webmind a été expulsé de ses bureaux à la pointe sud de Manhattan et a cessé de payer son personnel. Elle a déposé son bilan en 2001.

Ben Goertzel

COMMUNS WIKIMÉDIA

Mais Legg et Goertzel sont restés en contact. Lorsque Goertzel composait un livre de essais sur l'IA surhumaine quelques années plus tard, c'est Legg qui a trouvé le titre. Je parlais à Ben et je me disais: 'Eh bien, s'il s'agit de la généralité que les systèmes d'IA n'ont pas encore, nous devrions simplement l'appeler Intelligence Artificielle Générale », déclare Legg, qui est maintenant le scientifique en chef de DeepMind. Et AGI a en quelque sorte un anneau en tant qu'acronyme.

Le terme est resté. Le livre de Goertzel et l'annuel Conférence AGI qu'il a lancées en 2008 ont fait d'AGI un mot à la mode commun pour l'IA humaine ou surhumaine. Mais c'est aussi devenu un épouvantail majeur. Je n'aime pas le terme AGI, déclare Jérôme Pesenti, responsable de l'IA chez Facebook. Je ne sais pas ce que cela signifie.

Il n'est pas seul. Une partie du problème est que l'AGI est un fourre-tout pour les espoirs et les craintes entourant une technologie entière. Contrairement à la croyance populaire, il ne s'agit pas vraiment de la conscience de la machine ou des robots pensants (bien que de nombreux AGI en rêvent aussi). Mais il s'agit de voir grand. Bon nombre des défis auxquels nous sommes confrontés aujourd'hui, du changement climatique aux démocraties défaillantes en passant par les crises de santé publique, sont extrêmement complexes. Si nous avions des machines capables de penser comme nous ou mieux, plus rapidement et sans fatigue, nous aurions peut-être plus de chances de résoudre ces problèmes. Comme l'informaticien I.J. Bien dit en 1965 : la première machine ultra-intelligente est la dernière invention que l'homme ait jamais eu besoin de faire.

Elon Musk, qui a investi très tôt dans DeepMind et s'est associé à un petit groupe de méga-investisseurs, dont Peter Thiel et Sam Altman, pour investir 1 milliard de dollars dans OpenAI, a créé une marque personnelle à partir de prédictions insensées. Mais quand il parle, des millions écoutent. Il y a quelques mois, il a déclaré au New York Times que L'IA surhumaine est dans moins de cinq ans . Cela va être sur nous très rapidement, a-t-il déclaré sur le Podcast Lex Fridman . Ensuite, nous devrons déterminer ce que nous devrions faire, si nous avons même ce choix.

En mai, Pesenti riposté . Elon Musk n'a aucune idée de ce dont il parle, a-t-il tweeté. L'AGI n'existe pas et nous sommes loin d'égaler l'intelligence humaine. Musk a répondu : Facebook craint.

De telles poussées ne sont pas rares. Voici André Ng , ancien responsable de l'IA chez Baidu et cofondateur de Google Brain : Éliminons les absurdités de l'AGI et consacrons plus de temps aux problèmes urgents.

Et Julien Togelius , chercheur en IA à l'Université de New York : Croire en l'IAG, c'est comme croire en la magie. C'est une façon d'abandonner la pensée rationnelle et d'exprimer l'espoir/la peur de quelque chose qui ne peut être compris. Parcourez le hashtag #noAGI sur Twitter et vous verrez de nombreux poids lourds de l'IA peser, y compris Yann LeCun , scientifique en chef de l'IA de Facebook, qui a remporté le prix Turing en 2018.

Mais avec la récente série de succès de l'IA, du champion du jeu de société AlphaZero au convaincant générateur de faux textes GPT-3, les discussions sur l'AGI ont augmenté. Même si ces outils sont encore très loin de représenter l'intelligence générale - AlphaZero ne peut pas écrire d'histoires et GPT-3 ne peut pas jouer aux échecs, et encore moins comprendre pourquoi les histoires et les échecs comptent pour les gens - l'objectif de construire un AGI, autrefois considéré comme fou, devient acceptable encore.

Certains des laboratoires d'IA les plus grands et les plus respectés au monde prennent cet objectif très au sérieux. OpenAI a déclaré vouloir être le premier à construire une machine avec des capacités de raisonnement de type humain . L'énoncé de mission non officiel mais largement répété de DeepMind est de résoudre le renseignement . Les hauts responsables des deux sociétés sont heureux de discuter de ces objectifs en termes d'AGI.

Un demi-siècle plus tard, nous sommes encore loin de créer une IA avec les capacités multitâches d'un humain ou même d'un insecte.

Parler d'AGI au début des années 2000 vous a mis sur la frange lunatique, dit Legg. Même lorsque nous avons lancé DeepMind en 2010, nous avons eu une quantité étonnante de roulement des yeux lors des conférences. Mais les choses changent. Certaines personnes sont mal à l'aise avec ça, mais ça vient du froid », dit-il.

Alors pourquoi l'AGI est-elle controversée ? Pourquoi est-ce important? Et est-ce un rêve téméraire et trompeur – ou le but ultime ?

Qu'est-ce que l'AGI ?

Le terme est d'usage courant depuis un peu plus d'une décennie, mais les idées qu'il contient existent depuis toute une vie.

À l'été 1956, une douzaine de scientifiques se sont réunis au Dartmouth College dans le New Hampshire pour travailler sur ce qu'ils croyaient être un modeste projet de recherche. Présentant l'atelier au préalable, les pionniers de l'IA John McCarthy, Marvin Minsky, Nat Rochester et Claude Shannon a écrit : L'étude doit procéder sur la base de la conjecture que chaque aspect de l'apprentissage ou toute autre caractéristique de l'intelligence peut en principe être décrit avec une telle précision qu'une machine peut être conçue pour le simuler. Une tentative sera faite pour trouver comment faire en sorte que les machines utilisent le langage, forment des abstractions et des concepts, résolvent des types de problèmes désormais réservés aux humains et s'améliorent. Ils ont pensé que cela prendrait 10 personnes deux mois.

Avance rapide jusqu'en 1970 et voici Minsky à nouveau, intrépide : dans trois à huit ans, nous aurons une machine avec l'intelligence générale d'un être humain moyen. Je veux dire une machine capable de lire Shakespeare, de graisser une voiture, de faire de la politique de bureau, de raconter une blague, de se battre. À ce stade, la machine commencera à s'éduquer à une vitesse fantastique. Dans quelques mois, il sera au niveau du génie, et quelques mois après, ses pouvoirs seront incalculables.

Trois choses ressortent de ces visions de l'IA : une capacité humaine à généraliser, une capacité surhumaine à s'auto-améliorer à un rythme exponentiel et une portion démesurée de vœux pieux. Un demi-siècle plus tard, nous sommes encore loin de créer une IA avec les capacités multitâches d'un humain ou même d'un insecte.

GETTY IMAGES

Cela ne veut pas dire qu'il n'y a pas eu d'énormes succès. De nombreux éléments de cette première liste de choses à faire ont été cochés : nous avons des machines qui peuvent utiliser le langage, voir et résoudre bon nombre de nos problèmes. Mais les IA que nous avons aujourd'hui ne ressemblent pas à des humains comme l'imaginaient les pionniers. L'apprentissage en profondeur, la technologie à l'origine du boom de l'IA, forme les machines à maîtriser un grand nombre de choses, comme écrire de fausses histoires et jouer aux échecs, mais une seule à la fois.

Lorsque Legg a suggéré le terme AGI à Goertzel pour son livre de 2007, il opposait l'intelligence artificielle générale à cette idée étroite et dominante de l'IA. Les gens utilisaient plusieurs termes connexes, tels que l'IA forte et l'IA réelle, pour distinguer la vision de Minsky de l'IA qui était arrivée à la place.

Parler d'AGI signifiait souvent que l'IA avait échoué, explique Joanna Bryson, chercheuse en IA à l'école Hertie de Berlin : C'était l'idée qu'il y avait des gens qui faisaient juste ce truc ennuyeux, comme la vision artificielle, mais nous ici... et j'étais l'une d'entre elles à l'époque - essayons toujours de comprendre l'intelligence humaine, dit-elle. IA forte, sciences cognitives, AGI - c'étaient nos différentes façons de dire: «Vous avez foiré; nous avançons.

Cette idée que l'IAG est le véritable objectif de la recherche en IA est toujours d'actualité. Un système d'IA qui fonctionne devient rapidement un simple logiciel - les trucs ennuyeux de Bryson. Pendant ce temps, AGI devient un remplaçant pour toute IA que nous n'avons pas encore compris comment construire, toujours hors de portée.

Histoire connexe

Qu'est-ce que l'apprentissage automatique ?

Les algorithmes d'apprentissage automatique trouvent et appliquent des modèles dans les données. Et ils dirigent à peu près le monde.

Parfois, Legg parle d'AGI comme d'une sorte de multi-outil - une machine qui résout de nombreux problèmes différents, sans qu'il soit nécessaire d'en concevoir une nouvelle pour chaque défi supplémentaire. De ce point de vue, il ne serait pas plus intelligent qu'AlphaGo ou GPT-3 ; il aurait juste plus de capacités. Ce serait une IA à usage général, pas une intelligence à part entière. Mais il parle aussi d'une machine avec laquelle vous pourriez interagir comme s'il s'agissait d'une autre personne. Il décrit une sorte de compagnon de jeu ultime : Ce serait merveilleux d'interagir avec une machine et de lui montrer un nouveau jeu de cartes et de lui faire comprendre et de vous poser des questions et de jouer au jeu avec vous, dit-il. Ce serait un rêve devenu réalité.

Lorsque les gens parlent d'AGI, ce sont généralement ces capacités humaines qu'ils ont à l'esprit. Thore Graepel , un collègue de Legg chez DeepMind, aime utiliser une citation de l'auteur de science-fiction Robert Heinlein, qui semble refléter les paroles de Minsky : un être humain devrait être capable de changer une couche, de planifier une invasion, de boucher un porc, de conduire un navire, concevoir un bâtiment, écrire un sonnet, équilibrer des comptes, construire un mur, reconstituer un os, consoler un mourant, prendre des ordres, donner des ordres, coopérer, agir seul, résoudre des équations, analyser un nouveau problème, planter du fumier, programmer un ordinateur, cuisiner un bon repas, combattre efficacement, mourir vaillamment. La spécialisation est pour les insectes.

Et pourtant, fait amusant: la description incontournable de Graepel est prononcée par un personnage appelé Lazarus Long dans le roman de Heinlein de 1973 Assez de temps pour l'amour . Long est une sorte de surhomme, le résultat d'une expérience génétique qui lui permet de vivre des centaines d'années. Pendant cette période prolongée, Long vit de nombreuses vies et maîtrise de nombreuses compétences. En d'autres termes, Minsky décrit les capacités d'un humain typique ; Pas Graepel.

Les objectifs de la recherche d'AGI changent constamment de cette manière. Qu'est-ce que les gens veulent dire quand ils parlent d'intelligence artificielle de type humain - humain comme vous et moi, ou humain comme Lazarus Long ? Pour Pesenti, cette ambiguïté est un problème. Je ne pense pas que quiconque sache ce que c'est, dit-il. Les humains ne peuvent pas tout faire. Ils ne peuvent pas résoudre tous les problèmes et ils ne peuvent pas s'améliorer.

Le champion de Go Lee Sedol (à gauche) serre la main du co-fondateur de DeepMind Demis Hassabis

GETTY

Et alors pourrait un AGI être comme dans la pratique? Le qualifier d'humain est à la fois vague et trop spécifique. Les humains sont le meilleur exemple d'intelligence générale que nous ayons, mais les humains sont aussi hautement spécialisés. Un rapide coup d'œil sur l'univers varié de l'intelligence animale - de la cognition collective observée chez les fourmis aux compétences de résolution de problèmes des corbeaux ou des pieuvres en passant par l'intelligence plus reconnaissable mais toujours étrangère des chimpanzés - montre qu'il existe de nombreuses façons de construire une intelligence générale. .

Même si nous construisons une AGI, nous ne la comprenons peut-être pas entièrement. Les modèles d'apprentissage automatique d'aujourd'hui sont généralement des boîtes noires, ce qui signifie qu'ils arrivent à des résultats précis grâce à des voies de calcul qu'aucun humain ne peut comprendre. Ajoutez une superintelligence auto-améliorée au mélange et il est clair pourquoi la science-fiction fournit souvent les analogies les plus faciles.

Certains associeraient également la conscience ou la sensibilité aux exigences d'un AGI. Mais si l'intelligence est difficile à cerner, la conscience est encore pire. Les philosophes et les scientifiques ne savent pas exactement ce que c'est en nous-mêmes, et encore moins ce que ce serait dans un ordinateur. L'intelligence nécessite probablement un certain degré de conscience de soi, une capacité à réfléchir sur votre vision du monde, mais ce n'est pas nécessairement la même chose que la conscience - ce qu'elle se sent aimez découvrir le monde ou réfléchir à votre vision de celui-ci. Même les plus fidèles d'AGI sont agnostiques quant à la conscience de la machine.

Comment fait-on une AGI ?

Legg a poursuivi l'intelligence toute sa carrière. Après Webmind, il a travaillé avec Marcus Hutter à l'Université de Lugano en Suisse sur une thèse de doctorat intitulée Super intelligence des machines . Hutter (qui est maintenant également chez DeepMind) travaillait sur une définition mathématique de l'intelligence qui n'était limitée que par les lois de la physique - une intelligence générale ultime.

Shane Legg

PROFONDEUR

Le couple a publié une équation pour ce qu'ils ont appelé intelligence universelle , que Legg décrit comme une mesure de la capacité à atteindre des objectifs dans un large éventail d'environnements. Ils ont montré que leur définition mathématique était similaire à de nombreuses théories de l'intelligence trouvées en psychologie, qui définit également l'intelligence en termes de généralité.

Chez DeepMind, Legg transforme son travail théorique en démonstrations pratiques, en commençant par les IA qui atteignent des objectifs particuliers dans des environnements particuliers, des jeux aux repliement des protéines .

La partie délicate vient ensuite : associer plusieurs capacités ensemble. L'apprentissage en profondeur est l'approche la plus générale que nous ayons, en ce sens qu'un algorithme d'apprentissage en profondeur peut être utilisé pour apprendre plus d'une tâche. AlphaZero a utilisé le même algorithme pour apprendre le go, le shogi (un jeu d'échecs japonais) et les échecs. DeepMind Système Atari57 utilisé le même algorithme pour maîtriser tous les jeux vidéo Atari. Mais les IA ne peuvent toujours apprendre qu'une seule chose à la fois. Ayant maîtrisé les échecs, AlphaZero doit effacer sa mémoire et apprendre le shogi à partir de zéro.

Legg se réfère à ce type de généralité comme un algorithme, par opposition à la généralité à un cerveau que les humains ont. La généralité à un algorithme est très utile mais pas aussi intéressante que le type à un cerveau, dit-il : Vous et moi n'avons pas besoin de changer de cerveau ; nous ne mettons pas notre cerveau d'échecs pour jouer une partie d'échecs.

Passer d'un algorithme à un cerveau est l'un des plus grands défis ouverts de l'IA. Une IA à un seul cerveau ne serait toujours pas une véritable intelligence, seulement une meilleure IA à usage général – le multi-outil de Legg. Mais qu'ils tirent pour AGI ou non, les chercheurs conviennent que les systèmes d'aujourd'hui doivent être rendus plus polyvalents, et pour ceux qui ont l'AGI comme objectif, une IA à usage général est une première étape nécessaire. Il existe une longue liste d'approches qui pourraient aider. Ils vont de la technologie émergente qui est déjà là à des expériences plus radicales (voir encadré). Grosso modo par ordre de maturité, ce sont :

• Apprentissage non supervisé ou auto-supervisé. Étiqueter les ensembles de données (par exemple, étiqueter toutes les photos de chats avec un chat) pour dire aux IA ce qu'elles regardent pendant la formation est la clé de ce que l'on appelle l'apprentissage supervisé. Il est encore largement fait à la main et constitue un goulot d'étranglement majeur. L'IA doit être capable de s'auto-apprendre sans aide humaine, par exemple, regarder des photos de chats et de chiens et apprendre à les différencier sans aide, ou repérer anomalies dans les transactions financières sans avoir d'exemples précédents signalés par un humain. Ceci, connu sous le nom d'apprentissage non supervisé, devient de plus en plus courant.
• Apprentissage par transfert, y compris l'apprentissage en quelques coups. Aujourd'hui, la plupart des modèles d'apprentissage en profondeur peuvent être formés pour ne faire qu'une seule chose à la fois. L'apprentissage par transfert vise à permettre aux IA de transférer certaines parties de leur formation pour une tâche, comme jouer aux échecs, à une autre, comme jouer au Go. C'est ainsi que les humains apprennent.
• Bon sens et inférence causale. Il serait plus facile de transférer la formation entre les tâches si une IA avait une base de bon sens pour commencer. Et un élément clé du bon sens est de comprendre la cause et l'effet. Donnant bon sens aux IA est un sujet de recherche brûlant en ce moment, avec des approches allant de l'encodage de règles simples dans un réseau de neurones à limiter les prédictions possibles qu'une IA peut faire . Mais les travaux n'en sont encore qu'à leurs débuts.
• Optimiseurs d'apprentissage . Ce sont des outils qui peuvent être utilisés pour façonner la façon dont les IA apprennent, les guidant pour s'entraîner plus efficacement. Des travaux récents montrent que ces outils peuvent être se sont formés — en effet, ce qui signifie qu'une IA est utilisée pour former les autres. Cela pourrait être un petit pas vers l'amélioration de l'IA, un objectif de l'AGI.

Tous ces domaines de recherche reposent sur l'apprentissage en profondeur, qui reste la voie la plus prometteuse pour développer l'IA à l'heure actuelle. L'apprentissage en profondeur s'appuie sur des réseaux de neurones, souvent décrits comme ressemblant à des cerveaux dans la mesure où leurs neurones numériques sont inspirés de neurones biologiques. L'intelligence humaine est le meilleur exemple d'intelligence générale que nous ayons, il est donc logique de s'inspirer de nous-mêmes.

Mais les cerveaux sont plus qu'un enchevêtrement massif de neurones. Ils ont des composants séparés qui collaborent.

Hassabis, par exemple, étudiait l'hippocampe, qui traite la mémoire, quand lui et Legg se sont rencontrés. Hassabis pense que l'intelligence générale dans le cerveau humain provient en partie de interaction entre l'hippocampe et le cortex . Cette idée a conduit au jeu Atari de DeepMind jouant à l'IA, qui utilise un système inspiré de l'hippocampe. algorithme , appelé DNC (calculateur neuronal différentiel), qui combine un réseau de neurones avec un composant mémoire dédié.

Les composants artificiels de type cerveau tels que le DNC sont parfois appelés architectures cognitives. Ils jouent un rôle dans d'autres IA DeepMind telles qu'AlphaGo et AlphaZero, qui combinent deux réseaux de neurones spécialisés distincts avec des arbres de recherche, une forme plus ancienne d'algorithme qui fonctionne un peu comme un organigramme pour les décisions. Les modèles de langage comme GPT-3 combinent un réseau de neurones avec un réseau plus spécialisé appelé transformateur, qui gère des séquences de données comme du texte.

En fin de compte, toutes les approches pour atteindre l'AGI se résument à deux grandes écoles de pensée. La première est que si vous maîtrisez les algorithmes, vous pouvez les organiser dans l'architecture cognitive de votre choix. Des laboratoires comme OpenAI semblent s'en tenir à cette approche, construisant des modèles d'apprentissage automatique de plus en plus grands qui pourraient atteindre AGI par force brute .

L'autre école dit qu'une fixation sur l'apprentissage en profondeur nous retient. Si la clé de l'IAG est de comprendre comment les composants d'un cerveau artificiel doivent fonctionner ensemble, alors se concentrer trop sur les composants eux-mêmes - les algorithmes d'apprentissage en profondeur - revient à manquer le bois pour les arbres. Obtenez la bonne architecture cognitive et vous pourrez brancher les algorithmes presque après coup. C'est l'approche privilégiée par Goertzel, dont OpenCog Le projet est une tentative de construire une plate-forme open-source qui intégrera différentes pièces du puzzle dans un ensemble AGI. C'est aussi une voie que DeepMind a explorée lorsqu'il a combiné des réseaux de neurones et des arbres de recherche pour AlphaGo.

UNSPLASH

Mon sentiment personnel est que c'est quelque chose entre les deux, dit Legg. Je soupçonne qu'il existe un nombre relativement restreint d'algorithmes soigneusement conçus que nous pourrons combiner pour être vraiment puissants.

Goertzel n'est pas d'accord. La profondeur de la réflexion sur AGI chez Google et DeepMind m'impressionne, dit-il (les deux sociétés appartiennent désormais à Alphabet). S'il y a une grande entreprise qui va l'obtenir, ce sera eux.

Ne retenez pas votre souffle, cependant. Piqué d'avoir sous-estimé le défi pendant des décennies, peu d'autres que Musk aiment tenter de deviner quand (le cas échéant) AGI arrivera. Même Goertzel ne risquera pas d'épingler ses objectifs à un calendrier précis, bien qu'il dise le plus tôt possible. Il ne fait aucun doute que les progrès rapides de l'apprentissage en profondeur - et du GPT-3, en particulier - ont suscité des attentes en imitant certaines capacités humaines. Mais le mimétisme n'est pas l'intelligence. Il y a encore de très gros trous sur la route à parcourir, et les chercheurs n'ont toujours pas sondé leur profondeur, et encore moins trouvé comment les combler.

Mais si nous continuons à avancer rapidement, qui sait ? dit Legg. Dans quelques décennies, nous pourrions avoir des systèmes très, très performants.

Pourquoi l'AGI est-elle controversée ?

Une partie de la raison pour laquelle personne ne sait comment construire une AGI est que peu de gens sont d'accord sur ce que c'est. Les différentes approches reflètent différentes idées sur ce que nous visons, du multi-outil à l'IA surhumaine. De minuscules pas sont faits pour rendre l'IA plus polyvalente, mais il y a un gouffre énorme entre un outil polyvalent qui peut résoudre plusieurs problèmes différents et un autre qui peut résoudre des problèmes que les humains ne peuvent pas résoudre - la dernière invention de Good. Il y a des tonnes de progrès dans l'IA, mais cela n'implique pas qu'il y ait des progrès dans l'AGI, dit Andrew Ng.

Sans preuves de part et d'autre quant à savoir si l'AGI est réalisable ou non, la question devient une question de foi. Cela ressemble à ces arguments de la philosophie médiévale pour savoir si vous pouvez adapter un nombre infini d'anges sur la tête d'une épingle, dit Togelius. Cela n'a aucun sens; ce ne sont que des mots.

Goertzel minimise les discussions sur la controverse. Il y a des gens aux extrêmes de chaque côté, dit-il, mais il y a aussi beaucoup de gens au milieu, et les gens au milieu n'ont pas tendance à babiller autant.

Le monde AGI est rempli de chercheurs qui explorent les limites de la construction d'une superintelligence.

• Intelligence émergente

  Kristinn Thorisson explore ce qui se passe lorsque des programmes simples réécrivent d'autres programmes simples pour produire encore plus de programmes. Il s'intéresse aux comportements complexes qui émergent de processus simples laissés à se développer par eux-mêmes.

• Intelligence universelle

  Arthur Franz essaie de prendre la définition mathématique de Marcus Hutter de l'AGI, qui suppose une puissance de calcul infinie, et de la décomposer en un code qui fonctionne dans la pratique.

• Intelligence ouverte

  David Weinbaum est un chercheur travaillant sur des intelligences qui progressent sans buts donnés . L'idée est que les fonctions de récompense comme celles généralement utilisées dans l'apprentissage par renforcement réduisent l'orientation d'une IA. Weinbaum travaille sur des moyens de développer une intelligence qui fonctionne en dehors d'un domaine de problème spécifique et s'adapte simplement sans but à son environnement.

Goertzel place un sceptique AGI comme Ng à une extrémité et lui-même à l'autre. Depuis ses jours chez Webmind, Goertzel courtise les médias en tant que figure de proue de la frange AGI. Il dirige la conférence AGI et dirige une organisation appelée SingularityNet,qu'il décritcomme une sorte de Webmind sur blockchain. De 2014 à 2018, il a également été scientifique en chef chez Hanson Robotics, la société basée à Hong Kong qui a dévoilé un robot humanoïde parlant appelé Sophia en 2016. Plusmannequin de parc à thèmeque la recherche de pointe, Sophia a fait les gros titres de Goertzel dans le monde entier. Mais même lui admet qu'il ne s'agit que d'un robot théâtral, pas d'une IA. La marque particulière de sens du spectacle de Goertzel a amené de nombreux chercheurs sérieux en IA à se distancer de son extrémité du spectre.

Au milieu, il placerait des gens comme Yoshua Bengio, un chercheur en intelligence artificielle à l'Université de Montréal qui a été co-lauréat du prix Turing avec Yann LeCun et Geoffrey Hinton en 2018. Dans un 2014 discours liminaire Lors de la conférence AGI, Bengio a suggéré que la construction d'une IA avec une intelligence au niveau humain est possible parce que le cerveau humain est une machine, qui a juste besoin d'être découverte. Mais il n'est pas convaincu de la superintelligence, une machine qui dépasse l'esprit humain. Quoi qu'il en soit, il pense que l'AGI ne sera pas atteint à moins que nous trouvions un moyen de donner aux ordinateurs le bon sens et l'inférence causale.

Ng, cependant, insiste sur le fait qu'il n'est pas non plus contre AGI. Je pense qu'AGI est super excitant, j'adorerais y arriver, dit-il. Si j'avais des tonnes de temps libre, j'y travaillerais moi-même. Lorsqu'il était chez Google Brain et que l'apprentissage en profondeur allait de mieux en mieux, Ng, comme OpenAI, s'est demandé si la simple extension des réseaux de neurones pouvait être une voie vers l'IAG. Mais ce sont des questions, pas des déclarations, dit-il. Là où AGI est devenu controversé, c'est quand les gens ont commencé à faire des déclarations spécifiques à ce sujet.

Un problème encore plus controversé que l'orgueil sur la rapidité avec laquelle l'AGI peut être atteint est l'alarmisme sur ce qu'il pourrait faire s'il était lâché. Ici, spéculation et science-fiction s'estompent bientôt. Musk dit que l'AGI sera plus dangereux que les armes nucléaires. Hugo de Garis, chercheur en IA maintenant à l'Université de Wuhan en Chine, a prédit dans les années 2000 que l'IAG conduirait à une guerre mondiale et à des milliards de morts d'ici la fin du siècle. Des machines divines, qu'il appelait des artilects, allaient s'allier à des partisans humains, les Cosmistes, contre une résistance humaine, les Terriens.

La croyance en AGI est comme la croyance en la magie. C'est une façon d'abandonner la pensée rationnelle et d'exprimer l'espoir/la peur de quelque chose qui ne peut être compris.

Cela n'aide certainement pas le camp pro-AGI lorsque quelqu'un comme de Garis, qui est également un fervent partisan des vues masculistes et antisémites, a un article dans le livre AGI de Goertzel aux côtés de ceux de chercheurs sérieux comme Hutter et Jürgen Schmidhuber - parfois appelé le père de l'IA moderne. Si beaucoup dans le camp AGI se considèrent comme les porte-flambeaux de l'IA, beaucoup à l'extérieur les voient comme des fous porteurs de cartes, jetant des pensées sur l'IA dans un mélangeur avec des revendications sauvages sur la Singularité (le point de non-retour lorsque les machines auto-améliorées dépassent l'intelligence humaine), les téléchargements de cerveau, le transhumanisme et l'apocalypse.

Je ne suis pas dérangé par la discussion très intéressante sur les intelligences, dont nous devrions avoir plus, dit Togelius. Je suis gêné par l'idée ridicule que notre logiciel va soudainement se réveiller un jour et conquérir le monde.

Pourquoi est-ce important?

Il y a quelques décennies, lorsque l'IA n'a pas été à la hauteur du battage médiatique de Minsky et d'autres, le domaine s'est écrasé plus d'une fois. Le financement a disparu; les chercheurs sont passés à autre chose. Il a fallu de nombreuses années pour que la technologie émerge de ce que l'on appelait les hivers de l'IA et se réaffirme. Ce battage médiatique, cependant, est toujours là.

Tous les hivers de l'IA ont été créés par des attentes irréalistes, nous devons donc les combattre à chaque tournant, déclare Ng. Pesenti est d'accord : nous devons gérer le buzz, dit-il.

Une préoccupation plus immédiate est que ces attentes irréalistes infectent la prise de décision des décideurs. Bryson dit qu'elle a été témoin de nombreuses pensées confuses dans les salles de conseil et les gouvernements parce que les gens là-bas ont une vision de science-fiction de l'IA. Cela peut les amener à ignorer des problèmes très réels non résolus, tels que la façon dont les préjugés raciaux peuvent être encodés dans l'IA par des données de formation biaisées, le manque de transparence sur le fonctionnement des algorithmes ou les questions de savoir qui est responsable lorsqu'une IA prend une mauvaise décision. en faveur de préoccupations plus fantastiques concernant des choses comme une prise de contrôle par un robot.

Le battage médiatique excite également les investisseurs. L'argent de Musk a aidé à financer une véritable innovation, mais quand il dit qu'il veut financer des travaux sur le risque existentiel, cela encourage les chercheurs à parler de menaces lointaines. Certains d'entre eux y croient vraiment; certains d'entre eux sont juste après l'argent et l'attention et quoi que ce soit d'autre, dit Bryson. Et je ne sais pas si tous sont entièrement honnêtes avec eux-mêmes à propos de qui ils sont.

L'attrait d'AGI n'est pas surprenant. L'autoréflexion et la création sont deux des activités les plus humaines. La volonté de construire une machine à notre image est irrésistible. De nombreuses personnes qui critiquent maintenant l'AGI ont flirté avec elle dans leurs carrières antérieures. Comme Goertzel, Bryson a passé plusieurs années à essayer de fabriquer un tout-petit artificiel. En 2005, Ng a organisé un atelier à NeurIPS (alors appelé NIPS), la principale conférence mondiale sur l'IA, intitulée Towards human-level AI? C'était fou, dit Ng. LeCun, maintenant un critique fréquent du bavardage AGI, a donné un discours.

Ces chercheurs sont passés à des problèmes plus pratiques. Mais grâce aux progrès qu'eux-mêmes et d'autres ont réalisés, les attentes augmentent à nouveau. Beaucoup de gens dans le domaine ne s'attendaient pas à autant de progrès que nous avons eu au cours des dernières années, dit Legg. Cela a été une force motrice pour rendre AGI beaucoup plus crédible.

Même les sceptiques de l'AGI admettent que le débat oblige au moins les chercheurs à réfléchir à l'orientation du domaine dans son ensemble plutôt que de se concentrer sur le prochain piratage ou référence du réseau neuronal. Considérer sérieusement l'idée d'AGI nous emmène dans des endroits vraiment fascinants, dit Togelius. Peut-être que la plus grande avancée sera d'affiner le rêve, d'essayer de comprendre de quoi il s'agissait.

cacher