L'IA apprend à se créer

Les humains ont eu du mal à fabriquer des machines vraiment intelligentes. Peut-être devrions-nous les laisser faire eux-mêmes.

Shuhua Xiong

par

• Will Douglas paradis page d'archives

27 mai 2021

Un petit bonhomme allumette avec une tête en forme de coin se déplace sur l'écran. Il se déplace à demi accroupi, traînant un genou sur le sol. ça marche ! Euh, en quelque sorte.

Pourtant, Rui Wang est ravi. Chaque jour, j'entre dans mon bureau et j'ouvre mon ordinateur, et je ne sais pas à quoi m'attendre, dit-il.

Chercheur en intelligence artificielle chez Uber, Wang aime quitter le Pionnier jumelé ouvert , un logiciel qu'il a aidé à développer, exécuté sur son ordinateur portable pendant la nuit. POET est une sorte de dojo d'entraînement pour les bots virtuels. Jusqu'à présent, ils n'apprennent pas à faire grand-chose. Ces agents IA ne sont pas jouer au Go , repérer les signes de cancer , ou repliement des protéines – ils essaient de naviguer dans un paysage de dessin animé grossier de clôtures et de ravins sans tomber.

Mais ce n'est pas ce que les bots apprennent qui est excitant, c'est la façon dont ils apprennent. POET génère les parcours d'obstacles, évalue les capacités des bots et attribue leur prochain défi, le tout sans intervention humaine. Pas à pas, les bots s'améliorent par essais et erreurs. À un moment donné, il pourrait sauter par-dessus une falaise comme un maître de kung-fu, dit Wang.

Cela peut sembler basique pour le moment, mais pour Wang et une poignée d'autres chercheurs, POET fait allusion à une nouvelle façon révolutionnaire de créer des machines super intelligentes : en faisant en sorte que l'IA se fabrique elle-même.

L'ancien collègue de Wang, Jeff Clune, est l'un des plus grands promoteurs de cette idée. Clune y travaille depuis des années, d'abord à l'Université du Wyoming, puis à Uber AI Labs, où il a travaillé avec Wang et d'autres. Partageant maintenant son temps entre l'Université de la Colombie-Britannique et OpenAI, il a le soutien de l'un des meilleurs laboratoires d'intelligence artificielle au monde .

Clune appelle la tentative de construire une IA vraiment intelligente la quête scientifique la plus ambitieuse de l'histoire humaine. Aujourd'hui, sept décennies après le début de sérieux efforts pour faire de l'IA, nous sommes encore loin de créer des machines aussi intelligentes que les humains, et encore moins plus intelligentes. Clune pense que POET pourrait pointer vers un raccourci.

Nous devons enlever les chaînes et sortir de notre propre chemin, dit-il.

Si Clune a raison, utiliser l'IA pour créer de l'IA pourrait être une étape importante sur la route qui mènera un jour à intelligence artificielle générale (AGI) – des machines qui peuvent surpasser les humains. À plus court terme, la technique pourrait également nous aider à découvrir différents types d'intelligence : des intelligences non humaines qui peuvent trouver des solutions de manière inattendue et peut-être compléter notre propre intelligence plutôt que de la remplacer.

Imiter l'évolution

J'ai d'abord parlé à Clune de l'idée au début de l'année dernière, quelques semaines seulement après son passage à OpenAI. Il était heureux de discuter de son travail passé mais restait muet sur ce qu'il faisait avec sa nouvelle équipe. Au lieu de prendre l'appel à l'intérieur, il a préféré arpenter les rues à l'extérieur des bureaux pendant que nous parlions.

Tout ce que Clune dirait, c'est qu'OpenAI était un bon choix. Mon idée est tout à fait conforme à beaucoup de choses auxquelles ils croient, dit-il. C'était une sorte de mariage fait au paradis. Ils ont aimé la vision et voulaient que je vienne ici et que je la poursuive. Quelques mois après l'arrivée de Clune, OpenAI a également embauché la plupart de son ancienne équipe Uber.

La vision ambitieuse de Clune est fondée sur plus que l'investissement d'OpenAI. L'histoire de l'IA est remplie d'exemples dans lesquels des solutions conçues par l'homme ont cédé la place à des solutions apprises par la machine. Prenez la vision par ordinateur : il y a dix ans, la grande percée dans la reconnaissance d'images est survenue lorsque les systèmes artisanaux existants ont été remplacés par des systèmes qui apprenaient à partir de rien. C'est la même chose pour de nombreux succès d'IA.

L'une des choses fascinantes de l'IA, et de l'apprentissage automatique en particulier, est sa capacité à trouver des solutions que les humains n'ont pas trouvées - pour nous surprendre. Un exemple souvent cité est AlphaGo (et son successeur AlphaZero), qui a battu le meilleur de l'humanité dans l'ancien et séduisant jeu de Go en employant des stratégies apparemment extraterrestres. Après des centaines d'années d'études par des maîtres humains, l'IA a trouvé des solutions auxquelles personne n'avait jamais pensé.

Clune travaille maintenant avec une équipe d'OpenAI qui a développé des robots qui ont appris à jouer à cache-cache dans un environnement virtuel en 2018. Ces IA ont commencé avec des objectifs simples et des outils simples pour les atteindre : une paire devait trouver l'autre, qui pouvait se cacher derrière des obstacles mobiles. Pourtant, lorsque ces robots ont été lâchés pour apprendre, ils ont rapidement trouvé des moyens de tirer parti de leur environnement d'une manière que les chercheurs n'avaient pas prévue. Ils ont exploité des problèmes dans la physique simulée de leur monde virtuel pour sauter par-dessus et même traverser les murs.

Ces types de comportements émergents inattendus offrent des indices alléchants selon lesquels l'IA pourrait arriver à des solutions techniques auxquelles les humains ne penseraient pas par eux-mêmes, en inventant de nouveaux types d'algorithmes ou de réseaux de neurones plus efficaces, voire en abandonnant complètement les réseaux de neurones, pierre angulaire de l'IA moderne.

Clune aime rappeler aux gens que l'intelligence a déjà émergé de simples débuts. Ce qui est intéressant dans cette approche, c'est que nous savons que cela peut fonctionner, dit-il. L'algorithme très simple de l'évolution darwinienne a produit votre cerveau, et votre cerveau est l'algorithme d'apprentissage le plus intelligent de l'univers que nous connaissions jusqu'à présent. Son argument est que si l'intelligence telle que nous la connaissons résulte de la mutation insensée de gènes sur d'innombrables générations, pourquoi ne pas chercher à reproduire le processus de production de l'intelligence - qui est sans doute plus simple - plutôt que l'intelligence elle-même ?

Histoire connexe

Intelligence artificielle générale : sommes-nous proches, et est-il même judicieux d'essayer ?

Une machine qui pourrait penser comme une personne a été la vision directrice de la recherche sur l'IA depuis les premiers jours et reste son idée la plus controversée.

Mais il y a une autre observation cruciale ici. L'intelligence n'a jamais été un point final pour l'évolution, quelque chose à viser. Au lieu de cela, il a émergé sous de nombreuses formes différentes à partir d'innombrables petites solutions aux défis qui ont permis aux êtres vivants de survivre et de relever les défis futurs. L'intelligence est le point culminant actuel d'un processus continu et évolutif. En ce sens, l'évolution est assez différente des algorithmes tels que les gens les considèrent généralement - comme des moyens pour parvenir à une fin.

C'est cette ouverture, aperçue dans la séquence apparemment sans but de défis générés par POET, qui, selon Clune et d'autres, pourrait conduire à de nouveaux types d'IA. Pendant des décennies, les chercheurs en IA ont essayé de créer des algorithmes pour imiter l'intelligence humaine, mais la véritable percée pourrait provenir de la création d'algorithmes qui tentent d'imiter la résolution de problèmes ouverte de l'évolution - et de s'asseoir pour regarder ce qui émerge.

Les chercheurs utilisent déjà l'apprentissage automatique sur lui-même, l'entraînant pour trouver des solutions à certains des problèmes les plus difficiles du domaine, comme comment fabriquer des machines capables d'apprendre plus d'une tâche à la fois ou de faire face à des situations qu'ils n'ont jamais rencontrées auparavant. Certains pensent maintenant qu'adopter cette approche et la suivre pourrait être la meilleure voie vers l'intelligence artificielle générale. Nous pourrions démarrer un algorithme qui n'a initialement pas beaucoup d'intelligence à l'intérieur, et le regarder s'amorcer jusqu'à potentiellement AGI, dit Clune.

La vérité est que pour l'instant, AGI reste un fantasme. Mais c'est en grande partie parce que personne ne sait comment le faire. Les progrès de l'IA sont fragmentaires et réalisés par des humains, les progrès impliquant généralement des ajustements aux techniques ou algorithmes existants, entraînant des sauts progressifs en termes de performances ou de précision. Clune caractérise ces efforts comme des tentatives de découvrir les éléments constitutifs de l'intelligence artificielle sans savoir ce que vous recherchez ou de combien de blocs vous aurez besoin. Et ce n'est que le début. À un moment donné, nous devons entreprendre la tâche herculéenne de les rassembler tous, dit-il.

Demander à l'IA de trouver et d'assembler ces blocs de construction pour nous est un changement de paradigme. Cela signifie que nous voulons créer une machine intelligente, mais peu importe à quoi elle pourrait ressembler, donnez-nous simplement ce qui fonctionne.

Même si l'IAG n'est jamais atteinte, l'approche d'auto-apprentissage peut encore changer les types d'IA créés. Le monde a besoin de plus qu'un très bon joueur de Go, dit Clune. Pour lui, créer une machine super intelligente signifie construire un système qui invente ses propres défis, les résout, puis en invente de nouveaux. POET est un petit aperçu de cela en action. Clune imagine une machine qui apprend à un bot à marcher, puis à jouer à la marelle, puis peut-être à jouer au Go. Ensuite, il apprend peut-être des énigmes mathématiques et commence à inventer ses propres défis, dit-il. Le système innove en permanence, et le ciel est la limite en termes d'où il pourrait aller.

C'est peut-être de la spéculation sauvage, mais un espoir est que des machines comme celle-ci pourraient être capables d'échapper à nos impasses conceptuelles, nous aidant à résoudre des crises extrêmement complexes telles que le changement climatique ou la santé mondiale.

Mais d'abord, nous devons en faire un.

Comment créer un cerveau

Il existe de nombreuses façons de câbler un cerveau artificiel.

Les réseaux de neurones sont constitués de plusieurs couches de neurones artificiels encodés dans un logiciel. Chaque neurone peut être connecté à d'autres dans les couches ci-dessus. La façon dont un réseau de neurones est câblé fait une grande différence, et les nouvelles architectures conduisent souvent à de nouvelles percées.

Les réseaux de neurones codés par les scientifiques humains sont souvent le résultat d'essais et d'erreurs. Il y a peu de théorie sur ce qui fonctionne et ce qui ne fonctionne pas, et aucune garantie que les meilleurs designs aient été trouvés. C'est pourquoi l'automatisation de la recherche de meilleures conceptions de réseaux de neurones est l'un des sujets les plus brûlants de l'IA depuis au moins les années 1980. Le moyen le plus courant d'automatiser le processus consiste à laisser une IA générer de nombreuses conceptions de réseau possibles, et à laisser le réseau essayer automatiquement chacune d'entre elles et choisir les meilleures. Ceci est communément appelé neuro-évolution ou recherche d'architecture neurale (NAS).

Au cours des dernières années, ces conceptions de machines ont commencé à dépasser les conceptions humaines. En 2018, Esteban Real et ses collègues de Google ont utilisé le NAS pour générer un réseau de neurones pour la reconnaissance d'images qui battre les meilleurs réseaux conçus par l'homme à l'époque. C'était une révélation.

Le système 2018 fait partie d'un projet Google en cours appelé AutoML, qui a également utilisé NAS pour produire EfficientNets, une famille de modèles d'apprentissage en profondeur qui sont plus efficaces que celles conçues par l'homme , atteignant des niveaux élevés de précision sur les tâches de reconnaissance d'image avec des modèles plus petits et plus rapides.

Trois ans plus tard, le Real repousse les limites de ce qui peut être généré à partir de zéro. Les systèmes antérieurs ne faisaient que réorganiser des éléments de réseau neuronal éprouvés, tels que des types de couches ou de composants existants. On pouvait s'attendre à une bonne réponse, dit-il.

L'année dernière, le Real et son équipe ont retiré les roues d'entraînement. Le nouveau système, appelé AutoML zéro , essaie de créer une IA à partir de zéro en utilisant uniquement les concepts mathématiques les plus élémentaires qui régissent l'apprentissage automatique.

Étonnamment, non seulement AutoML Zero a construit spontanément un réseau de neurones, mais il a également proposé une descente de gradient, la technique mathématique la plus courante utilisée par les concepteurs humains pour former un réseau. J'ai été assez surpris, raconte Real. C'est un algorithme très simple - il prend environ six lignes de code - mais il a écrit les six lignes exactes.

AutoML Zero ne génère pas encore d'architectures qui rivalisent avec les performances des systèmes conçus par l'homme, ou même ne font pas grand-chose qu'un concepteur humain n'aurait pas fait. Mais le Real pense que cela pourrait un jour.

Il est temps de former un nouveau type d'enseignant

Vous faites d'abord un cerveau; alors il faut l'enseigner. Mais les cerveaux des machines n'apprennent pas comme les nôtres. Nos cerveaux sont fantastiques pour s'adapter à de nouveaux environnements et à de nouvelles tâches. Les IA d'aujourd'hui peuvent résoudre des problèmes dans certaines conditions, mais échouent lorsque ces conditions changent même un peu. Cette inflexibilité entrave la quête de créer une IA plus généralisable qui peut être utile dans un large éventail de scénarios, ce qui serait un grand pas en avant pour les rendre vraiment intelligents.

Pour Jane Wang, chercheuse à DeepMind à Londres, la meilleure façon de rendre l'IA plus flexible est de lui faire apprendre elle-même ce trait. En d'autres termes, elle veut construire une IA qui non seulement apprend des tâches spécifiques, mais apprend à apprendre ces tâches de manière à pouvoir s'adapter à de nouvelles situations.

Les chercheurs tentent depuis des années de rendre l'IA plus adaptable. Wang pense qu'amener l'IA à résoudre ce problème par elle-même évite certains essais et erreurs d'une approche conçue à la main : nous ne pouvons pas nous attendre à tomber sur la bonne réponse tout de suite. Au cours du processus, espère-t-elle, nous en apprendrons également davantage sur le fonctionnement du cerveau. Il y a encore tellement de choses que nous ne comprenons pas sur la façon dont les humains et les animaux apprennent, dit-elle.

Il existe deux approches principales pour générer automatiquement des algorithmes d'apprentissage, mais les deux commencent avec un réseau de neurones existant et utilisent l'IA pour l'enseigner.

Histoire connexe

L'IA armée de plusieurs sens pourrait acquérir une intelligence plus flexible

L'intelligence humaine émerge de notre combinaison de sens et de capacités linguistiques. Il en va peut-être de même pour l'intelligence artificielle.

La première approche, inventée séparément par Wang et ses collègues de DeepMind et par une équipe chez OpenAI à peu près au même moment, utilise des réseaux de neurones récurrents. Ce type de réseau peut être formé de manière à ce que les activations de leurs neurones - à peu près similaires à la décharge des neurones dans les cerveaux biologiques - codent n'importe quel type d'algorithme. DeepMind et OpenAI en ont profité pour former un réseau neuronal récurrent afin de générer des algorithmes d'apprentissage par renforcement, qui indiquent à une IA comment se comporter pour atteindre des objectifs donnés.

Le résultat est que les systèmes DeepMind et OpenAI n'apprennent pas un algorithme qui résout un défi spécifique, comme la reconnaissance d'images, mais apprennent un apprentissage algorithme qui peut être appliqué à plusieurs tâches et s'adapter au fur et à mesure. C'est comme le vieil adage selon lequel apprendre à quelqu'un à pêcher : alors qu'un algorithme conçu à la main peut apprendre une tâche particulière, ces IA sont faites pour apprendre à apprendre par elles-mêmes. Et certains d'entre eux fonctionnent mieux que ceux conçus par l'homme.

La deuxième approche vient de Chelsea Finn de l'Université de Californie à Berkeley et de ses collègues. Appelé méta-apprentissage indépendant du modèle , ou MAML, il entraîne un modèle à l'aide de deux processus d'apprentissage automatique, l'un imbriqué dans l'autre.

En gros, voici comment cela fonctionne. Le processus interne de MAML est formé sur les données, puis testé, comme d'habitude. Mais ensuite, le modèle externe prend les performances du modèle interne - à quel point il identifie les images, par exemple - et les utilise pour apprendre à ajuster l'algorithme d'apprentissage de ce modèle afin d'améliorer les performances. C'est comme si vous aviez un inspecteur d'académie qui surveillait un groupe d'enseignants, chacun proposant des techniques d'apprentissage différentes. L'inspecteur vérifie quelles techniques aident les étudiants à obtenir les meilleurs scores et les ajuste en conséquence.

Grâce à ces approches, les chercheurs construisent une IA plus robuste, plus généralisée et capable d'apprendre plus rapidement avec moins de données. Par exemple, Finn souhaite qu'un robot qui a appris à marcher sur un terrain plat puisse passer, avec un minimum d'entraînement supplémentaire, à marcher sur une pente ou sur de l'herbe ou en portant une charge.

L'année dernière, Clune et ses collègues ont étendu la technique de Finn pour concevoir un algorithme qui apprend en utilisant moins de neurones afin qu'il n'écrase pas tout ce qu'il a appris précédemment, un gros problème non résolu dans l'apprentissage automatique connu sous le nom d'oubli catastrophique. Un modèle formé qui utilise moins de neurones, connu sous le nom de modèle clairsemé, aura plus de neurones inutilisés à consacrer à de nouvelles tâches lors du recyclage, ce qui signifie que moins de neurones utilisés seront écrasés. Clune a découvert que le fait de relever le défi d'apprendre plus d'une tâche à son IA l'a amené à proposer sa propre version d'un modèle clairsemé qui surpassait ceux conçus par l'homme.

Si nous voulons tout faire pour laisser l'IA créer et s'enseigner elle-même, alors les IA devraient également générer leurs propres environnements de formation - les écoles et les manuels, ainsi que les plans de cours.

Et l'année dernière a vu une série de projets dans lesquels l'IA a été formée sur des données générées automatiquement. Les systèmes de reconnaissance faciale sont formés avec des visages générés par l'IA, par exemple. Les IA apprennent également à s'entraîner mutuellement. Dans un exemple récent, deux bras de robot ont travaillé ensemble, un bras apprenant à relever des défis d'empilement de blocs de plus en plus difficiles qui ont entraîné l'autre à saisir et saisir des objets.

En fait, Clune se demande si l'intuition humaine sur le type de données dont une IA a besoin pour apprendre peut être erronée. Par exemple, lui et ses collègues ont développé ce qu'il appelle réseaux pédagogiques génératifs , qui apprennent quelles données ils doivent générer pour obtenir les meilleurs résultats lors de la formation d'un modèle. Dans une expérience, il a utilisé l'un de ces réseaux pour adapter un ensemble de données de chiffres manuscrits qui est souvent utilisé pour former des algorithmes de reconnaissance d'images. Ce qu'il a produit était très différent de l'ensemble de données original organisé par l'homme : des centaines de chiffres pas tout à fait, comme la moitié supérieure du chiffre sept ou ce qui ressemblait à deux chiffres fusionnés. Certains exemples générés par l'IA étaient difficiles à déchiffrer. Malgré cela, les données générées par l'IA ont quand même fait un excellent travail pour former le système de reconnaissance de l'écriture manuscrite afin d'identifier les chiffres réels.

N'essayez pas de réussir

Les données générées par l'IA ne sont encore qu'une partie du puzzle. La vision à long terme est de prendre toutes ces techniques - et d'autres pas encore inventées - et de les confier à un entraîneur d'IA qui contrôle la façon dont les cerveaux artificiels sont câblés, comment ils sont entraînés et sur quoi ils sont entraînés. Même Clune ne sait pas à quoi ressemblerait un tel futur système. Parfois, il parle d'une sorte de bac à sable simulé hyper réaliste, où les IA peuvent se faire les dents et écorcher leurs genoux virtuels. Quelque chose d'aussi complexe est encore dans des années. La chose la plus proche à ce jour est POET, le système que Clune a créé avec Rui Wang d'Uber et d'autres.

POET était motivé par un paradoxe, dit Wang. Si vous essayez de résoudre un problème, vous échouerez ; si vous n'essayez pas de le résoudre, vous avez plus de chances de réussir. C'est l'une des idées que Clune tire de son analogie avec l'évolution - les résultats étonnants qui émergent d'un processus apparemment aléatoire ne peuvent souvent pas être recréés en prenant des mesures délibérées vers la même fin. Il ne fait aucun doute que les papillons existent, mais revenez à leurs précurseurs unicellulaires et essayez de les créer à partir de zéro en choisissant chaque étape de la bactérie au bogue, et vous échoueriez probablement.

POET démarre son agent à deux pattes dans un environnement simple, comme un chemin plat sans obstacles. Au début, l'agent ne sait pas quoi faire de ses jambes et ne peut pas marcher. Mais par essais et erreurs, l'algorithme d'apprentissage par renforcement qui le contrôle apprend à se déplacer sur un terrain plat. POET génère alors un nouvel environnement aléatoire différent, mais pas nécessairement plus difficile à déplacer. L'agent essaie de s'y rendre. S'il y a des obstacles dans ce nouvel environnement, l'agent apprend à les franchir. Chaque fois qu'un agent réussit ou se bloque, il est déplacé vers un nouvel environnement. Au fil du temps, les agents apprennent une gamme d'actions de marche et de saut qui leur permettent de naviguer sur des parcours d'obstacles de plus en plus difficiles.

L'équipe a constaté que la commutation aléatoire des environnements était essentielle.

Par exemple, les agents apprenaient parfois à marcher sur un terrain plat avec un mouvement étrange, à demi agenouillé, parce que c'était suffisant. Ils n'apprennent jamais à se lever parce qu'ils n'en ont jamais besoin, dit Wang. Mais après avoir été forcés d'apprendre des stratégies alternatives sur un terrain parsemé d'obstacles, ils pouvaient revenir au stade précoce avec une meilleure façon de marcher - en utilisant les deux jambes au lieu d'en traîner une derrière, par exemple - et ensuite prendre cette version améliorée d'eux-mêmes vers l'avant. à des défis plus difficiles.

POET forme ses robots d'une manière qu'aucun humain ne ferait - il emprunte des chemins erratiques et non intuitifs vers le succès. À chaque étape, les bots essaient de trouver une solution au défi qui leur est présenté. En faisant face à une sélection aléatoire d'obstacles lancés sur leur chemin, ils s'améliorent globalement. Mais il n'y a pas de point final à ce processus, pas de test ultime à passer ou de score élevé à battre.

Clune, Wang et un certain nombre de leurs collègues pensent qu'il s'agit d'une idée profonde. Ils explorent maintenant ce que cela pourrait signifier pour le développement de machines super intelligentes. Pourrait essayer ne pas tracer une voie spécifique serait-il en fait une avancée majeure sur la voie de l'intelligence artificielle générale ?

POET inspire déjà d'autres chercheurs, tels que Natasha Jaques et Michael Dennis de l'Université de Californie à Berkeley. Ils ont développé un système appelé PAIRE qui utilise l'IA pour générer une série de labyrinthes pour entraîner une autre IA à les parcourir.

Rui Wang pense que les défis conçus par l'homme vont être un goulot d'étranglement et que les progrès réels de l'IA nécessiteront que l'IA propose les siens. Peu importe la qualité des algorithmes aujourd'hui, ils sont toujours testés sur une référence conçue à la main, dit-il. Il est très difficile d'imaginer l'intelligence artificielle générale qui en découle, car elle est liée à des objectifs fixes.

Un nouveau type d'intelligence

Le développement rapide d'une IA capable de s'auto-entraîner soulève également des questions sur la capacité de contrôler sa croissance. L'idée d'une IA qui construit une meilleure IA est un élément crucial de la fabrication du mythe derrière la Singularité, le point imaginé dans le futur où les IA commencent à s'améliorer à un rythme exponentiel et échappent à notre contrôle. Finalement, avertissent certains pessimistes, l'IA pourrait décider qu'elle n'a pas du tout besoin d'humains.

Ce n'est pas ce que ces chercheurs ont en tête : leur travail est très axé sur l'amélioration de l'IA d'aujourd'hui. Les machines qui se déchaînent restent un anti-fantasy lointain.

Même ainsi, Jane Wang de DeepMind a des réserves. Une grande partie de l'attrait de l'utilisation de l'IA pour créer de l'IA est qu'elle peut proposer des conceptions et des techniques auxquelles les gens n'avaient pas pensé. Pourtant, Wang note que toutes les surprises ne sont pas de bonnes surprises : l'ouverture est, par définition, quelque chose d'inattendu. Si l'idée est d'amener l'IA à faire quelque chose que vous n'aviez pas prévu, cela devient plus difficile à contrôler. C'est à la fois excitant et effrayant, dit-elle.

Clune insiste également sur l'importance de réfléchir dès le départ à l'éthique de la nouvelle technologie. Il y a de fortes chances que les réseaux de neurones et les algorithmes conçus par l'IA soient encore plus difficiles à comprendre que les systèmes de boîte noire déjà opaques d'aujourd'hui. Les IA générées par des algorithmes sont-elles plus difficiles à audit pour parti pris ? Est-il plus difficile de garantir qu'ils ne se comporteront pas de manière indésirable ?

Clune espère que de telles questions seront posées et résolues à mesure que de plus en plus de gens réaliseront le potentiel des IA auto-génératrices. La plupart des membres de la communauté de l'apprentissage automatique ne parlent jamais vraiment de notre cheminement global vers une IA extrêmement puissante, dit-il. Au lieu de cela, ils ont tendance à se concentrer sur de petites améliorations progressives. Clune veut relancer une conversation sur les plus grandes ambitions du domaine.

Ses propres ambitions sont liées à ses premiers intérêts pour l'intelligence humaine et son évolution. Sa grande vision est de mettre les choses en place pour que les machines puissent un jour voir leur propre intelligence – ou leurs intelligences – émerger et s'améliorer à travers d'innombrables générations d'essais et d'erreurs, guidées par des algorithmes sans plan ultime en tête.

Si l'IA commence à générer de l'intelligence par elle-même, rien ne garantit qu'elle ressemblera à un humain. Plutôt que des humains apprenant aux machines à penser comme des humains, les machines pourraient enseigner aux humains de nouvelles façons de penser.

Il existe probablement un grand nombre de façons différentes d'être très intelligent, dit Clune. L'une des choses qui m'excitent à propos de l'IA est que nous pourrions en venir à comprendre l'intelligence de manière plus générale, en voyant quelles variations sont possibles.

Je pense que c'est fascinant. Je veux dire, c'est presque comme inventer des voyages interstellaires et pouvoir aller visiter des cultures extraterrestres. Il n'y aurait pas de plus grand moment dans l'histoire de l'humanité que de rencontrer une race extraterrestre et d'apprendre sa culture, sa science, tout. Les voyages interstellaires sont extrêmement difficiles, mais nous avons la possibilité de créer numériquement des intelligences extraterrestres.