Cet algorithme d'IA apprend des tâches simples aussi vite que nous

S'inspirant de la façon dont les humains semblent apprendre, les scientifiques ont créé un logiciel d'IA capable d'acquérir de nouvelles connaissances de manière beaucoup plus efficace et sophistiquée.

Fig. 1. Les gens peuvent apprendre des concepts riches à partir de données limitées. (A et B) Un seul exemple d'un nouveau concept (boîtes rouges) peut être une information suffisante pour prendre en charge (i) la classification de nouveaux exemples, (ii) la génération de nouveaux exemples, (iii) l'analyse d'un objet en parties et relations ( parties segmentées par couleur), et (iv) génération de nouveaux concepts à partir de concepts connexes.

Le nouveau programme d'IA peut reconnaître un caractère manuscrit aussi précisément qu'un humain, après avoir vu un seul exemple. Les meilleurs algorithmes d'apprentissage automatique existants, qui utilisent une technique appelée apprentissage en profondeur, doivent voir plusieurs milliers d'exemples d'un caractère manuscrit afin d'apprendre la différence entre un A et un Z.

Le logiciel a été développé par Lac Brenden , chercheur à l'Université de New York, avec Rouslan Salakhoutdinov , professeur adjoint d'informatique à l'Université de Toronto, et Josué Tenenbaum , professeur au Département des sciences cérébrales et cognitives du MIT. Les détails du programme et les idées qui le sous-tendent sont publiés aujourd'hui dans la revue La science.

Les ordinateurs sont devenus beaucoup plus intelligents au cours des dernières années, apprenant à reconnaître les visages, à comprendre la parole et même à conduire des voitures en toute sécurité, entre autres choses. Et la plupart des progrès ont été réalisés à l'aide de réseaux neuronaux étendus ou profonds. Mais il y a un inconvénient crucial à ces systèmes : ils nécessitent des tonnes de données pour apprendre à faire même la tâche la plus simple.

Cette limitation est en grande partie due au fait que les algorithmes ne traitent pas l'information comme nous le faisons. Bien que l'apprentissage en profondeur soit modélisé sur un réseau virtuel de neurones - et que l'approche ait produit des résultats très impressionnants dans les tâches perceptives - il s'agit d'une imitation très grossière du fonctionnement du cerveau. Un algorithme d'apprentissage en profondeur associe les pixels d'une image à un caractère particulier. Le cerveau peut traiter certains stimuli visuels de la même manière, mais les humains utilisent également des formes supérieures de fonction cognitive pour interpréter le contenu d'une image.

Les chercheurs ont utilisé une technique qu'ils appellent le cadre d'apprentissage de programme bayésien, ou BPL. Essentiellement, le logiciel génère un programme unique pour chaque personnage en utilisant des traits d'un stylo imaginaire. Une technique de programmation probabiliste est ensuite utilisée pour faire correspondre un programme à un personnage particulier, ou pour générer un nouveau programme pour un personnage inconnu. Le logiciel n'imite pas la façon dont les enfants acquièrent la capacité de lire et d'écrire, mais plutôt la façon dont les adultes, qui savent déjà comment, apprennent à reconnaître et à recréer de nouveaux personnages.

L'élément clé de la programmation probabiliste - et plutôt différent de la façon dont la plupart des choses d'apprentissage en profondeur fonctionnent - est qu'il commence par un programme qui décrit les processus causaux dans le monde, dit Tenenbaum. Ce que nous essayons d'apprendre n'est pas une signature de fonctionnalités ou un modèle de fonctionnalités. Nous essayons d'apprendre un programme qui génère ces caractères.

Tenenbaum et ses collègues ont testé l'approche en demandant aux humains et au logiciel de dessiner de nouveaux caractères après avoir vu un exemple manuscrit, puis en demandant à un groupe de personnes de juger si un caractère a été écrit par une personne ou une machine. Ils ont constaté que moins de 25 % des juges étaient capables de faire la différence.

L'équipe affirme que la technique pourrait être étendue à des applications plus pratiques. Par exemple, cela pourrait permettre aux ordinateurs d'apprendre rapidement à reconnaître et à utiliser de nouveaux mots dans la langue parlée. Ou cela pourrait permettre à un ordinateur de reconnaître de nouvelles instances d'un objet particulier. Plus généralement, l'approche indique une nouvelle direction importante dans l'intelligence artificielle, car les chercheurs s'inspirent de la recherche sur la cognition humaine.

Geoffrey Hinton , professeur de psychologie à l'Université de Toronto qui a joué un rôle clé dans le développement de l'apprentissage en profondeur, affirme que le travail est une étape importante pour le domaine. C'est un beau document et un exemple très impressionnant d'apprentissage à partir de peu d'exemples, dit-il.

Hinton, qui était également le directeur de thèse de l'un des auteurs de l'article, Salakhutdinov, affirme que les chercheurs en IA peuvent apprendre de nombreuses choses utiles à la fois des neurosciences et des sciences cognitives. Il suggère également que des approches comme celle développée pour la reconnaissance de l'écriture manuscrite peuvent en fait être compatibles avec l'apprentissage en profondeur. Je pense que vous pouvez avoir le meilleur des deux mondes, dit-il.

Gary Marcus , scientifique cognitif à l'Université de New York et cofondateur d'une société appelée Geometric Intelligence, qui développe également des approches d'apprentissage automatique inspirées du comportement humain, dit qu'il n'est pas tout à fait d'accord avec le fait que l'esprit humain fonctionne de la manière décrite dans le La science papier. Mais il pense que l'approche montre un objectif important pour l'IA, car dans de nombreuses situations, il n'y a pas d'énormes quantités de données à partir desquelles une machine peut apprendre.

Le problème avec le paradigme dominant est qu'il est très, très gourmand en données, dit Marcus. C'est la preuve que vous pouvez apprendre plus vite. Et je pense que c'est une chose à laquelle les gens vont beaucoup réfléchir.

Marcus ajoute que le langage pourrait être l'application qui tue pour de tels systèmes. De nombreux chercheurs en apprentissage profond travaillent déjà sur ce défi (voir Enseigner aux machines pour nous comprendre ), mais Marcus pense que les machines devront apprendre de manière plus efficace et flexible afin de le résoudre. Le véritable point d'inflexion de l'IA viendra lorsque les machines pourront réellement comprendre le langage, dit-il. Pas seulement faire des traductions médiocres, mais vraiment comprendre ce que vous voulez dire.

cacher