Marvin Minsky sur le bon sens et les ordinateurs qui émoussent

Les meilleurs informaticiens du monde entier se réunissent aujourd'hui au Dartmouth College à Hanover, dans le New Hampshire, pour marquer le 50e anniversaire de l'intelligence artificielle. En 1956, John McCarthy, alors membre de la faculté de mathématiques de Dartmouth, a inventé le terme pour désigner le rassemblement fondateur du domaine, le projet de recherche d'été de Dartmouth sur l'intelligence artificielle. McCarthy et quatre autres participants au projet de 1956, dont Marvin Minsky du MIT, participent à la réunion de cette semaine, qui se concentre sur l'IA 50 prochaines années .

Marvin Minsky, professeur émérite d'arts et de sciences médiatiques au MIT, était l'un des premiers participants au projet de recherche d'été de Dartmouth sur l'intelligence artificielle en 1956. Il co-ouvrira aujourd'hui la conférence commémorative du 50e anniversaire à Dartmouth. (Avec l'aimable autorisation de Coveney/MIT.)

Les percées mathématiques et philosophiques d'Alan Turing, John von Neumann, Herbert Simon, Allen Newell et d'autres géants de l'informatique ont fait des années 1950 une période de grand optimisme quant à l'intelligence artificielle. Les chercheurs pensaient qu'ils seraient bientôt capables de programmer des ordinateurs pour simuler de nombreuses formes de raisonnement humain. Les systèmes experts incarneraient et manipuleraient la connaissance sous la forme d'une logique symbolique. Les réseaux de neurones artificiels seraient entraînés à évoluer vers des réponses correctes.

Cet optimisme s'est même répandu dans la culture populaire, où HAL, l'ordinateur intelligent (et profondément perturbé) du film de Stanley Kubrick de 1968 2001 : L'Odyssée de l'Espace , éclipsaient les acteurs humains.

Mais à la fin des années 1960, il était clair que l'approximation d'un raisonnement humain même enfantin dans un ordinateur nécessiterait des réseaux extrêmement complexes d'équations logiques ou de connexions neuronales. Alors les chercheurs se sont retranchés. Ils ont commencé à décomposer les problèmes, en se concentrant sur la reproduction d'exploits humains simples tels que le déplacement de blocs pour enfants (le sujet du désormais célèbre programme SHRDLU de l'informaticien de Stanford Terry Winograd, qui utilisait des instructions en langage naturel pour manipuler un bras robotique).

Minsky, qui ouvrira la conférence de Dartmouth avec McCarthy, a admiré le travail de Winograd. Mais il a longtemps évité les démonstrations réductionnistes en faveur de l'exploration des mécanismes réels derrière la pensée humaine. En travaillant avec Seymour Papert dans le MIT AI Lab, par exemple, Minsky a commencé dans les années 1970 à développer la théorie de la société de l'esprit, qui postule que des couches d'agents déterminés mais insensés travaillent ensemble pour générer la conscience.

Technology Review a interrompu Minsky le 11 juillet, alors qu'il révisait les galères de son prochain livre, La machine à émotions , qui réinterprète l'esprit humain comme un nuage de ressources, ou des mini-machines qui s'allument et s'éteignent selon la situation et donnent naissance à nos différents états émotionnels et mentaux.

Examen de la technologie : Pouvez-vous croire que cela fait 50 ans depuis la première réunion d'IA de Dartmouth ? Avez-vous l'impression que cinq décennies se sont écoulées ?

Marvin Minsky : Je n'ai pas connu beaucoup d'intervalles de 50 ans, donc c'est difficile pour moi de le dire.

TR : Assez juste. Alors, que pensez-vous de l'état de la recherche en IA aujourd'hui, par rapport à ce qu'elle était en 1956 ?

MM : Ce qui me surprend, c'est le peu de personnes qui ont travaillé sur des théories de haut niveau sur le fonctionnement de la pensée. Cela a été une grosse déception. Je viens de publier un grand nouveau livre sur ce à quoi nous devrions penser : comment un enfant de trois ou quatre ans fait-il le raisonnement de bon sens pour lequel il est si bon et qu'aucune machine ne semble être capable de faire? La principale différence est que si vous avez du mal à comprendre quelque chose, vous pensez généralement : qu'est-ce qui ne va pas chez moi ? ou Qu'est-ce qui me fait perdre du temps ? ou Pourquoi cette façon de penser ne fonctionne-t-elle pas ? Y a-t-il une autre façon de penser qui pourrait être meilleure?

Mais les types de projets d'IA qui se sont déroulés au cours des 30 ou 40 dernières années n'ont pratiquement aucune réflexion réfléchie. Il s'agit de réagir à une situation et de collecter des statistiques. Nous avons organisé une conférence sur le sens commun il y a environ trois ans et nous n'avons pu trouver qu'une dizaine de chercheurs dans le monde entier qui s'y intéressaient.

TR : Pourquoi les gens évitent-ils le problème de bon sens ?

MM : Je pense que les gens regardent autour d'eux pour voir quel domaine est actuellement populaire, puis y perdent leur vie. Si c'est populaire, alors à mon avis vous ne pas veux y travailler. Maintenant, la physique est différente. Là, les gens disent que cette théorie populaire fonctionne plutôt bien, mais elle n'explique pas ceci ou cela - donc je devrais regarder cela. Mais lorsque les gens écrivent des articles sur l'IA, ils ne disent que ce que leur programme a fait, et non comment il a échoué ou quels types de problèmes il n'a pas pu résoudre. Les gens ne considèrent pas que le problème important est celui de leur système n'a pas résolu. Les gens ont fait en sorte que les réseaux de neurones reconnaissent que si vous cherchez un taxi, par exemple, vous devez rechercher un objet jaune en mouvement. Mais ils ne demandent pas pourquoi ces réseaux ne peuvent pas répondre à d'autres types de questions.

TR : Mais comprendre le bon sens est un problème beaucoup plus difficile, n'est-ce pas ? Cela ne pourrait-il pas expliquer pourquoi tant de chercheurs en IA se lancent dans d'autres domaines ?

MM : C'est vrai. A l'époque où j'écrivais La société de l'esprit , nous avons travaillé pendant quelques années pour faire comprendre à un ordinateur une histoire simple pour enfants : Mary a été invitée à la fête de Jack. Elle se demanda s'il aimerait un cerf-volant. Si vous posez la question Pourquoi Mary s'est-elle interrogée sur un cerf-volant ? tout le monde connaît la réponse - c'est probablement une fête d'anniversaire, et si elle y va, cela signifie qu'elle a été invitée, et tous ceux qui sont invités doivent apporter un cadeau, et ce doit être un cadeau pour un jeune garçon, donc ça doit être quelque chose que les garçons aiment, et les garçons aiment certains types de jouets comme les chauves-souris, les balles et les cerfs-volants. Vous devez savoir tout cela pour répondre à la question. Nous avons réussi à créer une petite base de données et avons fait comprendre au programme quelques questions simples. Mais nous l'avons essayé sur une autre histoire et il ne savait pas quoi faire. Certains d'entre nous ont conclu qu'il faudrait connaître quelques million choses avant de pouvoir faire une machine faire une réflexion de bon sens.

TR : Alors que les gens ont réalisé à quel point il est difficile de faire comprendre à un ordinateur même des situations simples de bon sens, diriez-vous qu'une partie de l'optimisme concernant les possibilités de l'IA dans les années 1950 et 1960 s'est dissipée ?

MM : Je ne pense pas que l'optimisme soit le mot juste. Je pense que nous posions de bonnes questions, mais d'une manière ou d'une autre, la plupart des personnes travaillant sur ce qu'elles appelaient l'IA ont commencé à rechercher l'une de ces solutions universelles. En physique, cela a fonctionné ; il y avait les équations de Newton, puis celles de Maxwell, puis la relativité et la théorie quantique. La plupart des personnes en IA essaient d'imiter cela et de trouver une théorie générale. Mais les humains ont 100 centres cérébraux différents qui fonctionnent tous de manière légèrement différente. Vous ne devriez pas travailler sur une seule solution ; vous devriez travailler sur une foule de gadgets.

TR : Une grande partie du financement de l'IA provient de la Defense Advanced Research Projects Agency (DARPA), où il existe une demande assez claire de résultats pratiques. En fait, ils sont l'un des sponsors de la conférence Dartmouth AI. Comment la DARPA a-t-elle façonné l'orientation de la recherche en IA ?

MM : Au début, la DARPA soutenait les gens plutôt que les propositions. Il y a eu beaucoup de progrès depuis 1963; pendant environ dix ans, le genre de choses dont je parle ont prospéré. Et puis, au début des années 1970, il y a eu une sorte d'accident amusant. Le sénateur Mike Mansfield, assez libéral, a décidé que le ministère de la Défense ne devrait pas soutenir la recherche civile. Il était donc responsable de la transformation de l'ARPA en DARPA et de ses efforts pour ne pas concurrencer la recherche industrielle et civile. Il leur est donc devenu beaucoup plus difficile de soutenir des chercheurs visionnaires.

Dans le même temps, la communauté de recherche des entreprises américaines a commencé à disparaître au début des années 1970. Bell Labs et RCA et les autres ont pratiquement disparu de ce genre d'activité. Et une autre chose s'est produite : le bogue de l'entrepreneur a frappé. Dans les années 1980, de nombreuses personnes ont commencé à essayer de breveter des choses, de lancer des startups et de fabriquer des produits, et cela a coïncidé avec la disparition générale des jeunes scientifiques. Des gens qui auraient pu devenir des scientifiques productifs se lancent maintenant dans le droit et les affaires.

Il n'y a donc aucun moyen de soutenir cette recherche. Si vous avez une bonne idée, il est difficile de la publier car les gens disent Où est votre expérience ? Mais le problème avec la pensée de bon sens est que vous ne pouvez pas expérimenter tant que vous n'avez pas une grande base de données de bon sens. Il y en a un appelé Cyc, lancé par Doug Lenat en 1985. Et nous avons le Esprit ouvert base de données, qui est accessible au public mais pas encore très bien structurée. Mais c'est tout un projet de recherche juste pour comprendre comment ouvrir la base de données Open Mind.

TR : Vous avez mentionné qu'un ordinateur doit connaître quelques millions de choses pour établir des connexions sensées. Mais Lenat et ses collègues ont travaillé exactement là-dessus, passant des années à alimenter Cyc en connaissances de bon sens. Pourquoi une autre base de données est-elle nécessaire ?

MM : Lorsque Lenat a lancé Cyc en 1985, c'était assez ambitieux et il n'y avait pas d'autre projet de ce type. Mes collègues et moi avons dit attendons de voir comment cela fonctionne. Et puis il ne s'est rien passé pendant un moment.

Lenat a fait de très bonnes choses. Le problème est que Cyc est très difficile à utiliser et qu'il est propriétaire, il n'est donc pas beaucoup utilisé par les chercheurs. Et il y a beaucoup de problèmes avec son système qui ne sont pas apparus plus tôt parce qu'il n'y avait pas de concurrence.

Ils l'ont rendu cohérent, donc il ne sait pas grand-chose. Une baleine doit-elle être considérée comme un mammifère ou un poisson ? Les baleines ont de nombreuses caractéristiques semblables à celles des poissons, de sorte que la plupart des gens sont surpris lorsqu'ils entendent qu'il s'agit d'un mammifère. Mais la vraie réponse est que ça devrait être les deux. Une base de données de bon sens ne doit pas nécessairement être logiquement cohérente. Lenat a finalement compris qu'il fallait restructurer Cyc en prévoyant les différents contextes dans lesquels une question peut se poser. Mais la base de données était à l'origine structurée pour rendre les choses très logiques, et son langage est le calcul des prédicats. Notre espoir est de faire en sorte que le système Open Mind utilise un langage naturel - qui est bien sûr plein d'ambiguïtés, mais les ambiguïtés sont à la fois bonnes et mauvaises.

TR : Quels sont certains des principaux arguments ou recommandations de recherche dans votre prochain livre, La machine à émotions ?

MM : L'idée principale du livre est ce que j'appelle la débrouillardise. À moins que vous ne compreniez quelque chose de plusieurs manières différentes, vous risquez de rester bloqué. Donc, la première chose dans le livre est que vous devez avoir différentes manières de décrire les choses. J'ai inventé un mot pour cela : panologie. Lorsque vous représentez quelque chose, vous devez le représenter de plusieurs manières différentes, afin de pouvoir passer de l'une à l'autre sans réfléchir.

La deuxième chose est que vous devriez avoir plusieurs façons de penser. Le problème avec l'IA est que chaque personne dit qu'elle va créer un système basé sur l'inférence statistique ou des algorithmes génétiques, ou autre, et chaque système est bon pour certains problèmes mais pas pour la plupart des autres. La raison du titre La machine à émotions est que nous avons ces choses appelées émotions, et les gens les considèrent comme des ajouts mystérieux à la pensée rationnelle. Mon point de vue est qu'un état émotionnel est une façon différente de penser.

Lorsque vous êtes en colère, vous renoncez à votre planification à long terme et vous réfléchissez plus rapidement. Vous modifiez l'ensemble des ressources que vous activez. Une machine va avoir besoin de cent façons de penser. Et il se trouve que nous avons une centaine de noms pour les émotions, mais pas pour les façons de penser. Ainsi, le livre traite d'environ 20 directions différentes que les gens peuvent prendre dans leur réflexion. Mais ils doivent avoir des méta-connaissances supplémentaires sur la façon de penser appropriée dans chaque situation.

TR : Êtes-vous en train de dire que les ordinateurs devraient se mettre en colère ?

MM : Si quelqu'un se trouve sur votre chemin et qu'il ne veut pas s'écarter de votre chemin, vous devez l'intimider ou lui faire peur ou lui faire peur. C'est un moyen tout à fait raisonnable de résoudre le problème si vous êtes pressé et si quelque chose de grave va arriver si vous ne pouvez pas les contourner. Je propose que nous ayons besoin d'environ 20 mots différents pour ces façons de penser. Ensuite, vous pouvez jeter le rationnel.

Minsky La machine à émotions : pensée de bon sens, intelligence artificielle et avenir de l'esprit humain est prévu pour être publié en couverture rigide par Simon & Schuster en novembre 2006. Minsky a publié un Brouillon du livre en ligne.

cacher