L'homme qui a aidé à inventer les assistants virtuels pense qu'ils sont condamnés sans une nouvelle approche de l'IA

Mme Tech

Siri, Alexa, Google Home, la technologie qui analyse le langage trouve de plus en plus sa place dans la vie quotidienne.

Boris Katz , chercheur principal au MIT, n'est pas si impressionné. Au cours des 40 dernières années, Katz a apporté des contributions essentielles aux capacités linguistiques des machines. Dans les années 1980, il développe DÉBUT , un système capable de répondre à des requêtes formulées naturellement. Les idées utilisées dans START ont aidé Watson d'IBM à gagner sur Péril! et a jeté les bases des serviteurs artificiels bavards d'aujourd'hui.

Mais Katz craint maintenant que le domaine souffre d'une dépendance à des idées vieilles de plusieurs décennies et que ces idées ne nous donnent pas des machines dotées d'une réelle intelligence. Je l'ai rencontré pour discuter des limites actuelles des assistants IA et pour entendre ses réflexions sur la direction que doivent prendre les recherches si elles veulent devenir plus intelligentes.

Comment vous êtes-vous intéressé à faire en sorte que les ordinateurs utilisent le langage ?

J'ai rencontré les ordinateurs pour la première fois dans les années 1960 en tant qu'étudiant de premier cycle à l'Université de Moscou. La machine particulière que j'ai utilisée était un ordinateur central appelé BESM-4. On ne pouvait utiliser que du code octal pour communiquer avec lui. Mon premier projet informatique consistait à apprendre à un ordinateur à lire, comprendre et résoudre des problèmes mathématiques.

Ensuite, j'ai développé un programme informatique d'écriture de poésie. Je me souviens encore d'être resté dans la salle des machines attendant de voir le prochain poème généré par la machine. J'ai été stupéfait par la beauté des poèmes; ils semblaient être produits par une entité intelligente. Et j'ai su alors et là que je voulais travailler pour le reste de ma vie à créer des machines intelligentes et à trouver des moyens de communiquer avec elles.

Que pensez-vous de Siri, Alexa et des autres assistants personnels ?

C'est drôle d'en parler, parce que d'une part, nous sommes très fiers de ces progrès incroyables - tout le monde dans sa poche a quelque chose que nous avons aidé à créer ici il y a de très nombreuses années, ce qui est merveilleux.

AVEC

Mais d'un autre côté, ces programmes sont incroyablement stupides. Il y a donc un sentiment d'être fier et d'être presque gêné. Vous lancez quelque chose que les gens pensent être intelligent, mais ce n'est même pas proche.

Il y a eu des progrès significatifs dans l'IA grâce à l'apprentissage automatique. N'est-ce pas rendre les machines meilleures en langage ?

D'un côté, il y a ces progrès spectaculaires, et puis une partie de ces progrès est gonflée. Si vous regardez les progrès de l'apprentissage automatique, toutes les idées sont venues il y a 20 à 25 ans. C'est juste que finalement les ingénieurs ont fait un excellent travail pour concrétiser ces idées. Cette technologie, aussi formidable soit-elle, ne résoudra pas le problème de la véritable compréhension, de la véritable intelligence.

Il semble que nous fassions des progrès dans l'IA, cependant… (voir 10 technologies révolutionnaires : des assistants personnels qui parlent en douceur) ?

À un niveau très élevé, les techniques modernes - les techniques statistiques comme l'apprentissage automatique et l'apprentissage en profondeur - sont très efficaces pour trouver des régularités. Et parce que les humains produisent généralement les mêmes phrases la plupart du temps, il est très facile de les trouver dans le langage.

Regardez le texte prédictif. La machine sait mieux que vous ce que vous allez dire. Vous pourriez appeler cela intelligent, mais il ne s'agit que de compter des mots et des chiffres. Parce que nous disons toujours la même chose, il est facile de construire des systèmes qui capturent les régularités et agissent comme s'ils étaient intelligents. C'est le caractère fictif d'une grande partie des progrès actuels.

Qu'en est-il du dangereux outil générateur de langage annoncé récemment par OpenAI ?

Ces exemples sont en effet très impressionnants, mais je ne suis pas sûr de ce qu'ils nous apprennent. Le modèle de langage OpenAI a été formé sur 8 millions de pages Web afin de prédire le mot suivant, étant donné tous les mots précédents dans un texte (qui était sur le même sujet que celui sur lequel le modèle a été formé). Cet entraînement colossal a assurément assuré la cohérence locale (syntaxique et même sémantique) du texte.

Pourquoi pensez-vous que l'IA fait fausse route en matière de langage ?

En traitement du langage, comme dans d'autres domaines, des progrès ont été réalisés en entraînant des modèles sur d'énormes quantités de données - plusieurs millions de phrases. Mais le cerveau humain ne serait pas capable d'apprendre le langage en utilisant ce paradigme. Nous ne laissons pas nos bébés avec une encyclopédie dans le berceau, en attendant qu'ils maîtrisent la langue.

Quand nous voyons quelque chose, nous le décrivons dans le langage ; lorsque nous entendons quelqu'un parler de quelque chose, nous imaginons à quoi ressemblent les objets et les événements décrits dans le monde. Les humains vivent dans un environnement physique, rempli d'entrées sensorielles visuelles, tactiles et linguistiques, et la nature redondante et complémentaire de ces entrées permet aux enfants humains de donner un sens au monde et d'apprendre le langage en même temps. Peut-être qu'en étudiant ces modalités isolément, avons-nous rendu le problème plus difficile qu'il ne l'a facilité ?

Pourquoi le bon sens est-il important ?

Supposons que votre robot vous aide à faire vos bagages, et vous lui dites : ce livre ne rentrerait pas dans la boîte rouge car ce est aussi petit. En clair, vous voulez que votre robot comprenne que le rapporter boîte est trop petit pour que vous puissiez continuer à avoir une conversation significative. Cependant, si vous dites au robot : Ce livre ne rentrerait pas dans la case rouge parce que ce est aussi grand, vous voulez que votre robot comprenne que le livre C est trop gros.

Savoir à quelle entité dans une conversation un pronom fait référence est une tâche très courante que les humains font tous les jours, et pourtant, comme vous pouvez le voir à partir de ces exemples et d'autres, cela repose souvent sur une compréhension profonde du monde, qui est actuellement hors de portée. de nos machines : compréhension du bon sens et de la physique intuitive, compréhension des croyances et des intentions des autres, capacité de visualiser et de raisonner sur les causes et les effets, et bien plus encore.

Vous essayez d'enseigner aux machines le langage en utilisant des mondes physiques simulés. Pourquoi donc?

Je n'ai pas encore vu un bébé dont les parents ont mis une encyclopédie dans le berceau et dit : Va apprendre. Et c'est ce que font nos ordinateurs aujourd'hui. Je ne pense pas que ces systèmes apprendront comme nous le voulons ou comprendront le monde comme nous le voulons.

Ce qui se passe avec les bébés, c'est qu'ils acquièrent immédiatement une expérience tactile du monde. Ensuite, les bébés commencent à voir le monde et à absorber les événements et les propriétés des objets. Et puis le bébé finit par entendre une entrée linguistique. Et c'est cet apport complémentaire qui fait que la magie de la compréhension opère.

Quelle est la meilleure approche ?

Une voie à suivre consiste à acquérir une meilleure compréhension de l'intelligence humaine, puis à utiliser cette compréhension pour créer des machines intelligentes. La recherche sur l'IA doit s'appuyer sur des idées issues de la psychologie du développement, des sciences cognitives et des neurosciences, et les modèles d'IA doivent refléter ce que l'on sait déjà sur la façon dont les humains apprennent et comprennent le monde.

Les vrais progrès ne viendront que lorsque les chercheurs sortiront de nos bureaux et commenceront à parler à des gens d'autres domaines. Ensemble, nous nous rapprocherons de la compréhension de l'intelligence et trouverons comment la reproduire dans des machines intelligentes qui peuvent parler, voir et fonctionner dans notre monde physique.

Le défi de créer des machines vraiment intelligentes est très difficile, mais c'est aussi l'un des défis les plus importants que nous ayons à relever.

cacher