211service.com
Le problème de la langue de l'IA
Des machines qui comprennent vraiment le langage seraient incroyablement utiles. Mais nous ne savons pas comment les construire. 9 août 2016
À peu près à mi-chemin d'une partie de Go particulièrement tendue qui s'est déroulée à Séoul, en Corée du Sud, entre Lee Sedol, l'un des meilleurs joueurs de tous les temps, et AlphaGo, une intelligence artificielle créée par Google, le programme d'IA a effectué un geste mystérieux qui a démontré un énervant avantage sur son adversaire humain.
Au coup 37, AlphaGo a choisi de placer une pierre noire dans ce qui semblait, au premier abord, une position ridicule. Il semblait certain d'abandonner un territoire substantiel - une erreur de débutant dans un jeu qui consiste à contrôler l'espace sur le plateau. Deux commentateurs de télévision se sont demandé s'ils avaient mal interprété le mouvement ou si la machine avait mal fonctionné d'une manière ou d'une autre. En fait, contrairement à toute idée reçue, le coup 37 permettrait à AlphaGo de construire une base formidable au centre du plateau. Le programme Google avait effectivement gagné le jeu en utilisant un mouvement qu'aucun humain n'aurait imaginé.
À propos de l'art
-
L'une des raisons pour lesquelles la compréhension du langage est si difficile pour les ordinateurs et les systèmes d'IA est que les mots ont souvent une signification basée sur le contexte et même sur l'apparence des lettres et des mots. Dans les images qui accompagnent cette histoire, plusieurs artistes démontrent l'utilisation d'une variété d'indices visuels pour transmettre des significations bien au-delà des lettres réelles.
Cette histoire faisait partie de notre numéro de septembre 2016
- Voir la suite du problème
- S'abonner
La victoire d'AlphaGo est particulièrement impressionnante car l'ancien jeu de Go est souvent considéré comme un test d'intelligence intuitive. Les règles sont assez simples. Deux joueurs placent à tour de rôle des pierres noires ou blanches à l'intersection de lignes horizontales et verticales sur un plateau, essayant d'entourer les pièces de leur adversaire et de les retirer du jeu. Bien jouer, cependant, est incroyablement difficile.
Alors que les joueurs d'échecs sont capables d'anticiper quelques coups, au Go, cela n'est pas possible sans que le jeu ne se déroule dans une complexité insoluble, et il n'y a pas de gambits classiques. Il n'y a pas non plus de moyen simple de mesurer l'avantage, et il peut être difficile, même pour un joueur expert, d'expliquer précisément pourquoi il a fait un mouvement particulier. Il est donc impossible d'écrire un ensemble simple de règles à suivre par un programme informatique de niveau expert.
AlphaGo n'a pas du tout appris à jouer au Go. Au lieu de cela, le programme a analysé des centaines de milliers de matchs et joué des millions de matchs contre lui-même. Parmi plusieurs techniques d'IA, il a utilisé une méthode de plus en plus populaire connue sous le nom d'apprentissage en profondeur, qui implique des calculs mathématiques inspirés, très vaguement, par la façon dont des couches interconnectées de neurones se déclenchent dans un cerveau lorsqu'il apprend à donner un sens à de nouvelles informations. Le programme s'est enseigné par des heures de pratique, affinant progressivement un sens intuitif de la stratégie. Qu'il ait ensuite été en mesure de battre l'un des meilleurs joueurs de Go au monde représente une véritable étape importante dans l'intelligence artificielle et l'IA.
Laurent Weiner
Une balle en caoutchouc lancée sur la mer
1970 / 2014
Quelques heures après le coup 37, AlphaGo a remporté la partie pour monter de deux jeux à zéro dans le match au meilleur des cinq. Ensuite, Sedol s'est tenu devant une foule de journalistes et de photographes, s'excusant poliment d'avoir laissé tomber l'humanité. Je suis tout à fait sans voix, dit-il, clignant des yeux à travers une tempête de photographies au flash.
Le succès surprenant d'AlphaGo montre à quel point l'intelligence artificielle a fait des progrès ces dernières années, après des décennies de frustration et de revers souvent décrits comme un hiver de l'IA. L'apprentissage en profondeur signifie que les machines peuvent de plus en plus apprendre par elles-mêmes à effectuer des tâches complexes qui, il y a seulement quelques années, étaient censées nécessiter l'intelligence unique de l'homme. Les voitures autonomes sont déjà une possibilité prévisible. Dans un futur proche, des systèmes basés sur l'apprentissage en profondeur aideront à diagnostiquer les maladies et à recommander des traitements.
L'apprentissage en profondeur signifie que les machines peuvent de plus en plus apprendre par elles-mêmes à effectuer des tâches complexes qui, il y a seulement quelques années, étaient censées nécessiter l'intelligence unique de l'homme.
Pourtant, malgré ces avancées impressionnantes, une capacité fondamentale reste insaisissable : le langage. Des systèmes comme Siri et Watson d'IBM peuvent suivre de simples commandes parlées ou tapées et répondre à des questions de base, mais ils ne peuvent pas tenir une conversation et n'ont aucune compréhension réelle des mots qu'ils utilisent. Si l'IA doit être vraiment transformatrice, cela doit changer.
Même si AlphaGo ne peut pas parler, il contient une technologie qui pourrait conduire à une meilleure compréhension du langage. Dans des entreprises telles que Google, Facebook et Amazon, ainsi que dans les principaux laboratoires universitaires d'IA, les chercheurs tentent de résoudre enfin ce problème apparemment insoluble, en utilisant certains des mêmes outils d'IA, y compris l'apprentissage en profondeur, qui sont responsables du succès d'AlphaGo et la renaissance de l'IA d'aujourd'hui. Leur succès déterminera l'ampleur et le caractère de ce qui se transforme en une révolution de l'intelligence artificielle. Cela aidera à déterminer si nous avons des machines avec lesquelles nous pouvons facilement communiquer - des machines qui deviennent une partie intime de notre vie quotidienne - ou si les systèmes d'IA restent de mystérieuses boîtes noires, même s'ils deviennent plus autonomes. Selon Josh Tenenbaum, professeur de sciences cognitives et de calcul au MIT, il est impossible d'avoir un système d'IA qui ressemble à un humain et qui n'ait pas le langage au cœur de celui-ci. C'est l'une des choses les plus évidentes qui distinguent l'intelligence humaine.
Peut-être que les mêmes techniques qui ont permis à AlphaGo de conquérir Go permettront enfin aux ordinateurs de maîtriser le langage, ou peut-être que quelque chose d'autre sera également nécessaire. Mais sans compréhension du langage, l'impact de l'IA sera différent. Bien sûr, nous pouvons toujours avoir des logiciels immensément puissants et intelligents comme AlphaGo. Mais notre relation avec l'IA est peut-être beaucoup moins collaborative et peut-être beaucoup moins amicale. Une question lancinante depuis le début était 'Et si vous aviez des choses intelligentes dans le sens d'être efficaces, mais pas comme nous dans le sens de ne pas faire preuve d'empathie avec ce que nous sommes?', Dit Terry Winograd, professeur émérite à l'Université de Stanford. Vous pouvez imaginer des machines qui ne sont pas basées sur l'intelligence humaine, qui sont basées sur ces données volumineuses et qui dirigent le monde.
Chuchoteurs de machines
Quelques mois après le triomphe d'AlphaGo, je me suis rendu dans la Silicon Valley, au cœur du dernier boom de l'intelligence artificielle. Je voulais rendre visite aux chercheurs qui font des progrès remarquables sur les applications pratiques de l'IA et qui tentent maintenant de donner aux machines une meilleure compréhension du langage.
J'ai commencé avec Winograd, qui vit dans une banlieue nichée à l'extrémité sud du campus de Stanford à Palo Alto, non loin des sièges sociaux de Google, Facebook et Apple. Avec des cheveux blancs bouclés et une moustache touffue, il a l'air d'un vénérable universitaire et il a un enthousiasme contagieux.
En 1968, Winograd a fait l'un des premiers efforts pour apprendre à une machine à parler intelligemment. Prodige des mathématiques fasciné par le langage, il était venu au nouveau laboratoire d'IA du MIT pour étudier pour son doctorat, et il a décidé de créer un programme qui converserait avec les gens, via une invite de texte, en utilisant le langage de tous les jours. Cela ne semblait pas une ambition farfelue à l'époque. Des progrès incroyables étaient réalisés dans l'IA, et d'autres au MIT construisaient des systèmes de vision par ordinateur complexes et des bras robotiques futuristes. Il y avait un sentiment de possibilités inconnues et illimitées, se souvient-il.
Joseph Kosuth
Quatre couleurs quatre mots
1966
Cependant, tout le monde n'était pas convaincu que la langue pouvait être si facilement maîtrisée. Certains critiques, dont l'influent linguiste et professeur du MIT Noam Chomsky, ont estimé que les chercheurs en intelligence artificielle auraient du mal à faire comprendre les machines, étant donné que la mécanique du langage chez l'homme était si mal comprise. Winograd se souvient d'avoir assisté à une fête où un étudiant de Chomsky s'est éloigné lorsqu'il l'a entendu dire qu'il travaillait dans le laboratoire d'IA.
Mais il y avait aussi des raisons d'être optimiste. Joseph Weizenbaum, un professeur d'origine allemande au MIT, avait créé le tout premier programme de chatbot quelques années plus tôt. Appelé ELIZA, il a été programmé pour agir comme un psychothérapeute de bande dessinée, répétant les éléments clés d'une déclaration ou posant des questions pour encourager la poursuite de la conversation. Si vous disiez au programme que vous étiez en colère contre votre mère, par exemple, il dirait : Qu'est-ce qui vous vient d'autre à l'esprit lorsque vous pensez à votre mère ? Une astuce bon marché, mais qui a étonnamment bien fonctionné. Weizenbaum a été choqué lorsque certains sujets ont commencé à avouer leurs secrets les plus sombres à sa machine.
Il y a un problème évident avec l'application de l'apprentissage en profondeur au langage. C'est que les mots sont des symboles arbitraires, et en tant que tels, ils sont fondamentalement différents de l'imagerie.
Winograd voulait créer quelque chose qui semblait vraiment comprendre le langage. Il a commencé par réduire l'ampleur du problème. Il a créé un environnement virtuel simple, un monde de blocs, composé d'une poignée d'objets imaginaires assis sur une table imaginaire. Puis il a créé un programme, qu'il a nommé SHRDLU , qui était capable d'analyser tous les noms, verbes et règles de grammaire simples nécessaires pour faire référence à ce monde virtuel dépouillé. SHRDLU (un mot absurde formé par la deuxième colonne de touches sur une machine Linotype) pouvait décrire les objets, répondre aux questions sur leurs relations et apporter des modifications au monde des blocs en réponse aux commandes tapées. Il avait même une sorte de mémoire, de sorte que si vous lui disiez de déplacer le cône rouge et que vous vous référiez plus tard au cône, il supposerait que vous vouliez dire le rouge plutôt que celui d'une autre couleur.
SHRDLU a été présenté comme un signe que le domaine de l'IA faisait de profonds progrès. Mais ce n'était qu'une illusion. Lorsque Winograd a essayé d'agrandir le monde des blocs du programme, les règles requises pour tenir compte des mots nécessaires et de la complexité grammaticale sont devenues ingérables. Quelques années plus tard, il avait abandonné et finalement il a complètement abandonné l'IA pour se concentrer sur d'autres domaines de recherche. Les limites étaient beaucoup plus proches qu'il n'y paraissait à l'époque, dit-il.
Winograd a conclu qu'il serait impossible de donner aux machines une véritable compréhension du langage en utilisant les outils disponibles à l'époque. Le problème, comme Hubert Dreyfus, professeur de philosophie à l'UC Berkeley, l'a soutenu dans un livre de 1972 intitulé Ce que les ordinateurs ne peuvent pas faire , est que beaucoup de choses que les humains font nécessitent une sorte d'intelligence instinctive qui ne peut pas être capturée avec des règles strictes. C'est précisément pourquoi, avant le match entre Sedol et AlphaGo, de nombreux experts doutaient que les machines maîtrisent le Go.
Jean Baldessari
Beauté pure
1966–68
Mais alors même que Dreyfus avançait cet argument, quelques chercheurs développaient en fait une approche qui finirait par donner aux machines ce type d'intelligence. S'inspirant librement des neurosciences, ils expérimentaient des réseaux de neurones artificiels - des couches de neurones simulés mathématiquement qui pouvaient être entraînés à se déclencher en réponse à certaines entrées. Pour commencer, ces systèmes étaient douloureusement lents et l'approche a été rejetée comme peu pratique pour la logique et le raisonnement. Mais surtout, les réseaux de neurones pourraient apprendre à faire des choses qui ne pouvaient pas être codées à la main, et plus tard, cela s'avérerait utile pour des tâches simples telles que la reconnaissance de caractères manuscrits, une compétence qui a été commercialisée dans les années 1990 pour lire les chiffres sur les chèques. Les partisans ont soutenu que les réseaux de neurones finiraient par laisser les machines faire beaucoup, beaucoup plus. Un jour, disaient-ils, la technologie comprendrait même le langage.
Au cours des dernières années, les réseaux de neurones sont devenus beaucoup plus complexes et puissants. L'approche a bénéficié d'améliorations mathématiques clés et, plus important encore, d'un matériel informatique plus rapide et de quantités de données. En 2009, des chercheurs de l'Université de Toronto avaient montré qu'un réseau d'apprentissage en profondeur à plusieurs niveaux pouvait reconnaître la parole avec une précision record. Et puis en 2012, le même groupe a remporté un concours de vision artificielle en utilisant un algorithme d'apprentissage en profondeur qui était étonnamment précis.
Un réseau neuronal d'apprentissage en profondeur reconnaît les objets dans les images à l'aide d'une astuce simple. Une couche de neurones simulés reçoit une entrée sous la forme d'une image, et certains de ces neurones se déclencheront en réponse à l'intensité de pixels individuels. Le signal résultant traverse de nombreuses autres couches de neurones interconnectés avant d'atteindre une couche de sortie, qui signale que l'objet a été vu. Une technique mathématique connue sous le nom de rétropropagation est utilisée pour ajuster la sensibilité des neurones du réseau afin de produire la réponse correcte. C'est cette étape qui donne au système la capacité d'apprendre. Différentes couches à l'intérieur du réseau répondront à des caractéristiques telles que les bords, les couleurs ou la texture. De tels systèmes peuvent désormais reconnaître des objets, des animaux ou des visages avec une précision qui rivalise avec celle des humains.
Il y a un problème évident avec l'application de l'apprentissage en profondeur au langage. C'est que les mots sont des symboles arbitraires, et en tant que tels, ils sont fondamentalement différents de l'imagerie. Deux mots peuvent avoir une signification similaire tout en contenant des lettres complètement différentes, par exemple ; et le même mot peut signifier différentes choses dans différents contextes.
Dans les années 1980, des chercheurs avaient eu une idée astucieuse sur la manière de transformer le langage en un type de problème auquel un réseau de neurones peut s'attaquer. Ils ont montré que les mots peuvent être représentés comme des vecteurs mathématiques, permettant de calculer les similarités entre des mots apparentés. Par exemple, le bateau et l'eau sont proches dans l'espace vectoriel même s'ils semblent très différents. Des chercheurs de l'Université de Montréal, dirigés par Yoshua Bengio, et un autre groupe de Google, ont utilisé cette idée pour créer des réseaux dans lesquels chaque mot d'une phrase peut être utilisé pour construire une représentation plus complexe, ce que Geoffrey Hinton, professeur à l'Université de Toronto et un éminent chercheur en apprentissage profond qui travaille à temps partiel chez Google, appelle un vecteur de pensée.
En utilisant deux de ces réseaux, il est possible de traduire entre deux langues avec une excellente précision. Et en combinant ce type de réseau avec un autre conçu pour reconnaître des objets dans les images, il est possible d'évoquer des légendes étonnamment plausibles.
Le but de la vie
Assis dans une salle de conférence au cœur du siège social animé de Google à Mountain View, en Californie, l'un des chercheurs de l'entreprise qui a aidé à développer cette approche, Quoc Le, réfléchit à l'idée d'une machine qui pourrait tenir une conversation appropriée. Les ambitions de Le vont droit au cœur de la raison pour laquelle les machines parlantes pourraient être utiles. Je veux un moyen de simuler des pensées dans une machine, dit-il. Et si vous voulez simuler des pensées, vous devriez pouvoir demander à une machine à quoi elle pense.
Tauba Auerbach
La réponse / n'était pas là II
2008
Google enseigne déjà à ses ordinateurs les bases du langage. En mai, la société a annoncé un système, baptisé Parsey McParseface, qui peut examiner la syntaxe, reconnaître les noms, les verbes et d'autres éléments de texte. Il n'est pas difficile de voir à quel point une meilleure compréhension de la langue pourrait être précieuse pour l'entreprise. L'algorithme de recherche de Google utilisé pour suivre simplement les mots-clés et les liens entre les pages Web. Maintenant, à l'aide d'un système appelé RankBrain, il lit le texte sur les pages dans le but de glaner du sens et de fournir de meilleurs résultats. Le veut aller beaucoup plus loin. En adaptant le système qui s'est avéré utile dans la traduction et le sous-titrage d'images, lui et ses collègues ont créé Smart Reply, qui lit le contenu des messages Gmail et suggère une poignée de réponses possibles. Il a également créé un programme qui a appris des journaux de chat du support informatique de Google comment répondre à des questions techniques simples.
Plus récemment, Le a construit un programme capable de produire des réponses passables à des questions ouvertes ; il a été formé en étant alimenté par le dialogue de 18 900 films. Certaines de ses réponses semblent étrangement précises. Par exemple, Le a demandé : Quel est le but de la vie ? et le programme a répondu, Pour servir le plus grand bien. C'était une assez bonne réponse, se souvient-il avec un grand sourire. Probablement mieux que le mien aurait été.
Il n'y a qu'un seul problème, qui devient rapidement évident lorsque vous regardez plus de réponses du système. Quand Le a demandé, combien de pattes a un chat ? son système a répondu, Quatre, je pense. Puis il a essayé, Combien de pattes a un mille-pattes ? qui produisit une curieuse réponse : Huit. Fondamentalement, le programme de Le n'a aucune idée de ce dont il parle. Il comprend que certaines combinaisons de symboles vont ensemble, mais il n'a aucune appréciation du monde réel. Il ne sait pas à quoi ressemble réellement un mille-pattes ni comment il se déplace. Ce n'est encore qu'une illusion d'intelligence, sans le genre de bon sens que les humains tiennent pour acquis. Les systèmes d'apprentissage en profondeur peuvent souvent être bancaux de cette façon. Celui créé par Google pour générer des légendes pour les images ferait des erreurs bizarres, comme décrire un panneau de signalisation comme un réfrigérateur rempli de nourriture.
Le a demandé, Quel est le but de la vie ? et le programme a répondu, Pour servir le plus grand bien.
Par une curieuse coïncidence, le voisin d'à côté de Terry Winograd à Palo Alto est quelqu'un qui pourrait être en mesure d'aider les ordinateurs à mieux comprendre ce que les mots signifient réellement. Fei-Fei Li, directrice du laboratoire d'intelligence artificielle de Stanford, était en congé de maternité lors de ma visite, mais elle m'a invitée chez elle et m'a fièrement présenté son beau bébé de trois mois, Phoenix. Regarde comment elle te regarde plus que moi, dit Li alors que Phoenix me regardait. C'est parce que vous êtes nouveau; c'est la reconnaissance faciale précoce.
Li a passé une grande partie de sa carrière à faire des recherches sur l'apprentissage automatique et la vision par ordinateur. Il y a plusieurs années, elle a dirigé un effort pour créer une base de données de millions d'images d'objets, chacune étiquetée avec un mot-clé approprié. Mais Li pense que les machines ont besoin d'une compréhension encore plus sophistiquée de ce qui se passe dans le monde, et cette année, son équipe a publié une autre base de données d'images, annotées de manière beaucoup plus détaillée. Chaque image a été étiquetée par un humain avec des dizaines de descripteurs : un chien qui fait du skateboard, le chien a une fourrure duveteuse et ondulée, la route est fissurée, etc. L'espoir est que les systèmes d'apprentissage automatique apprendront à mieux comprendre le monde physique. La partie linguistique du cerveau reçoit beaucoup d'informations, y compris du système visuel, dit Li. Une partie importante de l'IA consistera à intégrer ces systèmes.
Ceci est plus proche de la façon dont les enfants apprennent, en associant des mots à des objets, des relations et des actions. Mais l'analogie avec l'apprentissage humain ne va pas plus loin. Les jeunes enfants n'ont pas besoin de voir un chien qui fait de la planche à roulettes pour pouvoir l'imaginer ou le décrire verbalement. En effet, Li pense que les outils d'apprentissage automatique et d'IA d'aujourd'hui ne suffiront pas à créer une véritable IA. Il ne s'agira pas seulement d'un apprentissage en profondeur riche en données, dit-elle. Li pense que les chercheurs en IA devront réfléchir à des choses comme l'intelligence émotionnelle et sociale. Nous [les humains] sommes terribles en informatique avec d'énormes données, dit-elle, mais nous sommes doués pour l'abstraction et la créativité.
Personne ne sait comment donner aux machines ces compétences humaines, si c'est même possible. Y a-t-il quelque chose d'uniquement humain dans ces qualités qui les met hors de portée de l'IA ?
Des scientifiques cognitifs comme Tenenbaum du MIT théorisent que des composants importants de l'esprit manquent aux réseaux de neurones d'aujourd'hui, quelle que soit la taille de ces réseaux. Les humains ont la capacité d'apprendre très rapidement à partir d'une quantité relativement faible de données et ont une capacité intégrée à modéliser le monde en 3D très efficacement. Le langage s'appuie sur d'autres capacités qui sont probablement plus fondamentales, qui sont présentes chez les jeunes enfants avant qu'ils n'aient le langage : percevoir le monde visuellement, agir sur nos systèmes moteurs, comprendre la physique du monde ou les objectifs d'autres agents, dit Tenenbaum.
S'il a raison, il sera difficile de recréer la compréhension du langage dans les machines et les systèmes d'IA sans essayer d'imiter l'apprentissage humain, la construction de modèles mentaux et la psychologie.
Expliquez-vous
Le bureau de Noah Goodman dans le département de psychologie de Stanford est pratiquement vide, à l'exception de quelques peintures abstraites appuyées contre un mur et de quelques plantes envahissantes. Quand je suis arrivé, Goodman était en train de taper sur un ordinateur portable, ses pieds nus sur une table. Nous nous sommes promenés sur le campus blanchi par le soleil pour un café glacé. La langue est spéciale en ce qu'elle repose sur de nombreuses connaissances sur la langue, mais elle repose également sur une énorme quantité de connaissances de bon sens sur le monde, et ces deux vont de pair de manière très subtile, a-t-il expliqué.
Goodman et ses étudiants ont développé un langage de programmation, appelé Webppl, qui peut être utilisé pour donner aux ordinateurs une sorte de bon sens probabiliste, qui s'avère très utile dans une conversation. Une version expérimentale peut comprendre les jeux de mots, et une autre peut faire face à l'hyperbole. Si on dit que certaines personnes ont dû attendre indéfiniment une table dans un restaurant, cela décidera automatiquement que le sens littéral est improbable, et ils ont probablement traîné longtemps et ont été ennuyés. Le système est loin d'être vraiment intelligent, mais il montre comment de nouvelles approches pourraient aider à rendre les programmes d'IA qui parlent d'une manière plus réaliste.
Dans le même temps, l'exemple de Goodman suggère également à quel point il sera difficile d'enseigner le langage aux machines. Comprendre la signification contextuelle de toujours est le genre de chose que les systèmes d'IA devront apprendre, mais c'est une réalisation plutôt simple et rudimentaire.
Je veux un moyen de simuler des pensées dans une machine, dit-il. Et si vous voulez simuler des pensées, vous devriez pouvoir demander à une machine à quoi elle pense.
Pourtant, malgré la difficulté et la complexité du problème, le succès surprenant que les chercheurs ont eu en utilisant des techniques d'apprentissage en profondeur pour reconnaître des images et exceller dans des jeux comme Go donne au moins l'espoir que nous pourrions également être sur le point de faire des percées dans le langage. . Si c'est le cas, ces progrès arriveront juste à temps. Si l'IA doit servir d'outil omniprésent que les gens utilisent pour augmenter leur propre intelligence et leur confiance pour prendre en charge des tâches dans une collaboration transparente, la langue sera la clé. Cela sera d'autant plus vrai que les systèmes d'IA utilisent de plus en plus l'apprentissage en profondeur et d'autres techniques pour se programmer essentiellement.
En général, les systèmes d'apprentissage en profondeur sont impressionnants, déclare John Leonard, professeur au MIT qui étudie la conduite automatisée. Mais d'un autre côté, leur performance est vraiment difficile à comprendre.
Toyota, qui étudie une gamme de technologies d'auto-conduite, a lancé un projet de recherche au MIT dirigé par Gerald Sussman, un expert en intelligence artificielle et en langage de programmation, pour développer des systèmes de conduite automatisée capables d'expliquer pourquoi ils ont pris une action particulière. Et un moyen évident pour une voiture autonome de le faire serait de parler. Construire des systèmes qui savent ce qu'ils savent est un problème vraiment difficile, dit Leonard, qui dirige un autre projet soutenu par Toyota au MIT. Mais oui, idéalement, ils donneraient non seulement une réponse mais une explication.
Quelques semaines après mon retour de Californie, j'ai vu David Silver, le chercheur de Google DeepMind qui a conçu AlphaGo, donner une conférence sur le match contre Sedol lors d'une conférence universitaire à New York. Silver a expliqué que lorsque le programme a proposé son mouvement meurtrier lors du deuxième match, son équipe a été tout aussi surprise que tout le monde. Tout ce qu'ils ont pu voir, ce sont les chances de gagner prédites par AlphaGo, qui ont peu changé même après le coup 37. Ce n'est que quelques jours plus tard, après une analyse minutieuse, que l'équipe de Google a fait une découverte : en digérant les jeux précédents, le programme avait calculé les chances de un joueur humain faisant le même mouvement à un sur 10 000. Et ses matchs d'entraînement avaient également montré que le jeu offrait un avantage de position inhabituellement fort.
Donc, d'une certaine manière, la machine savait que Sedol serait complètement pris au dépourvu.
Silver a déclaré que Google envisageait plusieurs options pour commercialiser la technologie, y compris une sorte d'assistant intelligent et un outil pour les soins de santé. Par la suite, je lui ai posé des questions sur l'importance de pouvoir communiquer avec l'IA derrière de tels systèmes. C'est une question intéressante, dit-il après une pause. Pour certaines applications, cela peut être important. Comme dans le domaine des soins de santé, il peut être important de savoir pourquoi une décision est prise.
En effet, à mesure que les systèmes d'IA deviennent de plus en plus sophistiqués et complexes, il est difficile d'imaginer comment nous allons collaborer avec eux sans langage, sans pouvoir leur demander pourquoi ? Plus que cela, la capacité de communiquer sans effort avec les ordinateurs les rendrait infiniment plus utiles, et cela semblerait tout simplement magique. Après tout, le langage est notre moyen le plus puissant de donner un sens au monde et d'interagir avec lui. Il est temps que nos machines
rattrapé.
Will Knight est rédacteur en chef pour l'IA et la robotique à Examen de la technologie MIT . Son long métrage The People's Robots est paru dans le numéro de mai/juin .