Les échecs sont trop faciles

L'informatique est partagée en ce qui concerne l'intelligence artificielle (IA). Certains informaticiens croient en ce qu'on appelle l'IA forte, qui soutient que toute pensée humaine est complètement algorithmique, c'est-à-dire qu'elle peut être décomposée en une série d'opérations mathématiques. Ce qui s'ensuit logiquement, soutiennent-ils, c'est que les ingénieurs en IA finiront par reproduire l'esprit humain et créer un robot véritablement conscient de lui-même rempli de sentiments et d'émotions. D'autres adoptent l'IA faible, l'idée que la pensée humaine ne peut être simulée que dans un appareil informatique. S'ils ont raison, les futurs robots peuvent présenter une grande partie du comportement de l'appareil. S'ils ont raison, les futurs robots peuvent présenter une grande partie du comportement des personnes, mais aucun de ces robots ne sera jamais une personne ; leur vie intérieure sera aussi vide que celle d'un rocher.

Les prédictions passées des partisans de l'IA forte et faible n'ont pas fait grand-chose pour faire avancer le débat. Par exemple, Herbert Simon, professeur de psychologie à l'Université Carnegie Mellon, peut-être le premier et le plus vigoureux partisan de Strong AI, a prédit il y a quatre décennies que les machines dotées d'un esprit étaient imminentes. Mon but n'est pas de vous surprendre ou de vous choquer, dit-il. Mais la façon la plus simple que je puisse résumer est de dire qu'il y a maintenant dans le monde des machines qui pensent, qui apprennent et créent. De plus, leur capacité à faire ces choses va augmenter rapidement jusqu'à ce que, dans un avenir visible, l'éventail des problèmes qu'ils peuvent gérer soit coextensif avec l'éventail auquel l'esprit humain a été appliqué.

De l'autre côté de l'équation, Hubert Dreyfus, professeur de philosophie à Berkeley, a parié la ferme il y a deux décennies que les ordinateurs de calcul de symboles n'approcheraient même jamais les capacités de résolution de problèmes des êtres humains, sans parler d'une vie intérieure. Dans son livre, What Computers Can't Do (HarperCollins 1978), et encore dans l'édition révisée, What Computers Still Can't Do (MIT Press 1992), il a affirmé que les formidables ordinateurs jouant aux échecs resteraient à jamais dans le domaine de fiction, et a osé la communauté de l'IA pour lui prouver le contraire.

La victoire au printemps dernier de l'ordinateur Deep Blue d'IBM sur le plus grand joueur d'échecs humain du monde, Gary Kasparov, a anéanti la prédiction de Dreyfus. Mais cela plaide-t-il également en faveur d'une IA forte plutôt que faible ? Kasparov lui-même semble le penser. Pour le plus grand plaisir des partisans de Strong AI, Kasparov a déclaré dans Time en mars dernier qu'il sentait qu'un nouveau type de renseignement se battait contre lui.

De plus, le célèbre philosophe Daniel Dennett de l'Université Tufts ne trouverait pas une telle réaction hyperbolique à la lumière du triomphe de Deep Blue. Toujours l'archi-défenseur de Strong AI, Dennett pense que la conscience est au cœur de l'algorithme et que l'IA réduit rapidement la conscience au calcul.

Mais dans leur exultation, Kasparov, Dennett et d'autres qui croient que Deep Blue donne du crédit à Strong AI oublient un fait important : d'un point de vue purement logique, les échecs sont remarquablement faciles. En effet, comme on le sait depuis longtemps, les échecs invincibles peuvent théoriquement être joués par un système insensé, tant qu'il suit un algorithme qui trace les conséquences de chaque coup possible jusqu'à ce qu'une position de mat ou de match nul soit trouvée.

Bien sûr, bien que cet algorithme soit douloureusement simple (les étudiants de premier cycle en informatique l'apprennent régulièrement), il est complexe en termes de calcul. En fait, si nous supposons une moyenne d'environ 32 options par jeu, cela donne un millier d'options pour chaque coup complet (un coup est un jeu d'un côté suivi d'un jeu en réponse). Par conséquent, si l'on regarde vers l'avenir cinq coups, on obtient un quadrillion (1015) de possibilités. À l'avenir, 40 coups, la durée d'un jeu typique, impliqueraient 10120 possibilités. Deep Blue, qui examine plus de 100 millions de positions par seconde, prendrait près de 10112 secondes, soit environ 10104 ans pour examiner chaque mouvement. En comparaison, il y a eu moins de 1018 secondes depuis le début de l'univers, et le consensus parmi les connaisseurs des échecs informatiques est que notre soleil expirera avant même que les superordinateurs de demain puissent effectuer une recherche aussi exhaustive.

Mais que se passe-t-il si un ordinateur peut regarder très loin (alimenté, disons, par l'algorithme connu sous le nom de recherche alpha-bêta minimax, la stratégie principale de Deep Blue), par opposition à tout le chemin ? Et s'il pouvait combiner cette puissance de traitement avec une pincée de connaissance de certains principes de base des échecs, par exemple ceux impliquant la sécurité du roi, qui, d'ailleurs, ont été installés dans Deep Blue juste avant son match contre Kasparov ? La réponse, comme Deep Blue l'a montré de manière retentissante, est qu'une machine ainsi armée peut surpasser même le meilleur joueur d'échecs humain.

Créativité Ex Machina ?

Mais le genre de pensée qui entre dans les échecs, empilé contre toute la puissance et la portée de l'esprit humain, est loin de toute l'histoire. La mathématicienne du XIXe siècle Ada Byron, connue sous le nom de Lady Lovelace, a peut-être été la première à suggérer que la créativité est la différence essentielle entre l'esprit et la machine - l'essence déterminante qui va au-delà de ce que même l'algorithme le plus sophistiqué peut accomplir. Lovelace a fait valoir que les machines informatiques, telles que celle inventée par son contemporain, Charles Babbage, ne peuvent rien créer, car la création nécessite, au minimum, de créer quelque chose. Les ordinateurs ne peuvent rien créer ; ils peuvent simplement faire ce que nous leur ordonnons, via des programmes, de faire.

Un siècle plus tard, Alan Turing, le grand-père de l'IA et de l'informatique, a répondu à l'objection de Lady Lovelace en inventant le désormais célèbre test de Turing, qu'un ordinateur réussit s'il peut tromper un humain en lui faisant croire qu'il est un humain. Malheureusement, alors que les échecs sont trop faciles, le test de Turing est encore beaucoup trop difficile pour les ordinateurs d'aujourd'hui. Par exemple, la tromperie - dont un joueur informatique puissant dans le test de Turing devrait sûrement être capable - est un concept incroyablement complexe. Pour pousser une personne à accepter par erreur une fausse notion, il faut que l'ordinateur comprenne non seulement que l'idée est fausse, mais aussi les myriades de connexions subtiles qui existent entre l'idée et les croyances, les attitudes et d'innombrables autres idées de cette personne.

Bien que le test de Turing soit actuellement hors de portée de la plus intelligente de nos machines, il existe peut-être un moyen plus simple de décider entre les formes fortes et faibles de l'IA, une qui met en évidence la créativité, ce qui pourrait bien être le véritable problème dans le test Strong vs. Faible affrontement. Le test que je propose est simplement : une machine peut-elle raconter une histoire ?

Bien que la vertu de ce test puisse ne pas sembler évidente à première vue, il y a des raisons intéressantes de penser qu'il s'agit d'un bon indice d'état d'esprit. Par exemple, le test dominant de créativité utilisé en psychologie, les tests de Torance sur la pensée créative, demande aux sujets de produire des récits.

La présence du récit dans ces tests n'est pas non plus arbitraire ; de nombreux scientifiques cognitifs soutiennent de manière plausible que le récit est au cœur même de la cognition humaine. Roger Schank, un scientifique cognitif bien connu à l'Université Northwestern, affirme avec audace que pratiquement toutes les connaissances humaines sont basées sur des histoires. Son affirmation fondamentale est que lorsque vous vous souvenez du passé, vous vous en souvenez comme un ensemble d'histoires, et lorsque vous communiquez des informations, vous les livrez également sous forme d'histoires.

Mais peut-être le plus important pour cette discussion, le jeu d'histoire frapperait droit au cœur de la distinction entre IA forte et faible. Les humains trouvent impossible de produire de la littérature sans adopter le point de vue des personnages, c'est-à-dire sans ressentir ce que c'est que d'être ces personnages ; par conséquent, les auteurs humains génèrent des histoires en capitalisant sur le fait qu'ils sont conscients au sens le plus complet du terme, c'est-à-dire être conscient à la fois de soi, d'une autre personne et de la relation (ou de l'absence de relation) entre les deux personnes.

Histoire profonde

Il semble qu'un jeu d'histoire serait donc un meilleur test pour savoir si les ordinateurs peuvent penser que les jeux d'échecs et de dames qui prédominent actuellement dans les conférences sur l'IA. Mais à quoi ressemblerait le jeu d'histoire ? Dans le jeu de l'histoire, nous donnerions à la fois à l'ordinateur et à un maître conteur humain une phrase relativement simple, disons : Gregor s'est réveillé pour découvrir que son abdomen était aussi dur qu'une coquille, et que là où se trouvait son bras droit, il remuait maintenant un tentacule. Les deux joueurs doivent ensuite créer une histoire conçue pour être vraiment intéressante, la plus littéraire par nature - en termes de caractérisation riche, de manque de prévisibilité et de langage intéressant - mieux c'est. Nous pourrions alors avoir un humain juge les histoires de sorte que, comme dans le test de Turing, lorsqu'un tel juge ne peut pas dire quelle réponse vient de la muse mécanique et laquelle vient de l'humain, nous disons que la machine a gagné la partie.

Comment les futures machines se comporteront-elles dans un tel jeu ? Je pense que la longueur de l'histoire est une variable clé. Un jeu d'histoire opposant l'esprit à la machine dans lequel la longueur et la complexité du récit sont ouvertes scellerait certainement la défaite de la machine pour les siècles à venir. Bien que les partisans de l'IA forte soutiennent qu'une machine pourrait éventuellement l'emporter dans un concours pour voir si l'esprit ou la machine pourrait produire un meilleur roman, même ils seraient d'accord pour dire qu'essayer de construire une telle machine aujourd'hui est impensable. La tâche serait si difficile que personne ne saurait même par où commencer.

En bref, bien que le test de Turing soit, comme indiqué, trop difficile pour fournir le format de la compétition esprit-machine à l'heure actuelle, beaucoup de gens pensent qu'ils peuvent imaginer un avenir proche où une machine tiendra le coup dans ce test. En ce qui concerne le jeu d'histoire sans restriction, cependant, un tel avenir ne peut tout simplement pas être conçu. Nous pouvons bien sûr imaginer un avenir dans lequel un ordinateur imprime un roman, mais nous ne pouvons pas imaginer les algorithmes qui fonctionneraient dans les coulisses.

Donc, juste pour donner aux partisans de Strong AI une chance de se battre, je limiterais le concours aux histoires les plus courtes, disons, de moins de 500 mots. Cette version du jeu devrait s'avérer un défi tentant pour les ingénieurs Strong AI. Et, comme la version complète, il exige de la créativité de la part de l'esprit ou de la machine qui le jouerait.

Comment alors les futures machines pourraient-elles se comparer aux auteurs humains lorsque chacun se voit attribuer cette phrase comme point de départ vers une nouvelle courte ?

Je ne suis peut-être pas mal placé pour faire des prédictions. Avec l'aide de la Luce Foundation, d'Apple Computer, d'IBM, du Rensselaer Polytechnic Institute (RPI) et de la National Science Foundation, j'ai passé les sept dernières années (et environ trois quarts de million de dollars) à travailler avec un certain nombre de chercheurs. plus particulièrement Marie Meteer, scientifique à Bolt, Beranek et Newman ; David Porush, professeur au RPI ; et David Ferrucci, scientifique senior chez IBM T.J. Watson Research Center - pour construire un formidable auteur artificiel de nouvelles.

Une partie de ce qui me motive, ainsi que d'autres chercheurs, dans la quête pour créer de tels Prousts, Joyces et Kafkas synthétiques est la conviction que les systèmes de divertissement autonomes véritablement intelligents du futur nécessiteront, entre autres, des systèmes d'IA qui savent comment créer et histoires directes. Dans les mondes virtuels du futur, remplis de personnages artificiels, les choses se dérouleront trop rapidement en temps réel pour qu'un humain puisse guider le processus. L'industrie du jeu est actuellement à la limite entre la prescription rigide d'un jeu et le fait de laisser les choses se produire bon gré mal gré lorsque les humains font des choix. Ce dont on a désespérément besoin, c'est d'une intelligence artificielle capable d'amadouer les événements en un fil narratif continu tout en permettant aux joueurs humains de jouer dans un espace apparemment infini de trajectoires d'intrigue.

Le résultat le plus récent de mon travail à cet égard (en collaboration avec Ferrucci et Adam Lally, un ingénieur logiciel chez Legal Knowledge Systems de Troy, NY) est un agent artificiel appelé Brutus.1, ainsi nommé parce que le concept littéraire dans lequel il se spécialise est trahison. Malheureusement, Brutus.1 n'est pas capable de jouer le jeu des nouvelles. Il a des connaissances sur l'ontologie des professeurs universitaires, des thèses, des étudiants, des classes, etc. mais il serait paralysé par une question en dehors de sa base de connaissances. Par exemple, il ne connaît rien à l'anatomie des insectes. Par conséquent, la phrase impliquant Gregor ferait un blanc.

Néanmoins, Brutus.1 est capable d'écrire de courtes nouvelles - si les histoires sont basées sur la notion de trahison (ainsi que sur l'auto-tromperie, le mal et dans une certaine mesure le voyeurisme), qui ne sont pas des vanités littéraires peu prometteuses (voir encadré, Trahison, par Brutus.1-ainsi que Richard III, Macbeth, Othello.)

De tels exploits presque belletristiques ne sont possibles pour Brutus.1 que parce que Ferrucci et moi avons pu concevoir une définition mathématique formelle de la trahison et doter Brutus.1 du concept (voir l'encadré, The Mathematization of Betrayal). Mais pour adapter Brutus.1 pour bien jouer dans un jeu de nouvelles, il faudrait certainement comprendre non seulement la trahison, mais d'autres grands thèmes littéraires comme l'amour non partagé, la vengeance, la jalousie, le parricide, etc.

Pour toujours inconscient

Il me reste encore trois ans pour mener à bien mon projet de dix ans de construire un formidable Hemingway en silicium. À ce stade, cependant, même si Brutus.1 est impressionnant et même si notre intention est de créer des descendants de Brutus.1 qui peuvent comprendre un ensemble complet de concepts littéraires et plus, il semble assez clair que les ordinateurs ne seront jamais les meilleurs conteurs humains dans même un concours de nouvelles.

Il ressort clairement de notre travail que pour raconter une histoire vraiment captivante, une machine aurait besoin de comprendre la vie intérieure de ses personnages. Et pour ce faire, il lui faudrait non seulement penser mécaniquement dans le sens d'un calcul rapide (le point fort des superordinateurs comme Deep Blue), mais aussi penser expérientiellement dans le sens d'avoir une conscience subjective ou phénoménale. Par exemple, une personne peut penser par expérience à un voyage en Europe lorsqu'elle était enfant, se souvenir de ce que c'était que d'être à Paris par une journée ensoleillée avec un frère aîné, défoncer un drive dans un fairway, sentir le contact d'un amoureux, skier sur le bord, ou besoin d'une bonne nuit de sommeil. Mais un tel exemple, je prétends, exigera des capacités qu'aucune machine n'aura jamais.

Des conteurs humains renommés comprennent ce concept. Par exemple, le dramaturge Henrik Ibsen a dit : Je dois avoir le personnage en tête de part en part, je dois pénétrer dans la dernière ride de son âme. Un tel mode opératoire est à jamais fermé à une machine.

Les partisans de Strong AI, s'ils s'efforcent de construire une machine capable de prévaloir dans le jeu des nouvelles, doivent donc s'efforcer de construire précisément ce qui distingue Strong de Weak AI : une machine consciente. Pourtant, en cherchant une telle machine, les chercheurs de Strong AI attendent un point culminant qui arrivera pour toujours, jamais présent.

Les croyants à l'IA faible, comme moi, chercheront à concevoir des systèmes qui, faute de la capacité d'Ibsen à regarder à travers les yeux d'un autre, créeront des personnages richement dessinés. Mais bien que je m'attende à faire des progrès, je m'attends à ce que, contrairement au jeu d'échecs, la narration de premier ordre, même à la longueur modeste des nouvelles courtes, sera toujours le seul domaine des maîtres humains.

Néanmoins, je vais continuer avec les trois dernières années de mon projet, en grande partie parce que je m'attends à beaucoup de plaisir, ainsi qu'à pouvoir dire avec une certaine autorité que les machines ne peuvent pas être créatives et conscientes (vu comment J'utilise des techniques de pointe) et de produire des systèmes fonctionnels qui auront une valeur scientifique et économique considérable.

Kasparov reviendra sans aucun doute bientôt pour une autre partie d'échecs avec Deep Blue ou ses descendants, et il pourrait bien gagner. En fait, je soupçonne qu'il faudra encore 10 ans avant que les joueurs d'échecs mécaniques battent les grands maîtres tournoi après tournoi. Bientôt, cependant, Kasparov et ceux qui prendront son trône perdront invariablement.
Mais tel n'est pas le cas lorsque l'on considère les chances de ceux qui chercheraient à humilier non seulement les grands joueurs d'échecs, mais aussi les grands auteurs. Je ne crois pas que John Updike ou ses successeurs se retrouveront un jour au cœur d'un jeu de narration, suant sous des lumières aussi vives et chaudes que celles qui éclairaient Gary Kasparov.

cacher