Ce programme d'IA pourrait vous battre dans une dispute, mais il ne sait pas ce qu'il dit

Recherche IBM

Lors d'un débat en direct à San Francisco ce soir, un programme d'IA a avancé un argument étonnamment convaincant selon lequel l'exploration spatiale devrait être subventionnée. Lorsqu'un humain n'était pas d'accord, le programme offrait une réfutation.

Le débat, entre un programme informatique d'IBM appelé Project Debater et plusieurs participants humains, est la dernière preuve que les machines artificiellement intelligentes font des progrès dans des compétences qui étaient auparavant réservées aux humains - dans ce cas, l'argumentation.

Au cours de l'événement, le programme et un participant humain se sont relayés pour présenter un argument sur un sujet spécifique, faire une réfutation et ajouter un argument de clôture. Dans un deuxième débat, le programme a plaidé pour l'utilisation accrue de la télémédecine, tandis que le participant humain s'y est opposé.

Histoire connexe

Histoire connexe Les experts suggèrent que le fait que les systèmes d'IA essaient de se déjouer les uns des autres pourrait aider une personne à juger de ses intentions.

IBM travaille depuis plusieurs années sur le logiciel d'IA, qui explore des tonnes de texte avant de construire un argument sur un sujet spécifique. L'entreprise a tenu le débat ce soir pour promouvoir la technologie.

Project Debater n'essaie pas de construire un argument basé sur une compréhension du sujet en question. Au lieu de cela, il en construit simplement un en combinant des éléments d'arguments précédents, ainsi que des points d'information pertinents de Wikipedia.

Noam Slonim et Ranit Aharonov, les chercheurs d'IBM derrière Project Debater. Recherche IBM

Ranit Aharonov , un chercheur à l'origine du projet basé en Israël, reconnaît qu'il est limité. Il y a encore un long chemin à parcourir dans la maîtrise du langage, dit-elle. Cependant, Aharonov pense que la technologie pourrait avoir une gamme d'utilisations pratiques. Cela pourrait aider quelqu'un à prendre une décision critique, par exemple, en fournissant une gamme d'arguments pour et contre.

Un système d'IA argumentatif pourrait, bien sûr, également avoir des utilisations néfastes, notamment alimenter des robots plus pernicieux sur les réseaux sociaux et au-delà. Collaborateur d'Aharonov Noam Slonim écarte le danger. Il y a toujours un risque, et je pense en fait qu'il est plus limité qu'avec d'autres technologies, dit-il.

Oren Etzioni, PDG de Institut Allen pour l'intelligence artificielle à Seattle, dit qu'il est difficile de juger des capacités du système IBM uniquement sur la base de ce concours. Il est plus facile de mettre en place une démo en conserve qu'une démo ouverte où ils vous permettent d'interagir avec elle de manière naturelle, dit-il.

Kristian Hammond , professeur à la Northwestern University et fondateur de Narrative Sciences, une société qui génère automatiquement des reportages et d'autres contenus, affirme que la technologie pourrait s'avérer utile. Mais Hammond souligne que le logiciel IBM répète simplement ce qu'il a déterré. Il n'y a jamais une étape à laquelle le système sait de quoi il parle, dit-il. Chez les humains, nous considérons cela comme un raisonnement de merde.

Hammond dit également que le concours de San Francisco ne démontre guère l'utilité du système. C'est un peu une distraction, dit-il.

cacher