Nous ne pouvons pas faire confiance aux systèmes d'IA basés uniquement sur l'apprentissage en profondeur

Redémarrer l'IA par Gary Marcus et Ernest Davis gracieuseté de Penguin Random House

Gary Marcus n'est pas impressionné par le battage médiatique autour de l'apprentissage en profondeur. Alors que le professeur de la NYU pense que la technique a joué un rôle important dans l'avancement de l'IA, il pense également que l'accent mis actuellement sur elle pourrait bien conduire à sa disparition.

Marcus, neuroscientifique de formation qui a passé sa carrière à la pointe de la recherche sur l'IA, cite à la fois des préoccupations techniques et éthiques. D'un point de vue technique, l'apprentissage en profondeur peut être efficace pour imiter les tâches perceptives du cerveau humain, comme la reconnaissance d'images ou de la parole. Mais il manque d'autres tâches, comme la compréhension des conversations ou des relations causales. Pour créer des machines plus performantes et largement intelligentes, souvent appelées familièrement intelligence artificielle générale, l'apprentissage en profondeur doit être combiné à d'autres méthodes.

Lorsqu'un système d'IA ne comprend pas vraiment ses tâches ou le monde qui l'entoure, cela peut également avoir des conséquences dangereuses. Même les plus petits changements inattendus dans l'environnement d'un système peuvent le faire dérailler. Il y a déjà eu d'innombrables exemples de cela : des détecteurs de discours de haine faciles à tromper, des systèmes de demande d'emploi qui perpétuent la discrimination et des voitures autonomes qui se sont écrasées, tuant parfois le conducteur ou un piéton. La quête de l'intelligence artificielle générale est plus qu'un problème de recherche intéressant. Cela a des implications très réelles.

Dans leur nouveau livre Redémarrage de l'IA , Marcus et son collègue Ernest Davis plaident pour une nouvelle voie à suivre. Ils pensent que nous sommes loin d'atteindre une telle intelligence générale, mais ils sont également convaincus que nous pourrons éventuellement y arriver.

J'ai parlé avec Marcus des faiblesses de l'apprentissage en profondeur, des leçons que le domaine peut tirer de l'esprit humain et des raisons pour lesquelles il est optimiste.

Ce qui suit a été modifié pour plus de longueur et de clarté.

Pourquoi voulons-nous même l'intelligence générale? Narrow AI a déjà généré beaucoup de valeur pour nous.

Gary Marcus avec l'aimable autorisation de Gary Marcus

Il l'a fait, et il en générera encore plus. Mais il y a beaucoup de problèmes dont l'IA étroite ne semble tout simplement pas très capable. Des choses comme la compréhension conversationnelle du langage naturel et l'assistance générale dans le monde virtuel, ou des choses comme Rosie le robot qui pourrait vous aider à ranger votre maison ou à préparer le dîner. Ceux-ci sortent tout simplement du cadre de ce que nous pouvons faire avec une IA étroite. C'est aussi une question empirique intéressante sur la question de savoir si une IA étroite peut nous amener à des voitures sans conducteur sûres. La réalité jusqu'à présent est que l'IA étroite a beaucoup de problèmes avec les cas aberrants, même pour la conduite, ce qui est un problème assez limité.

Plus généralement, je pense que nous aimerions tous voir l'IA nous aider à faire de nouvelles découvertes en médecine à grande échelle. Il n'est pas clair que les techniques actuelles vont nous amener là où nous devons être, car la biologie est compliquée. Il faut vraiment savoir lire la littérature. Les scientifiques ont une compréhension causale de la façon dont les réseaux et les molécules interagissent ; ils peuvent développer des théories sur les orbites et les planètes ou autre. Avec une IA étroite, nous ne pouvons pas amener les machines à faire ce niveau d'innovation. Avec l'IA générale, nous pourrions bien être en mesure de révolutionner la science, la technologie, la médecine. Je pense donc que travailler vers l'IA générale est un projet très valable.

Il semble que vous utilisiez l'IA générale pour faire référence à une IA robuste ?

L'IA générale consiste à permettre à l'IA de penser à la volée et de résoudre elle-même de nouveaux problèmes. C'est par opposition à, disons, Go, où le problème n'a pas changé depuis 2 000 ans.

L'IA générale devrait également être capable de travailler aussi confortablement en raisonnant sur la politique que sur la médecine. C'est l'analogue de ce que les gens ont; toute personne raisonnablement brillante peut faire beaucoup, beaucoup de choses différentes. Vous prenez un stagiaire de premier cycle et, en quelques jours, vous le faites travailler sur pratiquement n'importe quoi, d'un problème juridique à un problème médical. C'est parce qu'ils ont une compréhension générale du monde et qu'ils savent lire, ils peuvent donc contribuer à un très large éventail de choses.

La relation entre cela et une intelligence robuste est que si vous n'êtes pas robuste, vous ne pourrez probablement pas vraiment faire la chose générale. Donc, pour construire quelque chose de suffisamment fiable pour faire face à un monde en constante évolution, vous devez probablement au moins aborder l'intelligence générale.

Mais vous savez, nous sommes assez loin de cela en ce moment. AlphaGo peut très bien jouer sur un plateau 19x19 mais doit en fait être rééduqué pour jouer sur un plateau rectangulaire. Ou vous prenez votre système d'apprentissage en profondeur moyen, et il peut reconnaître un éléphant tant que l'éléphant est bien éclairé et que vous pouvez voir la texture de l'éléphant. Mais si vous mettez l'éléphant en silhouette, il se peut qu'il ne soit plus capable de le reconnaître.

Comme vous le mentionnez dans votre livre, l'apprentissage en profondeur ne peut pas vraiment atteindre l'IA générale car il manque une compréhension approfondie.

En sciences cognitives, nous parlons d'avoir des modèles cognitifs des choses. Donc je suis assis dans une chambre d'hôtel, et je comprends qu'il y a un placard, il y a un lit, il y a la télévision qui est montée d'une manière inhabituelle. Je sais qu'il y a toutes ces choses ici, et je ne me contente pas de les identifier. Je comprends aussi comment ils se rapportent les uns aux autres. J'ai ces idées sur la façon dont le monde extérieur fonctionne. Ils ne sont pas parfaits. Ils sont faillibles, mais ils sont plutôt bons. Et je fais beaucoup d'inférences autour d'eux pour guider mes actions quotidiennes.

L'extrême opposé est quelque chose comme le système de jeu Atari créé par DeepMind, où il mémorisait ce qu'il devait faire en voyant des pixels à des endroits particuliers sur l'écran. Si vous obtenez suffisamment de données, il peut sembler que vous avez une compréhension, mais c'est en fait une compréhension très superficielle. La preuve en est que si vous décalez les choses de trois pixels, ça joue beaucoup plus mal. Il rompt avec le changement. C'est le contraire de la compréhension profonde.

Vous suggérez de revenir à l'IA classique pour résoudre ce défi. Quels sont les points forts de l'IA classique que nous devrions essayer d'intégrer ?

Je suis juste un peu sidéré par le peu d'appréciation que la communauté d'apprentissage en profondeur en général a pour cela.

Il y a un peu. Premièrement, l'IA classique en fait est un cadre pour construire des modèles cognitifs du monde sur lesquels vous pouvez ensuite faire des inférences. La deuxième chose est que l'IA classique est parfaitement à l'aise avec les règles. C'est une sociologie étrange en ce moment dans l'apprentissage en profondeur où les gens veulent éviter les règles. Ils veulent tout faire avec des réseaux de neurones, et ne rien faire avec tout ce qui ressemble à de la programmation classique. Mais il y a des problèmes qui sont systématiquement résolus de cette façon et auxquels personne ne prête attention, comme faire votre itinéraire sur Google Maps.

Nous avons en fait besoin des deux approches. L'apprentissage automatique est assez bon pour apprendre à partir des données, mais il est très mauvais pour représenter le type d'abstraction que représentent les programmes informatiques. L'IA classique est assez bonne pour l'abstraction, mais tout doit être codé à la main, et il y a trop de connaissances dans le monde pour tout saisir manuellement. Il semble donc évident que ce que nous voulons, c'est une sorte de synthèse qui mélange ces approches.

Cela rejoint le chapitre où vous mentionnez plusieurs choses que nous pouvons apprendre de l'esprit humain. La première s'appuie sur ce dont nous avons déjà parlé - l'idée que nos esprits sont constitués de nombreux systèmes disparates qui fonctionnent de différentes manières.

Je pense qu'il y a une autre façon de faire valoir le point, à savoir : chaque système cognitif que nous avons fait vraiment une chose différente. De même, les homologues de l'IA doivent être conçus pour résoudre différents problèmes qui ont des caractéristiques différentes.

À l'heure actuelle, les gens essaient d'utiliser une sorte de technologie unique pour s'attaquer à des choses qui sont vraiment fondamentalement différentes. Comprendre une phrase est fondamentalement différent de reconnaître un objet. Mais les gens essaient d'utiliser l'apprentissage en profondeur pour faire les deux. Ce sont des problèmes qualitativement différents d'un point de vue cognitif, et je suis juste un peu sidéré par le peu d'appréciation que la communauté d'apprentissage en profondeur en général a pour cela. Pourquoi s'attendre à ce qu'une seule solution miracle fonctionne pour tout cela ? Ce n'est pas réaliste et cela ne révèle pas une compréhension sophistiquée de ce qu'est même le défi de l'IA.

Une autre chose que vous évoquez est la nécessité pour les systèmes d'IA de comprendre les relations causales. Pensez-vous que cela va venir de l'apprentissage en profondeur, de l'IA classique ou de quelque chose d'entièrement nouveau ?

C'est encore une fois un endroit où l'apprentissage en profondeur n'est pas particulièrement bien adapté. L'apprentissage en profondeur ne donne pas d'explications sur les raisons pour lesquelles les choses se produisent, mais plutôt une probabilité de ce qui pourrait se produire dans une circonstance donnée.

La nature construit le premier brouillon, le brouillon. Ensuite, l'apprentissage révise ce brouillon tout au long de votre vie.

Le genre de choses dont nous parlons - vous examinez certains scénarios et vous comprenez pourquoi cela se produit et ce qui pourrait se produire si certaines choses étaient modifiées. Je peux regarder le chevalet sur lequel est allumée la télévision de l'hôtel et deviner que si je coupe l'un des pieds, le chevalet basculera et la télévision tombera avec. C'est le raisonnement causal.

L'IA classique nous donne quelques outils pour cela. Cela peut représenter, par exemple, ce qu'est une relation de soutien et ce qui s'effondre. Je ne veux pas le survendre, cependant. Un problème est que l'IA classique dépend principalement d'informations très complètes sur ce qui se passe, alors que je viens de faire cette inférence sans pouvoir voir l'intégralité du chevalet. Je suis donc en quelque sorte capable de faire des raccourcis, en déduisant des morceaux du chevalet que je ne peux même pas voir. Nous n'avons pas encore vraiment d'outils capables de le faire.

Une troisième chose que vous évoquez est l'idée que les humains ont une connaissance innée. Comment voyez-vous cela être intégré dans les systèmes d'IA ?

Pour les humains, au moment où vous naissez, votre cerveau est en fait très élaboré. Ce n'est pas figé, mais la nature construit le premier brouillon, le brouillon. Ensuite, l'apprentissage révise ce brouillon tout au long de votre vie.

Un brouillon du cerveau a déjà certaines capacités. Un bébé bouquetin âgé de quelques heures à peine peut dévaler le plan d'une montagne sans faire d'erreur. De toute évidence, il a une certaine compréhension de l'espace tridimensionnel, de son propre corps et de l'interrelation entre les deux. Des trucs assez sophistiqués.

C'est en partie pourquoi je pense que nous avons besoin d'hybrides. Il est difficile de voir comment nous pourrions construire un robot qui fonctionne bien dans le monde sans connaissances analogues dès le départ, au lieu de partir d'une page blanche et d'apprendre grâce à une expérience énorme et massive.

Pour les humains, nos connaissances innées proviennent de nos génomes qui ont évolué au fil du temps. Pour les systèmes d'IA, ils doivent venir d'une manière différente. Une partie de cela peut provenir de règles sur la façon dont nous construisons nos algorithmes. Certaines d'entre elles peuvent provenir de règles sur la façon dont nous construisons les structures de données manipulées par ces algorithmes. Et puis une partie pourrait provenir de connaissances que nous enseignons directement aux machines.

Il est intéressant que vous liiez tout dans votre livre à l'idée de confiance et de construction de systèmes dignes de confiance. Pourquoi avez-vous particulièrement choisi ce cadre ?

Parce que je pense que c'est tout le jeu de balle en ce moment. Je pense que nous vivons un moment étrange de l'histoire où nous accordons beaucoup de confiance à des logiciels qui ne méritent pas cette confiance. Je pense que les soucis que nous avons maintenant ne sont pas permanents. Dans cent ans, l'IA méritera notre confiance, et peut-être plus tôt.

Mais en ce moment, l'IA est dangereuse, et pas de la manière dont Elon Musk s'inquiète. Mais dans la manière des systèmes d'entretiens d'embauche qui discriminent les femmes quoi que fassent les programmeurs parce que les techniques qu'ils utilisent sont trop peu sophistiquées.

Je veux que nous ayons une meilleure IA. Je ne veux pas que nous ayons un hiver d'IA où les gens se rendent compte que ce truc ne fonctionne pas et est dangereux, et ils ne font rien à ce sujet.

D'une certaine manière, votre livre semble en fait très optimiste, car vous suggérez qu'il est possible de construire une IA digne de confiance. Nous avons juste besoin de regarder dans une autre direction.

D'accord, le livre est pessimiste à très court terme et optimiste à très long terme. Nous pensons que chaque problème que nous avons décrit dans le livre peut être résolu si le domaine adopte une vision plus large des bonnes réponses. Et nous pensons que si cela se produit, le monde sera meilleur.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.

cacher