Ce que l'IA ne peut toujours pas faire

L'intelligence artificielle ne sera pas très intelligente si les ordinateurs ne saisissent pas les causes et les effets. C'est quelque chose que même les humains ont du mal à faire. Par

• Brian Bergstein page d'archives

19 février 2020

Saïman Chow

En moins d'une décennie, les ordinateurs sont devenus extrêmement efficaces pour diagnostiquer les maladies, traduire les langues et transcrire la parole. Ils peuvent surpasser les humains dans des jeux de stratégie compliqués, créer des images photoréalistes et suggérer des réponses utiles à vos e-mails.

Pourtant, malgré ces réalisations impressionnantes, l'intelligence artificielle présente des faiblesses flagrantes.

Cette histoire faisait partie de notre numéro de mars 2020

• Voir la suite du problème
• S'abonner

Les systèmes d'apprentissage automatique peuvent être dupés ou confondus par des situations qu'ils n'ont jamais vues auparavant. Une voiture autonome est déconcertée par un scénario qu'un conducteur humain pourrait gérer facilement. Un système d'IA laborieusement formé pour effectuer une tâche (identifier les chats, par exemple) doit être rééduqué à faire autre chose (identifier les chiens). Dans le processus, il est susceptible de perdre une partie de l'expertise qu'il avait dans la tâche initiale. Les informaticiens appellent ce problème l'oubli catastrophique.

Ces lacunes ont quelque chose en commun : elles existent parce que les systèmes d'IA ne comprennent pas la causalité. Ils voient que certains événements sont associés à d'autres événements, mais ils ne déterminent pas directement quelles choses font que d'autres choses se produisent. C'est comme si vous saviez que la présence de nuages ​​rend la pluie plus probable, mais vous ne saviez pas que les nuages ​​provoquaient la pluie.

Elias Bareinboim : Les systèmes d'IA n'ont aucune idée de la causalité.

Comprendre la cause et l'effet est un aspect important de ce que nous appelons le bon sens, et c'est un domaine dans lequel les systèmes d'IA d'aujourd'hui n'ont aucune idée, déclare Elias Bareinboim. Il devrait le savoir : en tant que directeur du nouveau laboratoire d'intelligence artificielle causale de l'Université de Columbia, il est à l'avant-garde des efforts pour résoudre ce problème.

Son idée est d'insuffler à la recherche sur l'intelligence artificielle des connaissances issues de la science relativement nouvelle de la causalité, un domaine façonné dans une large mesure par Judea Pearl, une universitaire lauréate du prix Turing qui considère Bareinboim comme son protégé.

Comme Bareinboim et Pearl le décrivent, la capacité de l'IA à repérer les corrélations - par exemple, que les nuages ​​rendent la pluie plus probable - n'est que le niveau le plus simple de raisonnement causal. C'est assez bien d'avoir conduit le boom de la technique d'IA connue sous le nom d'apprentissage en profondeur au cours de la dernière décennie. Compte tenu d'un grand nombre de données sur des situations familières, cette méthode peut conduire à de très bonnes prédictions. Un ordinateur peut calculer la probabilité qu'un patient présentant certains symptômes ait une certaine maladie, car il a appris à quelle fréquence des milliers, voire des millions d'autres personnes présentant les mêmes symptômes avaient cette maladie.

Mais il y a un consensus croissant sur le fait que les progrès de l'IA stagneront si les ordinateurs ne s'améliorent pas dans la lutte contre la causalité. Si les machines pouvaient comprendre que certaines choses mènent à d'autres choses, elles n'auraient pas à tout réapprendre tout le temps - elles pourraient prendre ce qu'elles ont appris dans un domaine et l'appliquer à un autre. Et si les machines pouvaient utiliser le bon sens, nous serions en mesure de leur faire davantage confiance pour agir par elles-mêmes, sachant qu'elles ne sont pas susceptibles de faire des erreurs stupides.

L'IA d'aujourd'hui n'a qu'une capacité limitée à déduire ce qui résultera d'une action donnée. Dans l'apprentissage par renforcement, une technique qui a permis aux machines de maîtriser des jeux comme les échecs et le go, un système utilise de nombreux essais et erreurs pour discerner quels mouvements les feront gagner. Mais cette approche ne fonctionne pas dans des contextes plus désordonnés du monde réel. Cela ne laisse même pas une machine avec une compréhension générale de la façon dont elle pourrait jouer à d'autres jeux.

Un niveau encore plus élevé de pensée causale serait la capacité de raisonner sur les raisons pour lesquelles les choses se sont produites et de poser des questions. Un patient décède pendant un essai clinique ; était-ce la faute de la médecine expérimentale ou autre chose ? Les résultats des tests scolaires sont en baisse; quels changements politiques les amélioreraient le plus ? Ce type de raisonnement dépasse largement les capacités actuelles de l'intelligence artificielle.

Faire des miracles

Le rêve de doter les ordinateurs d'un raisonnement causal a attiré Bareinboim du Brésil aux États-Unis en 2008, après avoir obtenu une maîtrise en informatique à l'Université fédérale de Rio de Janeiro. Il a sauté sur l'occasion d'étudier avec Judea Pearl, informaticienne et statisticienne à l'UCLA. Pearl, 83 ans, est un géant— la géant de l'inférence causale, et sa carrière aide à illustrer pourquoi il est difficile de créer une IA qui comprend la causalité.

Même les scientifiques bien formés sont susceptibles de mal interpréter les corrélations comme des signes de causalité - ou de se tromper dans la direction opposée, hésitant à appeler la causalité même lorsqu'elle est justifiée. Dans les années 1950, par exemple, quelques statisticiens éminents ont brouillé les cartes pour déterminer si le tabac provoquait le cancer. Ils ont fait valoir que sans une expérience attribuant au hasard des personnes comme fumeurs ou non-fumeurs, personne ne pouvait exclure la possibilité qu'un inconnu - le stress, peut-être, ou un gène - pousse les gens à la fois à fumer et à développer un cancer du poumon.

Finalement, le fait que le tabagisme cause le cancer a été définitivement établi, mais cela n'a pas dû prendre autant de temps. Depuis lors, Pearl et d'autres statisticiens ont mis au point une approche mathématique pour identifier les faits qui seraient nécessaires pour étayer une affirmation causale. La méthode de Pearl montre que, compte tenu de la prévalence du tabagisme et du cancer du poumon, un facteur indépendant causant les deux serait extrêmement improbable.

Inversement, les formules de Pearl aident également à identifier les cas où les corrélations ne peuvent pas être utilisées pour déterminer la causalité. Bernhard Schölkopf, qui étudie les techniques d'IA causale en tant que directeur de l'Institut Max Planck pour les systèmes intelligents en Allemagne, souligne que vous pouvez prédire le taux de natalité d'un pays si vous connaissez sa population de cigognes. Ce n'est pas parce que les cigognes mettent au monde des bébés ou parce que les bébés attirent les cigognes, mais probablement parce que le développement économique conduit à plus de bébés et plus de cigognes. Pearl a contribué à donner aux statisticiens et aux informaticiens des moyens de s'attaquer à ces problèmes, dit Schölkopf.

Judea Pearl : Sa théorie du raisonnement causal a transformé la science.

Les travaux de Pearl ont également conduit au développement de réseaux causals bayésiens, un logiciel qui passe au crible de grandes quantités de données pour détecter quelles variables semblent avoir le plus d'influence sur d'autres variables. Par exemple, GNS Healthcare, une entreprise de Cambridge, Massachusetts, utilise ces techniques pour conseiller les chercheurs sur les expériences qui semblent prometteuses.

Dans un projet, GNS a travaillé avec des chercheurs qui étudient le myélome multiple, une sorte de cancer du sang. Les chercheurs ont voulu savoir pourquoi certains patients atteints de la maladie vivent plus longtemps que d'autres après avoir reçu des greffes de cellules souches, une forme courante de traitement. Le logiciel a traité des données avec 30 000 variables et en a indiqué quelques-unes qui semblaient particulièrement susceptibles d'être causales. Les biostatisticiens et les experts de la maladie se sont concentrés sur une en particulier : le niveau d'une certaine protéine dans le corps des patients. Les chercheurs pourraient alors mener un essai clinique ciblé pour voir si les patients atteints de la protéine bénéficiaient effectivement davantage du traitement. C'est beaucoup plus rapide que de fouiller ici et là dans le laboratoire, déclare le cofondateur de GNS, Iya Khalil.

Néanmoins, les améliorations que Pearl et d'autres chercheurs ont réalisées dans la théorie causale n'ont pas encore fait beaucoup de progrès dans l'apprentissage en profondeur, qui identifie les corrélations sans trop se soucier de la causalité. Bareinboim s'efforce de passer à l'étape suivante : faire des ordinateurs des outils plus utiles pour les explorations causales humaines.

Pearl dit que l'IA ne peut pas être vraiment intelligente tant qu'elle n'a pas une compréhension approfondie des causes et des effets, ce qui permettrait l'introspection qui est au cœur de la cognition.

L'un de ses systèmes, qui est encore en version bêta, peut aider les scientifiques à déterminer s'ils disposent de suffisamment de données pour répondre à une question causale. Richard McElreath, anthropologue à l'Institut Max Planck d'anthropologie évolutive, utilise le logiciel pour guider la recherche sur les raisons pour lesquelles les humains traversent la ménopause (nous sommes les seuls singes à le faire).

L'hypothèse est que la baisse de la fécondité chez les femmes âgées a profité aux premières sociétés humaines parce que les femmes qui ont fait plus d'efforts pour s'occuper de leurs petits-enfants ont finalement eu plus de descendants. Mais quelles preuves pourraient exister aujourd'hui pour étayer l'affirmation selon laquelle les enfants réussissent mieux avec leurs grands-parents ? Les anthropologues ne peuvent pas simplement comparer les résultats scolaires ou médicaux des enfants qui ont vécu avec des grands-parents et ceux qui ne l'ont pas fait. Il existe ce que les statisticiens appellent des facteurs de confusion : les grands-mères pourraient être plus susceptibles de vivre avec des petits-enfants qui ont le plus besoin d'aide. Le logiciel de Bareinboim peut aider McElreath à discerner quelles études sur les enfants qui ont grandi avec leurs grands-parents sont les moins criblées de facteurs de confusion et pourraient être utiles pour répondre à sa question causale. C'est un énorme pas en avant, dit McElreath.

Le dernier kilomètre

Bareinboim parle vite et fait souvent des gestes avec les deux mains en l'air, comme s'il essayait d'équilibrer les deux côtés d'une équation mentale. C'était à mi-parcours du semestre lorsque je lui ai rendu visite à Columbia en octobre, mais il semblait qu'il avait à peine emménagé dans son bureau - presque rien sur les murs, pas de livres sur les étagères, seulement un ordinateur Mac élégant et un tableau blanc si dense avec des équations et des diagrammes qui ressemblaient à un détail d'un dessin animé sur un professeur fou.

Il a ignoré l'état provisoire de la salle, disant qu'il avait été très occupé à donner des conférences sur les deux côtés de la révolution causale. Bareinboim pense qu'un travail comme le sien offre la possibilité non seulement d'intégrer la pensée causale dans les machines, mais aussi de l'améliorer chez les humains.

Amener les gens à réfléchir plus attentivement à la causalité n'est pas nécessairement beaucoup plus facile que de l'enseigner aux machines, dit-il. Les chercheurs dans un large éventail de disciplines, de la biologie moléculaire aux politiques publiques, se contentent parfois de déterrer des corrélations qui ne sont pas réellement ancrées dans des relations causales. Par exemple, certaines études suggèrent que la consommation d'alcool vous tuera tôt, tandis que d'autres indiquent qu'une consommation modérée est bonne et même bénéfique, et d'autres recherches ont montré que les gros buveurs survivent aux non-buveurs. Ce phénomène, connu sous le nom de crise de reproductibilité, se retrouve non seulement en médecine et en nutrition mais aussi en psychologie et en économie. Vous pouvez voir la fragilité de toutes ces inférences, dit Bareinboim. Nous renversons les résultats tous les deux ans.

Il soutient que quiconque demande et si - des chercheurs médicaux mettant en place des essais cliniques, des spécialistes des sciences sociales développant des programmes pilotes, même des éditeurs Web préparant des tests A / B - devrait commencer non seulement par collecter des données, mais en utilisant la logique causale de Pearl et des logiciels comme celui de Bareinboim pour déterminer si les données disponibles pourraient éventuellement répondre à une hypothèse causale. Finalement, il envisage que cela mène à un logiciel scientifique automatisé : un humain pourrait imaginer une question causale à poursuivre, et le logiciel combinerait la théorie de l'inférence causale avec des techniques d'apprentissage automatique pour exclure les expériences qui ne répondraient pas à la question. Cela pourrait éviter aux scientifiques un grand nombre d'impasses coûteuses.

Bareinboim a décrit cette vision alors que nous étions assis dans le hall de la Sloan School of Management du MIT, après une conférence qu'il a donnée l'automne dernier. Nous avons un bâtiment ici au MIT avec, je ne sais pas, 200 personnes, a-t-il dit. Comment ces spécialistes des sciences sociales, ou n'importe quel scientifique, décident-ils des expériences à poursuivre et des points de données à collecter ? En suivant leur intuition : ils essaient de voir où les choses vont mener, en fonction de leur compréhension actuelle.

C'est une approche intrinsèquement limitée, a-t-il dit, car les scientifiques humains qui conçoivent une expérience ne peuvent considérer qu'une poignée de variables dans leur esprit à la fois. Un ordinateur, en revanche, peut voir l'interaction de centaines ou de milliers de variables. Encodé avec les principes de base du calcul causal de Pearl et capable de calculer ce qui pourrait arriver avec de nouveaux ensembles de variables, un scientifique automatisé pourrait suggérer exactement sur quelles expériences les chercheurs humains devraient passer leur temps. Peut-être qu'une politique publique dont il a été démontré qu'elle ne fonctionne qu'au Texas pourrait être mise en œuvre en Californie si quelques facteurs causalement pertinents étaient mieux appréciés. Les scientifiques ne feraient plus d'expériences dans l'obscurité, a déclaré Bareinboim.

Il ne pense pas non plus que ce soit si loin : c'est le dernier kilomètre avant la victoire.

Et qu'est-ce qui se passerait si?

Terminer ce mile nécessitera probablement des techniques qui commencent tout juste à être développées. Par exemple, Yoshua Bengio, un informaticien de l'Université de Montréal qui a partagé le prix Turing 2018 pour ses travaux sur l'apprentissage en profondeur, tente d'amener les réseaux de neurones - le logiciel au cœur de l'apprentissage en profondeur - à faire du méta-apprentissage et à remarquer les causes des choses.

Dans l'état actuel des choses, si vous vouliez qu'un réseau de neurones détecte quand les gens dansent, vous lui montreriez de très nombreuses images de danseurs. Si vous vouliez qu'il identifie quand les gens courent, vous lui montreriez de très nombreuses images de coureurs. Le système apprendrait à distinguer les coureurs des danseurs en identifiant les caractéristiques qui ont tendance à être différentes dans les images, telles que la position des mains et des bras d'une personne. Mais Bengio souligne que des connaissances fondamentales sur le monde peuvent être glanées en analysant les éléments similaires ou invariants dans les ensembles de données. Peut-être qu'un réseau de neurones pourrait apprendre que les mouvements des jambes provoquent physiquement à la fois la course et la danse. Peut-être qu'après avoir vu ces exemples et bien d'autres qui montrent des gens à seulement quelques pieds du sol, une machine finirait par comprendre quelque chose à propos de la gravité et comment elle limite les mouvements humains. Au fil du temps, avec suffisamment de méta-apprentissage sur les variables cohérentes entre les ensembles de données, un ordinateur pourrait acquérir des connaissances causales qui seraient réutilisables dans de nombreux domaines.

Pour sa part, Pearl dit que l'IA ne peut pas être vraiment intelligente tant qu'elle n'a pas une compréhension approfondie des causes et des effets. Bien que le raisonnement causal ne soit pas suffisant pour une intelligence artificielle générale, il est nécessaire, dit-il, car il permettrait l'introspection qui est au cœur de la cognition. Et si les questions étaient les éléments constitutifs de la science, des attitudes morales, du libre arbitre, de la conscience, m'a dit Pearl.

Vous ne pouvez pas amener Pearl à prédire combien de temps il faudra aux ordinateurs pour acquérir de puissantes capacités de raisonnement causal. Je ne suis pas un futuriste, dit-il. Mais dans tous les cas, il pense que la première étape devrait être de développer des outils d'apprentissage automatique qui combinent les données avec les connaissances scientifiques disponibles : nous avons beaucoup de connaissances qui résident dans le crâne humain et qui ne sont pas utilisées.

Brian Bergstein, ancien rédacteur en chef de MIT Technology Review, est rédacteur d'opinion adjoint au Boston Globe.

cacher