Google et d'autres construisent des systèmes d'IA qui doutent d'eux-mêmes

Saïman Chow

L'approche la plus puissante de l'IA, l'apprentissage en profondeur, acquiert une nouvelle capacité : un sentiment d'incertitude.

Les chercheurs d'Uber et de Google travaillent sur des modifications des deux cadres d'apprentissage en profondeur les plus populaires qui leur permettront de gérer les probabilités. Cela permettra aux programmes d'IA les plus intelligents de mesurer leur confiance dans une prédiction ou une décision, essentiellement de savoir quand ils devraient douter d'eux-mêmes.

L'apprentissage en profondeur, qui consiste à fournir des exemples de données à un vaste et puissant réseau de neurones, a connu un énorme succès au cours des dernières années, permettant aux machines de reconnaître des objets dans des images ou de transcrire la parole presque parfaitement. Mais cela nécessite beaucoup de données de formation et de puissance de calcul, et cela peut être étonnamment fragile.

De manière quelque peu contre-intuitive, ce doute de soi offre une solution. La nouvelle approche pourrait être utile dans des scénarios critiques impliquant des voitures autonomes et d'autres machines autonomes.

Vous aimeriez un système qui vous donne une mesure de sa certitude, explique Dustin Tran, qui travaille sur ce problème chez Google. Si une voiture autonome ne connaît pas son niveau d'incertitude, elle peut commettre une erreur fatale, et cela peut être catastrophique.

Le travail reflète la prise de conscience que l'incertitude est un aspect clé du raisonnement et de l'intelligence humains. L'ajouter aux programmes d'IA pourrait les rendre plus intelligents et moins sujets aux gaffes, selon Zoubin Ghahramani , un éminent chercheur en IA qui est professeur à l'Université de Cambridge et scientifique en chef chez Uber.

Cela peut s'avérer d'une importance vitale car les systèmes d'IA sont utilisés dans des scénarios de plus en plus critiques. Nous voulons avoir un cadre solide comme le roc pour l'apprentissage en profondeur, mais il est plus facile pour les gens de représenter l'incertitude, m'a dit Ghahramani récemment autour d'un café un matin lors d'une grande conférence sur l'IA à Long Beach, en Californie.

Au cours de la même conférence sur l'IA, un groupe de chercheurs s'est réuni dans un bar voisin un après-midi pour discuter de Pyro, un nouveau langage de programmation publié par Uber qui fusionne l'apprentissage en profondeur avec la programmation probabiliste.

La rencontre à Long Beach était organisée par Noé Goodman , professeur à Stanford également affilié au AI Lab d'Uber. Avec des cheveux bouclés et négligés et une chemise déboutonnée, il pourrait facilement être confondu avec un professeur de yoga plutôt qu'un expert en intelligence artificielle. Parmi les personnes présentes au rassemblement se trouvait Tran, qui a également contribué au développement de Pyro.

Goodman explique que donner à l'apprentissage en profondeur la capacité de gérer les probabilités peut le rendre plus intelligent de plusieurs façons. Cela pourrait, par exemple, aider un programme à reconnaître des choses, avec un degré raisonnable de certitude, à partir de quelques exemples seulement plutôt que de plusieurs milliers. Offrir une mesure de certitude plutôt qu'une réponse par oui ou par non devrait également aider à concevoir des systèmes complexes.

Et tandis qu'un système d'apprentissage en profondeur conventionnel n'apprend qu'à partir des données qui lui sont fournies, Pyro peut également être utilisé pour construire un système préprogrammé avec des connaissances. Cela pourrait être utile dans à peu près n'importe quel scénario où l'apprentissage automatique pourrait actuellement apparaître.

Histoire connexe

Histoire connexe Alphabet, numéro 5 sur notre liste des 50 entreprises les plus intelligentes, pense qu'il peut arracher le marché du cloud computing à Amazon en aidant les entreprises à utiliser l'apprentissage automatique avec un outil appelé TensorFlow.

Dans les cas où vous avez des connaissances préalables que vous souhaitez intégrer au modèle, la programmation probabiliste est particulièrement utile, explique Goodman. Les gens utiliseront Pyro pour toutes sortes de choses.

Edward est un autre langage de programmation qui embrasse l'incertitude, celui-ci développé à l'Université de Columbia avec un financement de la DARPA. Pyro et Edward en sont encore aux premiers stades de développement, mais il n'est pas difficile de comprendre pourquoi Uber et Google sont intéressés.

Uber utilise l'apprentissage automatique dans d'innombrables domaines, de l'acheminement des chauffeurs à la fixation des prix de surtension, et bien sûr dans ses voitures autonomes. L'entreprise a investi massivement dans l'IA, embauchant un certain nombre d'experts travaillant sur de nouvelles idées . Google a reconstruit l'ensemble de son activité autour de l'IA et de l'apprentissage en profondeur ces derniers temps.

David Blais , professeur de statistiques et d'informatique à l'Université de Columbia et conseiller de Tran, affirme que combiner l'apprentissage en profondeur et la programmation probabiliste est une idée prometteuse qui nécessite plus de travail. En principe, c'est très puissant, dit-il. Mais il y a beaucoup, beaucoup de défis techniques.

Pourtant, comme le note Goodman, Pyro et Edward sont également importants pour réunir deux écoles concurrentes en IA, l'une axée sur les réseaux de neurones et l'autre sur les probabilités.

Ces dernières années, l'école des réseaux de neurones a été si dominante que d'autres idées ont été pratiquement laissées pour compte. Pour aller de l'avant, le domaine devra peut-être adopter ces autres idées.

L'histoire intéressante ici est que vous n'avez pas à considérer ces camps comme séparés, dit Goodman. Ils peuvent s'unir — en fait, ils s'unissent — dans les outils que nous sommes en train de construire.

Vous pourriez même dire qu'ils deviennent plus intelligents, en partie, en apprenant ce qu'ils ne savent pas.

cacher