Trois questions avec l'homme qui dirige le nouvel effort d'IA de Baidu

L'intelligence artificielle est guidée par l'objectif lointain de faire en sorte que le logiciel associe les humains à des tâches importantes. Après avoir vu les résultats d'un nouveau domaine appelé apprentissage profond, qui implique le traitement de grandes quantités de données à l'aide de réseaux simulés de millions de neurones interconnectés, certains experts en sont venus à croire que cet objectif n'est pas si lointain après tout (voir Deep Learning et Facebook Creates Un logiciel qui correspond aux visages presque aussi bien que vous).

La semaine dernière, Baidu, la plus grande société de recherche sur le Web de Chine, a rejoint les géants américains de la technologie pariant gros sur l'apprentissage en profondeur en ouvrant un nouveau laboratoire de la Silicon Valley dédié à cette approche (voir le géant chinois de la recherche Baidu embauche l'homme derrière le « Google Brain »). Adam Coates, qui dirige la recherche dans le nouveau laboratoire, s'est entretenu avec Examen de la technologie du MIT de Tom Simonite sur la façon dont l'apprentissage en profondeur pourrait rapprocher le logiciel de la performance humaine dans certaines tâches.

L'expérience Google Brain où un grand réseau de neurones a appris à reconnaître des chats et d'autres objets simplement en regardant des photos de YouTube est souvent considérée comme une preuve clé de la puissance de l'apprentissage en profondeur (voir Logiciel autodidacte ). Qu'est-ce qui rend ce projet si important ?

Ce qui est bien avec le résultat de Google, c'est que personne n'a à lui dire ce qu'est un objet. Nous avons tellement de preuves issues des neurosciences qu'il s'agit d'un moyen crucial d'apprendre comment fonctionne le monde. Mais c'est aussi un impératif d'ingénierie. Je ne peux pas programmer assez de règles dans l'ordinateur pour qu'il comprenne le monde ; maintenant, nous pouvons essayer de leur faire apprendre les règles eux-mêmes.

Le système de Google n'a pas atteint les performances humaines, ne détectant au mieux les visages humains que 81 % du temps. L'approche plus établie de l'apprentissage supervisé, où le logiciel reçoit des données étiquetées à la main à partir desquelles apprendre, peut faire mieux. Savons-nous comment obtenir des systèmes non supervisés ou autodidactes pour s'améliorer ?

Comment faire en sorte que cela soit rentable au niveau que nous voulons—[atteindre] des performances de niveau humain—est très difficile.

Si vous me donnez beaucoup d'exemples de ce que vous voulez prédire, alors je peux former un logiciel pour y parvenir. Le défi est de savoir comment réussir quand vous n'avez pas beaucoup d'exemples. Les êtres humains n'ont pas besoin de voir un million de chats pour comprendre ce que l'on est. Nous pourrions utiliser une combinaison d'apprentissage supervisé et non supervisé. Comprendre comment mélanger ces deux idées va être crucial.

À Stanford, inspiré par l'expérience Google Brain, vous avez développé un réseau de neurones encore plus vaste. Les plus gros cerveaux seront-ils automatiquement plus intelligents ?

Pour l'ampleur du défi que nous recherchons - les performances au niveau humain - il est très clair que pour un petit réseau de neurones, il n'y a aucun espoir. Ceux à la pointe de la technologie ont des centaines de millions de connexions. Vous pouvez faire beaucoup avec cela ; reconnaître beaucoup d'objets, par exemple.

[Mais] cela ne semble pas être aussi simple que de simplement agrandir le réseau de neurones. Le résultat de Google Brain a été construit sur un énorme système distribué avec beaucoup de cœurs de processeur [16 000]. Nous avons découvert que si vous mettez ensemble un grand nombre de GPU [processeurs graphiques spécialisés], nous pourrions créer un réseau de neurones beaucoup plus grand : 10 milliards de nœuds, avec 16 machines au lieu de 1 000.

Nous avons utilisé la même référence [images de vidéos YouTube] que l'équipe Google. Mais même si nous pouvions entraîner un réseau neuronal beaucoup plus grand, nous n'avions pas nécessairement un meilleur détecteur de chat. À l'heure actuelle, nous pouvons exploiter des réseaux de neurones plus grands que nous ne savons quoi en faire.

[Au laboratoire Baidu], nous voulons créer un cadre pour exécuter des expériences suffisamment importantes pour tester toutes les variations d'algorithmes susceptibles d'améliorer les performances de manière universelle.

cacher