Nvidia vous permet de regarder à l'intérieur de la boîte noire de son IA autonome

Nvidia a développé une IA autonome qui vous montre comment cela fonctionne.

Comme nous l'avons expliqué dans notre dernier article de couverture, The Dark Secret at the Heart of AI , certaines des techniques d'apprentissage automatique les plus puissantes disponibles se traduisent par des logiciels presque complètement opaques, même pour les ingénieurs qui les construisent. Les approches qui fournissent des indices sur le fonctionnement d'une IA seront donc extrêmement importantes pour renforcer la confiance dans une technologie qui devrait tout révolutionner, de la médecine à la fabrication.

Nvidia propose des puces idéales pour le deep learning, une technique d'apprentissage automatique particulièrement puissante (voir 10 Breakthrough Technologies 2013 : Deep Learning ).

Le logiciel de réseau neuronal de Nvidia met en évidence les domaines sur lesquels il se concentre lorsqu'il prend des décisions de conduite.

Le fabricant de puces a également développé systèmes qui démontrent comment un constructeur automobile pourrait appliquer l'apprentissage en profondeur à la conduite autonome. Cela inclut une voiture entièrement contrôlée par un algorithme d'apprentissage en profondeur. Étonnamment, l'ordinateur du véhicule ne reçoit aucune règle à suivre - il fait simplement correspondre les entrées de plusieurs caméras vidéo au comportement d'un conducteur humain et détermine par lui-même comment il doit conduire. Le seul problème est que le système est si complexe qu'il est difficile de comprendre comment il fonctionne réellement.

Mais Nvidia travaille pour ouvrir cette boîte noire. Il a développé un moyen de mettre en évidence visuellement ce à quoi le système prête attention. Comme expliqué dans un article récemment publié papier , l'architecture de réseau de neurones développée par les chercheurs de Nvidia est conçue pour mettre en évidence les zones d'une image vidéo qui contribuent le plus fortement au comportement du réseau de neurones profond de la voiture. Remarquablement, les résultats montrent que le réseau se concentre sur les bords des routes, les marquages ​​au sol et les voitures garées, exactement le genre de choses auxquelles un bon conducteur humain voudrait prêter attention.

Ce qui est révolutionnaire à ce sujet, c'est que nous n'avons jamais directement dit au réseau de se soucier de ces choses, a écrit Urs Muller, l'architecte en chef de Nvidia pour les voitures autonomes, dans un article de blog .

Ce n'est pas une explication complète de la façon dont le réseau de neurones raisonne, mais c'est un bon début. Comme le dit Muller : Je ne peux pas expliquer tout ce que j'ai besoin que la voiture fasse, mais je peux le montrer, et maintenant elle peut me montrer ce qu'elle a appris.

Ce type d'approche pourrait devenir de plus en plus important car l'apprentissage en profondeur est appliqué à presque tous les problèmes impliquant de grandes quantités de données, y compris des domaines critiques comme la médecine, la finance et le renseignement militaire.

Une poignée de chercheurs universitaires explorent également la question. Par example, Jeff Cluné à l'Université du Wyoming et Charles Guestrin à l'Université de Washington (et Apple) ont trouvé des moyens de mettre en évidence les parties des images que les systèmes de classification reprennent. Et Tommi Jaakola et Régina Barzilay au MIT développent des moyens de fournir des extraits de texte qui aident à expliquer une conclusion tirée de grandes quantités de données écrites.

La Defense Advanced Projects Research Agency (DARPA), qui effectue des recherches à long terme pour l'armée américaine, finance plusieurs efforts de recherche similaires dans le cadre d'un programme qu'elle appelle Intelligence Artificielle Explicable (XAI) .

Au-delà des spécificités techniques, cependant, il est fascinant de voir comment cela se compare à l'intelligence humaine. Nous faisons toutes sortes de choses que nous ne pouvons pas expliquer complètement, et les explications que nous concoctons ne sont souvent que des approximations ou des histoires sur ce qui se passe. Compte tenu de l'opacité des méthodes d'apprentissage automatique de plus en plus complexes d'aujourd'hui, nous pourrions un jour être contraints d'accepter également de telles explications de l'IA.

(Sources: Nvidia , Le sombre secret au cœur de l'IA , L'armée américaine veut que ses machines autonomes s'expliquent )

cacher