Microsoft affirme que les puces programmables rendront les logiciels d'IA plus intelligents

Les récentes percées dans la précision avec laquelle les logiciels peuvent reconnaître les images et la parole sont venues grâce à une puissance de calcul supplémentaire derrière une technique connue sous le nom d'apprentissage en profondeur. Microsoft rapporte maintenant des progrès sur une idée qui pourrait mettre encore plus de muscle derrière la technique. Un moyen pratique de renforcer encore plus les logiciels d'apprentissage en profondeur pourrait conduire à de nouvelles avancées significatives dans l'intelligence des machines.

Les logiciels d'apprentissage en profondeur apprennent à donner un sens aux données à l'aide de simulations grossières de neurones biologiques (voir 10 Breakthrough Technologies 2013 : Deep Learning ). L'une des priorités des entreprises telles que Google, Microsoft et Facebook qui investissent dans la technologie est de trouver des moyens de former de plus grands réseaux de neurones avec de plus grandes collections de données de formation, en exécutant le logiciel sur des ordinateurs plus puissants.

L'utilisation de processeurs graphiques, connus sous le nom de GPU, s'est avérée être l'un des meilleurs moyens d'y parvenir. Mais leur prix et leur consommation électrique élevée rendent les GPU coûteux, même pour les grandes entreprises. Il est très coûteux et difficile de créer, de maintenir et de faire évoluer votre propre plate-forme de formation, déclare Eric Chung , chercheur chez Microsoft. Les systèmes de GPU utilisés pour l'apprentissage en profondeur sont généralement petits à moyens par rapport à l'échelle des groupes d'ordinateurs qui fonctionnent ensemble pour alimenter les services en ligne, dit-il.

Chung fait partie d'un projet qui étudie une voie possible pour exécuter un apprentissage en profondeur à une échelle beaucoup plus grande. L'idée est d'utiliser des FPGA, des matrices de portes programmables sur le terrain, des puces qui peuvent être reconfigurées pour mettre en œuvre n'importe quelle conception et qui peuvent être très économes en énergie. Microsoft a commencé à utiliser des FPGA pour alimenter certaines parties de son moteur de recherche Bing l'année dernière et a annoncé qu'il testait leur utilisation pour alimenter les neurones virtuels de l'apprentissage en profondeur. en février . Chung dit que la recherche a maintenant avancé sur l'utilisation de certains des FPGA les plus puissants disponibles, et que cela semble être un moyen pratique de donner un coup de pouce majeur à la puissance de l'apprentissage en profondeur. Microsoft utilise des FPGA fabriqués par Altera, une société que le fabricant de puces Intel a achetée en juin pour 17 milliards de dollars, citant le potentiel de ces puces pour rendre les centres de données d'entreprise plus puissants.

Même à ce que Chung a appelé l'étape de prototypage, l'équipe a constaté une augmentation de près de dix fois des performances d'un réseau de neurones tentant d'identifier des images, par rapport aux ordinateurs conventionnels sans GPU. Cela pourrait changer la donne si nous parvenons à déployer des FPGA à grande échelle, ce qui fournira une capacité globale qui dépasse ce qui est possible aujourd'hui, dit-il.

L'utilisation de FPGA présente des inconvénients, par exemple le travail qui doit être fait pour les programmer pour faire le travail à accomplir. Mais Chung prédit que la technique permettra la formation de réseaux de neurones d'une taille et d'une qualité sans précédent.

Cela pourrait aider à améliorer des choses comme les logiciels qui peuvent décrire le contenu des images (voir Google Software Describes What It Sees in Images ), ou comprendre le langage et montrer une forme de bon sens ( Teaching Machines to Understand Us ). Les derniers résultats de Microsoft sur l'utilisation des FPGA ont été présentés au Conférence Hot Chips sur les progrès des performances des processeurs à Cupertino, en Californie, mardi.

cacher