Supercalculateur IA construit en exploitant des entrepôts de données pour leur puissance de calcul inactive

Des améliorations récentes dans la reconnaissance de la parole et des images sont intervenues alors que des entreprises telles que Google construisent des systèmes d'ordinateurs plus grands et plus puissants pour exécuter des logiciels d'apprentissage automatique. Maintenant un vairon relatif, une entreprise privée appelée Sensible avec seulement environ 70 employés, dit qu'il peut assembler à moindre coût des systèmes informatiques encore plus grands pour alimenter des logiciels d'intelligence artificielle.

L’approche de l’entreprise n’est peut-être pas adaptée à tous les types d’apprentissage automatique, une technologie aux usages aussi variés que la reconnaissance faciale et le trading financier. Sentient n'a pas publié de détails, mais dit avoir montré qu'il peut rassembler suffisamment de puissance de calcul pour produire des résultats significatifs dans certains cas.

La puissance de Sentient vient de la connexion de centaines de milliers d'ordinateurs sur Internet pour travailler ensemble comme s'il s'agissait d'une seule machine. L'entreprise ne dira pas exactement où se trouvent toutes les machines qu'elle exploite. Mais beaucoup sont inactifs dans les centres de données, les installations semblables à des entrepôts qui alimentent les services Internet tels que les sites Web et les applications mobiles, explique Babak Hodjat, cofondateur et scientifique en chef chez Sentient. L'entreprise paie un opérateur de centre de données pour utiliser ses machines de rechange.

Les centres de données ont souvent un nombre important de machines inactives, car ils sont conçus pour gérer les pics de demande, comme une ruée vers les ventes lors du Black Friday. Sentient a créé un logiciel qui connecte des machines à différents endroits sur Internet et les met au travail en exécutant un logiciel d'apprentissage automatique comme s'il s'agissait d'un ordinateur très puissant. Ce logiciel est conçu pour garder les données cryptées autant que possible afin que ce sur quoi Sentient travaille - peut-être pour un client - reste confidentiel.

Sentient peut obtenir jusqu'à un million de cœurs de processeur travaillant ensemble sur le même problème pendant des mois à la fois, explique Adam Beberg, architecte principal pour l'informatique distribuée de l'entreprise. Les plus grands systèmes d'apprentissage automatique de Google n'atteignent pas cette échelle, dit-il. Un porte-parole de Google a refusé de partager les détails de l'infrastructure de l'entreprise et a noté que les résultats obtenus à l'aide de l'apprentissage automatique sont plus importants que l'échelle du système informatique qui le sous-tend. Google utilise largement l'apprentissage automatique, dans des domaines tels que la recherche, la reconnaissance vocale et le ciblage publicitaire.

Beberg a aidé à lancer l'idée de relier des ordinateurs à différents endroits pour travailler ensemble sur un problème (voir Innovateurs de moins de 35 ans : 1999). Il a été l'un des fondateurs de Distributed.net, un projet qui a été l'un des premiers à démontrer cette idée à grande échelle. Sa technologie a conduit à des efforts tels queSeti@HomeetPliage à la maison, dans lequel des millions de personnes ont installé des logiciels afin que leurs PC puissent aider à rechercher une vie extraterrestre ou contribuer à la recherche en biologie moléculaire.

Sentient a été fondée en 2007 et a reçu plus de 140 millions de dollars en financement d'investissement, dont un peu plus de 100 millions de dollars à la fin de l'année dernière. Jusqu'à présent, la société s'est concentrée sur l'utilisation de sa technologie pour alimenter une technique d'apprentissage automatique connue sous le nom d'algorithmes évolutifs. Cela implique de créer une solution à un problème à partir d'une population initiale de nombreux algorithmes légèrement différents. Les plus performants de la première génération sont utilisés pour former la base de la suivante, et au fil des générations successives, les solutions s'améliorent de plus en plus.

Sentient tire actuellement des revenus de l'exploitation d'algorithmes de trading financier créés en exécutant son processus évolutif pendant des mois sur des centaines de milliers de processeurs. Mais l'entreprise prévoit désormais d'utiliser son infrastructure pour offrir des services destinés à des secteurs tels que les soins de santé ou le commerce en ligne, explique Hodjat. Les entreprises de ces industries paieraient théoriquement Sentient pour ces produits.

Il n'en dira pas plus sur ce que cela pourrait être. Sentient a fait des recherches avec l'Université de Toronto et le MIT pour créer un logiciel capable de prédire le développement de la septicémie chez les patients des soins intensifs à partir de données telles que la pression artérielle et d'autres indicateurs vitaux, explique Hodjat. Les résultats ont montré que le logiciel pouvait donner un avertissement de 30 minutes en cas de développement d'une septicémie, avec une précision d'environ 90 %, mais la société a décidé de ne pas commercialiser ce travail, dit-il.

Plus récemment, Sentient a essayé d'adapter son approche pour travailler avec un type d'intelligence artificielle appelé apprentissage en profondeur. Cette technique a récemment produit des percées remarquables dans des domaines tels que la reconnaissance d'images et de la parole, et elle est devenue le principal objectif des travaux sur l'intelligence artificielle dans des entreprises telles que Google, Facebook et Baidu (voir 10 Breakthrough Technologies 2013 : Deep Learning ). Certains des meilleurs résultats en matière d'apprentissage en profondeur proviennent de l'exécution de logiciels sur des ordinateurs spécialisés très puissants (voir le supercalculateur d'intelligence artificielle de Baidu bat Google lors de la reconnaissance d'images).

Reza Zadeh , professeur consultant à l'Université de Stanford qui travaille à faire fonctionner l'apprentissage automatique à grande échelle, affirme que l'utilisation d'un grand nombre d'ordinateurs à différents endroits fonctionne bien pour certains problèmes, mais pas tous.

Il est plus puissant lorsqu'une tâche peut être divisée en petits morceaux sur lesquels des ordinateurs individuels peuvent travailler sans avoir besoin de beaucoup communiquer sur Internet, ce qui est relativement lent. Mais certains des moyens les plus prometteurs de rendre l'apprentissage automatique plus puissant nécessitent que différents processeurs communiquent beaucoup, explique Zadeh.

Google et Baidu ont rapporté des résultats majeurs dans l'utilisation de l'apprentissage en profondeur pour la reconnaissance de la parole et des images en utilisant de très grands ensembles de données ou en créant de plus grands réseaux de neurones artificiels. Les deux approches nécessitent des flux constants de données entre différents processeurs, explique Zadeh.

Berberg convient que l'apprentissage en profondeur est plus difficile à adapter à un système de centaines de milliers d'ordinateurs connectés sur Internet, mais dit que Sentient fait des progrès. Il a des milliers de processeurs travaillant simultanément sur l'apprentissage en profondeur, dit-il.

cacher