À l'intérieur de la salle des machines d'intelligence artificielle de Facebook

Accédez à Facebook depuis la moitié ouest de l'Amérique du Nord et il y a de fortes chances que vos données soient extraites d'un ordinateur refroidi par l'air parfumé au genévrier et à la sauge du haut désert du centre de l'Oregon.

Dans la ville de Prineville, qui abrite environ 9 000 personnes, Facebook stocke les données de centaines de millions d'autres. Des rangées et des rangées d'ordinateurs se tiennent à l'intérieur de quatre bâtiments géants totalisant près de 800 000 pieds carrés, alignés avec précision pour laisser entrer les vents d'été secs et généralement frais qui soufflent du nord-ouest. Les allées de serveurs empilés avec des lumières bleues et vertes clignotantes font un rugissement sourd lorsqu'ils traitent les connexions, les likes et les LOL.

Facebook a installé de nouveaux serveurs puissants pour aider ses chercheurs en intelligence artificielle à aller plus vite. Ils sont alimentés par des puces GPU (les cartes vertes à l'arrière de l'image) fabriquées par Nvidia.

Facebook a récemment ajouté de nouvelles machines au mix à Prineville. La société a installé de nouveaux serveurs puissants conçus pour accélérer les efforts de formation des logiciels pour faire des choses comme traduire des messages entre les langues, être un assistant virtuel plus intelligent ou suivre des récits écrits.

Les nouveaux serveurs Big Sur de Facebook sont conçus autour de processeurs haute puissance d'un type développé à l'origine pour le traitement graphique, connu sous le nom de GPU. Ces puces sous-tendent les progrès récents de la technologie de l'intelligence artificielle qui sont issus d'une technique connue sous le nom d'apprentissage en profondeur. Les logiciels sont devenus étonnamment meilleurs pour comprendre les images et la parole grâce à la puissance des GPU permettant d'appliquer de vieilles idées sur la façon de former des logiciels à des ensembles de données beaucoup plus grands et plus complexes (voir Enseigner aux machines pour nous comprendre).

Kevin Lee, un ingénieur de Facebook qui travaille sur les serveurs, dit qu'ils aident les chercheurs de Facebook à former des logiciels en utilisant plus de données, en travaillant plus vite. Ces serveurs sont du matériel spécialement conçu pour la recherche sur l'IA et l'apprentissage automatique, dit-il. Les GPU peuvent prendre une photo et la diviser en petits morceaux et travailler dessus en même temps.

Facebook construit chaque serveur Big Sur autour de huit GPU fabriqués par Nvidia, le principal fournisseur de ces puces. Lee a refusé de dire exactement combien de serveurs ont été déployés, mais a déclaré que la société avait des milliers de GPU au travail. Des serveurs Big Sur ont été installés dans les centres de données de la société à Prineville et Ashburn, en Virginie.

Parce que les GPU sont extrêmement gourmands en énergie, Facebook doit les emballer moins densément que d'autres types de serveurs dans le centre de données, pour éviter de créer des points chauds qui rendraient les choses plus difficiles pour le système de refroidissement et nécessiteraient une puissance supplémentaire. Huit serveurs Big Sur sont empilés dans un rack de sept pieds de haut qui pourrait autrement contenir 30 serveurs Facebook standard qui effectuent le travail plus courant de servir les données des utilisateurs.

Facebook est loin d'être le seul à gérer des centres de données géants ou à collecter des GPU pour alimenter la recherche en apprentissage automatique. Microsoft, Google et la société de recherche chinoise Baidu se sont tous appuyés sur les GPU pour alimenter la recherche en apprentissage en profondeur.

Les nouveaux serveurs de Facebook pour la recherche sur l'intelligence artificielle, à l'intérieur du centre de données de l'entreprise à Prineville, Oregon.

Le réseau social est inhabituel en ce qu'il a ouvert les conceptions de Big Sur et de ses autres conceptions de serveurs, ainsi que les plans de son centre de données de Prineville. L'entreprise les verse à un organisme à but non lucratif appelé le Projet de calcul ouvert , lancé par Facebook en 2011 pour encourager les entreprises informatiques à travailler ensemble sur des conceptions de matériel de centre de données à faible coût et à haut rendement. Le projet est considéré comme ayant aidé les entreprises de matériel asiatiques et écrasant les fournisseurs traditionnels tels que Dell et HP.

Le directeur de la recherche sur l'IA de Facebook, Yann LeCun, a déclaré lors de l'annonce de Big Sur plus tôt cette année qu'il pensait que la mise à disposition des conceptions pourrait accélérer les progrès sur le terrain en permettant à davantage d'organisations de créer une puissante infrastructure d'apprentissage automatique (voir Facebook Joins Stampede of Tech Giants Giving Loin de la technologie d'intelligence artificielle).

Cependant, les futurs serveurs d'apprentissage automatique construits sur les plans de Facebook ne seront peut-être pas construits autour des GPU qui sont au cœur aujourd'hui. Plusieurs entreprises travaillent sur de nouvelles conceptions de puces plus spécifiquement adaptées aux mathématiques de l'apprentissage en profondeur que les GPU.

Google a annoncé en mai qu'il avait commencé à utiliser une puce de sa propre conception, appelée TPU, pour alimenter des logiciels d'apprentissage en profondeur dans des produits tels que la reconnaissance vocale. La puce actuelle semble être adaptée à l'exécution d'algorithmes après leur formation, et non à l'étape de formation initiale que les serveurs Big Sur sont conçus pour accélérer, mais Google travaille sur une puce de deuxième génération. Nvidia et plusieurs startups dont Nervana Systems travaillent également sur des puces personnalisées pour le deep learning (voir Intel Outside As Other Companies Prosper from AI Chips).

Eugenio Culurciello , professeur agrégé à l'Université Purdue, affirme que l'utilité de l'apprentissage en profondeur signifie que de telles puces semblent être très largement utilisées. Il y a un gros besoin depuis un moment et ça ne fait que croître, dit-il.

Lorsqu'on lui a demandé si Facebook travaillait sur ses propres puces personnalisées, Lee a répondu que l'entreprise se penchait sur la question.

cacher