Rendre les algorithmes d'IA fous rapidement en utilisant des puces alimentées par la lumière

M / s. technologie; Puce par Ben Davis, RO

À l'intérieur d'un petit laboratoire du quartier portuaire de Boston, enfoui dans un fouillis de lasers, de lentilles, de miroirs et d'un enchevêtrement de câbles, se trouve une minuscule puce qui pourrait être sur le point d'avoir un impact important sur le monde de l'intelligence artificielle.

Le laboratoire appartient à Lightelligence , une startup qui développe un type radicalement nouveau de puce accélératrice d'IA. Au lieu d'utiliser des électrons pour effectuer les calculs mathématiques de base nécessaires à l'apprentissage automatique, le prototype de l'appareil de l'entreprise utilise la lumière.

En théorie, le transfert d'informations à la vitesse de la lumière signifie qu'un tel appareil pourrait permettre aux algorithmes d'IA de fonctionner des centaines de fois plus rapidement que les meilleures puces d'IA d'aujourd'hui. Étant donné que la puissance informatique brute fait une telle différence dans l'apprentissage automatique, cela pourrait signifier des algorithmes beaucoup plus puissants et capables. En pratique, cependant, la vitesse de la puce optique dépendra de la rapidité avec laquelle elle peut interagir avec des composants conventionnels, comme la mémoire d'un ordinateur. Et Lightelligence doit écrire des algorithmes capables d'accélérer le plus possible la configuration.

L'apprentissage en profondeur, une approche d'apprentissage automatique vaguement inspirée de la façon dont les cerveaux sont câblés, a pris d'assaut l'industrie technologique ces dernières années. Il s'est avéré incroyablement puissant pour entraîner des machines à effectuer des tâches précieuses telles que l'étiquetage d'images et la traduction de texte. Les entreprises, quant à elles, se précipitent pour déployer la méthode de manière de plus en plus utile.

L'essor de l'apprentissage en profondeur a déjà déclenché un boom de l'activité commerciale autour de nouvelles conceptions de puces optimisées pour les calculs mathématiques clés impliqués. Maintenant, il semble que cela inspire également des approches fondamentalement différentes de l'informatique.

J'ai récemment visité Lightelligence pour rencontrer son PDG, Yichen Shen, un homme confiant dans la vingtaine. Vêtu d'un pull en polaire et d'un large sourire, il a présenté chacun des dizaines d'employés de l'entreprise, puis m'a fait visiter le laboratoire.

Arash Hosseinzadeh de Lightelligence travaille sur un banc d'optique dans le laboratoire de l'entreprise.

La lumière offre des avantages clés pour l'IA, a expliqué Shen. Les photons sont plus rapides que les électrons, et leur mouvement à travers les circuits d'une puce ne la surchauffera pas. Mais l'informatique avec la lumière est également très difficile. Les efforts précédents pour construire des puces informatiques optiques ont échoué parce qu'il est difficile d'émuler optiquement un transistor et parce que la lumière se comporte de manière moins prévisible.

Mais l'équation change à l'ère de l'apprentissage en profondeur, dit Shen. Les puces optiques sont bien adaptées pour effectuer des multiplications matricielles, des calculs qui sont au cœur de l'apprentissage en profondeur. Les réseaux de neurones sont également intrinsèquement linéaires, et ce sont les calculs linéaires dans lesquels les dispositifs optiques excellent.

Shen dit que lui et ses collègues de Lightelligence ont récemment envoyé leur première conception de puce finalisée à un fabricant et s'attendent à ce que les premières puces reviennent dans quelques semaines. Nous pensons que c'est une occasion très unique et intéressante de tester cette idée, dit-il.

Les chercheurs explorent toutes sortes de nouvelles opportunités dans les matériaux et l'optique. Plus tôt cette année, une équipe de chercheurs de l'UCLA a développé un nouveau dispositif d'apprentissage en profondeur créé en imprimant en 3D différents polymères réfractifs. Les détails de l'appareil de l'équipe, surnommé un réseau neuronal profond diffractif (D2NN), ont été publié dans la revue Sciences .

C'est l'aspect non intuitif de l'apprentissage en profondeur qui a changé notre façon de voir la conception physique et optoélectronique. Certains d'entre eux conduisent à de nouvelles façons de calculer, dit Aydogan Özcan , professeur à UCLA qui a dirigé les travaux. Certaines d'entre elles conduisent à concevoir des composants, des systèmes, qui fonctionnent différemment des systèmes traditionnels.

La commercialisation de la technologie peut également être plus pratique aujourd'hui qu'elle ne l'était auparavant.

Dan Hutchinson, analyste chez VLSI Research qui suit les conceptions de puces innovantes, affirme que l'intérêt pour les nouvelles puces optiques augmente grâce aux progrès dans la conception et la fabrication de dispositifs utilisés pour la mise en réseau. Les puces optiques sont également relativement faciles et bon marché à fabriquer, ce qui réduit la barrière à l'entrée pour les startups, dit-il.

Cependant, Lightelligence devra encore faire face à de grands défis. Zhangxi Tan, un vétéran de l'industrie des puces et PDG d'une autre startup de puces, Notre technologie , dit que même si la puce fonctionne comme promis, elle pourrait s'avérer difficile à fabriquer à grande échelle. Ce sera un défi de conditionner et de tester une toute nouvelle conception de puce, en particulier lorsqu'aucun bon outil de conception logicielle n'existe pour un tel dispositif optique. La lumière est très élégante sur le papier, mais les circuits électroniques environnants - vos pilotes laser, les circuits récepteurs de photons, les modulateurs électroniques - sont très laids, dit Tan

Néanmoins, l'effort progresse rapidement.

L'année dernière encore, Shen était doctorante et étudiait les matériaux photoniques dans le laboratoire de Marin Soljacic au MIT. Avec Soljacic et plusieurs autres étudiants, il publié un article dans la revue Nature Photonics décrivant une nouvelle façon d'effectuer des calculs de réseaux de neurones à l'aide d'interférences optiques. L'idée d'une entreprise est née avant même que le journal ne soit publié, grâce à un appel d'un capital-risqueur de la côte ouest.

L'entreprise a également un frère rival. Lightelligence a été formé lorsque Shen et d'autres ont quitté une société appelée Lightmatter. Le PDG de Lightmatter est l'un des co-auteurs de Shen sur l'article original, et cette société a levé des fonds similaires pour sa propre puce optique d'apprentissage en profondeur. Peut-être qu'une saine rivalité pourrait aider à accélérer le développement de la technologie.

Il y a des obstacles importants à surmonter, mais si l'une de ces entreprises peut les surmonter, cela pourrait bien éclairer le monde de l'IA.

cacher