Produit chaud

Andrej Karpathy tient une salle de classe remplie d'étudiants diplômés et d'étudiants de premier cycle de Stanford ravis de sa description des avantages et des inconvénients des différents types d'algorithmes utilisés pour entraîner un réseau de neurones à reconnaître des objets dans une image. Soudain, du milieu de la pièce, la voix artificielle distinctive de Siri d'Apple se fait entendre : je ne suis pas sûr de ce que vous avez dit.

Siri, probablement activé accidentellement, attire de grands éclats de rire. Dans cette salle, où les étudiants sont plongés dans les subtilités de l'apprentissage de la création de logiciels qui comprennent mieux les humains et nos données, le message d'erreur rappelle l'explosion des applications réelles de la technologie.

Andrej Karpathy

Il y a une énorme demande d'experts en IA de la part d'entreprises aux poches profondes comme Apple, la société mère de Siri, ainsi que d'IBM, Google et Facebook. En conséquence, les étudiants de la classe de Karpathy sont susceptibles d'accéder à un marché du travail favorable. Il n'est pas rare de nos jours que les grandes entreprises achètent des startups entières pour obtenir le talent. La concurrence est si rude que les petites entreprises commencent à élargir le recrutement au-delà des majors en informatique à des domaines comme la cosmologie et la physique. Chez AI startup Maluuba, le PDG Sam Pasupalak a des spécialistes du recrutement de la recherche qui se penchent sur les articles universitaires publiés chaque jour, à la recherche d'auteurs qui pourraient faire de bons membres du personnel et qui assistent à des conférences pour boutonner des chercheurs de premier plan après leurs discussions. Joshua Clarke, associé chez le recruteur Heidrick & Struggles, affirme qu'une formation en IA commande une prime élevée aujourd'hui, car les entreprises technologiques ne sont pas les seules à concourir pour ces candidats. Les entreprises du Fortune 500 évaluent également comment l'IA affectera leurs activités.

Il n'est pas rare de nos jours que les grandes entreprises achètent des startups entières pour obtenir le talent. La concurrence est si rude que les petites entreprises recrutent non seulement des étudiants en informatique, mais aussi des diplômés dans des domaines comme la cosmologie et la physique.

Personne ne personnifie mieux la guerre des talents de l'IA que Karpathie lui-même. Le doctorant de 29 ans est une étoile montante dans le domaine des réseaux de neurones, domaine en vogue de l'intelligence artificielle. Lorsqu'il obtiendra son diplôme en mai, il deviendra l'un des chercheurs fondateurs d'OpenAI, une startup de recherche à but non lucratif. Karpathy a vu ce que c'est que de travailler dans des startups, et il a passé deux étés chez le géant Google. OpenAI, qui offre la possibilité de construire une nouvelle institution à partir de zéro, promet également la liberté intellectuelle du milieu universitaire et l'argent pour rendre le travail possible, dit-il. OpenAI a déjà annoncé 1 milliard de dollars de dons de Peter Thiel, Elon Musk et d'entreprises telles qu'Amazon Web Services.

Karpathy s'est intéressé aux ordinateurs d'aussi loin qu'il se souvienne. Alors qu'il n'avait que cinq ou six ans à Kosice, en Slovaquie, il a supplié ses parents pour un PC ; il a été le premier en ville à en avoir un. Il se souvient de jouer à des jeux et de faire des photos avec MS Paint. La programmation est aussi un acte de création, dit-il.

1 milliard de dollars

Financement d'OpenAI, le prochain employeur de Karpathyu2019

Après avoir déménagé au Canada à l'adolescence, Karpathy s'est inscrite à l'Université de Toronto, dans l'espoir de travailler sur des ordinateurs quantiques. Il a changé d'avis après avoir suivi un cours de l'expert en apprentissage automatique Geoffrey Hinton, un pionnier de la programmation des réseaux de neurones.

Alors que les anciennes approches de l'IA donnaient aux ordinateurs une intelligence grâce à des recherches de données par force brute, dit Karpathy, les réseaux de neurones sont conçus pour apprendre d'une manière analogue au cerveau. Ces programmes établissent des associations et reconnaissent des modèles, leur permettant de battre d'autres types de technologies d'IA dans des tests de reconnaissance d'images, de découverte de médicaments et du pain et du beurre de Siri - écouter et parler comme des humains.

Faire des ordinateurs capables d'apprendre et de comprendre davantage comme les gens est le méta-problème ultime de l'informatique, dit Karpathy. Si les ordinateurs peuvent combiner une compréhension humaine avec leur capacité à stocker et à accéder à d'énormes quantités de données, dit-il, l'IA ouvrira la voie à de grands progrès dans la robotique, les voitures autonomes, les systèmes de sécurité qui reconnaissent les visages et les voix, l'art et à peu près tout ce à quoi vous pouvez penser.

C'est grâce à un projet parallèle qu'il a entrepris tout en travaillant sur son doctorat que Karpathy a attiré l'attention de Greg Brockman, fondateur d'OpenAI.

Pour s'amuser, Karpathy avait programmé un réseau de neurones qui peut apprendre à générer du texte dans n'importe quel style - celui de Shakespeare, celui d'Obama, tout ce sur quoi il est entraîné. Un morceau de code de seulement 100 lignes de long peut trouver des modèles dans des poèmes, des mathématiques ou n'importe quel flux de symboles, dit Karpathy. Son réseau peut alors produire des chaînes de caractères dans ce style. Pour une lecture humaine, même d'assez près, ce que le réseau produit actuellement est principalement un non-sens avec un anneau de Shakespeare ou un oratoire présidentiel. Mais Karpathy dit que cela va de mieux en mieux au fur et à mesure que le texte de formation est alimenté.

La décision de Karpathy de publier le code sous-jacent du réseau en ligne pour que quiconque puisse l'utiliser a impressionné Brockman. Engager le public est l'un des moyens par lesquels OpenAI espère faire progresser l'IA et l'apprentissage automatique, dit-il.
Une fois que Brockman a eu Karpathy sur la liste des personnes qu'il aimerait embarquer pour OpenAI, il a commencé à tirer parti de chaque nouvelle embauche pour inciter Karpathy à se joindre. Les meilleures personnes veulent travailler avec les meilleures personnes, dit Brockman. En effet, dit Karpathy, il est généralement recruté par des ingénieurs qu'il connaît, et il ne répondra pas aux appels des recruteurs. L'une des principales recrues était John Schulman, récemment diplômé d'un doctorat de l'Université de Californie à Berkeley. Une fois que Schulman a dit qu'il allait travailler avec Brockman, dit Karpathy, il savait que le projet était sérieux. Son accent sur la créativité et le potentiel de l'IA au profit de l'humanité étaient également attrayants. Nous voulons nous assurer qu'aucune entreprise n'a le monopole de l'IA et guider le domaine de la manière la plus bénéfique pour le grand public, déclare Karpathy.

En classe, Karpathy a le don de donner vie à la technologie. Après 60 minutes d'analyse des avantages et des inconvénients des algorithmes de traitement d'images, il décrit un projet de Google qui révèle les parties d'une image qu'un réseau de neurones privilégie lorsqu'il identifie les objets affichés. Sur l'écran apparaît une photo amusante d'un mouton que le programme a amélioré avec le visage d'un chien. Les ensembles de données utilisés pour former les réseaux de neurones contiennent tellement d'images des animaux que les réseaux de neurones finissent par halluciner les chiens, dit-il.

cacher