Le GANfather : l'homme qui a donné aux machines le don de l'imagination

Christie Là Klok

Un soir de 2014, Ian Goodfellow est allé boire un verre pour célébrer avec un camarade doctorant qui venait d'obtenir son diplôme. Aux 3 Brasseurs, un point d'eau préféré de Montréal, des amis ont demandé son aide pour un projet épineux sur lequel ils travaillaient : un ordinateur capable de créer des photos par lui-même.

Les chercheurs utilisaient déjà des réseaux de neurones, des algorithmes vaguement modélisés sur le réseau de neurones du cerveau humain, comme modèles génératifs pour créer leurs propres nouvelles données plausibles. Mais les résultats n'étaient souvent pas très bons : les images d'un visage générées par ordinateur avaient tendance à être floues ou à comporter des erreurs comme des oreilles manquantes. Le plan proposé par les amis de Goodfellow était d'utiliser une analyse statistique complexe des éléments qui composent une photographie pour aider les machines à créer elles-mêmes des images. Cela aurait nécessité une énorme quantité de chiffres, et Goodfellow leur a dit que cela n'allait tout simplement pas fonctionner.

Cette histoire faisait partie de notre numéro de mars 2018

• Voir la suite du problème
• S'abonner

Mais alors qu'il réfléchissait au problème autour de sa bière, il a eu une idée. Et si vous mettiez deux réseaux de neurones l'un contre l'autre ? Ses amis étaient sceptiques, alors une fois rentré chez lui, où sa petite amie dormait déjà profondément, il a décidé d'essayer. Goodfellow a codé jusqu'au petit matin, puis a testé son logiciel. Ça a fonctionné la première fois.

Ce qu'il a inventé cette nuit-là s'appelle maintenant un GAN, ou réseau antagoniste génératif. La technique a suscité un énorme engouement dans le domaine de l'apprentissage automatique et a transformé son créateur en une célébrité de l'IA.

Christie Là Klok

Au cours des dernières années, les chercheurs en IA ont fait des progrès impressionnants en utilisant une technique appelée apprentissage en profondeur. Fournissez à un système d'apprentissage en profondeur suffisamment d'images et il apprendra, par exemple, à reconnaître un piéton qui est sur le point de traverser une route. Cette approche a rendu possibles des choses comme les voitures autonomes et la technologie conversationnelle qui alimente Alexa, Siri et d'autres assistants virtuels.

Mais alors que les IA d'apprentissage en profondeur peuvent apprendre à reconnaître les choses, elles n'ont pas été douées pour les créer. Le but des GAN est de donner aux machines quelque chose qui s'apparente à une imagination.

À l'avenir, les ordinateurs deviendront beaucoup plus efficaces pour se régaler de données brutes et déterminer ce qu'ils doivent en apprendre.

Cela ne leur permettrait pas simplement de dessiner de jolies images ou de composer de la musique ; cela les rendrait moins dépendants des humains pour les instruire sur le monde et son fonctionnement. Aujourd'hui, les programmeurs d'IA ont souvent besoin de dire à une machine exactement ce qu'il y a dans les données d'entraînement qu'elle reçoit - lesquelles parmi un million d'images contiennent un piéton traversant une route, et lesquelles n'en contiennent pas. Ce n'est pas seulement coûteux et laborieux; cela limite la capacité du système à gérer même de légers écarts par rapport à ce sur quoi il a été formé. À l'avenir, les ordinateurs deviendront beaucoup plus efficaces pour se régaler de données brutes et déterminer ce qu'ils doivent en apprendre sans qu'on le leur dise.

Cela marquera un grand pas en avant dans ce que l'on appelle en IA l'apprentissage non supervisé. Une voiture autonome pourrait apprendre par elle-même de nombreuses conditions routières différentes sans quitter le garage. Un robot pourrait anticiper les obstacles qu'il pourrait rencontrer dans un entrepôt achalandé sans avoir besoin d'être emmené autour de lui.

Cela marquera un grand pas en avant dans ce que l'IA appelle l'apprentissage non supervisé.

Notre capacité à imaginer et à réfléchir à de nombreux scénarios différents fait partie de ce qui fait de nous des êtres humains. Et lorsque les futurs historiens de la technologie regarderont en arrière, ils verront probablement les GAN comme un grand pas vers la création de machines avec une conscience humaine. Yann LeCun, scientifique en chef de l'IA chez Facebook, a qualifié les GAN d'idée la plus cool en matière d'apprentissage en profondeur au cours des 20 dernières années. Un autre sommité de l'IA, Andrew Ng, l'ancien scientifique en chef de Baidu en Chine, affirme que les GAN représentent une avancée significative et fondamentale qui a inspiré une communauté mondiale croissante de chercheurs.

Le GANfather, partie II : club de combat IA

Goodfellow est maintenant chercheur scientifique au sein de l'équipe Google Brain, au siège de la société à Mountain View, en Californie. Lorsque je l'ai rencontré là-bas récemment, il semblait encore surpris par son statut de superstar, le qualifiant d'un peu surréaliste. Peut-être non moins surprenant est que, ayant fait sa découverte, il passe maintenant une grande partie de son temps à travailler contre ceux qui souhaitent l'utiliser à des fins mauvaises.

La magie des GAN réside dans la rivalité entre les deux réseaux de neurones. Il imite les allers-retours entre un faussaire d'images et un détective d'art qui tentent à plusieurs reprises de se déjouer. Les deux réseaux sont formés sur le même ensemble de données. Le premier, connu sous le nom de générateur, est chargé de produire des sorties artificielles, telles que des photos ou de l'écriture manuscrite, aussi réalistes que possible. Le second, connu sous le nom de discriminateur, les compare avec des images authentiques de l'ensemble de données d'origine et tente de déterminer lesquelles sont réelles et lesquelles sont fausses. Sur la base de ces résultats, le générateur ajuste ses paramètres pour créer de nouvelles images. Et ainsi de suite, jusqu'à ce que le discriminateur ne puisse plus dire ce qui est authentique et ce qui est faux.

Un GAN formé sur des photos de vraies célébrités a créé son propre ensemble de stars imaginaires. Dans la plupart des cas, les contrefaçons semblaient assez réalistes. Nvidia

Dans un exemple largement médiatisé l'année dernière, des chercheurs de Nvidia, une société de puces fortement investie dans l'IA, ont formé un GAN pour générer des images de célébrités imaginaires en étudiant de vraies célébrités. Toutes les fausses étoiles produites n'étaient pas parfaites, mais certaines étaient d'un réalisme impressionnant. Contrairement à d'autres approches d'apprentissage automatique qui nécessitent des dizaines de milliers d'images de formation, les GAN peuvent devenir compétents avec quelques centaines.

Histoire connexe

Histoire connexe

Ce pouvoir d'imagination est encore limité. Une fois qu'il a été formé sur un grand nombre de photos de chiens, un GAN peut générer une fausse image convaincante d'un chien qui a, par exemple, un motif différent de taches ; mais il ne peut pas concevoir un animal entièrement nouveau. La qualité des données d'entraînement originales a également une grande influence sur les résultats. Dans un exemple révélateur, un GAN a commencé à produire des images de chats avec des lettres aléatoires intégrées dans les images. Parce que les données d'entraînement contenaient des mèmes de chat provenant d'Internet, la machine avait appris par elle-même que les mots faisaient partie de ce que signifiait être un chat.

Faire en sorte que GANS fonctionne bien peut être délicat. S'il y a des pépins, les résultats peuvent être bizarres. Alec Radford

Les GAN sont également capricieux, explique Pedro Domingos, chercheur en apprentissage automatique à l'Université de Washington. Si le discriminateur est trop facile à tromper, la sortie du générateur ne semblera pas réaliste. Et calibrer les deux réseaux neuronaux en duel peut être difficile, ce qui explique pourquoi les GAN crachent parfois des trucs bizarres comme des animaux à deux têtes.

Pourtant, les défis n'ont pas découragé les chercheurs. Depuis que Goodfellow et quelques autres ont publié la première étude sur sa découverte, en 2014, des centaines d'articles liés au GAN ont été écrits. Un fan de la technologie a même créé une page Web appelée le zoo GAN, dédiée au suivi des différentes versions de la technique qui ont été développées.

Les applications immédiates les plus évidentes se trouvent dans des domaines qui impliquent beaucoup d'images, comme les jeux vidéo et la mode : à quoi, par exemple, un personnage de jeu pourrait-il ressembler en train de courir sous la pluie ? Mais pour l'avenir, Goodfellow pense que les GAN entraîneront des avancées plus importantes. Il y a beaucoup de domaines de la science et de l'ingénierie où nous devons optimiser quelque chose, dit-il, citant des exemples tels que les médicaments qui doivent être plus efficaces ou les batteries qui doivent devenir plus efficaces. Ce sera la prochaine grande vague.

En physique des hautes énergies, les scientifiques utilisent de puissants ordinateurs pour simuler les interactions probables de centaines de particules subatomiques dans des machines comme le Large Hadron Collider du CERN en Suisse. Ces simulations sont lentes et nécessitent une puissance de calcul massive. Des chercheurs de l'Université de Yale et du Lawrence Berkeley National Laboratory ont développé un GAN qui, après une formation sur les données de simulation existantes, apprend à générer des prédictions assez précises sur le comportement d'une particule particulière, et le fait beaucoup plus rapidement.

La création de Goodfellow peut être utilisée pour imaginer toutes sortes de choses, y compris de nouveaux designs d'intérieur. Ian Goodfellow

La recherche médicale est un autre domaine prometteur. Les problèmes de confidentialité signifient que les chercheurs ne peuvent parfois pas obtenir suffisamment de données réelles sur les patients pour, par exemple, analyser pourquoi un médicament n'a pas fonctionné. Les GAN peuvent aider à résoudre ce problème en générant de faux enregistrements qui sont presque aussi bons que les vrais, déclare Casey Greene de l'Université de Pennsylvanie. Ces données pourraient être partagées plus largement, contribuant à faire avancer la recherche, tandis que les vrais enregistrements sont étroitement protégés.

Le GANpère, partie III : les mauvais camarades

Il y a cependant un côté plus sombre. Une machine conçue pour créer des contrefaçons réalistes est une arme parfaite pour les fournisseurs de fausses nouvelles qui veulent tout influencer, des cours des actions aux élections. Des outils d'intelligence artificielle sont déjà utilisés pour mettre des photos de visages d'autres personnes sur le corps de stars du porno et mettre des mots dans la bouche des politiciens. Les GAN n'ont pas créé ce problème, mais ils vont l'aggraver.

Hany Farid, qui étudie la criminalistique numérique au Dartmouth College, travaille sur de meilleures façons de repérer les fausses vidéos, comme la détection de légers changements dans la couleur des visages causés par l'inspiration et l'expiration que les GAN ont du mal à imiter avec précision. Mais il prévient que les GAN vont s'adapter à leur tour. Nous sommes fondamentalement en position de faiblesse, dit Farid.

Ce jeu du chat et de la souris se jouera également dans le domaine de la cybersécurité. Les chercheurs mettent déjà en évidence le risque d'attaques par boîte noire, dans lesquelles les GAN sont utilisés pour comprendre les modèles d'apprentissage automatique avec lesquels de nombreux programmes de sécurité détectent les logiciels malveillants. Après avoir deviné comment fonctionne l'algorithme d'un défenseur, un attaquant peut l'éviter et insérer un code malveillant. La même approche pourrait également être utilisée pour esquiver les filtres anti-spam et autres défenses.

Il y a beaucoup de domaines de la science et de l'ingénierie où nous devons optimiser quelque chose. Ce sera la prochaine grande vague.

Goodfellow est bien conscient des dangers. À la tête d'une équipe de Google qui se concentre sur la sécurisation de l'apprentissage automatique, il avertit que la communauté de l'IA doit tirer la leçon des vagues d'innovation précédentes, dans lesquelles les technologues ont traité la sécurité et la confidentialité comme une réflexion après coup. Au moment où ils ont pris conscience des risques, les méchants avaient une avance significative. De toute évidence, nous sommes déjà au-delà du début, dit-il, mais j'espère que nous pourrons faire des progrès significatifs en matière de sécurité avant d'être trop loin.

Néanmoins, il ne pense pas qu'il y aura une solution purement technologique à la contrefaçon. Au lieu de cela, pense-t-il, nous devrons nous fier à ceux de la société, comme enseigner aux enfants la pensée critique en les amenant à suivre des cours comme la parole et le débat. Dans le discours et le débat, vous êtes en concurrence avec un autre étudiant, dit-il, et vous réfléchissez à la façon de formuler des affirmations trompeuses ou à la façon de formuler des affirmations correctes qui sont très convaincantes. Il a peut-être raison, mais sa conclusion selon laquelle la technologie ne peut pas résoudre le problème des fausses nouvelles n'est pas celle que beaucoup voudront entendre.

cacher