Un réseau de neurones peut apprendre à organiser le monde qu'il perçoit en concepts, tout comme nous

Gabriel Santiago | unsplash





Les GAN, ou réseaux antagonistes génératifs, sont la starlette des réseaux sociaux des algorithmes d'IA. Ils sont responsables de la création de la première peinture AI jamais vendue à un vente aux enchères d'art et pour superposition de visages de célébrités sur le corps des stars du porno. Ils fonctionnent en opposant deux réseaux de neurones pour créer des sorties réalistes basées sur ce qu'ils sont alimentés. Nourrissez un lot de photos de chiens, et cela peut créer de tout nouveaux chiens ; nourrissez-le de nombreux visages et il peut en créer de nouveaux.

Aussi bons qu'ils soient pour causer des méfaits, les chercheurs du MIT-IBM Watson AI Lab ont réalisé que les GAN sont également un outil puissant : parce qu'ils peignent ce qu'ils pensent, ils pourraient donner aux humains un aperçu de la façon dont les réseaux de neurones apprennent et raisonnent. C'est quelque chose que la communauté de recherche au sens large recherche depuis longtemps - et c'est devenu plus important avec notre dépendance croissante aux algorithmes.

Nous avons une chance d'apprendre ce qu'un réseau sait en essayant de recréer le monde visuel, explique David Bau, un doctorant du MIT qui a travaillé sur le projet.



Les chercheurs ont donc commencé à sonder les mécanismes d'apprentissage d'un GAN en lui fournissant diverses photos de paysages - arbres, herbe, bâtiments et ciel. Ils voulaient voir s'il apprendrait à organiser les pixels en groupes sensés sans qu'on leur dise explicitement comment.

Étonnamment, au fil du temps, il l'a fait. En allumant et en éteignant divers neurones et en demandant au GAN de peindre ce qu'il pensait, les chercheurs ont trouvé des groupes de neurones distincts qui avaient appris à représenter un arbre, par exemple. D'autres grappes représentaient de l'herbe, tandis que d'autres encore représentaient des murs ou des portes. En d'autres termes, il avait réussi à regrouper les pixels d'arbre avec les pixels d'arbre et les pixels de porte avec les pixels de porte, quelle que soit la façon dont ces objets changeaient de couleur d'une photo à l'autre dans l'ensemble d'apprentissage.

Le GAN sait ne peindre aucune porte dans le ciel. Laboratoire d'informatique et d'intelligence artificielle du MIT



Ces GAN apprennent des concepts qui rappellent de très près les concepts auxquels les humains ont donné des mots, dit Bau.

Non seulement cela, mais le GAN semblait savoir quel type de porte peindre en fonction du type de mur représenté sur une image. Il peindrait une porte de style géorgien sur un bâtiment en brique à l'architecture géorgienne, ou une porte en pierre sur un bâtiment gothique. Il a également refusé de peindre des portes sur un morceau de ciel. Sans qu'on le lui dise, le GAN avait en quelque sorte saisi certaines vérités tacites sur le monde.

C'était un grand révélation pour l'équipe de recherche. Il y a certains aspects du bon sens qui émergent, dit Bau. Jusqu'à présent, il n'était pas clair s'il existait un moyen d'apprendre ce genre de choses [grâce à l'apprentissage en profondeur]. Qu'il est possible suggère que l'apprentissage en profondeur peut nous rapprocher du fonctionnement de notre cerveau que nous ne le pensions auparavant, bien que ce soit encore loin de toute forme d'intelligence au niveau humain.



D'autres groupes de recherche ont commencé à trouver des comportements d'apprentissage similaires dans des réseaux traitant d'autres types de données, selon Bau. Dans la recherche linguistique, par exemple, les gens ont trouvé des groupes de neurones pour les mots au pluriel et les pronoms de genre.

Être capable d'identifier quels clusters correspondent à quels concepts permet de contrôler la sortie du réseau de neurones. Le groupe de Bau peut allumer uniquement les neurones des arbres, par exemple, pour que le GAN peigne des arbres, ou allumer uniquement les neurones des portes pour lui faire peindre des portes. De même, les réseaux linguistiques peuvent être manipulés pour modifier leur sortie, par exemple, pour échanger le genre des pronoms lors de la traduction d'une langue à une autre. Nous commençons à permettre à une personne de faire des interventions pour provoquer différents résultats, dit Bau.

L'équipe a maintenant publié une application appelée GANpeinture qui transforme cette nouvelle capacité en un outil artistique. Il vous permet d'activer des groupes de neurones spécifiques pour peindre des scènes de bâtiments dans des champs herbeux avec de nombreuses portes. Au-delà de sa bêtise en tant que débouché ludique, cela témoigne également du plus grand potentiel de cette recherche.

Le problème avec l'IA est qu'en lui demandant de faire une tâche pour vous, vous lui accordez une énorme confiance, dit Bau. Vous lui donnez votre contribution, il fait sa pensée «géniale» et il vous donne un résultat. Même si vous aviez un expert humain qui est super intelligent, ce n'est pas non plus comme ça que vous voudriez travailler avec eux.

Avec GANpaint, vous commencez à décoller le couvercle de la boîte noire et à établir une sorte de relation. Vous pouvez comprendre ce qui se passe si vous faites ceci ou ce qui se passe si vous faites cela, explique Hendrik Strobelt, le créateur de l'application. Dès que vous pouvez jouer avec ce truc, vous gagnez plus de confiance dans ses capacités et aussi ses limites.

Une version abrégée de cette histoire a paru à l'origine dans notre newsletter AI The Algorithm. Pour le recevoir directement dans votre boîte de réception, inscrivez-vous ici gratuitement.

cacher