Une main de robot pilotée par l'IA a passé cent ans à apprendre à faire tourner un cube

Dactyle





Chercheurs en IA ont démontré un algorithme d'auto-apprentissage qui donne à une main de robot une nouvelle dextérité remarquable. Leur création a appris à manipuler un cube avec une habileté étonnante en s'entraînant pendant l'équivalent d'une centaine d'années à l'intérieur d'une simulation informatique (mais seulement quelques jours en temps réel).

La main robotique est encore loin d'être aussi agile qu'une main humaine, et bien trop maladroite pour être déployée dans une usine ou un entrepôt. Même ainsi, la recherche montre le potentiel de l'apprentissage automatique pour débloquer de nouvelles capacités robotiques. Cela suggère également qu'un jour, les robots pourraient apprendre de nouvelles compétences dans des mondes virtuels, ce qui pourrait considérablement accélérer le processus de programmation ou de formation.

Le système robotique, baptisé Dactyl, a été développé par des chercheurs de OpenAI , une organisation à but non lucratif basée dans la Silicon Valley. Il utilise une main robotique prête à l'emploi d'une société britannique appelée Shadow, une caméra ordinaire et un algorithme qui maîtrise déjà un jeu vidéo multijoueur tentaculaire, DotA, en utilisant la même approche d'auto-apprentissage (voir Une équipe d'algorithmes d'IA juste humains écrasés dans un jeu informatique complexe).



L'algorithme utilise une technique d'apprentissage automatique connue sous le nom d'apprentissage par renforcement. Dactyl a été chargé de manœuvrer un cube afin qu'une face différente soit retournée. Il restait à déterminer, par essais et erreurs, quels mouvements produiraient les résultats souhaités.

Des vidéos de Dactyl le montrent en train de faire tourner le cube avec une agilité impressionnante. Il a automatiquement identifié plusieurs poignées que les humains utilisent couramment. Mais la recherche a également montré jusqu'où l'IA doit encore aller : le robot n'a réussi à manipuler le cube que 13 fois sur 50 après cent ans d'entraînement virtuel, bien plus que ce dont un enfant humain a besoin.

Il ne s'intégrera pas de sitôt dans un flux de travail industriel, déclare Rodney Brooks, professeur émérite au MIT et fondateur de Rethink Robotics, une startup qui fabrique des robots industriels plus intelligents. Mais c'est bien, la recherche est une bonne chose à faire.



L'apprentissage par renforcement s'inspire de la façon dont les animaux semblent apprendre grâce à une rétroaction positive. Il a été proposé pour la première fois il y a des décennies, mais il n'a fait ses preuves que ces dernières années grâce aux avancées impliquant des réseaux de neurones artificiels (voir 10 technologies de rupture 2017 : Apprentissage par renforcement). La filiale d'Alphabet DeepMind a utilisé l'apprentissage par renforcement pour créer AlphaGo, un programme informatique qui a appris par lui-même à jouer au jeu de société diaboliquement complexe et subtil Go avec une compétence surhumaine.

D'autres chercheurs en robotique ont testé l'approche pendant un certain temps, mais ont été paralysés par la difficulté d'imiter la complexité et l'imprévisibilité du monde réel. Les chercheurs d'OpenAI ont contourné ce problème en introduisant des variations aléatoires dans leur monde virtuel, afin que le robot puisse apprendre à tenir compte des nuisances telles que la friction, le bruit dans le matériel du robot et les moments où le cube est partiellement caché à la vue.

Alex Ray, l'un des ingénieurs derrière le robot, dit que Dactyl pourrait être amélioré en lui donnant plus de puissance de traitement et en introduisant plus de randomisation. Je ne pense pas que nous ayons encore atteint la limite, dit-il. Ray ajoute qu'il n'est pas prévu d'essayer de commercialiser la technologie. Son équipe se concentre uniquement sur le développement des approches d'apprentissage généralisées les plus puissantes possibles.



C'est difficile de bien faire, dit Dmitri Berenson , un roboticien de l'Université du Michigan spécialisé dans la manipulation de machines. Berenson dit qu'il n'est pas exactement clair jusqu'où les dernières approches d'apprentissage automatique nous mèneront. Il y a beaucoup d'efforts humains à fournir pour trouver le bon réseau pour une tâche spécifique, dit-il. Mais il pense que l'apprentissage simulé pourrait s'avérer très utile : si nous pouvons franchir de manière fiable le « fossé de la réalité », cela rend l'apprentissage exponentiellement plus facile.

cacher