Des algorithmes qui apprennent avec moins de données pourraient accroître la puissance de l'IA

L'année dernière, Microsoft et Google ont tous deux montré que leurs algorithmes de reconnaissance d'images avaient appris aux meilleurs humains. Ils ont créé indépendamment un logiciel qui pourrait dépasser le score humain moyen lors d'un test standard qui met au défi le logiciel de reconnaître les images d'un millier d'objets différents, des mosquées aux moustiques.





Mais pour devenir assez bon pour vaincre l'humanité, le logiciel de chaque entreprise a examiné 1,2 million d'images étiquetées. Un enfant peut apprendre à reconnaître un nouveau type d'objet ou d'animal en utilisant un seul exemple.

Commencez Intelligence géométrique a déclaré lundi avoir développé un logiciel d'apprentissage automatique qui est une étude beaucoup plus rapide. Le PDG Gary Marcus a déclaré à Examen de la technologie MIT 's EmTech Digital Conference que son logiciel XProp nécessite beaucoup moins d'exemples que la forme dominante de logiciel d'apprentissage automatique, connue sous le nom d'apprentissage en profondeur, pour apprendre une nouvelle tâche visuelle.

Marcus n'a pas divulgué les détails du fonctionnement de XProp. Mais il a montré un tableau comparant les performances de XProp et d'un programme d'apprentissage en profondeur non spécifié lors d'un test qui met le logiciel au défi d'apprendre à reconnaître les chiffres manuscrits.



Les deux systèmes pourraient fonctionner plus précisément avec plus de données d'entraînement. Mais le logiciel XProp de Geometric Intelligence pourrait tirer davantage parti des exemples de formation qui lui ont été donnés.

Par exemple, après avoir vu seulement environ 150 exemples de chaque chiffre, il ne reconnaîtrait qu'environ 2 % des nouveaux chiffres de manière incorrecte. Le logiciel d'apprentissage en profondeur avait besoin d'environ 700 exemples de chacun pour obtenir des performances similaires.

Cela ne signifie pas que XProp est nécessairement utile. Reconnaître les chiffres manuscrits est plus ou moins un problème résolu. Les données de formation sont abondantes et les meilleurs résultats publiés à l'aide d'un logiciel d'apprentissage en profondeur ont des taux d'erreur de seulement environ 0,2 % . L'avantage montré par XProp sur le logiciel d'apprentissage en profondeur dans les données que Marcus a montré a diminué à mesure que la quantité de données de formation augmentait.



Mais Marcus a déclaré que XProp avait également produit des résultats similaires sur un base de données de photos de numéros de maison collectées par le projet Street View de Google , et d'autres tests de reconnaissance d'images, suggérant que la technique de l'entreprise pourrait être largement applicable.

Il existe un large consensus parmi les chercheurs en apprentissage automatique sur le fait que de nouvelles techniques qui peuvent fonctionner en utilisant moins de données sont nécessaires (voir Cet algorithme d'IA apprend des tâches simples aussi vite que nous).

L'apprentissage en profondeur est très gourmand en données - nous l'apprenons plus rapidement, a déclaré Marcus. Ce que nous avons peut parfois réduire de moitié les données nécessaires, parfois dans un rapport plus élevé.



Marcus, professeur de psychologie à l'Université de New York qui a passé des décennies à étudier comment les enfants apprennent, est sceptique quant au fait que les progrès récents dans des domaines tels que la reconnaissance de la parole et des images permis par l'apprentissage en profondeur conduiront nécessairement à des progrès dans des domaines plus difficiles tels que la compréhension du langage ( voir Cet homme peut-il rendre l'IA plus humaine ? ).

De grandes sociétés informatiques telles que Google ont été en mesure de créer de puissants logiciels de reconnaissance vocale et d'image en dépensant beaucoup pour assembler des collections géantes de données de formation étiquetées. Marcus ne conteste pas que la technologie mènera à des produits à succès (voir Google pense que vous êtes prêt à converser avec des ordinateurs). Mais il pense qu'il est nécessaire de créer des algorithmes moins gourmands en données si les logiciels doivent se rapprocher de la façon dont les humains peuvent rapidement acquérir de nouvelles compétences ou s'adapter à l'évolution des circonstances.

Nous vivons dans cette ère de mégadonnées, et il y a cette idée que nous pouvons simplement jeter plus de données sur le problème, a déclaré Marcus au public d'EmTech. Mais pour certains problèmes, il n'y a tout simplement pas assez de données.



La langue en est un exemple, dit-il. Avec un nombre infini de phrases possibles, un logiciel de formation avec des exemples étiquetés de toutes les significations possibles qu'il doit reconnaître n'est tout simplement pas possible. Marcus a également cité les voitures autonomes comme un exemple où l'apprentissage automatique gourmand en données peut ne pas être suffisant.

Si une voiture doit vivre des situations encore et encore pour les maîtriser, l'entraîner à faire face à toutes les conditions de circulation et météorologiques possibles peut prendre beaucoup de temps, a-t-il déclaré.

cacher