Un algorithme d'IA inspiré de la façon dont les enfants apprennent est plus difficile à confondre

Catégorie: Intelligence artificielle Posté 06 mai

Informations tuyau d'incendie : La pratique standard pour enseigner un algorithme d'apprentissage automatique consiste à lui donner tous les détails en même temps. Supposons que vous construisiez un système de classification d'images pour reconnaître différentes espèces d'animaux. Vous lui montrez des exemples de chaque espèce et les étiquetez en conséquence : berger allemand et caniche pour chiens, par exemple.

Mais lorsqu'un parent enseigne à un enfant, l'approche est totalement différente. Ils commencent par des étiquettes beaucoup plus larges : toute espèce de chien est d'abord simplement un chien. Ce n'est qu'après que l'enfant a appris à distinguer ces catégories plus simples que le parent décompose chacune d'elles en plus de détails.

Confusion dissipée : S'inspirant de cette approche, des chercheurs de l'Université Carnegie Mellon ont créé une nouvelle technique qui apprend à un réseau de neurones à classer les choses par étapes. À chaque étape, le réseau voit les mêmes données d'entraînement. Mais les étiquettes commencent simples et larges, devenant plus spécifiques au fil du temps.

Pour déterminer cette progression de difficulté, les chercheurs ont d'abord montré au réseau de neurones les données d'entraînement avec les étiquettes détaillées finales. Ils ont ensuite calculé ce qu'on appelle une matrice de confusion, qui montre les catégories que le modèle avait le plus de mal à distinguer. Les chercheurs l'ont utilisé pour déterminer les étapes de la formation, regroupant les catégories les moins distinguables sous une même étiquette dans les premiers stades et les divisant en étiquettes plus fines à chaque itération.

Meilleure précision : Dans les tests avec plusieurs ensembles de données de classification d'images populaires, l'approche a presque toujours conduit à un modèle d'apprentissage automatique final qui a surpassé celui formé par la méthode conventionnelle. Dans le meilleur des cas, la précision de la classification a augmenté jusqu'à 7 %.

Apprentissage curriculaire : Bien que l'approche soit nouvelle, l'idée qui la sous-tend ne l'est pas. La pratique de la formation d'un réseau de neurones sur des niveaux de difficulté croissants est connue sous le nom d'apprentissage du curriculum et existe depuis les années 1990. Mais les précédents efforts d'apprentissage du curriculum visaient à montrer au réseau de neurones un sous-ensemble de données différent à chaque étape, plutôt que les mêmes données avec des étiquettes différentes. La dernière approche a été présenté par la coauteure de l'article, Otilia Stretcu, lors de la Conférence internationale des représentations de l'apprentissage la semaine dernière.

Pourquoi est-ce important: Aujourd'hui, la grande majorité des recherches en apprentissage profond mettent l'accent sur la taille des modèles : si un système de classification d'images a du mal à distinguer différents objets, cela signifie qu'il n'a pas été formé sur suffisamment d'exemples. Mais en empruntant un aperçu de la façon dont les humains apprennent, les chercheurs ont trouvé une nouvelle méthode qui leur a permis d'obtenir de meilleurs résultats avec exactement les mêmes données d'entraînement. Il suggère un moyen de créer des algorithmes d'apprentissage plus efficaces en termes de données.