Un apprentissage automatique plus efficace pourrait bouleverser le paradigme de l'IA

Yaopai

En janvier, Google a lancé un nouveau service appelé Cloud AutoML, qui peut automatiser certains aspects délicats de la conception de logiciels d'apprentissage automatique. Tout en travaillant sur ce projet, les chercheurs de l'entreprise ont parfois eu besoin d'exécuter jusqu'à 800 puces graphiques à l'unisson pour entraîner leurs puissants algorithmes.

Contrairement aux humains, qui peuvent reconnaître les tasses à café en voyant un ou deux exemples, les réseaux d'IA basés sur des neurones simulés ont besoin de voir des dizaines de milliers d'exemples pour identifier un objet. Imaginez que vous essayez d'apprendre à reconnaître chaque élément de votre environnement de cette façon, et vous commencerez à comprendre pourquoi les logiciels d'IA nécessitent autant de puissance de calcul.

Si les chercheurs pouvaient concevoir des réseaux de neurones qui pourraient être formés pour effectuer certaines tâches en utilisant seulement une poignée d'exemples, cela bouleverserait tout le paradigme, a déclaré Charles Bergan, vice-président de l'ingénierie chez Qualcomm, à la foule à Examen de la technologie MIT 's Conférence EmTech China plus tôt cette semaine.

Histoire connexe

Histoire connexe

Si les réseaux de neurones devenaient capables d'un apprentissage ponctuel, a déclaré Bergan, le processus fastidieux consistant à alimenter des rames de données dans des algorithmes pour les entraîner deviendrait obsolète. Cela pourrait avoir de graves conséquences pour l'industrie du matériel, car les géants de la technologie et les startups se concentrent actuellement sur le développement de processeurs plus puissants conçus pour exécuter les algorithmes d'IA gourmands en données d'aujourd'hui.

Cela signifierait également un apprentissage automatique beaucoup plus efficace. Alors que les réseaux de neurones pouvant être formés à l'aide de petits ensembles de données ne sont pas encore une réalité, des recherches sont déjà en cours pour réduire la taille des algorithmes sans perdre en précision, a déclaré Bill Dally, scientifique en chef chez Nvidia, lors de la conférence.

Les chercheurs de Nvidia utilisent un processus appelé élagage du réseau pour rendre un réseau de neurones plus petit et plus efficace à exécuter en supprimant les neurones qui ne contribuent pas directement à la sortie. Il existe des moyens de formation qui peuvent réduire considérablement la complexité de la formation, a déclaré Dally.

cacher