Pour créer un chatbot plus intelligent, apprenez-lui d'abord une deuxième langue

M. technologie

D'Alexa et Siri aux innombrables chatbots et lignes d'assistance client automatisées, les ordinateurs apprennent progressivement à parler. Le seul problème est qu'ils sont encore très facilement confondus.

Une équipe de recherche de Salesforce a mis au point un moyen astucieux d'améliorer les performances de nombreux programmes de langage moderne : apprendre à un algorithme à parler une autre langue avant de l'entraîner à effectuer d'autres tâches.

Apprendre aux machines à tenir une conversation cohérente reste l'un des grands défis en suspens de l'IA, car démêler le sens d'un texte parlé ou écrit repose si souvent sur une compréhension plus large du monde, ou des connaissances de bon sens (voir AI’s Language Problem ).

Il s'avère que la formation d'un système d'apprentissage automatique pour traduire entre deux langues lui enseigne automatiquement des choses utiles sur la relation et le contexte approprié des mots. Lorsque ce système est utilisé comme base pour un autre système d'apprentissage automatique (un système formé pour tenir une conversation, par exemple, ou pour détecter le sentiment dans un texte), il fonctionne bien mieux qu'un système formé à partir de zéro.

Nous prenons des données de traduction automatique et nous enseignons essentiellement au modèle comment comprendre les mots et le contexte, dit Richard Socher , scientifique en chef chez Salesforce et expert en application de l'apprentissage automatique et du langage.

Le travail est un exemple de la façon dont les progrès de l'apprentissage automatique peuvent aider à améliorer les compétences linguistiques des systèmes d'IA. De nombreux systèmes de vision par ordinateur basés sur l'apprentissage en profondeur utilisent une certaine forme de pré-formation en réseau, et Socher suggère que la traduction automatique peut offrir un moyen similaire d'amorcer les systèmes de langage naturel.

Salesforce, une plate-forme en ligne de gestion des interactions avec les clients dans les domaines des ventes, du marketing et du commerce, propose déjà une gamme d'outils d'IA via sa plate-forme Einstein. Ceux-ci incluent un outil pour classer automatiquement le sentiment des e-mails ou des messages de chat, et un autre pour hiérarchiser les pistes qu'un travailleur poursuit en fonction de son activité précédente.

Socher pense que cette découverte contribuera à améliorer les capacités de langage naturel de la plate-forme Einstein. Pour les chatbots et l'automatisation du support client, c'est super utile, dit-il.

Les chercheurs de Salesforce ont formé un système d'apprentissage en profondeur pour traduire entre l'anglais et l'allemand. Cela impliquait de fournir un grand nombre de documents traduits à un réseau de neurones à plusieurs couches et d'ajuster les paramètres du réseau jusqu'à ce qu'il apprenne à produire lui-même une traduction décente. Le système représente les mots à l'aide de vecteurs, ce qui est un moyen courant d'encoder et d'analyser le sens du texte.

Les chercheurs ont ensuite formé le réseau bilingue à faire une variété de choses : déterminer le sentiment d'un morceau de texte ; classer différents types de questions ; et répondre aux questions. Et ils montrent que leur réseau pré-formé a dépassé les performances de celui qui n'a pas appris une deuxième langue.

Les ensembles de données de traduction automatique sont particulièrement volumineux, ce qui contribue à relever le défi de l'apprentissage automatique. Il existe un lien important entre la traduction et le reste de la langue, explique Bryan McCann, chercheur chez Salesforce impliqué dans le projet. [Les ensembles de données de traduction] sont très généraux ; ils contiennent des informations qui peuvent être utiles à tous les niveaux pour le traitement du langage naturel.

cacher