Comment Google a converti la traduction linguistique en un problème de mathématiques spatiales vectorielles

L'informatique modifie la nature de la traduction des mots et des phrases d'une langue à une autre. Quiconque a essayé BabelPoisson ou Google Traduction sauront qu'ils fournissent des services de traduction utiles mais qui sont loin d'être parfaits.

L'idée de base est de comparer un corpus de mots dans une langue avec le même corpus de mots traduits dans une autre. Les mots et expressions qui partagent des propriétés statistiques similaires sont considérés comme équivalents.

Le problème, bien sûr, est que les traductions initiales reposent sur des dictionnaires qui doivent être compilés par des experts humains, ce qui prend beaucoup de temps et d'efforts.

Maintenant, Tomas Mikolov et quelques amis de Google à Mountain View ont développé une technique qui génère automatiquement des dictionnaires et des tableaux de phrases qui convertissent une langue en une autre.

La nouvelle technique ne repose pas sur des versions d'un même document dans différentes langues. Au lieu de cela, il utilise des techniques d'exploration de données pour modéliser la structure d'un seul langage, puis la compare à la structure d'un autre langage.

Cette méthode fait peu de suppositions sur les langues, elle peut donc être utilisée pour étendre et affiner les dictionnaires et les tables de traduction pour toutes les paires de langues, disent-ils.

La nouvelle approche est relativement simple. Il repose sur la notion que chaque langue doit décrire un ensemble d'idées similaire, de sorte que les mots qui le font doivent également être similaires. Par exemple, la plupart des langues auront des mots pour des animaux communs tels que chat, chien, vache, etc. Et ces mots sont probablement utilisés de la même manière dans des phrases telles que chat est un animal plus petit qu'un chien.

Il en est de même pour les nombres. L'image ci-dessus montre les représentations vectorielles des nombres un à cinq en anglais et en espagnol et montre à quel point elles sont similaires.

C'est un indice important. La nouvelle astuce consiste à représenter une langue entière en utilisant la relation entre ses mots. L'ensemble de toutes les relations, ce qu'on appelle l'espace du langage, peut être considéré comme un ensemble de vecteurs qui pointent chacun d'un mot à un autre. Et ces dernières années, les linguistes ont découvert qu'il est possible de manipuler ces vecteurs mathématiquement. Par exemple, l'opération 'roi' - 'homme' + 'femme' donne un vecteur similaire à 'reine'.

Il s'avère que différentes langues partagent de nombreuses similitudes dans cet espace vectoriel. Cela signifie que le processus de conversion d'une langue en une autre équivaut à trouver la transformation qui convertit un espace vectoriel en un autre.

Cela transforme le problème de la traduction d'un problème de linguistique en un problème de mathématiques. Le problème pour l'équipe Google est donc de trouver un moyen de mapper avec précision un espace vectoriel sur l'autre. Pour cela, ils utilisent un petit dictionnaire bilingue compilé par des experts humains – comparer le même corpus de mots dans deux langues différentes leur donne une transformation linéaire toute faite qui fait l'affaire.

Après avoir identifié cette cartographie, il est alors simple de l'appliquer aux plus grands espaces linguistiques. Mikolov et co disent que cela fonctionne remarquablement bien. Malgré sa simplicité, notre méthode est étonnamment efficace : nous pouvons atteindre près de 90 % de précision@5 pour la traduction de mots entre l'anglais et l'espagnol, disent-ils.

La méthode peut être utilisée pour étendre et affiner les dictionnaires existants, et même pour y repérer les erreurs. En effet, l'équipe de Google fait exactement cela avec un dictionnaire anglais-tchèque, trouvant de nombreuses erreurs.

Enfin, l'équipe souligne que puisque la technique fait peu d'hypothèses sur les langues elles-mêmes, elle peut être utilisée sur des argots qui sont totalement indépendants. Ainsi, alors que l'espagnol et l'anglais ont une histoire indo-européenne commune, Mikolov et ses collaborateurs montrent que la nouvelle technique fonctionne aussi bien pour des paires de langues moins proches, comme l'anglais et le vietnamien.

C'est un pas en avant utile pour l'avenir de la communication multilingue. Mais l'équipe dit que ce n'est que le début. De toute évidence, il reste encore beaucoup à explorer, concluent-ils.

Réf : arxiv.org/abs/1309.4168 : Exploiter les similitudes entre les langues pour la traduction automatique

cacher