L'apprentissage automatique a été utilisé pour traduire automatiquement des langues perdues depuis longtemps

Grec ancien inscrit dans la pierre Don Lloyd | Flickr

En 1886, l'archéologue britannique Arthur Evans est tombé sur une pierre ancienne portant un curieux ensemble d'inscriptions dans une langue inconnue. La pierre provenait de l'île méditerranéenne de Crète, et Evans s'y est immédiatement rendu pour chercher plus de preuves. Il a rapidement trouvé de nombreuses pierres et tablettes portant des scripts similaires et les a datées d'environ 1400 avant notre ère.

Cela a fait de l'inscription l'une des premières formes d'écriture jamais découvertes. Evans a fait valoir que sa forme linéaire était clairement dérivée d'images au trait grossièrement rayées appartenant à l'enfance de l'art, établissant ainsi son importance dans l'histoire de la linguistique.

Lui et d'autres ont déterminé plus tard que les pierres et les tablettes étaient écrites dans deux scripts différents. Le plus ancien, appelé linéaire A, date d'entre 1800 et 1400 avant notre ère, lorsque l'île était dominée par la civilisation minoenne de l'âge du bronze.

L'autre script, Linear B, est plus récent, n'apparaissant qu'après 1400 avant notre ère, lorsque l'île a été conquise par les Mycéniens du continent grec.

Evans et d'autres ont essayé pendant de nombreuses années de déchiffrer les anciennes écritures, mais les langues perdues ont résisté à toutes les tentatives. Le problème est resté non résolu jusqu'en 1953, lorsqu'un linguiste amateur nommé Michael Ventris a déchiffré le code du linéaire B.

Sa solution reposait sur deux avancées décisives. Tout d'abord, Ventris a conjecturé que de nombreux mots répétés dans le vocabulaire linéaire B étaient des noms de lieux sur l'île de Crète. Cela s'est avéré exact.

Sa deuxième percée a été de supposer que l'écriture enregistrait une première forme de grec ancien. Cette perspicacité lui a immédiatement permis de déchiffrer le reste de la langue. Dans le processus, Ventris a montré que le grec ancien est apparu pour la première fois sous forme écrite plusieurs siècles plus tôt qu'on ne le pensait auparavant.

Le travail de Ventris était une énorme réussite. Mais l'écriture la plus ancienne, le linéaire A, est restée à ce jour l'un des grands problèmes en suspens en linguistique.

Il n'est pas difficile d'imaginer que les progrès récents de la traduction automatique pourraient aider. En quelques années seulement, l'étude de la linguistique a été révolutionnée par la mise à disposition d'énormes bases de données annotées et de techniques permettant aux machines d'apprendre à partir d'elles. Par conséquent, la traduction automatique d'une langue à une autre est devenue une routine. Et bien qu'elles ne soient pas parfaites, ces méthodes ont fourni une toute nouvelle façon de penser le langage.

Entrez Jiaming Luo et Regina Barzilay du MIT et Yuan Cao du laboratoire d'intelligence artificielle de Google à Mountain View, en Californie. Cette équipe a développé un système d'apprentissage automatique capable de déchiffrer les langues perdues, et ils l'ont démontré en le faisant déchiffrer le linéaire B - la première fois que cela a été fait automatiquement. L'approche qu'ils utilisaient était très différente des techniques de traduction automatique standard.

Tout d'abord un peu de contexte. La grande idée derrière la traduction automatique est la compréhension que les mots sont liés les uns aux autres de manière similaire, quelle que soit la langue utilisée.

Le processus commence donc par cartographier ces relations pour une langue spécifique. Cela nécessite d'énormes bases de données de texte. Une machine recherche ensuite ce texte pour voir à quelle fréquence chaque mot apparaît à côté de tous les autres mots. Ce modèle d'apparences est une signature unique qui définit le mot dans un espace paramétrique multidimensionnel. En effet, le mot peut être pensé comme un vecteur à l'intérieur de cet espace. Et ce vecteur agit comme une contrainte puissante sur la manière dont le mot peut apparaître dans n'importe quelle traduction proposée par la machine.

Ces vecteurs obéissent à quelques règles mathématiques simples. Par exemple : roi – homme + femme = reine. Et une phrase peut être pensée comme un ensemble de vecteurs qui se succèdent pour former une sorte de trajectoire à travers cet espace.

L'idée clé permettant la traduction automatique est que les mots dans différentes langues occupent les mêmes points dans leurs espaces de paramètres respectifs. Cela permet de mapper une langue entière sur une autre langue avec une correspondance biunivoque.

Ainsi, le processus de traduction des phrases devient le processus de recherche de trajectoires similaires à travers ces espaces. La machine n'a même jamais besoin de savoir ce que signifient les phrases.

Ce processus repose essentiellement sur les grands ensembles de données. Mais il y a quelques années, une équipe de chercheurs allemands a montré comment une approche similaire avec des bases de données beaucoup plus petites pourrait aider à traduire des langues beaucoup plus rares qui manquent de grandes bases de données de texte. L'astuce consiste à trouver une autre façon de contraindre l'approche de la machine qui ne repose pas sur la base de données.

Maintenant, Luo et co sont allés plus loin pour montrer comment la traduction automatique peut déchiffrer des langues qui ont été entièrement perdues. La contrainte qu'ils utilisent est liée à la façon dont les langues sont connues pour évoluer dans le temps.

L'idée est que toute langue ne peut changer que de certaines manières, par exemple, les symboles des langues apparentées apparaissent avec des distributions similaires, les mots apparentés ont le même ordre de caractères, etc. Avec ces règles contraignant la machine, il devient beaucoup plus facile de déchiffrer une langue, à condition que la langue progénitrice soit connue.

Luo and co a mis la technique à l'épreuve avec deux langues perdues, le linéaire B et l'ougaritique. Les linguistes savent que le linéaire B encode une première version du grec ancien et que l'ougaritique, qui a été découvert en 1929, est une première forme d'hébreu.

Compte tenu de ces informations et des contraintes imposées par l'évolution linguistique, la machine de Luo and co est capable de traduire les deux langues avec une précision remarquable. Nous avons pu traduire correctement 67,3% des apparentés linéaires B en leurs équivalents grecs dans le scénario de déchiffrement, disent-ils. A notre connaissance, notre expérience est la première tentative de déchiffrement automatique du linéaire B.

C'est un travail impressionnant qui porte la traduction automatique à un nouveau niveau. Mais cela soulève également la question intéressante d'autres langues perdues, en particulier celles qui n'ont jamais été déchiffrées, comme le linéaire A.

Dans cet article, le linéaire A brille par son absence. Luo et co ne le mentionnent même pas, mais cela doit occuper une place importante dans leur réflexion, comme c'est le cas pour tous les linguistes. Pourtant, des percées importantes sont encore nécessaires avant que ce script ne se prête à la traduction automatique.

Par exemple, personne ne sait quelle langue encode Linear A. Les tentatives pour le déchiffrer en grec ancien ont toutes échoué. Et sans la langue progénitrice, la nouvelle technique ne fonctionne pas.

Mais le grand avantage des approches basées sur la machine est qu'elles peuvent tester une langue après l'autre rapidement sans se fatiguer. Il est donc tout à fait possible que Luo et co s'attaquent au linéaire A avec une approche par force brute - essayez simplement de le déchiffrer dans toutes les langues pour lesquelles la traduction automatique fonctionne déjà.

Si cela fonctionne, ce sera une réalisation impressionnante, qui étonnera même Michael Ventris.

Réf : arxiv.org/abs/1906.06718 : Déchiffrement Neural via Flux à Coût Minimum : de l'Ugaritique au Linéaire B

cacher