Livres de cuisine, Wikipédia et spanglish généré automatiquement : les méthodes originales utilisées par les chercheurs en IA pour collecter des données

Joe Raedle/Getty Images

Les données sont le pétrole qui alimente le développement de l'IA, et elles nous offrent de nombreuses avancées que nous tenons pour acquises : les sous-titres YouTube, les recommandations musicales Spotify, ces publicités effrayantes qui vous suivent sur Internet.

Mais lorsqu'il s'agit de collecter des données utiles, les experts en IA doivent souvent faire preuve de créativité. Prenez le traitement du langage naturel (TAL), un sous-domaine de l'IA qui se concentre sur l'enseignement aux ordinateurs de l'analyse du langage humain. Lors de la conférence annuelle sur les méthodes empiriques en PNL, des experts ont présenté un large éventail de recherches qui s'appuyaient sur des informations recueillies de manière ingénieuse. Nous avons résumé ci-dessous quatre de nos projets préférés.

ESPAGNOL

Parmi les articles sur le TAL multilingue cette année, Microsoft présenté un qui se concentrait sur le traitement d'un langage à code mixte - texte ou parole qui bascule de manière fluide entre deux langues. Considérant que plus de la moitié de la population mondiale est multilingue, ce domaine sous-étudié est important.

Les chercheurs ont commencé avec le spanglish (espagnol et anglais), mais il leur manquait suffisamment de texte en spanglish pour entraîner la machine. Aussi courant que soit le mélange de code dans les conversations multilingues, on le trouve rarement dans le texte. Pour surmonter ce défi, les chercheurs ont écrit un programme pour insérer l'anglais dans le traducteur Microsoft Bing et tisser quelques phrases de la traduction espagnole dans le texte original. Le programme s'est assuré que les mots et les phrases échangés avaient la même signification. Juste comme ça, ils ont pu créer autant de spanglish qu'ils en avaient besoin.

Le modèle NLP résultant a surpassé les modèles précédents qui ont été formés uniquement sur l'espagnol et l'anglais séparément. Les chercheurs espèrent que leurs travaux contribueront à terme à développer des chatbots multilingues capables de parler naturellement dans un langage à code mixte.

LIVRES DE CUISINE

Les recettes sont idéales pour faire de la nourriture, mais elles peuvent aussi nourrir les machines. Ils suivent tous un modèle étape par étape similaire et incluent souvent des images qui correspondent au texte - une excellente source de données structurées pour apprendre aux machines à comprendre le texte et les images en même temps. C'est pourquoi les chercheurs de l'Université Hacettepe en Turquie compilé un ensemble de données géant d'environ 20 000 recettes de cuisine illustrées. Ils espèrent que ce sera une nouvelle ressource pour évaluer les performances de la compréhension conjointe image-texte.

Ce qu'ils appellent RecipeQA s'appuiera sur des recherches antérieures qui se sont concentrées sur la compréhension de la lecture automatique et la compréhension visuelle séparément. Dans le premier cas, la machine doit comprendre une question et un passage connexe pour trouver la réponse ; dans ce dernier cas, il recherche plutôt la réponse dans une photo associée. Avoir du texte et des photos côte à côte augmente la complexité de la tâche car les photos et le texte peuvent partager des informations complémentaires ou redondantes.

PEINES PLUS COURTES

Google veut que l'IA embellisse votre prose. À cette fin, des chercheurs y ont créé le le plus grand ensemble de données jamais enregistré pour décomposer de longues phrases en plus petites avec le sens équivalent. Où trouveriez-vous des quantités massives de données d'édition ? Wikipédia, bien sûr.

À partir de la riche histoire d'édition de Wikipédia, l'équipe de recherche a extrait des cas dans lesquels les gens ont divisé de longues phrases. Le résultat : 60 fois plus d'exemples distincts de découpage de phrases et 90 fois plus de mots de vocabulaire que ceux trouvés dans l'ensemble de données de référence précédent pour cette tâche. L'ensemble de données couvre également plusieurs langues.

Lorsqu'ils ont formé un modèle d'apprentissage automatique sur leurs nouvelles données, il a atteint une précision de 91 %. (Ici, le pourcentage reflète la proportion de phrases qui ont conservé leur sens et leur correction grammaticale après avoir été réécrites.) En comparaison, un modèle formé sur des données précédentes n'a atteint qu'une précision de 32 %. Lorsqu'ils ont combiné les deux ensembles de données et formé un autre modèle, il a atteint une précision de 95 %. Les chercheurs ont conclu que des améliorations futures pourraient être apportées en trouvant encore plus de sources de données.

BIAIS DES MÉDIAS SOCIAUX

Des études ont montré que le langage que nous générons peut être un excellent prédicteur de notre race, de notre sexe et de notre âge, même si cette information n'est jamais explicitement indiquée. Dans cet esprit, des chercheurs de l'Université Bar-Ilan en Israël et de l'Institut Allen pour l'intelligence artificielle ont essayé d'utiliser l'IA pour débiaiser le texte en supprimer ces indicateurs intégrés .

Pour acquérir suffisamment de données pouvant représenter les modèles linguistiques à travers différentes données démographiques, ils se sont tournés vers Twitter. Ils ont rassemblé un tas de tweets d'utilisateurs répartis équitablement entre les Blancs non hispaniques et les Noirs non hispaniques ; entre hommes et femmes; et entre les personnes des tranches d'âge de 18 à 34 ans et de plus de 35 ans.

Ils ont ensuite utilisé une approche contradictoire - opposant deux réseaux de neurones l'un à l'autre - pour voir s'ils pouvaient supprimer automatiquement les indicateurs démographiques inhérents aux tweets. Un réseau de neurones a tenté de prédire les données démographiques, tandis que l'autre a tenté de modifier le texte pour qu'il soit complètement neutre, dans le but de réduire la précision de prédiction du premier modèle à 50 % (ou au hasard). L'approche a finalement atténué les indicateurs de race, de sexe et d'âge de manière significative, mais pas entièrement.

cacher