Une IA vous aide à résumer les dernières nouveautés en matière d'IA

Mme Tech | howadesign/Noun Projet

Les nouvelles: Un nouveau modèle d'IA pour résumer la littérature scientifique peut désormais aider les chercheurs à parcourir et à identifier les derniers articles de pointe qu'ils souhaitent lire. Le 16 novembre, l'Allen Institute for Artificial Intelligence (AI2) a déployé le modèle sur son produit phare, Érudit sémantique , un moteur de recherche d'articles scientifiques alimenté par l'IA. Il fournit un résumé d'une phrase tl;dr (trop long; n'a pas lu) sous chaque article d'informatique (pour l'instant) lorsque les utilisateurs utilisent la fonction de recherche ou accèdent à la page d'un auteur. Le travail a également été accepté à la conférence Empirical Methods for Natural Language Processing cette semaine.

Une capture d'écran de la fonctionnalité tl;dr dans Semantic Scholar.

AI2

Le contexte: À une époque de surcharge d'informations, l'utilisation de l'IA pour résumer du texte est un problème populaire de traitement du langage naturel (TAL). Il existe deux approches générales pour cette tâche. L'un est appelé extractif, qui cherche à trouver une phrase ou un ensemble de phrases du texte textuel qui capture son essence. L'autre est dite abstractive, qui consiste à générer de nouvelles phrases. Alors que les techniques extractives étaient autrefois plus populaires en raison des limites des systèmes NLP, les progrès de la génération de langage naturel ces dernières années ont rendu l'abstraction bien meilleure.

Comment ils ont fait : Le modèle abstrait d'AI2 utilise ce que l'on appelle un transformateur, un type d'architecture de réseau neuronal inventé pour la première fois en 2017 qui a depuis alimenté tous les grands pas en avant de la PNL, y compris GPT-3 d'OpenAI . Les chercheurs ont d'abord formé le transformateur sur un corpus de texte générique pour établir sa familiarité de base avec la langue anglaise. Ce processus est connu sous le nom de pré-formation et fait partie de ce qui rend les transformateurs si puissants. Ils ont ensuite affiné le modèle - en d'autres termes, l'ont formé davantage - sur la tâche spécifique de résumé.

Les données de réglage fin : Les chercheurs ont d'abord créé un ensemble de données appelé SciTldr, qui contient environ 5 400 paires d'articles scientifiques et les résumés correspondants en une seule phrase. Pour trouver ces résumés de haute qualité, ils sont d'abord allés à leur recherche sur OpenReview, une plateforme publique de soumission d'articles de conférence où les chercheurs publient souvent leur propre synopsis d'une phrase de leur article. Cela a fourni quelques milliers de paires. Les chercheurs ont ensuite embauché des annotateurs pour résumer davantage d'articles en lisant et en condensant davantage les synopsis déjà rédigés par des pairs examinateurs.

Pour compléter encore plus ces 5 400 paires, les chercheurs ont compilé un deuxième ensemble de données de 20 000 paires d'articles scientifiques et de leurs titres. Les chercheurs ont compris que, parce que les titres eux-mêmes sont une forme de résumé, ils aideraient davantage le modèle à améliorer ses résultats. Cela a été confirmé par l'expérimentation.

La fonction tl;dr est particulièrement utile pour parcourir les papiers sur mobile.

AI2

Résumé extrême : Alors que de nombreux autres efforts de recherche se sont attaqués à la tâche de résumé, celui-ci se distingue par le niveau de compression qu'il peut atteindre. Les articles scientifiques inclus dans l'ensemble de données SciTldr font en moyenne 5 000 mots. Leurs résumés d'une phrase en moyenne 21. Cela signifie que chaque article est compressé en moyenne à 238 fois sa taille. La meilleure méthode abstraite suivante est formée pour compresser les articles scientifiques en moyenne seulement 36,5 fois. Au cours des tests, les examinateurs humains ont également jugé que les résumés du modèle étaient plus informatifs et précis que les méthodes précédentes.

Prochaines étapes: Il existe déjà un certain nombre de moyens par lesquels AI2 travaille actuellement pour améliorer son modèle à court terme, explique Daniel Weld, professeur à l'Université de Washington et responsable du groupe de recherche Semantic Scholar. D'une part, ils prévoient de former le modèle pour gérer plus que de simples articles d'informatique. D'autre part, peut-être en partie à cause du processus de formation, ils ont constaté que les résumés tl;dr chevauchent parfois trop le titre de l'article, ce qui diminue leur utilité globale. Ils prévoient de mettre à jour le processus de formation du modèle pour pénaliser un tel chevauchement afin qu'il apprenne à éviter la répétition au fil du temps.

À long terme, l'équipe travaillera également à résumer plusieurs documents à la fois, ce qui pourrait être utile pour les chercheurs entrant dans un nouveau domaine ou peut-être même pour les décideurs politiques souhaitant se mettre rapidement au courant. Ce que nous sommes vraiment ravis de faire, c'est de créer des briefings de recherche personnalisés, dit Weld, où nous pouvons résumer non seulement un article, mais un ensemble de six avancées récentes dans un sous-domaine particulier.

cacher