Un nouvel outil utilise l'IA pour repérer le texte écrit par l'IA

Catégorie: Intelligence artificielle Posté 26 juil.

Les algorithmes d'IA peuvent générer un texte suffisamment convaincant pour tromper l'humain moyen, offrant potentiellement un moyen de produire en masse de fausses nouvelles, de fausses critiques et de faux comptes sociaux. Heureusement, l'IA peut désormais également être utilisée pour identifier les faux textes.

Les nouvelles: Des chercheurs de Université de Harvard et le MIT-IBM Watson AI Lab ont développé un nouvel outil pour repérer le texte qui a été généré à l'aide de l'IA. Appelé Giant Language Model Test Room (GLTR), il exploite le fait que les générateurs de texte IA s'appuient sur des modèles statistiques dans le texte, par opposition à la signification réelle des mots et des phrases. En d'autres termes, l'outil peut dire si les mots que vous lisez semblent trop prévisibles pour avoir été écrits par une main humaine.

Le contexte: La désinformation est de plus en plus automatisée et la technologie nécessaire pour générer de faux textes et images progresse rapidement . Des outils alimentés par l'IA comme celui-ci peuvent devenir des armes précieuses dans la lutte contre les fausses nouvelles, les deepfakes et les robots Twitter.

Semblant: Des chercheurs d'OpenAI ont récemment démontré un algorithme capable d'imaginer des passages étonnamment réalistes . Ils ont introduit d'énormes quantités de texte dans un grand modèle d'apprentissage automatique, qui a appris à détecter des modèles statistiques dans ces mots. L'équipe de Harvard a développé son outil en utilisant une version du code OpenAI qui a été rendue publique.

Comme c'est prévisible : GLTR met en évidence les mots qui sont statistiquement susceptibles d'apparaître après le mot précédent dans le texte. Comme le montre le passage ci-dessus (de Est infini) , les mots les plus prévisibles sont en vert ; moins prévisibles sont le jaune et le rouge ; et les moins prévisibles sont violets. Lorsqu'il est testé sur des extraits de texte écrits par l'algorithme d'OpenAI, il trouve beaucoup de prévisibilité. Les articles de presse authentiques et les résumés scientifiques contiennent plus de surprises.

Esprit et machine : Les chercheurs à l'origine de GLTR ont également mené une autre expérience. Ils ont demandé aux étudiants de Harvard d'identifier le texte généré par l'IA, d'abord sans l'outil, puis avec l'aide de sa mise en évidence. Les étudiants n'ont pu repérer que la moitié de tous les faux par eux-mêmes, mais 72% lorsqu'ils ont reçu l'outil. Notre objectif est de créer des systèmes de collaboration humains et IA, explique Sebastian Gehrmann, doctorant impliqué dans les travaux.

Si vous êtes intéressé, vous pouvez Essayez vous-même .