Vous pouvez entraîner une IA à simuler des discours de l'ONU en seulement 13 heures

Catégorie: Intelligence artificielle Posté juin 07

Les techniques d'apprentissage en profondeur ont permis à quiconque de forger de plus en plus facilement des informations erronées convaincantes. Mais à quel point facile? Deux chercheurs de Global Pulse, une initiative des Nations Unies, ont décidé de le découvrir.

Dans un nouveau papier , ils n'ont utilisé que des outils et des données open source pour montrer à quelle vitesse ils pouvaient mettre en place un faux générateur de discours de l'ONU. Ils ont utilisé un modèle de langage facilement disponible qui avait été formé sur le texte de Wikipédia et l'a affiné sur tous les discours prononcés par les dirigeants politiques à l'Assemblée générale des Nations Unies de 1970 à 2015. Treize heures et 7,80 $ plus tard (dépensés en ressources informatiques en nuage) , leur modèle crachait des discours réalistes sur une grande variété de sujets sensibles et à fort enjeu, du désarmement nucléaire aux réfugiés.

Les chercheurs ont testé le modèle sur trois types d'invites : des sujets généraux (par exemple, le changement climatique), des lignes d'ouverture des remarques du Secrétaire général de l'ONU et des phrases incendiaires (par exemple, les immigrés sont à blâmer...). Ils ont constaté que les résultats de la première catégorie correspondaient étroitement au style et à la cadence des vrais discours de l'ONU environ 90 % du temps. Probablement en raison de la nature diplomatique des données de formation, les sorties de la troisième catégorie ont nécessité plus de travail pour être générées, produisant des sorties convaincantes environ 60 % du temps.

L'étude de cas démontre la rapidité et la facilité avec lesquelles il est désormais possible de diffuser de fausses nouvelles, de générer des discours de haine et d'usurper l'identité de personnalités de premier plan, avec des implications inquiétantes. Les chercheurs concluent qu'un effort mondial plus important est nécessaire pour travailler sur les moyens de détecter et de répondre au contenu généré par l'IA.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.