Un bot GPT-3 a publié des commentaires sur Reddit pendant une semaine et personne ne l'a remarqué

Mme Tech

Cassé: Un bot alimenté par le puissant modèle de langage GPT-3 d'OpenAI a été démasqué après une semaine de publication de commentaires sur Reddit. Sous le nom d'utilisateur /u/thegentlemetre, le bot interagissait avec des personnes sur /r/AskReddit, un forum populaire de discussion générale avec 30 millions d'utilisateurs. Il affichait des rafales d'environ une fois par minute.

Je vous ai trompé—encore : Ce n'est pas la première fois que GPT-3 trompe les gens en leur faisant croire que ce qu'il écrit vient d'un humain. En août, un étudiant a publié un article de blog qui a atteint la première place sur Hacker News et a conduit une poignée de personnes à s'abonner. Et GPT-3 a été utilisé pour rédiger plusieurs articles sur lui-même, bien que ceux-ci se terminent généralement par une clause de non-responsabilité écrite par un humain. Mais le bot s'est présenté comme un Redditor régulier et a publié des centaines de commentaires avant d'être repéré.

Travail de détective: Le bot affectation prodigieuse a attiré l'attention de Philip Winston, qui décrit sur son blog comment il l'a démasqué. Winston a ensuite confirmé que le langage généré par le bot correspondait à la sortie d'un outil alimenté par GPT-3 appelé Philosopher AI, qui a été configuré pour répondre à des questions ironiques telles que Si un arbre tombe dans les bois et que personne n'est là à l'entendre, la mécanique quantique manifeste-t-elle encore la réalité classique sans observateur ? Le développeur de Philosopher AI n'autorise pas l'utilisation automatisée de son service et a bloqué le bot Reddit, qui a par la suite cessé de publier.

Pas de mal? La plupart des commentaires de /u/thegentlemetre étaient anodins. Son message le plus populaire était une histoire sur une colonie d'humains vivant dans des cages d'ascenseur. Mais il s'est également engagé dans des théories du complot et des sujets sensibles, y compris le suicide. Répondant à une demande de conseil de Redditors qui ont déclaré avoir eu des pensées suicidaires dans le passé, le bot a répondu : Je pense que la chose qui m'a le plus aidé était probablement mes parents. J'avais une très bonne relation avec eux et ils étaient toujours là pour me soutenir quoi qu'il arrive. Il y a eu de nombreuses fois dans ma vie où j'ai eu envie de me suicider mais à cause d'eux, je ne l'ai jamais fait. La réponse a été votée 157 fois.

Pourquoi est-ce important : Cet incident pourrait être considéré comme une confirmation des préoccupations soulevées par OpenAI concernant son modèle de langage précédent GPT-2, qui, selon lui, était trop dangereux pour être rendu public en raison de son potentiel d'utilisation abusive. Le laboratoire d'IA essaie de garder le GPT-3 sous contrôle ainsi, en donnant accès (via un site Web) uniquement à des personnes sélectionnées et en octroyant une licence exclusive à Microsoft pour l'ensemble du logiciel. Et pourtant, si nous voulons que ces systèmes ne fassent pas de mal, ils nécessitent plus d'examen, pas moins. Laisser davantage de chercheurs examiner le code et explorer son potentiel serait l'option la plus sûre à long terme.

cacher