Le faux blog généré par l'IA d'un étudiant a trompé des dizaines de milliers de personnes. C'est ainsi qu'il l'a fait.

Mme Tech | Getty

En début de semaine, Liam Porr n'avait entendu parler que du GPT-3. À la fin, l'étudiant avait utilisé le modèle d'IA pour produire un blog entièrement faux sous un faux nom.

C'était une expérience amusante. Mais ensuite, l'un de ses messages a atteint la première place sur Hacker News. Peu de gens ont remarqué que son blog était entièrement généré par l'IA. Certains ont même cliqué sur S'abonner.

Alors que beaucoup ont spéculé sur la façon dont GPT-3, l'outil d'IA générateur de langage le plus puissant à ce jour, pourrait affecter la production de contenu, c'est l'un des seuls cas connus pour illustrer le potentiel. Ce qui ressort le plus de l'expérience, dit Porr, qui étudie l'informatique à l'Université de Californie à Berkeley : c'était super facile, en fait, ce qui était effrayant.

GPT-3 est OpenAI la dernière et la plus grande IA linguistique modèle, que le laboratoire de recherche basé à San Francisco a commencé à distribuer au goutte-à-goutte à la mi-juillet. En février de l'année dernière, OpenAI a fait la une des journaux avec GPT-2, une version antérieure de l'algorithme, dont il a annoncé qu'il le ferait. retenir de peur qu'il ne soit abusé. La décision a immédiatement déclenché une réaction violente, les chercheurs accusant le laboratoire d'avoir fait une cascade. En novembre, le laboratoire avait changé de position et a publié le modèle , affirmant qu'il n'avait jusqu'à présent détecté aucune preuve solide d'abus.

Le laboratoire a adopté une approche différente avec GPT-3 ; il ne l'a ni refusé ni autorisé l'accès public. Au lieu de cela, il a donné l'algorithme pour sélectionner les chercheurs qui ont postulé pour une version bêta privée, dans le but de recueillir leurs commentaires et de commercialiser la technologie d'ici la fin de l'année.

Porr a soumis une candidature. Il a rempli un formulaire avec un simple questionnaire sur son utilisation prévue. Mais il n'a pas non plus attendu. Après avoir contacté plusieurs membres de la communauté Berkeley AI, il a rapidement trouvé un doctorant qui y avait déjà accès. Une fois que l'étudiant diplômé a accepté de collaborer, Porr a écrit un petit script à exécuter. Il a donné à GPT-3 le titre et l'introduction d'un article de blog et lui a fait cracher plusieurs versions terminées. Le premier article de Porr (celui qui figurait sur Hacker News), et tous les articles suivants, ont été copiés et collés à partir de l'une des sorties avec peu ou pas d'édition.

Depuis le moment où j'ai pensé à l'idée et que j'ai pris contact avec le doctorant jusqu'à la création du blog et du premier blog devenu viral, cela a pris peut-être quelques heures, dit-il.

Le faux article de blog de Porr, écrit sous le faux nom 'adolos', atteint la première place sur Hacker News. Porr dit qu'il a utilisé trois comptes distincts pour soumettre et voter pour ses messages sur Hacker News dans le but de les pousser plus haut. L'administrateur a déclaré que cette stratégie ne fonctionnait pas, mais ses titres à clics fonctionnaient.

CAPTURE D'ÉCRAN / LIAM PORR

L'astuce pour générer du contenu sans avoir besoin de beaucoup d'édition consistait à comprendre les forces et les faiblesses de GPT-3. C'est assez bon pour faire un joli langage, et ce n'est pas très bon pour être logique et rationnel, dit Porr. Il a donc choisi une catégorie de blog populaire qui ne nécessite pas de logique rigoureuse : la productivité et l'entraide.

À partir de là, il a écrit ses titres en suivant une formule simple : il faisait défiler Medium et Hacker News pour voir ce qui fonctionnait dans ces catégories et mettre en place quelque chose de relativement similaire. Vous vous sentez improductif ? Peut-être devriez-vous arrêter de trop réfléchir, a-t-il écrit pour l'un d'entre eux. L'audace et la créativité l'emportent sur l'intelligence, écrit-il pour un autre. À quelques reprises, les gros titres n'ont pas fonctionné. Mais tant qu'il restait sur les bons sujets, le processus était facile.

Après deux semaines de messages presque quotidiens, il a retiré le projet avec un dernier message énigmatique auto-écrit . Intitulé Ce que je ferais avec GPT-3 si je n'avais pas d'éthique, il décrivait son processus comme hypothétique. Le même jour, il a également publié un autre confession franche sur son vrai blog.

Les quelques personnes qui se sont méfiées du faux blog de Porr ont été rejetées par d'autres membres de la communauté.

CAPTURE D'ÉCRAN / LIAM PORR

Porr dit qu'il voulait prouver que GPT-3 pouvait être fait passer pour un écrivain humain. En effet, malgré le modèle d'écriture quelque peu étrange de l'algorithme et des erreurs occasionnelles, seules trois ou quatre des dizaines de personnes qui ont commenté son premier article sur Hacker News ont soulevé des soupçons qu'il aurait pu être généré par un algorithme. Tous ces commentaires ont été immédiatement rejetés par les autres membres de la communauté.

Pour les experts, c'est depuis longtemps l'inquiétude soulevée par de tels algorithmes générateurs de langage. Depuis qu'OpenAI a annoncé pour la première fois GPT-2, les gens ont émis l'hypothèse qu'il était vulnérable aux abus. Dans son propre article de blog, le laboratoire s'est concentré sur le potentiel de l'outil d'IA à être transformé en arme producteur de masse de désinformation . D'autres se sont demandé s'il pouvait être utilisé pour produire spams plein de mots-clés pertinents pour jouer à Google.

Porr dit que son expérience montre également une alternative plus banale mais toujours troublante : les gens pourraient utiliser l'outil pour générer beaucoup de contenu clickbait. Il est possible qu'il y ait juste un flot de contenu de blog médiocre parce que maintenant la barrière à l'entrée est si facile, dit-il. Je pense que la valeur du contenu en ligne va être beaucoup réduite.

Porr prévoit de faire plus d'expériences avec GPT-3. Mais il attend toujours d'avoir accès à OpenAI. Il est possible qu'ils soient contrariés que j'aie fait cela, dit-il. Je veux dire, c'est un peu idiot.

Mettre à jour: Des détails supplémentaires ont été ajoutés au texte et aux légendes des photos pour expliquer comment Liam Porr a créé son blog et l'a placé en tête de Hacker News.

cacher