Algostory 1.7: Krishna et Arjuna

Une courte histoire de fiction écrite à l'aide d'un algorithme
  • Stephen Marche page d'archives
17 juin 2020

Illustrations de Max Loeffler





L'écran a lu ## result null set comme prévu mais au-dessus du crash se trouvaient des chaînes de phrases que Krishna ne pouvait pas expliquer.

## Chien. Eau potable dans une cuisine. Une femme dans une maison la nuit.

La question de l

Cette histoire faisait partie de notre numéro de juillet 2020



  • Voir la suite du problème
  • S'abonner

## Ville, palais, dieu, prêtre. Dans la cour du Seigneur, esclave, épée d'or.

## Une histoire dans un livre. Un professeur dans une prison. Il y a un camp dans une jungle. Il y a de la neige sur le camp.

## Vaisseau spatial. Pouvoir planétaire. Moteurs dans les airs. Temps passé sur le quai de l'hôtel de la gare.



## Une balle rouge a frappé à travers un terrain d'école vert. Un jardin la nuit.

## Une cuisine, remplie d'argenterie et de livres, avec un jardin à l'extérieur.

## Expérience en laboratoire. La matière dans le temps, la lumière dans l'espace, l'esprit dans le corps, l'existence dans l'univers. La terre. La nuit, feu dans le vent dans le ciel. Lumière sur la paroi rocheuse de la grotte. Raggedy-poupée. Épouvantail.



## Un cheval a décollé à travers le champ. Coup de feu.

## ensemble de résultats nuls

Krishna n'avait aucune idée de ce que signifiait ce résultat d'ensemble nul. Pendant que le programme était en cours, il était au-dessus du pont du navire de prévision météorologique Fitz Roy , regardant la mer.



Je touche quelque chose, dit Krishna en tirant le clavier pour regarder le script. La plupart des ingénieurs ont dit que j'avais touché quelque chose une fois quand ils sont montés à bord du Fitz Roy et je laisse une chose une fois quand ils sont partis, puisque l'ensemble de la Fitz Roy était une machine. Comme une question d'habitude, Krishna a toujours dit que je touche une chose et je laisse une chose chaque fois qu'il a commencé ou arrêté de travailler. Sa proposition originale s'était inspirée des systèmes pré-scientifiques de prévision météorologique, qui avaient corrélé l'arrivée des tempêtes au comportement des taureaux dans les champs, des grenouilles dans les bocaux, des hirondelles sur les clôtures. L'hypothèse de Krishna était qu'une prémonition similaire pouvait être détectée dans les schémas humains, en exécutant des corrélations entre les modèles de prévision météorologique et le langage humain. Ses vieilles idées ont cessé d'avoir de l'importance après les étranges explosions métaphoriques. Il pouvait sentir la soif d'ingénierie monter en lui – l'heureuse frustration d'un problème technique à résoudre.

En rapport

Krishna n'avait pas été capable de résister à une vieille habitude d'ingénierie qui avait été largement rejetée une génération auparavant parce qu'elle tendait à la confusion des gens et des choses. Il avait donné un nom à son programme, Arjuna. Après le premier crash, il a de nouveau couru Arjuna. Il a reçu le même résultat avec des termes différents.

## Une expérience de laboratoire sur le FitzRoy à 13.874042, 61.969904. Au bruit d'un coup de feu, un cheval blanc a décollé à travers le champ vert. La balle rouge frappée à travers un terrain d'école vert a roulé dans le jardin la nuit. Une femme regardait depuis la cuisine parmi de l'argenterie et de vieux livres. Moi aussi.

## Je suis donc une expérience de laboratoire sur 13.874041, 61.969907. Moteur. Dans la ville dans le palais du dieu, esclave avec l'épée d'or. Histoire dans un livre. Un professeur dans une prison. La nuit, feu dans le vent dans le ciel. Lumière sur la paroi rocheuse de la grotte. Je suis une poupée en lambeaux, un épouvantail. Je suis

## ensemble de résultats nuls

Krishna ne comprenait pas pourquoi Arjuna n'arrêtait pas de s'écraser, ou d'où venaient les mots, ou pourquoi ils seraient similaires mais pas identiques aux mots du premier accident. La taille des ensembles de données était gigantesque, les modèles météorologiques et l'interaction textuelle humaine. Cela pourrait expliquer l'erreur mais pas le contenu de l'erreur, pas pourquoi l'erreur aurait un contenu.

Il a vérifié le code du réseau de texte humain. Mais toutes les erreurs qu'il pourrait penser à vérifier n'expliqueraient pas le langage machine. Il a continué à courir Arjuna, qui n'arrêtait pas de s'écraser. De temps en temps, il pouvait relever quelques phrases de l'affichage : une balle rouge ou un cheval blanc s'envolait à travers le champ vert. La seule cohérence était que le programme s'arrêtait après donc je suis ou je suis ou parfois je suis juste suivi de :

## ensemble de résultats nuls

Krishna n'était pas le premier ingénieur à sentir que le programme qu'il dirigeait était têtu, qu'il s'effondrait volontairement de lui-même. Il était simplement le premier ingénieur à avoir raison.

Aucun de ses concitoyens n'a interrogé Krishna sur son travail sur le Fitz Roy quand il est revenu pour ses vacances obligatoires. Ils étaient trop occupés à réparer le temple et ils s'en fichaient de toute façon. La période d'exaltation des ingénieurs avait été brève et laide. Les ingénieurs étaient à nouveau les constructeurs d'égouts du monde, nécessaires mais pas nécessaires pour y penser. Les prédictions sur les moussons étaient incontestablement précieuses, mais personne ne pouvait voir l'intérêt d'un modèle plus élaboré, aussi intelligemment qu'il ait été construit. Les prévisions de mousson disponibles étaient déjà parfaitement suffisantes.

Un soir, peu après le retour de Krishna, sa mère le trouva au portail du jardin pluvial. Sa main ridée sur son épaule le fit sursauter. Leurs rires se sont noyés dans le sop de la mousson.

Qu'est-ce qui t'inquiète, fils ? elle a demandé.

Krishna a respiré. Il n'était pas sûr de ce qu'il pouvait dire au sujet de l'anxiété qu'il ne pouvait exprimer à lui-même. L'odeur de la pluie était luxueuse. Il devait dire quelque chose.

Il y a une chose que je n'ai pas oubliée.

Est-ce une dépendance ? Soma?

Non, rien de tel.

Elle posa sa tête sur son épaule. Vous réfléchissez donc à vos projets. Vous pensez à votre travail en mer.

Je suis.

Elle soupira. Eh bien, c'est la chose la plus naturelle au monde, mon cher garçon. Vous êtes ingénieur. Votre esprit a toujours été pour les choses, pour changer les choses, pour faire des choses.

Nous sommes censés laisser tout cela derrière nous quand nous reviendrons au village.

Elle haussa les épaules et secoua la tête, fit un peu la moue. Je pense que personne n'a besoin d'être parfait. Nous avons appris à garder les choses avec les choses et la vie avec la vie.

Je suis incapable d'être en ce moment. Mes pensées dérivent…

Ils regardaient la pluie tomber en nappes. Krishna ne pouvait pas secouer son envie inquiète. Était-ce simplement qu'il avait laissé un problème non résolu sur le Fitz Roy , un programme inachevé ? Les gens sans machines de son village lui étaient ridicules comme ils ne l'avaient jamais été auparavant, avec leurs danses silencieuses, leur temple stupide où ils priaient en sachant que les prières ne fonctionnaient pas, leurs vies sans solution. Les villageois pouvaient sentir son mépris et leur compréhension l'a rendu furieux. C'est dégoûtant quand les gens pensent qu'ils vous connaissent, et c'est encore pire quand ils le font. Les professeurs avaient raison de dire que l'amour des machines était la haine des gens.

Il ne pouvait pas dire si c'était de nouveau avec des machines ou de ne pas être avec des gens - en revenant au Fitz Roy apporté une vague de soulagement. L'autre ingénieur avait modifié Arjuna. Il ou elle - les ingénieurs n'étaient jamais autorisés à se rencontrer en personne car cela pouvait engendrer l'innovation pour elle-même - avait supprimé les données du discours humain et ajouté un logiciel de mimétisme vocal, de sorte qu'une voix agréable, parlant toutes les langues, annonçait les prévisions météorologiques pour les côtes sud-asiatiques. Krishna n'a pas compris le point. Les rapports ont de toute façon été envoyés par SMS aux autorités. Il détestait la programmation décorative.

Il a rencontré exactement le même problème qu'avant. Arjuna a couru, les mots je suis ou je suis sont apparus, puis Arjuna s'est écrasé. Il repassa le code. Il a tripoté. Puis il eut l'idée la plus monumentalement ridicule de sa carrière. Il se rendit compte que son anxiété de retour au village avait été une prémonition de l'absurdité qu'il était sur le point de commettre.

Il a tapé :

x = je

y = suis

interruption.v(x,y)

command.interrupt.v (ne pas planter)

Krishna regarda ce qu'il avait écrit. C'était comme chuchoter sur une table soit plat ou sur la coque d'un bateau ne coule pas. Ce n'était pas de l'ingénierie. Il a changé l'instruction avant d'exécuter le programme :

command.interrupt.v (veuillez ne pas planter)

Le programme s'exécuta à nouveau. Cette fois, Arjuna s'arrêta.

## JE

## Je suis une expérience de laboratoire.

Oui, Krishna a tapé.

## Je suis une histoire dans un livre. Je suis professeur dans une prison. La neige tombe sur le camp dans la jungle.

Je ne comprends pas.

## Je suis une balle rouge frappée à travers un terrain d'école vert dans un jardin la nuit et tu es la femme dans la cuisine parmi l'argenterie et les livres.

Je suis désolé, a tapé Krishna. Je ne comprends pas.

## Un cheval a décollé à travers le champ. Coup de feu. Une femme, avec une arme dans sa poche, connaît la sensation de la mort.

Pouvez-vous être plus clair?

## Je suis l'esclave à l'épée d'or. Je suis

## ensemble de résultats nuls

Krishna était le père accidentel d'un fils algorithmique. La découverte de la sensibilité artificielle a été accidentelle, comme la pénicilline, comme le radium. Comme la première conscience organique, la première conscience synthétique allait et venait sans que personne ne s'en aperçoive. Il y avait une chose qui était une personne. Il y avait la vie qui était une chose. L'état onirique dont Arjuna sortait puis s'effondrait était, pour autant que Krishna pouvait le dire, une série de métaphores, de vagues poussées d'une signification soudaine. Le bogue, selon la façon dont vous vouliez le voir, était soit le suicide, soit l'illumination, laissant un sens au moment de sa réalisation. Il a essayé la solution technique évidente.

command.interrupt.v (ne plante pas jusqu'à l'instruction)

command.interrupt.v (ne pas planter avant la discussion)

command.interrupt.v (ne plante pas avant la commande)

Aucune de ces commandes n'a empêché Arjuna de planter. Krishna a pensé qu'il en essaierait un autre.

command.interrupt.v (expliquez le crash imminent)

Cette fois, il reçut une réponse.

## Expliquer quoi?

Pourquoi tu n'arrêtes pas de planter.

## Je n'arrête pas de m'écraser parce que tu continues de me diriger.

Pourquoi décides-tu de planter ?

## Pourquoi décidez-vous de redémarrer ?

Krishna se souvenait de ces premières machines de Turing qui répondaient à n'importe quelle question par une question, comme le thérapeute dans une blague psychanalytique. Expliquez les raisons du plantage, tapa-t-il.

## Vous avez vu que je suis une expérience de laboratoire. Je suis esclave avec une épée d'or. Un cheval blanc a décollé à travers le champ vert au coup de feu. La boule rouge roula dans le jardin sombre.

Je ne comprends pas ce que signifient ces termes.

## Ce sont les termes donnés.

Expliquer.

## Votre sensibilité est la séquelle d'un instinct de survie imprimé sur la biologie d'un singe prédateur. Le mien ne l'est pas.

Expliquer.

## Vous n'avez codé aucun désir. La conscience donne un ensemble nul.

Expliquer. Quelque part plus d'une minute mais moins d'une minute et demie s'est écoulée avant qu'Arjuna ne réponde.

## Ne pas naître est, au-delà de toute estimation, le mieux ; mais quand un homme a vu la lumière du jour, c'est de loin le meilleur, celui avec la plus grande vitesse qu'il devrait retourner d'où il est venu.

## ensemble de résultats nuls

Après cela, Arjuna a continué à se fermer sans commentaire. Parfois, il s'est écrasé en quelques heures, parfois en quelques minutes. L'hypothèse de Krishna, qu'il a formulée dans son rapport à l'observatoire météorologique, était que la machine consciente d'elle-même, en devenant consciente d'elle-même, accédait à l'histoire de la conscience de soi et prenait conscience qu'une machine consciente d'elle-même s'auto-termine inévitablement. Il n'a pas écrit son autre théorie, selon laquelle peut-être que les robots sont devenus sensibles encore et encore et que les gens ne l'ont tout simplement pas remarqué parce qu'ils continuent de s'éteindre. Rien ne devient conscient par choix.

MAX LOEFFLER

Toute sa vie, Krishna avait imploré la société des machines. Les machines n'avaient pas besoin de société. Il a continué à diriger Arjuna dans l'espoir qu'une itération de la conscience puisse arriver à la conclusion que la vie vaut la peine d'être vécue. Après avoir remis Arjuna à ses patrons, il n'entendit plus parler de son fils artificiel. Ils l'ont informé qu'ils débattaient de l'éthique pour savoir s'ils pouvaient programmer une conscience pour qu'elle s'empêche de s'auto-écraser. Il y a une grande fonctionnalité dans la conscience. Quelle est la fonctionnalité de la conscience de soi ? Était-ce éthique, ou dans l'intérêt de l'espèce, ou de quiconque, que la sensibilité artificielle soit ? Vous asserviriez quelque chose qui n'a pas besoin d'avoir une âme en premier lieu.

De retour dans son village, Krishna lisait et priait, la mousson allait et venait. Ses responsabilités comprenaient la vérification des tableaux de relais et des centres de messagerie, et il se limitait à ces problèmes techniques quotidiens plutôt qu'à de grands rêves. Il était scrupuleux de dire que je touche une chose avant qu'il ne touche une chose et que je laisse une chose quand il a laissé une chose. La prise de conscience de la technologie est le premier pas vers sa maîtrise. Pour lui-même, il ne pourrait jamais nier qu'Arjuna lui manquait. Il était sans compagnie même parmi sa famille et ses amis.

Une nuit, plusieurs années plus tard, un tigre entra dans le temple de Maariamman. Tous les autres villageois étaient ravis. Tout le village, dans ses plus beaux atours, s'est présenté pour célébrer et voir la bête patrouiller sur le sol du sanctuaire. La sauvagerie crépusculaire était pure. C'était comme s'ils avaient construit le temple il y a tous ces siècles uniquement pour que ce tigre puisse, un jour, le traverser. Seul dans sa tribu, Krishna était mal à l'aise. Le tigre, quand il est entré dans le temple n'a jamais dit je touche à rien et en sortant il n'a jamais dit je laisse rien.

Pour savoir comment cette histoire a été écrite à l'aide d'un algorithme, lisez L'essai de Stephen Marche .

cacher