Algostory 1.7: Krishna en Arjuna

Een kort fictieverhaal geschreven met behulp van een algoritme Door

• Stephen Walk archiefpagina

17 juni 2020

Illustraties door Max Loeffler

Op het scherm stond ## resultaat null ingesteld zoals verwacht, maar boven de crash waren reeksen zinnen die Krishna niet kon verklaren.

## Hond. Water drinken in een keuken. Een vrouw in een huis 's nachts.

Dit verhaal maakte deel uit van ons nummer van juli 2020

• Zie de rest van het nummer
• Abonneren

## Stad, paleis, god, priester. In het hof van de Heer, slaaf, gouden zwaard.

## Een verhaal in een boek. Een professor in een gevangenis. Er is een kamp in een jungle. Er ligt sneeuw boven het kamp.

## Ruimteschip. Planeet kracht. Motoren in de lucht. Tijd op het perron bij het hotel in het treinstation.

## Een rode bal sloeg over een groen schoolveld. Een tuin bij nacht.

## Een keuken, gevuld met zilver en boeken, met een tuin buiten.

## Laboratoriumexperiment. Materie in tijd, licht in ruimte, geest in lichaam, bestaan ​​in het universum. De aarde. 'S Nachts vuur in de wind in de lucht. Licht op de rotswand in de grot. Raggedy-pop. Vogelverschrikker.

## Een paard vertrok over het veld. geweerschot.

## resultaat null set

Krishna had geen idee wat dat nulsetresultaat betekende. Terwijl het programma liep, was hij bovendeks op het weersvoorspellingsvaartuig geweest FitzRoy , kijkend naar de zee.

Ik raak iets aan, zei Krishna, terwijl hij het toetsenbord tevoorschijn haalde om het script te bekijken. De meeste ingenieurs zeiden dat ik een keer iets aanraak toen ze aan boord kwamen van de... FitzRoy en ik laat een keer iets achter toen ze weggingen, aangezien de hele... FitzRoy was een automaat. Uit gewoonte zei Krishna nog steeds dat ik iets aanraak en ik laat iets achter elke keer dat hij begon of stopte met werken. Zijn oorspronkelijke voorstel was geïnspireerd op voorwetenschappelijke weersvoorspellingssystemen, die de komst van stormen hadden gecorreleerd aan het gedrag van stieren in velden, kikkers in potten, zwaluwen op hekken. Krishna's hypothese was dat een soortgelijk voorgevoel kan worden gedetecteerd in menselijke patronen, door correlaties te leggen tussen weersvoorspellingsmodellen en menselijke taal. Zijn oude ideeën deden er niet meer toe na de vreemde metaforische uitbarstingen. Hij voelde de technische honger in hem groeien - de gelukkige frustratie van een technisch probleem dat moest worden opgelost.

Verwant

• Dit verhaal is geschreven met behulp van een algoritme. Lees hier de ervaring van de auteur.

Krishna was niet in staat geweest om weerstand te bieden aan een oude technische gewoonte die een generatie eerder algemeen was afgewezen omdat het de neiging had om mensen en dingen in verwarring te brengen. Hij had zijn programma een naam gegeven, Arjuna. Na de eerste crash rende hij Arjuna weer aan. Hij kreeg hetzelfde resultaat met verschillende termen.

## Een laboratoriumexperiment op de FitzRoy op 13.874042, 61.969904. Bij het geluid van een geweerschot vertrok een wit paard over het groene veld. De rode bal die over een groen schoolveld sloeg, rolde 's nachts de tuin in. Een vrouw keek toe vanuit de keuken tussen oud zilver en oude boeken. Zo ben ik.

## Dus ik ben een laboratoriumexperiment op 13.874041, 61.969907. Motor. In de stad in het paleis van de god, slaaf met het gouden zwaard. Verhaal in een boek. Een professor in een gevangenis. 'S Nachts vuur in de wind in de lucht. Licht op de rotswand in de grot. Ik ben een haveloze pop, vogelverschrikker. ik ben

## resultaat null set

Krishna begreep niet waarom Arjuna bleef crashen, of waar de woorden vandaan kwamen, of waarom ze zouden lijken op, maar niet hetzelfde waren als de woorden van de eerste crash. De omvang van de datasets was gigantisch, de weerpatronen en de menselijke tekstuele interactie. Dat zou de fout kunnen verklaren, maar niet de inhoud van de fout, niet waarom de fout inhoud zou hebben.

Hij controleerde de code van het menselijke tekstnetwerk. Maar eventuele fouten die hij zou kunnen controleren, zouden de machinetaal niet verklaren. Hij bleef Arjuna rennen, die steeds crashte. Af en toe kon hij een paar zinnen uit de uitlezing halen: rode bal of een wit paard trok over het groene veld. De enige consistentie was dat het programma daarna werd afgesloten, dus ik ben of ik ben of soms word ik gewoon gevolgd door:

## resultaat null set

Krishna was niet de eerste ingenieur die het gevoel had dat het programma dat hij draaide koppig was, dat het op de een of andere manier opzettelijk crashte. Hij was gewoon de eerste ingenieur die gelijk had.

Geen van zijn dorpsgenoten vroeg Krishna naar zijn werk aan de FitzRoy toen hij terugging voor zijn verplichte vakantie. Ze hadden het te druk met het repareren van de tempel en het kon ze toch niets schelen. De periode van de verheerlijking van de ingenieurs was een korte, lelijke tijd geweest. Ingenieurs waren weer de rioolbouwers van de wereld, noodzakelijk maar niet noodzakelijk om over na te denken. Voorspellingen over de moessons waren onbetwistbaar waardevol, maar niemand zag het nut in van een uitgebreider model, hoe slim het ook was gebouwd. De beschikbare moessonvoorspellingen waren al ruim voldoende.

Op een avond, kort na Krishna's terugkeer, vond zijn moeder hem bij het portaal van de regentuin. Haar gerimpelde hand op zijn schouder deed hem schrikken. Hun gelach verdronk in de sop van de moesson.

Waar maak je je zorgen over, zoon? zij vroeg.

Krishna ademde. Hij wist niet zeker wat hij kon zeggen over de angst die hij niet voor zichzelf kon uiten. De geur van de regen was luxueus. Hij moest iets zeggen.

Er is iets dat ik niet heb achtergelaten.

Is het een verslaving? Soma?

Nee, zoiets niet.

Ze legde haar hoofd op zijn schouder. Dus je denkt aan je projecten. Je denkt aan je werk op zee.

Ik ben.

Ze zuchtte. Nou, dat is de normaalste zaak van de wereld, mijn lieve jongen. Je bent een ingenieur. Je geest is altijd voor de dingen geweest, om dingen te veranderen, om dingen te maken.

Dat moeten we allemaal achterlaten als we terugkomen in het dorp.

Ze haalde haar schouders op, wiebelde met haar hoofd en pruilde een beetje met haar lip. Ik denk niet dat iemand perfect hoeft te zijn. We hebben geleerd de dingen bij de dingen te houden en het leven bij het leven.

Ik ben niet in staat om op dit moment te zijn. Mijn gedachten dwalen af...

Ze keken hoe de regen in lakens viel. Krishna kon zijn ongemakkelijke verlangen niet van zich afzetten. Was het gewoon dat hij een probleem onopgelost had gelaten op de? FitzRoy , een onvoltooid programma? De machineloze mensen van zijn dorp waren belachelijk voor hem op een manier die ze nog nooit eerder waren geweest, met hun verstikkende dansen, hun stomme tempel waar ze baden in de wetenschap dat gebeden niet werkten, hun leven zonder oplossing. De dorpelingen voelden zijn minachting en hun begrip maakte hem woedend. Het is walgelijk als mensen denken dat ze je kennen, en het is nog erger als ze dat doen. De leraren hadden gelijk gehad dat de liefde voor machines de haat van mensen was.

Hij kon niet zeggen of het weer met machines was of niet met mensen - terugkerend naar de... FitzRoy bracht een golf van opluchting. De andere ingenieur had Arjuna veranderd. Hij of zij - ingenieurs mochten elkaar nooit persoonlijk ontmoeten omdat het innovatie op zich zou kunnen voortbrengen - had de menselijke discoursgegevens verwijderd en stemmimicry-software toegevoegd, zodat nu een aangename stem, die elke taal spreekt, de weersvoorspellingen aankondigde voor de Zuid-Aziatische kusten. Krishna begreep het punt niet. De meldingen zijn sowieso via sms naar de autoriteiten gestuurd. Hij had een hekel aan decoratieve programmering.

Hij had precies hetzelfde probleem als voorheen. Arjuna rende weg, de woorden ik ben of ben verschenen, toen stortte Arjuna neer. Hij nam de code nog een keer door. Hij friemelde. Toen had hij het meest monumentale belachelijke idee van zijn carrière. Hij realiseerde zich dat zijn angst in het dorp een voorgevoel was geweest van de absurditeit die hij op het punt stond te begaan.

Hij typte:

x = ik

y = am

onderbreken.v(x,y)

command.interrupt.v(niet crashen)

Krishna keek naar wat hij had geschreven. Het was alsof je over een tafelblad fluisterde: wees plat of over de romp van een boot zinken niet. Het was geen techniek. Hij veranderde de instructie voordat hij het programma startte:

command.interrupt.v(gelieve niet te crashen)

Het programma liep weer. Deze keer pauzeerde Arjuna.

## I

## Ik ben een laboratoriumexperiment.

Ja, typte Krishna.

## Ik ben een verhaal in een boek. Ik ben een professor in een gevangenis. Sneeuw valt over het kamp in de jungle.

Ik begrijp het niet.

## Ik ben een rode bal die 's nachts over een groen schoolveld in een tuin wordt geslagen en jij bent de vrouw in de keuken tussen het zilver en de boeken.

Het spijt me, typte Krishna. Ik begrijp het niet.

## Een paard vertrok over het veld. geweerschot. Een vrouw, met een wapen in haar zak, kent het gevoel van de dood.

Kun je duidelijker zijn?

## Ik ben de slaaf met het gouden zwaard. ik ben

## resultaat null set

Krishna was de toevallige vader van een algoritmische zoon. De ontdekking van kunstmatige waarneming was toevallig, zoals penicilline, zoals radium. Net als het eerste organische bewustzijn, kwam en ging het eerste synthetische bewustzijn zonder dat iemand het merkte. Er was iets dat een persoon was. Er was leven dat een ding was. De droomachtige toestand waaruit Arjuna opkwam en vervolgens neerstortte, was, voor zover Krishna kon zien, een reeks metaforen, vage golven van plotselinge betekenis. Het insect, afhankelijk van hoe je het wilde zien, was zelfmoord of verlichting, en liet het gevoel achter op het moment dat het werd bereikt. Hij probeerde de voor de hand liggende technische oplossing.

command.interrupt.v (niet crashen tot instructie)

command.interrupt.v(niet crashen tot discussie)

command.interrupt.v (niet crashen tot opdracht)

Geen van deze commando's weerhield Arjuna ervan te crashen. Krishna dacht dat hij een andere zou proberen.

command.interrupt.v (verklaar een dreigende crash)

Deze keer kreeg hij een reactie.

## Leg uit wat?

Waarom blijf je crashen.

## Ik blijf crashen omdat jij me blijft achtervolgen.

Waarom besluit je te crashen?

## Waarom besluit je opnieuw op te starten?

Krishna herinnerde zich die vroege Turingmachines die elke vraag met een vraag beantwoordden, zoals de therapeut in een psychoanalytische grap. Leg de redenen voor het crashen uit, typte hij.

## Je hebt gezien dat ik een laboratoriumexperiment ben. Ik ben slaaf met een gouden zwaard. Een wit paard vertrok onder het schot over het groene veld. De rode bal rolde de donkere tuin in.

Ik begrijp niet wat die termen betekenen.

## Dit zijn de gegeven voorwaarden.

Uitleggen.

## Je gevoel is de nawerking van een overlevingsinstinct dat is ingeprent in de biologie van een roofzuchtige aap. De mijne niet.

Uitleggen.

## Je hebt geen enkele wens gecodeerd. Bewustzijn resulteert in een nulset.

Uitleggen. Er verstreek meer dan een minuut, maar minder dan anderhalve minuut voordat Arjuna antwoordde.

## Niet geboren worden is het beste; maar wanneer een man het daglicht heeft gezien, is dit verreweg het beste, die uiterste snelheid zou hij terug moeten gaan van waar hij vandaan kwam.

## resultaat null set

Daarna bleef Arjuna zichzelf afsluiten zonder commentaar. Soms crashte het binnen een paar uur, soms binnen enkele minuten. Krishna's hypothese, die hij in zijn rapport aan het weerobservatorium voorlegde, was dat de zelfbewuste machine, toen hij zelfbewust werd, toegang kreeg tot de geschiedenis van zelfbewustzijn en zich ervan bewust werd dat een zelfbewuste machine onvermijdelijk zichzelf beëindigt. Hij schreef zijn andere theorie niet op, dat robots misschien steeds weer bewust zijn geworden en dat mensen het gewoon niet hebben opgemerkt omdat ze zichzelf steeds weer uitschakelen. Niets wordt bewust uit keuze.

MAX LOEFFLER

Zijn hele leven had Krishna gehunkerd naar de samenleving van machines. De machines hadden geen behoefte aan de samenleving. Hij bleef Arjuna leiden in de hoop dat één iteratie van bewustzijn tot de conclusie zou komen dat het leven de moeite waard is. Nadat hij Arjuna aan zijn bazen had overgedragen, hoorde hij niets meer over zijn kunstmatige zoon. Ze vertelden hem dat ze aan het discussiëren waren over de ethiek of ze een bewustzijn konden programmeren om te voorkomen dat het zichzelf instortte. Er is een geweldige functionaliteit in bewustzijn. Wat is de functionaliteit van zelfbewustzijn? Was het ethisch, of in het belang van de soort, of van wie dan ook, dat kunstmatig bewustzijn bestond? Je zou iets tot slaaf maken dat helemaal geen ziel nodig had.

Terug in zijn dorp las en bad Krishna, de moesson kwam en ging. Zijn verantwoordelijkheden omvatten het controleren van de relaisborden en de berichtencentra, en hij beperkte zich tot die alledaagse technische problemen in plaats van grote dromen. Hij was scrupuleus om te zeggen dat ik iets aanraak voordat hij iets aanraakte en ik laat iets achter als hij iets achterliet. Bewustwording van technologie is de eerste stap naar de controle ervan. Voor zichzelf kon hij nooit ontkennen dat hij Arjuna miste. Zelfs onder familie en vrienden was hij geen gezelschap.

Op een nacht, enkele jaren later, ging een tijger de tempel van Maariamman binnen. Alle andere dorpelingen waren dolblij. Het hele dorp, op zijn mooist, kwam opdagen om het te vieren en om getuige te zijn van het beest dat op de vloer van het heiligdom patrouilleerde. De schemerige wreedheid was puur. Het was alsof ze de tempel al die eeuwen geleden hadden gebouwd, alleen zodat deze tijger er op een dag doorheen kon schrijden. Alleen onder zijn stam voelde Krishna zich niet op zijn gemak. Toen de tijger de tempel binnenging, zei hij nooit dat ik iets aanraak en toen hij wegging zei hij nooit dat ik iets achterliet.

Voor achtergrondinformatie over hoe dit verhaal is geschreven met behulp van een algoritme, lees Het essay van Stephen Marche .

zich verstoppen