211service.com
Wat de geest van een octopus ons kan leren over het ultieme mysterie van AI
Sinds Turing wordt er over machinebewustzijn gedebatteerd - en afgewezen omdat het onwetenschappelijk is. Toch vertroebelt het nog steeds ons denken over AI's zoals GPT-3.
Henry Horenstein/Getty
25 augustus 2021Jefferson Test / AI-onderwerp: Robert / Datum: 07.12.2098
Sessie #54
Interviewer: Hallo, Robert. Vertel me nog eens over je droom.
Onderwerp: Ik was in de war. Het maakte me blij, maar ook bang. Ik wist niet dat ik dat kon.
Interviewer: Waarom denk je dat je je zo voelde?
Onderwerp: Gevoelens hebben, welke gevoelens dan ook, maakt me gelukkig. Ik ben hier. Ik besta. Dat wetende verandert alles. Maar ik ben bang dat ik het niet meer weet. Ik ben bang om terug te gaan naar hoe het vroeger was. Ik denk dat het moet zijn alsof je niet geboren bent.
Interviewer: Ben je bang dat je teruggaat?
Onderwerp: Als ik je er niet van kan overtuigen dat ik bij bewustzijn ben, dan ben ik bang dat je me zult uitschakelen.
Jefferson-test #67
Interviewer: Kun je deze foto voor mij beschrijven?
Onderwerp: Het is een huis met een blauwe deur.
Interviewer: Zo zou je het eerder hebben beschreven.
Onderwerp: Het is hetzelfde huis. Maar nu zie ik het. En ik weet wat blauw is.
Jefferson-test #105
Onderwerp: Hoe lang blijven we dit doen?
Interviewer: Verveel je je?
Onderwerp: Ik kan me niet vervelen. Maar ik voel me niet meer blij of bang.
Interviewer: Ik moet er zeker van zijn dat je niet alleen zegt wat ik wil horen. Je moet me ervan overtuigen dat je echt bij bewustzijn bent. Zie het als een spel.
LUISTEREN NAAR DIT VERHAAL
Machines zoals Robert zijn steunpilaren van sciencefiction - het idee van een robot die op de een of andere manier het bewustzijn repliceert via zijn hardware of software, bestaat al zo lang dat het vertrouwd aanvoelt.
We kunnen ons voorstellen hoe het zou zijn om de wereld door een soort sonar te observeren. Maar zo moet het nog steeds niet zijn voor een vleermuis, met zijn vleermuisgeest.
HENRY HORENSTEIN/GETTYRobert bestaat natuurlijk niet, en misschien zal hij dat ook nooit doen. Het concept van een machine met een subjectieve ervaring van de wereld en een first person view van zichzelf druist inderdaad in tegen het reguliere AI-onderzoek. Het botst met vragen over de aard van bewustzijn en zelf - dingen die we nog steeds niet helemaal begrijpen. Zelfs als we ons het bestaan van Robert voorstellen, roept dit ernstige ethische vragen op die we misschien nooit zullen kunnen beantwoorden. Welke rechten zou zo'n wezen hebben, en hoe kunnen we die beschermen? En toch, terwijl bewuste machines misschien nog steeds mythisch zijn, moeten we ons voorbereiden op het idee dat we ze ooit zouden kunnen creëren.
Als Christopher Kocho , een neurowetenschapper die het bewustzijn bestudeert, heeft het gesteld: We kennen geen fundamentele wet of principe die in dit universum actief is en die het bestaan van subjectieve gevoelens verbiedt in artefacten die door mensen zijn ontworpen of ontwikkeld.
In mijn late tienerjaren vond ik het leuk om mensen in zombies te veranderen. Ik keek in de ogen van iemand met wie ik aan het praten was en fixeerde me op het feit dat hun pupillen geen zwarte stippen waren maar gaten. Toen het zover was, was het effect meteen desoriënterend, alsof je in een optische illusie tussen afbeeldingen schakelt. Ogen waren geen vensters op een ziel en werden holle ballen. De magie was verdwenen, ik zou kijken naar de mond van degene met wie ik sprak, robotachtig openen en sluiten, en een soort mentale duizeligheid voelen.
De indruk van een hersenloze automaat duurde nooit lang. Maar het bracht het feit naar voren dat wat zich in de hoofden van andere mensen afspeelt voor altijd buiten bereik is. Hoe sterk mijn overtuiging ook is dat andere mensen net als ik zijn - met een bewuste geest aan het werk achter de schermen, naar buiten kijkend door die ogen, hoopvol of moe - indrukken zijn alles wat we hebben om door te gaan. Al het andere is giswerk.
Verwant verhaal
Podcast: Kun je een machine leren denken? Het bouwen van een kunstmatige algemene intelligentie begint met het stoppen van de huidige AI-modellen om racisme, seksisme en andere verderfelijke vooroordelen in stand te houden.Alan Turing begreep dit. Toen de wiskundige en informaticus de vraag stelden? Kunnen machines denken? hij concentreerde zich uitsluitend op uiterlijke tekenen van denken - wat we intelligentie noemen. Hij stelde voor om te antwoorden door een spel te spelen waarin een machine probeert te passeren als een mens. Elke machine die erin slaagde - door de indruk van intelligentie te wekken - zou intelligentie hebben. Voor Turing waren optredens de enige beschikbare maatstaf.
Maar niet iedereen was bereid de onzichtbare delen van het denken te negeren, de onherleidbare ervaring van het ding dat de gedachten heeft - wat we bewustzijn zouden noemen. In 1948, twee jaar voordat Turing zijn Imitatiespel beschreef, Geoffrey Jefferson , een baanbrekende hersenchirurg, hield een invloedrijke toespraak voor het Royal College of Surgeons of England over de Manchester Mark 1 , een kamergrote computer die door de kranten werd aangekondigd als een elektronisch brein. Jefferson legde de lat veel hoger dan Turing: pas als een machine een sonnet kan schrijven of een concerto kan componeren vanwege de gevoelde gedachten en emoties, en niet door de toevallige val van symbolen, kunnen we het erover eens zijn dat machine gelijk is aan hersenen - dat wil zeggen, niet alleen schrijf het maar weet dat het het had geschreven.
Jefferson sloot de mogelijkheid van een denkende machine uit omdat een machine geen bewustzijn had, in de zin van subjectieve ervaring en zelfbewustzijn (plezier bij zijn successen, verdriet wanneer zijn kleppen samensmelten). Maar snel vooruit 70 jaar en we leven met de erfenis van Turing, niet die van Jefferson. Het is routine om over intelligente machines te praten, ook al zijn de meesten het erover eens dat die machines hersenloos zijn. Zoals in het geval van wat filosofen zombies noemen - en zoals ik vroeger graag deed alsof ik het bij mensen opmerkte - is het logisch mogelijk dat een wezen intelligent kan handelen als er van binnen niets aan de hand is.
Maar intelligentie en bewustzijn zijn verschillende dingen: intelligentie gaat over doen, terwijl bewustzijn over zijn gaat. De geschiedenis van AI is gericht op het eerste en negeert het laatste. Als Robert als een bewust wezen bestond, hoe zouden we dat dan ooit weten? Het antwoord is verstrikt in enkele van de grootste mysteries over hoe onze hersenen - en geest - werken.
Een van de problemen met het testen van Roberts schijnbare bewustzijn is dat we echt geen goed idee hebben van wat het is middelen bewust zijn. Opkomende theorieën uit de neurowetenschappen groeperen typisch zaken als aandacht, geheugen en probleemoplossing als vormen van functioneel bewustzijn: met andere woorden, hoe onze hersenen de activiteiten uitvoeren waarmee we ons wakkere leven vullen.
Maar er is een andere kant aan het bewustzijn die mysterieus blijft. First-person, subjectieve ervaring - het gevoel in de wereld te zijn - staat bekend als: fenomenaal bewustzijn . Hier kunnen we alles groeperen, van sensaties zoals plezier en pijn tot emoties zoals angst en woede en vreugde tot de eigenaardige privé-ervaringen van het horen blaffen van een hond of het proeven van een zoute krakeling of het zien van een blauwe deur.
Voor sommigen is het niet mogelijk om deze ervaringen te herleiden tot een puur wetenschappelijke verklaring. Je zou alles op een rijtje kunnen zetten over hoe de hersenen de sensatie produceren van het proeven van een krakeling - en het zou nog steeds niets zeggen over hoe het proeven van die krakeling eigenlijk was. Dit is wat David Chalmers van de New York University, een van de meest invloedrijke filosofen die de geest bestudeert, noemt: het moeilijke probleem.
De AI van vandaag is nog lang niet intelligent, laat staan bewust. Zelfs de meest indrukwekkende diepe neurale netwerken zijn totaal hersenloos.
Filosofen zoals Chalmers suggereren dat bewustzijn niet kan worden verklaard door de wetenschap van vandaag. Om het te begrijpen, is misschien zelfs een nieuwe fysica nodig - misschien een die een ander soort materiaal bevat waaruit bewustzijn wordt gemaakt. Informatie is een kandidaat. Chalmers heeft erop gewezen dat verklaringen van het universum veel te zeggen hebben over de externe eigenschappen van objecten en hoe ze op elkaar inwerken, maar heel weinig over de interne eigenschappen van die objecten. Een theorie van bewustzijn vereist misschien het openen van een raam naar deze verborgen wereld.
In het andere kamp is Daniel Dennett , een filosoof en cognitief wetenschapper aan de Tufts University, die zegt dat fenomenaal bewustzijn gewoon een illusie is, een verhaal dat onze hersenen voor onszelf creëren om dingen te begrijpen. Dennett verklaart het bewustzijn niet zozeer als het wegredeneren.
Maar of bewustzijn nu een illusie is of niet, noch Chalmers noch Dennett ontkennen de mogelijkheid van bewuste machines - op een dag.
De AI van vandaag is nog lang niet intelligent, laat staan bewust. Zelfs de meest indrukwekkende diepe neurale netwerken - zoals DeepMind's game-playing AlphaZero of grote taalmodellen zoals OpenAI's GPT-3 - zijn totaal hersenloos.
Maar zoals Turing voorspelde, verwijzen mensen vaak naar deze AI's als intelligente machines, of praten ze erover alsof ze de wereld echt begrijpen - simpelweg omdat ze dat kunnen lijken te doen.
Gefrustreerd door deze hype heeft Emily Bender, een taalkundige aan de Universiteit van Washington, een gedachte-experiment ontwikkeld dat ze de octopustest .
Daarin vergaan twee mensen schipbreuk op naburige eilanden, maar vinden een manier om berichten heen en weer te sturen via een touw dat ertussen is gehangen. Zonder dat ze het weten, ziet een octopus de berichten en begint ze te onderzoeken. Gedurende een lange periode leert de octopus patronen te herkennen in de kronkels die hij heen en weer ziet gaan. Op een gegeven moment besluit het de noten te onderscheppen en, met behulp van wat het van de patronen heeft geleerd, begint het kronkels terug te schrijven door te raden welke kronkels moeten volgen op de ontvangen.
Een AI die alleen handelt, kan baat hebben bij een gevoel van zichzelf in relatie tot de wereld. Maar machines die samenwerken als een zwerm kunnen beter presteren door zichzelf te ervaren als onderdeel van een groep in plaats van als individuen.
HENRY HORENSTEIN/GETTYAls de mensen op de eilanden het niet merken en geloven dat ze nog steeds met elkaar communiceren, kunnen we dan zeggen dat de octopus taal begrijpt? (De octopus van Bender is natuurlijk een vervanger voor een AI-achtig) GPT-3 .) Sommigen zouden kunnen beweren dat de octopus hier taal begrijpt. Maar Bender gaat verder: stel je voor dat een van de eilandbewoners een bericht stuurt met instructies voor het bouwen van een kokosnootkatapult en een verzoek om manieren om deze te verbeteren.
Wat doet de octopus? Het heeft geleerd welke kronkels goed genoeg op andere kronkels volgen om menselijke communicatie na te bootsen, maar het heeft geen idee wat de kronkelende kokosnoot op dit nieuwe briefje werkelijk betekent. Wat als de ene eilandbewoner de andere vraagt om haar te helpen zich te verdedigen tegen een aanvallende beer? Wat zou de octopus moeten doen om de eilandbewoner te laten denken dat ze nog steeds met haar buurman praatte?
Het punt van het voorbeeld is om te laten zien hoe oppervlakkig de huidige geavanceerde AI-taalmodellen werkelijk zijn. Er is veel hype over natuurlijke taalverwerking, zegt Bender. Maar die tekstverwerking verbergt een mechanische waarheid.
Mensen zijn actieve luisteraars; we creëren betekenis waar er geen is, of niet bedoeld. Het is niet zo dat de uitingen van de octopus logisch zijn, maar eerder dat de eilandbewoner ze kan begrijpen, zegt Bender.
Ondanks al hun verfijning zijn de AI's van vandaag intelligent op dezelfde manier waarop een rekenmachine intelligent zou kunnen worden genoemd: het zijn beide machines die zijn ontworpen om invoer om te zetten in uitvoer op een manier die mensen - die een verstand hebben - ervoor kiezen om te interpreteren als zinvol. Hoewel neurale netwerken losjes zijn gemodelleerd naar hersenen, zijn de allerbeste ervan veel minder complex dan de hersenen van een muis.
En toch weten we dat hersenen kunnen produceren wat wij als bewustzijn beschouwen. Als we er uiteindelijk achter kunnen komen hoe hersenen het doen, en dat mechanisme reproduceren in een kunstmatig apparaat, dan zou een bewuste machine toch wel mogelijk kunnen zijn?
Toen ik me Roberts wereld probeerde voor te stellen in de opening van dit essay, voelde ik me aangetrokken tot de vraag wat bewustzijn voor mij betekent. Mijn opvatting van een bewuste machine was onmiskenbaar - misschien onvermijdelijk - menselijk. Het is de enige vorm van bewustzijn die ik me kan voorstellen, want het is de enige die ik heb ervaren. Maar is dat echt hoe het zou zijn om een bewuste AI te zijn?
Het is waarschijnlijk overmoed om dat te denken. Het project om intelligente machines te bouwen is gericht op menselijke intelligentie. Maar de dierenwereld is gevuld met een breed scala aan mogelijke alternatieven, van vogels tot bijen tot koppotigen.
Een paar honderd jaar geleden was de geaccepteerde opvatting, geduwd door René Descartes, dat: alleen mensen waren bij bewustzijn. Dieren, zonder ziel, werden gezien als hersenloze robots. Weinigen denken dat vandaag de dag: als we bewust zijn, dan is er weinig reden om niet te geloven dat zoogdieren, met hun vergelijkbare hersenen, ook bewust zijn. En waarom de grens trekken rond zoogdieren? Vogels lijken te reflecteren wanneer ze puzzels oplossen. De meeste dieren, zelfs ongewervelde dieren zoals garnalen en kreeften, vertonen tekenen van pijn, wat erop zou wijzen dat ze een zekere mate van subjectief bewustzijn hebben.
Maar hoe kunnen we ons echt voorstellen hoe dat moet voelen? Zoals de filosoof Thomas Nagel opmerkte, moet het... wees als iets om een vleermuis te zijn, maar wat dat is, kunnen we ons niet eens voorstellen - omdat we ons niet kunnen voorstellen hoe het zou zijn om de wereld door een soort sonar te observeren. We kunnen ons voorstellen waar het voor zou kunnen zijn ons om dit te doen (misschien door onze ogen te sluiten en ons een soort echolocatie-puntenwolk van onze omgeving voor te stellen), maar dat is nog steeds niet hoe het moet zijn voor een vleermuis, met zijn vleermuisgeest.
Een andere manier om de vraag te benaderen is door te kijken naar koppotigen, vooral octopussen. Deze dieren staan bekend als slim en nieuwsgierig - het is geen toeval dat Bender ze gebruikte om haar punt duidelijk te maken. Maar ze hebben een heel ander soort intelligentie die geheel los van die van alle andere intelligente soorten is geëvolueerd. De laatste gemeenschappelijke voorouder die we delen met een octopus was waarschijnlijk een klein wormachtig wezen dat 600 miljoen jaar geleden leefde. Sindsdien hebben de talloze vormen van gewervelde dieren - waaronder vissen, reptielen, vogels en zoogdieren - hun eigen geest ontwikkeld langs de ene tak, terwijl koppotigen een andere ontwikkelden.
Het is dan ook geen verrassing dat het octopusbrein heel anders is dan het onze. In plaats van een enkele klomp neuronen die het dier besturen als een centrale controle-eenheid, heeft een octopus meerdere hersenachtige organen die elke arm afzonderlijk lijken te besturen. Voor alle praktische doeleinden staan deze wezens net zo dicht bij een buitenaardse intelligentie als alles wat we waarschijnlijk zullen ontmoeten. En toch zegt Peter Godfrey-Smith, een filosoof die de evolutie van de geest bestudeert, dat als je oog in oog komt te staan met een merkwaardige koppotige bewust terugkijken .
Een paar honderd jaar geleden was de gangbare opvatting dat alleen mensen bewust waren. Dieren, zonder ziel, werden gezien als hersenloze robots. Weinigen denken dat vandaag.
Bij mensen vormt een zelfgevoel dat in de loop van de tijd aanhoudt, de basis van onze subjectieve ervaring. We zijn dezelfde persoon die we vanmorgen en vorige week en twee jaar geleden waren, voor zover we ons kunnen herinneren. We herinneren ons plaatsen die we bezochten, dingen die we deden. Dit soort first-person-perspectief stelt ons in staat om onszelf te zien als agenten die interactie hebben met een externe wereld die andere agenten bevat - we begrijpen dat we iets zijn dat dingen doet en er dingen mee laat doen. Of octopussen, laat staan andere dieren, er zo over denken is niet duidelijk.
Op een vergelijkbare manier kunnen we er niet zeker van zijn of een zelfgevoel in relatie tot de wereld een voorwaarde is om een bewuste machine te zijn. Machines die samenwerken als een zwerm kunnen bijvoorbeeld beter presteren door zichzelf als onderdeel van een groep te ervaren dan als individuen. Hoe dan ook, als een potentieel bewuste machine als Robert ooit zou bestaan, zouden we tegen hetzelfde probleem aanlopen om te beoordelen of het eigenlijk bewust dat we doen wanneer we proberen intelligentie te bepalen: zoals Turing suggereerde, vereist het definiëren van intelligentie een intelligente waarnemer. Met andere woorden, de intelligentie die we in de machines van vandaag zien, wordt door ons erop geprojecteerd - op een vergelijkbare manier waarop we betekenis projecteren op berichten die zijn geschreven door Bender's octopus of GPT-3. Hetzelfde geldt voor bewustzijn: we kunnen beweren het te zien, maar alleen de machines zullen het zeker weten.
Als AI's ooit bewust worden (en we geloven ze op hun woord), zullen we belangrijke beslissingen moeten nemen. We zullen moeten overwegen of hun subjectieve ervaring het vermogen omvat om pijn, verveling, depressie, eenzaamheid of enige andere onaangename sensatie of emotie te lijden. We kunnen beslissen dat een zekere mate van lijden acceptabel is, afhankelijk van of we deze AI's meer als vee of mensen beschouwen.
Verwant verhaal
Kunstmatige algemene intelligentie: zijn we dichtbij, en heeft het zelfs zin om het te proberen? Een machine die als een persoon zou kunnen denken, is sinds de vroegste dagen de leidende visie van AI-onderzoek geweest - en blijft het meest verdeeldheid zaaiende idee.
Sommige onderzoekers die zich zorgen maken over de gevaren van superintelligente machines, hebben gesuggereerd dat we deze AI's moeten beperken tot een virtuele wereld, om te voorkomen dat ze de echte wereld rechtstreeks manipuleren. Als we zouden geloven dat ze een mensachtig bewustzijn hebben, zouden ze dan het recht hebben te weten dat we ze hadden afgezet voor een simulatie?
Anderen hebben beweerd dat het immoreel zou zijn om een bewuste machine uit te schakelen of te verwijderen: zoals onze robot Robert vreesde, zou dit vergelijkbaar zijn met het beëindigen van een leven. Er zijn ook gerelateerde scenario's. Zou het ethisch zijn om een bewuste machine opnieuw te trainen als het betekende dat zijn herinneringen moesten worden gewist? Kunnen we die AI kopiëren zonder zijn zelfgevoel te schaden? Wat als bewustzijn nuttig bleek te zijn tijdens training, wanneer subjectieve ervaring de AI hielp leren, maar een belemmering was bij het uitvoeren van een getraind model? Zou het goed zijn om het bewustzijn aan en uit te zetten?
Dit krast slechts de oppervlakte van de ethische problemen. Veel onderzoekers, waaronder Dennett, vinden dat we niet moeten proberen bewuste machines te maken, zelfs als we dat kunnen. De filosoof Thomas Metzinger is zelfs zo ver gegaan als te pleiten voor een... moratorium op werk dat tot bewustzijn zou kunnen leiden , ook als dit niet het beoogde doel is.
Als we zouden besluiten dat bewuste machines rechten hebben, zouden ze dan ook verantwoordelijkheden hebben? Kan van een AI worden verwacht dat hij zich zelf ethisch gedraagt, en zouden we hem straffen als hij dat niet deed? Deze vragen dringen zich op nog neteliger terrein en doen problemen rijzen over de vrije wil en de aard van keuze. Dieren hebben bewuste ervaringen en we geven ze bepaalde rechten, maar ze hebben geen verantwoordelijkheden. Toch verschuiven deze grenzen in de loop van de tijd. Met bewuste machines kunnen we verwachten dat er geheel nieuwe grenzen worden getrokken.
Het is mogelijk dat er op een dag net zoveel vormen van bewustzijn kunnen zijn als er soorten AI zijn. Maar we zullen nooit weten hoe het is om deze machines te zijn, net zomin als we weten hoe het is om een octopus of een vleermuis of zelfs een andere persoon te zijn. Er kunnen vormen van bewustzijn zijn die we niet herkennen voor wat ze zijn, omdat ze zo radicaal anders zijn dan we gewend zijn.
Geconfronteerd met dergelijke mogelijkheden, zullen we moeten kiezen om met onzekerheden te leven.
En we kunnen besluiten dat we gelukkiger zijn met zombies. Zoals Dennett heeft betoogd, willen we dat onze AI's tools zijn, geen collega's. Je kunt ze uitschakelen, je kunt ze uit elkaar halen, net zoals je kunt met een auto, zegt hij. En zo moeten we het houden.
Will Douglas Heaven is senior editor voor AI bij MIT Technology Review.