211service.com
Wat er voor computers nodig zijn om bewust te zijn
Is een worm bij bewustzijn? Wat dacht je van een hommel? Voelt een computer die kan schaken iets?
Christopher Kocho
Voor Christof Koch, wetenschappelijk directeur van het Allen Institute for Brain Science in Seattle, ligt het antwoord op deze vragen misschien in het weefsel van het universum zelf. Bewustzijn is volgens hem een intrinsieke eigenschap van materie, net als massa of energie. Organiseer materie op precies de juiste manier, zoals in de hersenen van zoogdieren, en alstublieft , je kan het voelen.
Koch, nu 57, heeft bijna een kwart eeuw geprobeerd uit te leggen waarom, laten we zeggen, de zon warm aanvoelt op je gezicht. Maar na het schrijven drie boeken over bewustzijn , zegt Koch dat onderzoekers nog lang niet weten waarom het gebeurt, of het zelfs eens zijn over wat het is. Het is een moeilijk probleem (zie De codes van de hersenen kraken). Dat is een van de redenen dat Koch in 2011 zijn functie bij Caltech verliet om deel uit te maken van een project van 500 miljoen dollar dat werd gelanceerd door de miljardair Paul Allen, medeoprichter van Microsoft.
Het doel van het Allen Institute is om een gedetailleerde atlas te bouwen van elk neuron en synaps in de hersenen van zoogdieren. Dat zou de neurowetenschap een vuurslang van gegevens geven die vergelijkbaar is met wat het Human Genome Project heeft bereikt.
Maar Koch heeft zijn zoektocht naar een grootse theorie die alles zou kunnen verklaren niet opgegeven. In feite denkt hij dat bewustzijn kan worden verklaard door iets dat geïntegreerde informatietheorie , die stelt dat bewustzijn een product is van structuren, zoals de hersenen, die zowel een grote hoeveelheid informatie kunnen opslaan als een kritische dichtheid van onderlinge verbindingen tussen hun delen hebben.
Voor Koch biedt de theorie een middel om de mate van bewustzijn te beoordelen bij mensen met hersenbeschadiging, bij soorten in het dierenrijk en zelfs, zegt hij, bij machines. We vroegen Koch vorige week naar computerbewustzijn tijdens MIT Technology Review ’s EmTech-conferentie.
Zal het ontdekken van de biologische basis van bewustzijn op de een of andere manier ontmenselijkend zijn? Wat als het allemaal maar een illusie is?
Ik vind de opvatting van sommige mensen dat bewustzijn een illusie is belachelijk. Als het een illusie is, dan is het de krachtigste illusie die we hebben. Ik bedoel, de meest bekende deductie in de westerse filosofie is wat? I denk. Daarom ben ik. Het feit dat je bewuste ervaring hebt, is de enige onmiskenbare zekerheid die je hebt.
Als wetenschappers de basis van bewustzijn ontdekken, wat voor soort technologieën kunnen daar dan uit voortkomen?
We zouden een test kunnen doen om te bepalen wie bewustzijn heeft en wie niet. We hebben in dit land zeer emotionele debatten over abortus. Ik zou graag een objectieve manier hebben om te testen op welk punt een foetus daadwerkelijk bewust begint te voelen. Of een patiënt [in coma] bij bewustzijn is of niet. Vaak weet je het gewoon niet. Dit zijn vragen die mensen zich sinds historische tijden stellen, maar als we eenmaal een theorie hebben, en een algemeen aanvaarde theorie, kunnen we ze beantwoorden. En als ik een machine wilde bouwen die bewust zou zijn, zou het me een blauwdruk geven.
Dus je denkt dat een computer bewust kan zijn?
Ik gaf [vorige week] een lezing aan het MIT over Integrated Information Theory, ontwikkeld door Giulio Tononi aan de Universiteit van Wisconsin. Dit is een theorie die een heel duidelijke voorspelling doet: ze stelt dat bewustzijn een eigenschap is van complexe systemen met een bepaald oorzaak-gevolgrepertoire. Ze hebben een bepaalde manier om met de wereld om te gaan, zoals de hersenen doen, of in principe zoals een computer dat zou kunnen. Als je een computer zou bouwen die hetzelfde circuit heeft als de hersenen, zou deze computer ook bewustzijn hebben. Het zou iets zijn om deze computer te zijn. Hetzelfde geldt echter niet voor digitale simulaties.
Als ik een perfect softwaremodel van de hersenen bouw, zou het nooit bewust zijn, maar een speciaal ontworpen machine die de hersenen nabootst zou dat wel kunnen zijn?
Correct. Deze theorie zegt duidelijk dat een digitale simulatie niet bewust zou zijn, wat opvallend verschilt van het dominante functionalistische geloof van 99 procent van de mensen aan het MIT of filosofen als Daniel Dennett. Ze zeggen allemaal: als je eenmaal alles hebt gesimuleerd, is er niets meer nodig, en het zal bewust zijn.
Ik denk dat bewustzijn, net als massa, een fundamentele eigenschap van het universum is. De analogie, en die is heel goed, is dat je tegenwoordig behoorlijk goede weersvoorspellingen kunt doen. Je kunt de binnenkant van een storm voorspellen. Maar het is nooit nat in de computer. Je kunt een zwart gat in een computer simuleren, maar de ruimte-tijd wordt niet gebogen. Iets simuleren is niet het echte werk.
Zo is het ook met bewustzijn. Over 100 jaar kun je bewustzijn op een computer simuleren. Maar het zal niets ervaren. Nada. Het zal van binnen zwart zijn. Het zal geen enkele ervaring hebben, ook al heeft het onze intelligentie en ons vermogen om te spreken.
Ik zeg niet dat bewustzijn een magische ziel is. Het is iets fysieks. Bewustzijn dringt altijd door naar het fysieke. Maar er is een bepaald type hardware voor nodig om het te instantiëren. Een computer die bestaat uit transistors, die lading van en naar een poort beweegt, waarbij elke poort is verbonden met een klein aantal andere poorten, is gewoon een heel andere oorzaak-en-gevolgstructuur dan wat we in de hersenen hebben, waar je één neuron is verbonden met 10.000 inputneuronen en projecteert naar 10.000 andere neuronen. Maar als je de computer op de juiste manier zou bouwen, zoals een neuromorfische computer [zie Thinking in Silicon], zou hij bewust kunnen zijn.
Als ik je in een kamer zou plaatsen met een computer uit de toekomst, zou je dan kunnen bepalen of het bewust is?
Ik kon niet van buitenaf. Ik zou naar de hardware moeten kijken.
Hoe zit het met de Turing-test?
De vraag die Turing stelde is: Kunnen machines denken? ? Maar uiteindelijk is het een operationele test voor intelligentie, niet voor bewustzijn. Als je een slim gesprek hebt met een man in een andere kamer en je kunt na een half uur niet beslissen of het een computer of een mens is, nou, dan zeg je dat het zo intelligent is als een mens. Maar de Turing-test zou me niet vertellen of de machine iets ervaart. Ik zou kunnen vragen Ben je bij bewustzijn? en de machine zou kunnen zeggen: Ja, ik ben volledig bij bewustzijn. En waarom beweert u dat ik dat niet ben? Ik ben beledigd. Maar ik kon het niet echt weten. Ik zou moeten zeggen: Sorry, ik moet je uit elkaar halen en begrijpen hoe je gemaakt bent en hoe je deze verschillende fysieke toestanden daadwerkelijk genereert.
Is er niet een strikvraag die je zou kunnen stellen, die alleen een bewust wezen kan beantwoorden?
Een heel goede vraag. Bij mensen hebben we praktische tests voor het bewustzijn. Als je een zwaar ongeluk krijgt en naar de SEH gaat, zullen ze je vragen: Kun je je ogen bewegen? Kun je je ledematen bewegen? Kun je praten? Als je kunt praten, weet je dan welk jaar het is? Weet u wie de voorzitter is?
Maar hoe weet ik echt dat je bij bewustzijn bent? Dit is het probleem van het solipsisme. In de laatste analyse weet ik het niet. Maar ik weet dat jouw brein erg op het mijne lijkt. Ik heb veel mensen in scanners gestopt, en ik weet dat ze allemaal een brein hebben, en hun brein gedraagt zich hetzelfde als dat van mij. Er is dus een volkomen redelijke gevolgtrekking dat ook u bewust bent.
Maar hoe meer deze systemen van mij verschillen, hoe moeilijker het is om dat stap voor stap te maken. Neem bijvoorbeeld een bij. Voelt het als iets om een bij te zijn en in de gouden zonnestralen te vliegen en nectar te hebben? Ik vind het erg moeilijk om te weten of een bij bij bewustzijn is of niet. En een computer is nog radicaal anders. Er is geen gedrag waar ik het op kan beoordelen. Ik zou naar de onderliggende hardware moeten kijken.
Denk je dat we ooit bewuste machines zullen bouwen?
Ik weet niet zeker waarom we dat zouden doen. Maar ik twijfel er niet aan dat we slimme machines zullen bouwen die de Turing-test kunnen doorstaan voordat we de ware biologische basis van menselijke intelligentie begrijpen. En ik denk dat er gevaren aan verbonden zijn die de meeste mensen, als vrolijke optimisten, volledig negeren.
Welke gevaren?
Kijk je geen sciencefictionfilms? Op hol geslagen AI natuurlijk. Denk aan de financiële markt, al die handelsmachines, flash crashes. Mensen gaan computerintelligentie misbruiken, blindelings maximaliseren voor een bepaald doel. Het zal leiden tot steeds meer machtsconcentratie onder steeds minder mensen. We zien dit al, het zal leiden tot massale werkloosheid. En misschien 30 of 40 jaar later denk ik dat er echt een existentialistisch gevaar is voor de soort, op het niveau van kernwapens of een meteorietinslag.
Allemaal zonder dat de machine bij bewustzijn is? In de films is het moment waarop de AI gek wordt, hetzelfde moment waarop het bewust zelfbewustzijn krijgt.
Dat komt omdat mensen een boeiend verhaal willen maken. Als de vijand niets voelt, als er niets is, is het geen goede tegenstander.