211service.com
Schaken is te gemakkelijk
De computerwetenschap is verdeeld over kunstmatige intelligentie (AI). Sommige computerwetenschappers geloven in de zogenaamde Strong AI, die stelt dat alle menselijke gedachten volledig algoritmisch zijn, dat wil zeggen dat het kan worden opgesplitst in een reeks wiskundige bewerkingen. Wat logischerwijs volgt, zo stellen ze, is dat AI-ingenieurs uiteindelijk de menselijke geest zullen repliceren en een echt zelfbewuste robot zullen creëren vol gevoelens en emoties. Anderen omarmen Weak AI, het idee dat menselijk denken alleen kan worden gesimuleerd in een computerapparaat. Als ze gelijk hebben, kunnen toekomstige robots veel van het gedrag van apparaten vertonen. Als ze gelijk hebben, kunnen toekomstige robots veel van het gedrag van mensen vertonen, maar geen van deze robots zal ooit een persoon zijn; hun innerlijke leven zal zo leeg zijn als dat van een rots.
Eerdere voorspellingen van voorstanders van sterke en zwakke AI hebben het debat weinig vooruit gebracht. Zo voorspelde Herbert Simon, hoogleraar psychologie aan de Carnegie Mellon University, misschien wel de eerste en meest krachtige aanhanger van Strong AI, vier decennia geleden dat machines met een geest op handen waren. Het is niet mijn bedoeling u te verrassen of te shockeren, zei hij. Maar de eenvoudigste manier waarop ik het kan samenvatten, is te zeggen dat er nu machines in de wereld zijn die denken, leren en creëren. Bovendien zal hun vermogen om deze dingen te doen snel toenemen totdat - in een zichtbare toekomst - het scala aan problemen dat ze aankunnen even groot zal zijn als het bereik waarop de menselijke geest is toegepast.
Aan de andere kant van de vergelijking, wedde Hubert Dreyfus, een professor filosofie aan Berkeley, twee decennia geleden op de boerderij dat computers die symbolen kraken zelfs nooit het probleemoplossende vermogen van mensen zouden benaderen, laat staan een innerlijk leven. In zijn boek What Computers Can't Do (HarperCollins 1978), en opnieuw in de herziene editie, What Computers Still Can't Do (MIT Press 1992), beweerde hij dat formidabele schaakcomputers voor altijd in het rijk van fictie, en daagde de AI-gemeenschap uit om te bewijzen dat hij ongelijk had.
De overwinning afgelopen voorjaar door IBM's Deep Blue-computer op 's werelds grootste menselijke schaker, Gary Kasparov, vernietigde de voorspelling van Dreyfus. Maar pleit het ook voor Sterke in plaats van Zwakke AI? Kasparov zelf lijkt dat te denken. Tot grote vreugde van Strong AI-aanhangers verklaarde Kasparov afgelopen maart in Time dat hij voelde dat een nieuw soort inlichtingendienst tegen hem vocht.
Bovendien zou de bekende filosoof Daniel Dennett van Tufts University zo'n reactie niet hyperbolisch vinden in het licht van de triomf van Deep Blue. Dennett, ooit de aartsverdediger van Strong AI, gelooft dat bewustzijn in de kern algoritmisch is en dat AI het bewustzijn snel reduceert tot berekening.
Maar in hun opgetogenheid zien Kasparov, Dennett en anderen die geloven dat Deep Blue geloofwaardigheid verleent aan Strong AI een belangrijk feit over het hoofd: puur logisch gezien is schaken opmerkelijk eenvoudig. Inderdaad, zoals al lang bekend is, kan onoverwinnelijk schaken theoretisch worden gespeeld door een hersenloos systeem, zolang het een algoritme volgt dat de gevolgen van elke mogelijke zet volgt totdat een mat- of remisepositie is gevonden.
Hoewel dit algoritme pijnlijk eenvoudig is (studenten in de informatica leren het routinematig), is het natuurlijk rekenkundig complex. Als we uitgaan van een gemiddelde van ongeveer 32 opties per spel, levert dit duizend opties op voor elke volledige zet (een zet is een spel aan één kant gevolgd door een spel als reactie). Vijf zetten vooruitkijken levert dus een quadriljoen (1015) mogelijkheden op. Vooruitkijkend 40 zetten, de lengte van een typisch spel, zou 10120 mogelijkheden inhouden. Deep Blue, dat meer dan 100 miljoen posities per seconde onderzoekt, zou bijna 10112 seconden nodig hebben, of ongeveer 10104 jaar om elke beweging te onderzoeken. Ter vergelijking: er zijn minder dan 1018 seconden verstreken sinds het begin van het universum, en de consensus onder computerschaakkenners is dat onze zon zal vervallen voordat zelfs de supercomputers van morgen zo'n uitputtende zoektocht kunnen uitvoeren.
Maar wat als een computer heel ver vooruit kan kijken (bijvoorbeeld aangedreven door het algoritme dat bekend staat als alpha-beta minimax search, de belangrijkste strategie van Deep Blue), in plaats van helemaal? En wat als het deze rekenkracht zou kunnen combineren met een snufje kennis van enkele basisprincipes van schaken, bijvoorbeeld die met betrekking tot koningsveiligheid, die overigens vlak voor de wedstrijd met Kasparov in Deep Blue waren geïnstalleerd? Het antwoord, zoals Deep Blue resoluut aantoonde, is dat een zo bewapende machine zelfs de allerbeste menselijke schaker kan verslaan.
Creativiteit Ex Machina?
Maar het soort denken dat bij schaken hoort, gestapeld tegen de volledige kracht en reikwijdte van de menselijke geest, is verre van het hele verhaal. De negentiende-eeuwse wiskundige Ada Byron, bekend als Lady Lovelace, was misschien de eerste die suggereerde dat creativiteit het essentiële verschil is tussen geest en machine - de bepalende essentie die verder gaat dan wat zelfs het meest geavanceerde algoritme kan bereiken. Lovelace betoogde dat computermachines, zoals die van haar tijdgenoot Charles Babbage, niets kunnen creëren, want voor creatie is minimaal iets nodig. Computers kunnen niets voortbrengen; ze kunnen alleen datgene doen waartoe wij ze, via programma's, opdragen.
Een eeuw later reageerde Alan Turing, de grootvader van zowel AI als computerwetenschap, op het bezwaar van Lady Lovelace door de nu beroemde Turing-test uit te vinden, die een computer doorstaat als hij een mens voor de gek kan houden door te denken dat het een mens is. Helaas, hoewel schaken te gemakkelijk is, is de Turing-test nog steeds veel te moeilijk voor de computers van vandaag. Zo is bedrog - waartoe een krachtige computerspeler in de Turing-test zeker in staat zou moeten zijn - een ongelooflijk complex concept. Iemand aansporen om per abuis een onjuist idee te accepteren, vereist dat de computer niet alleen begrijpt dat het idee onjuist is, maar ook de talloze subtiele verbanden die bestaan tussen het idee en de overtuigingen, houdingen en talloze andere ideeën van die persoon.
Hoewel de Turing-test momenteel buiten het bereik is van de slimste van onze machines, is er misschien een eenvoudigere manier om te beslissen tussen de sterke en zwakke vormen van AI-one die creativiteit benadrukt, wat misschien wel het echte probleem is in de Strong vs. Zwakke botsing. De test die ik voorstel is eenvoudig: kan een machine een verhaal vertellen?
Hoewel de deugd van deze test op het eerste gezicht misschien niet voor de hand liggend lijkt, zijn er enkele interessante redenen om te denken dat het een goede indicatie van geestesgesteldheid is. Bijvoorbeeld, de dominante test van creativiteit die wordt gebruikt in psychologie-Torance Tests of Creative Thinking-vraag onderwerpen om verhalen te produceren.
Noch is de aanwezigheid van een verhaal in deze tests willekeurig; veel cognitieve wetenschappers beweren aannemelijk dat het verhaal de kern vormt van de menselijke cognitie. Roger Schank, een bekende cognitieve wetenschapper aan de Northwestern University, beweert stoutmoedig dat vrijwel alle menselijke kennis gebaseerd is op verhalen. Zijn fundamentele claim is dat wanneer je je het verleden herinnert, je het herinnert als een reeks verhalen, en als je informatie communiceert, lever je het ook in de vorm van verhalen.
Maar misschien wel het belangrijkste voor deze discussie, zou het verhaalspel de kern raken van het onderscheid tussen sterke en zwakke AI. Mensen vinden het onmogelijk om literatuur te produceren zonder de standpunten van personages over te nemen, dat wil zeggen, zonder te voelen hoe het is om deze personages te zijn; vandaar dat menselijke auteurs verhalen genereren door te kapitaliseren op het feit dat ze zich bewust zijn in de ruimste zin van het woord - wat betekent dat ze zich tegelijkertijd bewust zijn van zichzelf, van een andere persoon en van de relatie (of het ontbreken daarvan) tussen de twee personen.
Diep verhaal
Het lijkt erop dat een verhalenspel daarom een betere test zou zijn of computers kunnen denken dan de schaak- en damspellen die momenteel de boventoon voeren op AI-conferenties. Maar hoe zou het verhaalspel eruit zien? In het verhalenspel gaven we zowel de computer als een meesterlijke menselijke verteller een relatief eenvoudige zin, zeg: Gregor werd wakker en ontdekte dat zijn buik zo hard was als een schelp, en dat waar zijn rechterarm had gezeten, nu een tentakel. Beide spelers moeten dan een verhaal vormgeven dat ontworpen is om echt interessant te zijn, hoe meer literair van aard - in termen van rijke karakterisering, gebrek aan voorspelbaarheid en interessante taal - hoe beter. We zouden dan een mens de verhalen kunnen laten beoordelen, zodat, zoals in de Turing-test, wanneer zo'n rechter niet kan zien welke reactie van de mechanische muze komt en welke van de mens, we zeggen dat de machine het spel heeft gewonnen.
Hoe zullen toekomstige machines het doen in zo'n spel? Ik denk dat de lengte van het verhaal een belangrijke variabele is. Een verhaalspel waarin de geest tegen de machine wordt opgezet waarin de lengte en complexiteit van het verhaal een open einde heeft, zou zeker de nederlaag van de machine voor de komende eeuwen bezegelen. Hoewel voorstanders van Strong AI zouden stellen dat een machine uiteindelijk zou kunnen zegevieren in een wedstrijd om te zien of de geest of de machine een betere roman zou kunnen produceren, zouden zelfs zij het erover eens zijn dat het vandaag de dag ondenkbaar is om zo'n machine te bouwen. De taak zou zo moeilijk zijn dat niemand zou weten waar te beginnen.
Kortom, hoewel de Turing-test, zoals opgemerkt, momenteel te moeilijk is om het formaat voor mind-machine-concurrentie te bieden, denken veel mensen dat ze zich een nabije toekomst kunnen voorstellen waarin een machine zijn mannetje zal staan in deze test. Als het echter om het onbeperkte verhaalspel gaat, is zo'n toekomst gewoon niet denkbaar. We kunnen ons natuurlijk een toekomst voorstellen waarin een computer een roman print, maar we kunnen ons de algoritmen die achter de schermen zouden werken niet voorstellen.
Dus om Strong AI-supporters een kans te geven om te vechten, zou ik de competitie beperken tot de kortste korte verhalen, bijvoorbeeld minder dan 500 woorden. Deze versie van het spel zou een verleidelijke uitdaging moeten zijn voor Strong AI-ingenieurs. En, net als de volledige versie, vereist het creativiteit van degenen - geest of machine - die het zouden spelen.
Hoe kunnen toekomstige machines het dan opnemen tegen menselijke auteurs als ze allemaal die ene zin krijgen als startpunt voor een kort kort verhaal?
Ik ben misschien niet slecht gepositioneerd om voorspellingen te doen. Met hulp van de Luce Foundation, Apple Computer, IBM, Rensselaer Polytechnic Institute (RPI) en de National Science Foundation heb ik de afgelopen zeven jaar (en ongeveer driekwart miljoen dollar) gewerkt met een aantal onderzoekers- met name Marie Meteer, een wetenschapper bij Bolt, Beranek en Newman; David Porush, een professor aan RPI; en David Ferrucci, een senior wetenschapper bij IBM's T.J. Watson Research Center - om een formidabele kunstmatige auteur van korte korte verhalen op te bouwen.
Een deel van wat mij en andere onderzoekers drijft in de zoektocht naar het maken van dergelijke synthetische Prousts, Joyces en Kafkas, is de overtuiging dat echt intelligente stand-alone entertainmentsystemen van de toekomst onder andere AI-systemen nodig hebben die weten hoe ze moeten creëren en directe verhalen. In de virtuele verhaalwerelden van de toekomst, vol met kunstmatige personages, zullen dingen zich in realtime te snel ontvouwen voor een mens om het proces te begeleiden. De game-industrie loopt momenteel een dunne lijn tussen het rigide voorschrijven van een game en dingen willekeurig laten gebeuren wanneer mensen keuzes maken. Wat hard nodig is, is een kunstmatige intelligentie die in staat is om gebeurtenissen tot een continue verhalende draad te leiden en tegelijkertijd menselijke spelers in staat te stellen te spelen in een schijnbaar oneindige ruimte van plottrajecten.
Het meest recente resultaat van mijn zwoegen in dit opzicht (in samenwerking met Ferrucci en Adam Lally, een software-ingenieur bij Legal Knowledge Systems of Troy, NY) is een kunstmatige agent genaamd Brutus.1, zo genoemd omdat het literaire concept waarin het gespecialiseerd is, is bedrog. Helaas is Brutus.1 niet in staat om het korte verhaalspel te spelen. Het heeft kennis over de ontologie van academische professoren, proefschriften, studenten, klassen, enzovoort; maar het zou verlamd worden door een vraag buiten zijn kennisbasis. Het weet bijvoorbeeld niets van de anatomie van insecten. Daarom zou de zin met betrekking tot Gregor leeg zijn.
Desalniettemin is Brutus.1 in staat om korte korte verhalen te schrijven - als de verhalen gebaseerd zijn op het idee van verraad (evenals zelfbedrog, kwaad, en tot op zekere hoogte voyeurisme), die geen weinig belovende literaire verwaandheden zijn (zie kader, Betrayal, door Brutus.1-evenals Richard III, Macbeth, Othello.)
Dergelijke bijna-belletristische prestaties zijn alleen mogelijk voor Brutus.1 omdat Ferrucci en ik in staat waren om een formele wiskundige definitie van verraad te bedenken en Brutus.1 van het concept te voorzien (zie kader, The Mathematization of Betrayal). Maar om Brutus.1 aan te passen om goed te spelen in een spel met korte verhalen, zou het zeker niet alleen verraad moeten begrijpen, maar ook andere grote literaire thema's zoals onbeantwoorde liefde, wraak, jaloezie, vadermoord, enzovoort.
Voor altijd onbewust
Ik heb nog drie jaar te gaan met mijn tienjarige project om een formidabele siliconen Hemingway te bouwen. Op dit punt, hoewel Brutus.1 indrukwekkend is en hoewel het onze bedoeling is om afstammelingen van Brutus.1 te maken die een volledige aanvulling van literaire concepten en meer kunnen begrijpen, lijkt het vrij duidelijk dat computers nooit de beste menselijke verhalenvertellers zullen zijn in zelfs een korte verhalenwedstrijd.
Uit ons werk blijkt duidelijk dat een machine, om een werkelijk meeslepend verhaal te vertellen, de innerlijke levens van zijn of haar personages moet begrijpen. En om dat te doen, zou het niet alleen mechanisch moeten denken in de zin van snelle berekening (de kracht van supercomputers zoals Deep Blue), het zou ook ervaringsgericht moeten denken in de zin van subjectief of fenomenaal bewustzijn. Iemand kan bijvoorbeeld ervaringsgericht denken aan een reis naar Europa als kind, zich herinneren hoe het was om op een zonnige dag in Parijs te zijn met een oudere broer, een rit over een fairway kapot maken, de aanraking van een geliefde voelen, skiën op de rand, of behoefte aan een goede nachtrust. Maar zo'n voorbeeld, zo beweer ik, zal capaciteiten vereisen die geen enkele machine ooit zal hebben.
Gerenommeerde menselijke verhalenvertellers begrijpen dit concept. Zo zei toneelschrijver Henrik Ibsen: Ik moet het personage door en door voor ogen hebben, ik moet doordringen tot de laatste rimpel van zijn ziel. Zo'n modus operandi is voor altijd afgesloten voor een machine.
Als aanhangers van Strong AI ernaar streven een machine te bouwen die in staat is om te zegevieren in het korte verhaalspel, moeten ze daarom streven om precies te bouwen wat Strong van Weak AI onderscheidt: een bewuste machine. Maar bij het streven naar zo'n machine wachten Strong AI-onderzoekers op een hoogtepunt dat voor altijd zal komen, nooit aanwezig zal zijn.
Gelovigen in zwakke AI, zoals ik, zullen proberen systemen te ontwikkelen die, bij gebrek aan het vermogen van Ibsen om door de ogen van een ander naar buiten te kijken, rijkelijk getekende karakters zullen creëren. Maar hoewel ik verwacht vooruitgang te boeken, verwacht ik dat, in tegenstelling tot schaken, eersteklas verhalen vertellen, zelfs bij de bescheiden lengte van korte korte verhalen, altijd het enige domein van menselijke meesters zal zijn.
Toch ga ik door met de laatste drie jaar van mijn project, vooral omdat ik verwacht veel plezier te hebben, en ook om met enige autoriteit te kunnen zeggen dat machines niet creatief en bewust kunnen zijn (gezien hoe Ik gebruik de modernste technieken), en om werkende systemen te produceren die een aanzienlijke wetenschappelijke en economische waarde zullen hebben.
Kasparov zal ongetwijfeld binnenkort terugkeren voor een nieuwe schaakronde met Deep Blue of zijn nakomelingen, en hij kan heel goed winnen. Sterker nog, ik vermoed dat het nog 10 jaar zal duren voordat machineschakers de grootmeesters toernooi na toernooi verslaan. Maar snel genoeg zullen Kasparov en degenen die zijn troon bestijgen steevast verliezen.
Maar dat is niet het geval als we kijken naar de kansen van degenen die niet alleen grote schakers, maar ook grote auteurs zouden willen vernederen. Ik geloof niet dat John Updike of zijn opvolgers ooit in het heetst van een verhalenspel terecht zullen komen, zwetend onder lampen die zo helder en heet zijn als de lampen die op Gary Kasparov schenen.