211service.com
De singulariteit en het vaste punt
Sommige futuristen, zoals Ray Kurzweil, hebben de hypothese geopperd dat we op een dag binnenkort door een singulariteit zullen gaan - dat wil zeggen, een tijdsperiode van snelle technologische verandering waarboven we ons de toekomst van de samenleving niet kunnen voorstellen. De meeste visies op deze singulariteit zijn gericht op het creëren van machines die intelligent genoeg zijn om machines te bedenken die nog intelligenter zijn dan zijzelf, enzovoort, recursief, waardoor een positieve feedbacklus van intelligentieversterking wordt gelanceerd. Het is een intrigerende gedachte. (Een van de eerste dingen die ik wilde doen toen ik als student aan het MIT kwam, was een robotwetenschapper bouwen die sneller en beter ontdekkingen kon doen dan wie dan ook.) Zelfs de CTO van Intel, Justin Rattner, heeft onlangs publiekelijk gespeculeerd dat we zijn goed op weg naar deze singulariteit, en conferenties zoals de Singularity Summit (waarbij: Ik spreek in oktober ) onderzoeken hoe dergelijke transformaties kunnen plaatsvinden.
Als herseningenieur denk ik echter dat alleen focussen op intelligentievergroting als de motor van de toekomst een cruciaal onderdeel van de analyse weglaat, namelijk de veranderingen in motivatie die kunnen optreden naarmate de intelligentie toeneemt. Noem het de behoefte aan machineleiderschapsvaardigheden of machinefilosofie - zonder dat zou zo'n feedbacklus snel kunnen sputteren.
We weten allemaal dat intelligentie, zoals algemeen gedefinieerd, niet genoeg is om alleen de wereld te beïnvloeden. Het vermogen om hardnekkig een doel na te streven tegen obstakels, waarbij de grimmigheid van de realiteit wordt genegeerd (soms zelfs tot op het punt van begoocheling, d.w.z. tegen intelligentie), is ook belangrijk. De meeste sciencefictionverhalen geven er de voorkeur aan dat hun kunstmatige intelligentie extreem gemotiveerd is om dingen te doen, bijvoorbeeld mensen tot slaaf maken of uitroeien, als de matrix en Terminator II iets over het onderwerp te zeggen hebben. Maar even aannemelijk vind ik de robot Marvin, de superintelligente machine uit Douglas Adams’ De Hitchhiker's Guide to the Galaxy , die zijn enorme intelligentie vooral gebruikte om te klagen, bij gebrek aan enig groot doel.
Inderdaad, een echt geavanceerde intelligentie, onjuist gemotiveerd, zou de vergankelijkheid van alle dingen kunnen beseffen, berekenen dat de zon over een paar miljard jaar zal opbranden, en besluiten de rest van haar bestaan videogames te spelen, en concluderen dat het uitvinden van een nog slimmere automaat is zinloos. (Een uitvloeisel van deze manier van denken zou kunnen verklaren waarom we nog geen buitenaards leven hebben gevonden: intelligenties die op het punt staan om interstellaire reizen te bereiken, zouden geneigd kunnen zijn te denken dat met de melkwegstelsels die in slechts 1019 jaar zijn weggekookt, het misschien beter is om gewoon thuis te blijven Als men dus probeert een intelligente machine te bouwen die in staat is intelligentere machines te ontwerpen, is het belangrijk om een manier te vinden om niet alleen motivatie, maar ook motivatieversterking in te bouwen. - de aanhoudende wens om zelfvoorzienende motivatie in te bouwen, naarmate de intelligentie toeneemt. Als toekomstige generaties van intelligentie, als het ware metamotivatie, zulke motivatie willen bezitten, dan is het belangrijk om deze principes nu te ontdekken.
Er is een tweede probleem. Een intelligent wezen kan zich misschien veel meer mogelijkheden voorstellen dan een minder intelligent wezen, maar dat leidt niet altijd tot effectievere actie, vooral als sommige mogelijkheden de intelligentie afleiden van de oorspronkelijke doelen (bijv. het doel om een intelligentere intelligentie op te bouwen). ). De inherente onzekerheid van het universum kan het besluitvormingsproces van deze intelligentie ook overweldigen of irrelevant maken. Inderdaad, voor een zeer hoogdimensionale ruimte van mogelijkheden (waarbij de assen verschillende parameters van de uit te voeren actie vertegenwoordigen), kan het heel moeilijk zijn om te evalueren welk pad het beste is. De geest kan parallel plannen maken, maar acties zijn uiteindelijk unitair, en gezien de eindige beschikbare middelen, zullen effectieve acties vaak schaars zijn.
De laatste twee alinea's zijn niet alleen van toepassing op AI en ET, maar beschrijven ook kenmerken van de menselijke geest die de besluitvorming bij velen van ons soms beïnvloeden - gebrek aan motivatie en gedrevenheid, en verlamming van de besluitvorming in het licht van te veel mogelijke keuzes . Maar het wordt nog erger: we weten dat een motivatie gekaapt kan worden door opties die de bevrediging nabootsen waar de motivatie op gericht is. Drugsverslavingen plagen alleen al in de Verenigde Staten tientallen miljoenen mensen, en verslavingen aan subtielere dingen, waaronder bepaalde soorten informatie (zoals e-mail), zijn ook prominent aanwezig. En weinig kunsten zijn uitdagender dan het doorgeven van motivatie aan de volgende generatie, voor het nastreven van een groot idee. Intelligenties die steeds interessantere en boeiendere technologieën uitvinden, die hun aandacht beter kunnen grijpen en vasthouden, terwijl ze de impact op de wereld verminderen, kunnen het tegenovergestelde van een singulariteit betreden.
Wat is het tegenovergestelde van een singulariteit? De singulariteit hangt af van een wiskundige recursie: bedenk een superintelligentie, en dan zal het een nog krachtigere superintelligentie uitvinden. Maar zoals elke wiskundestudent weet, zijn er andere uitkomsten van een herhaald proces, zoals een vast punt. Een vast punt is een punt dat, wanneer een functie wordt toegepast, hetzelfde punt weer oplevert. Het toepassen van een dergelijke functie op punten nabij het vaste punt zal ze vaak naar het vaste punt sturen.
Een maatschappelijk vast punt kan daarom worden gedefinieerd als een staat die zichzelf versterkt en in de status-quo blijft - die in principe vreedzaam en zichzelf in stand kan houden, maar ook extreem saai kan zijn - bijvoorbeeld, waarbij veel mensen betrokken zijn die op internet zijn aangesloten voor altijd video's kijken. Daarom willen wij als mensen misschien binnenkort beginnen met het opstellen van ontwerpregels voor technologieën, zodat ze ons motiveren tot een hoog doel of einde - of in ieder geval weg van doodlopende maatschappelijke vaste punten. Bij dit proces moet worden nagedacht over hoe technologie kan helpen een oude kwestie van de filosofie het hoofd te bieden, namelijk: wat moet ik doen, gezien al deze mogelijke paden? Misschien is het tijd voor een empirisch antwoord op deze vraag, afgeleid van de eigenschappen van onze hersenen en het universum waarin we leven.