Paul Allen: De singulariteit is niet nabij

Futuristen houden van Vernor Vinge en Ray Kurzweil hebben betoogd dat de wereld snel een omslagpunt nadert, waar het versnellende tempo van slimmere en slimmere machines binnenkort alle menselijke capaciteiten zal overtreffen. Ze noemen dit omslagpunt de singulariteit , omdat ze geloven dat het onmogelijk is om te voorspellen hoe de toekomst van de mens zich na dit punt zou kunnen ontvouwen. Als deze machines eenmaal bestaan, beweren Kurzweil en Vinge, zullen ze een bovenmenselijke intelligentie bezitten die zo onbegrijpelijk voor ons is dat we niet eens rationeel kunnen raden hoe onze levenservaringen zouden veranderen. Vinge vraagt ons om na te denken over de rol van mensen in een wereld waar machines net zo veel slimmer zijn dan wij als wij slimmer zijn dan onze honden en katten. Kurzweil, die wat optimistischer is, ziet een toekomst waarin ontwikkelingen in medische nanotechnologie ons in staat zullen stellen een kopie van onze individuele hersenen in deze bovenmenselijke machines te downloaden, ons lichaam achter te laten en, in zekere zin, voor altijd te leven. Het is bedwelmend spul.

Krediet: technologiebeoordeling

Hoewel we veronderstellen dat dit soort singulariteit ooit zou kunnen voorkomen, denken we niet dat het dichtbij is. Sterker nog, we denken dat het nog heel lang zal duren. Kurzweil is het daar niet mee eens, op basis van zijn extrapolaties over het tempo van relevante wetenschappelijke en technische vooruitgang. Hij redeneert dat de snelheid van vooruitgang in de richting van de singulariteit niet alleen een vooruitgang is van gestaag toenemend vermogen, maar in feite exponentieel versnelt - wat Kurzweil de Wet van het versnellen van rendementen . Hij schrijft dat:

Dus we zullen geen 100 jaar vooruitgang ervaren in de 21e eeuw - het zal meer zijn als 20.000 jaar vooruitgang (in het huidige tempo). Ook de opbrengsten, zoals chipsnelheid en kosteneffectiviteit, nemen exponentieel toe. Er is zelfs exponentiële groei in de snelheid van exponentiële groei. Binnen enkele decennia zal machine-intelligentie de menselijke intelligentie overtreffen, wat leidt tot The Singularity … [een]

Door door een reeks modellen en historische gegevens te werken, berekent Kurzweil op beroemde wijze dat de singulariteit rond 2045 zal arriveren.

Deze voorspelling lijkt ons nogal vergezocht. Natuurlijk zijn we ons ervan bewust dat de geschiedenis van wetenschap en technologie bezaaid is met mensen die vol vertrouwen beweren dat een of andere gebeurtenis niet kan plaatsvinden, maar dat later wordt bewezen dat ze ongelijk hebben - vaak op spectaculaire wijze. We erkennen dat het mogelijk maar hoogst onwaarschijnlijk is dat Kurzweil uiteindelijk in het gelijk wordt gesteld. Een volwassen brein is een eindig ding, dus de fundamentele werking ervan kan uiteindelijk bekend worden door aanhoudende menselijke inspanning. Maar als de singulariteit er in 2045 moet komen, zijn er onvoorziene en fundamenteel onvoorspelbare doorbraken nodig, en niet omdat de Wet van de Versnelde Rendementen het het onvermijdelijke resultaat heeft gemaakt van een specifiek exponentieel tempo van vooruitgang.

De redenering van Kurzweil is gebaseerd op de wet van versnellende opbrengsten en zijn broers en zussen, maar dit zijn geen fysieke wetten. Het zijn beweringen over hoe eerdere wetenschappelijke en technische vooruitgang de toekomstige koers kan voorspellen. Daarom zullen deze wetten, net als andere pogingen om de toekomst uit het verleden te voorspellen, werken totdat ze dat niet doen. Wat problematischer is voor de singulariteit, is dat dit soort extrapolaties veel van hun algehele exponentiële vorm ontlenen aan de veronderstelling dat er een constante aanvoer van steeds krachtigere computermogelijkheden zal zijn. Om de wet van toepassing te laten zijn en de singulariteit rond 2045 te laten plaatsvinden, moet de vooruitgang in capaciteit niet alleen plaatsvinden in de hardwaretechnologieën van een computer (geheugen, verwerkingskracht, bussnelheid, enz.) meer capabele computers. Om de singulariteit te bereiken, is het niet voldoende om de huidige software sneller te laten draaien. We zouden ook slimmere en capabelere softwareprogramma's moeten bouwen. Het maken van dit soort geavanceerde software vereist een voorafgaand wetenschappelijk begrip van de fundamenten van menselijke cognitie, en we schrapen slechts de oppervlakte hiervan.

Deze voorafgaande behoefte om de basiswetenschap van cognitie te begrijpen, is waar de singulariteit dichtbij argumenten ons niet kan overtuigen. Het is waar dat computerhardwaretechnologie zich verbazingwekkend snel kan ontwikkelen als we eenmaal een solide wetenschappelijk kader en voldoende economische prikkels hebben. Het creëren van de software voor een echte computerintelligentie op singulariteitsniveau vereist echter fundamentele wetenschappelijke vooruitgang die verder gaat dan waar we nu zijn. Dit soort vooruitgang is heel anders dan de Moore's Law-achtige evolutie van computerhardwaremogelijkheden die Kurzweil en Vinge inspireerden. Om de complexe software te bouwen die de singulariteit mogelijk maakt, moeten we eerst een gedetailleerd wetenschappelijk begrip hebben van hoe het menselijk brein werkt, dat we kunnen gebruiken als een architecturale gids, of anders alles creëren nog een keer . Dit betekent niet alleen de fysieke structuur van de hersenen kennen, maar ook hoe de hersenen reageren en veranderen, en hoe miljarden parallelle neuroninteracties kunnen resulteren in menselijk bewustzijn en origineel denken. Het is niet onmogelijk om dit soort uitgebreid begrip van de hersenen te krijgen. Als de singulariteit zich gaat voordoen op zoiets als Kurzweils tijdlijn, dan hebben we absoluut een enorme versnelling van onze wetenschappelijke vooruitgang nodig om elk facet van het menselijk brein te begrijpen.

Maar de geschiedenis leert ons dat het proces van oorspronkelijke wetenschappelijke ontdekking zich gewoon niet zo gedraagt, vooral niet op complexe gebieden zoals neurowetenschap, kernfusie of kankeronderzoek. Algehele wetenschappelijke vooruitgang bij het begrijpen van de hersenen lijkt zelden op een ordelijke, onverbiddelijke mars naar de waarheid, laat staan ​​een exponentieel versnellende. In plaats daarvan zijn wetenschappelijke vorderingen vaak onregelmatig, met onvoorspelbare flitsen van inzicht die het langzame uitputtende laboratoriumwerk accentueren van het creëren en testen van theorieën die passen bij experimentele observaties. Echt significante conceptuele doorbraken komen niet wanneer voorspeld, en om de zoveel tijd razen er nieuwe wetenschappelijke paradigma's door het veld en zorgen ervoor dat wetenschappers delen van wat ze dachten dat ze hadden geregeld, opnieuw te evalueren. We zien dit in de neurowetenschappen met de ontdekking van langetermijnpotentiëring, de kolomvormige organisatie van corticale gebieden en neuroplasticiteit. Dit soort fundamentele verschuivingen ondersteunen niet de algehele versnelling van Moore's Law-stijl die nodig is om tot de singulariteit op het schema van Kurzweil te komen.

De complexiteitsrem

Het voorgaande wijst op een fundamentele kwestie van hoe snel een wetenschappelijk adequate beschrijving van menselijke intelligentie kan worden ontwikkeld. We noemen dit probleem de complexiteit rem . Naarmate we dieper en dieper gaan in ons begrip van natuurlijke systemen, merken we meestal dat we meer en meer gespecialiseerde kennis nodig hebben om ze te karakteriseren, en we worden gedwongen om onze wetenschappelijke theorieën voortdurend op steeds complexere manieren uit te breiden. Het begrijpen van de gedetailleerde mechanismen van menselijke cognitie is een taak die onderhevig is aan deze complexiteitsrem. Denk maar eens na over wat er nodig is om het menselijk brein op microniveau grondig te begrijpen. De complexiteit van de hersenen is gewoon geweldig. Elke structuur is precies gevormd door miljoenen jaren van evolutie om een ​​bepaald ding te doen, wat het ook mag zijn. Het is niet zoals een computer, met miljarden identieke transistors in gewone geheugenarrays die worden bestuurd door een CPU met een paar verschillende elementen. In de hersenen is elke individuele structuur en elk neuraal circuit individueel verfijnd door evolutie en omgevingsfactoren. Hoe beter we naar de hersenen kijken, hoe groter de mate van neurale variatie die we vinden. Het begrijpen van de neurale structuur van het menselijk brein wordt steeds moeilijker naarmate we meer leren. Anders gezegd, hoe meer we leren, hoe meer we beseffen dat er te weten valt, en hoe meer we terug moeten gaan om onze eerdere inzichten te herzien. We geloven dat er op een dag een einde komt aan deze gestage toename van complexiteit - de hersenen zijn tenslotte een eindige reeks neuronen en werken volgens fysieke principes. Maar voor de nabije toekomst is het de complexiteitsrem en de komst van krachtige nieuwe theorieën, in plaats van de wet van versnellende opbrengsten, die het tempo van de wetenschappelijke vooruitgang zal bepalen die nodig is om de singulariteit te bereiken.

Dus hoewel we denken dat een fijnmazig begrip van de neurale structuur van de hersenen uiteindelijk haalbaar is, is dit niet het soort gebied gebleken waarop we exponentieel snellere vooruitgang kunnen boeken. Maar stel dat wetenschappers een briljante nieuwe vooruitgang boeken in hersenscantechnologie. Voorstanders van singulariteit beweren vaak dat we computerintelligentie kunnen bereiken door simpelweg de hersenen van onderaf numeriek te simuleren vanuit een gedetailleerd beeld op neuraal niveau. Kurzweil voorspelt bijvoorbeeld de ontwikkeling van niet-destructieve hersenscanners waarmee we nauwkeurig een momentopname kunnen maken van het levende brein van een persoon op subneuronniveau. Hij stelt voor dat deze scanners hoogstwaarschijnlijk vanuit de hersenen zouden werken via miljoenen injecteerbare medische nanobots. Maar ongeacht of het scannen op nanobots lukt (en we weten niet eens of dit mogelijk is), betoogt Kurzweil in wezen dat dit de benodigde wetenschappelijke vooruitgang is die de singulariteit zal poorten: computers kunnen eenvoudigweg intelligentie op menselijk niveau vertonen door de toestand en connectiviteit van elk van de neuronen van een brein in een enorme digitale hersensimulator te laden, inputs en outputs aan te sluiten en op start te drukken.

De moeilijkheid om software op menselijk niveau te bouwen gaat echter dieper dan het computationeel modelleren van de structurele verbindingen en biologie van elk van onze neuronen. Hersenduplicatiestrategieën zoals deze veronderstellen dat er geen fundamenteel probleem is om tot menselijke cognitie te komen, behalve het hebben van voldoende computerkracht en neuronstructuurkaarten om de simulatie uit te voeren. [twee] Hoewel dit theoretisch waar kan zijn, is het in de praktijk niet zo uitgekomen, omdat het niet alles behandelt wat echt nodig is om de software te bouwen. Als we bijvoorbeeld software willen bouwen om het vermogen van een vogel om in verschillende omstandigheden te vliegen te simuleren, is het hebben van een volledig diagram van de anatomie van vogels niet voldoende. Om de vlucht van een echte vogel volledig te simuleren, moeten we ook weten hoe alles in elkaar zit. In de neurowetenschappen is er een parallelle situatie. Er zijn honderden pogingen gedaan (met behulp van veel verschillende organismen) om simulaties van verschillende neuronen samen met hun chemische omgeving aan elkaar te koppelen. Het uniforme resultaat van deze pogingen is dat je, om een ​​adequate simulatie van de werkelijk voortdurende neurale activiteit van een organisme te maken, ook een enorme hoeveelheid kennis nodig hebt over de functioneel rol die deze neuronen spelen, hoe hun verbindingspatronen evolueren, hoe ze in groepen worden gestructureerd om ruwe stimuli in informatie om te zetten, en hoe neurale informatieverwerking uiteindelijk het gedrag van een organisme beïnvloedt. Zonder deze informatie is het onmogelijk gebleken om effectieve computergebaseerde simulatiemodellen te construeren. Vooral voor de cognitieve neurowetenschap van de mens komen we niet in de buurt van het vereiste niveau van functionele kennis. Brein simulatie projecten die vandaag aan de gang is, modelleert slechts een kleine fractie van wat neuronen doen en mist de details om volledig te simuleren wat er in een brein gebeurt. Het tempo van het onderzoek op dit gebied, hoewel bemoedigend, lijkt nauwelijks exponentieel te zijn. Nogmaals, naarmate we meer en meer leren over de werkelijke complexiteit van hoe de hersenen functioneren, is het belangrijkste dat we ontdekken dat het probleem eigenlijk steeds moeilijker wordt.

De AI-aanpak

Voorstanders van singulariteit doen af ​​en toe een beroep op ontwikkelingen op het gebied van kunstmatige intelligentie (AI) als een manier om het trage tempo van de algehele wetenschappelijke vooruitgang in bottom-up, op neurowetenschappen gebaseerde benaderingen van cognitie te omzeilen. Het is waar dat AI grote successen heeft geboekt bij het dupliceren van bepaalde geïsoleerde cognitieve taken, meest recentelijk met IBM's Watson-systeem voor Gevaar! vraag beantwoorden. Maar als we een stap terug doen, kunnen we zien dat de algehele op AI gebaseerde mogelijkheden ook niet exponentieel zijn toegenomen, althans niet gemeten aan de hand van het creëren van een volledig algemene menselijke intelligentie. Hoewel we veel hebben geleerd over het bouwen van individuele AI-systemen die schijnbaar intelligente dingen doen, zijn onze systemen altijd gebleven bros -hun prestatiegrenzen zijn strikt bepaald door hun interne aannames en definiërende algoritmen, ze kunnen niet generaliseren en ze geven vaak onzinnige antwoorden buiten hun specifieke aandachtsgebieden. Een computerprogramma dat uitstekend kan schaken, kan zijn vaardigheden niet gebruiken om andere spellen te spelen. De beste medische diagnoseprogramma's bevatten enorm gedetailleerde kennis van het menselijk lichaam, maar kunnen niet afleiden dat een koorddanser een geweldig evenwichtsgevoel zou hebben.

Waarom is het voor AI-onderzoekers zo moeilijk gebleken om mensachtige intelligentie te bouwen, zelfs op kleine schaal? Eén antwoord betreft het wetenschappelijke basiskader dat AI-onderzoekers gebruiken. Naarmate mensen opgroeien van baby's tot volwassenen, beginnen ze met het verwerven van algemene kennis over de wereld, en breiden en verfijnen deze algemene kennis vervolgens voortdurend met specifieke kennis over verschillende gebieden en contexten. AI-onderzoekers hebben doorgaans geprobeerd het tegenovergestelde te doen: ze hebben systemen gebouwd met diepgaande kennis van smalle gebieden en probeerden een meer algemene capaciteit te creëren door deze systemen te combineren. Deze strategie is over het algemeen niet succesvol geweest, hoewel Watsons prestaties op Gevaar! geeft aan dat paden als deze nog veelbelovend kunnen zijn. De weinige pogingen die zijn gedaan om direct een grote hoeveelheid algemene kennis van de wereld te creëren en vervolgens de gespecialiseerde kennis van een domein toe te voegen (bijvoorbeeld het werk van Cycorp ), hebben ook slechts beperkt succes gehad. En in ieder geval beginnen AI-onderzoekers nog maar net te theoretiseren over hoe de complexe fenomenen die de menselijke cognitie zijn unieke flexibiliteit geven, effectief kunnen worden gemodelleerd: onzekerheid, contextuele gevoeligheid, vuistregels, zelfreflectie en de flitsen van inzicht die essentieel zijn tot denken op een hoger niveau. Net als in de neurowetenschap, lijkt de op AI gebaseerde route naar het bereiken van computerintelligentie op singulariteitsniveau nog veel meer ontdekkingen, enkele nieuwe Nobel-kwaliteitstheorieën en waarschijnlijk zelfs geheel nieuwe onderzoeksbenaderingen te vereisen die niet in verhouding staan ​​tot wat we nu geloven. Dit soort fundamentele wetenschappelijke vooruitgang vindt niet plaats op een betrouwbare exponentiële groeicurve. Dus hoewel ontwikkelingen in AI uiteindelijk de weg naar de singulariteit zouden kunnen zijn, vertraagt ​​de complexiteitsrem opnieuw onze voortgang en duwt de singulariteit aanzienlijk naar de toekomst.

De verbazingwekkende complexiteit van de menselijke cognitie zou een waarschuwing moeten zijn voor degenen die beweren dat de singulariteit dichtbij is. Zonder een wetenschappelijk diep begrip van cognitie, kunnen we niet de software maken die de singulariteit zou kunnen opwekken. In plaats van de steeds snellere vooruitgang voorspeld door Kurzweil, geloven we dat de vooruitgang in de richting van dit begrip fundamenteel wordt vertraagd door de complexiteitsrem. Ons vermogen om dit begrip te bereiken, via de AI- of de neurowetenschappelijke benaderingen, is zelf een menselijke cognitieve handeling, die voortkomt uit de onvoorspelbare aard van menselijke vindingrijkheid en ontdekking. De vooruitgang hier wordt sterk beïnvloed door de manier waarop onze hersenen nieuwe informatie opnemen en verwerken, en door de creativiteit van onderzoekers bij het bedenken van nieuwe theorieën. Het wordt ook bepaald door de manieren waarop we onderzoekswerk op deze gebieden maatschappelijk organiseren en de kennis die daaruit voortvloeit verspreiden. Bij Vulcaan en bij de Allen Instituut voor Hersenwetenschap , werken we aan geavanceerde tools om onderzoekers te helpen met deze ontmoedigende complexiteit om te gaan en ze in hun onderzoek te versnellen. Het verkrijgen van een uitgebreid wetenschappelijk inzicht in de menselijke cognitie is een van de moeilijkste problemen die er zijn. We blijven bemoedigende vorderingen maken. Maar tegen het einde van de eeuw, denken we, zullen we ons nog steeds afvragen of de singulariteit nabij is.

Paul G. Allen, medeoprichter van Microsoft in 1975, is een filantroop en voorzitter van Vulcan, dat investeert in een reeks technologie-, ruimtevaart-, entertainment- en sportbedrijven. Mark Greaves is een computerwetenschapper die fungeert als Vulcan's directeur voor kennissystemen.

[een] Kurzweil, De wet van versnelde terugkeer, maart 2001.

[twee] We beginnen binnen het bereik te komen van de computerkracht die we misschien nodig hebben om dit soort massale hersensimulatie te ondersteunen. Petaflop-klasse computers (zoals IBM's BlueGene/P die werd gebruikt in het Watson-systeem) zijn nu in de handel verkrijgbaar. Exaflop-klasse computers liggen momenteel op de tekentafel. Deze systemen zouden waarschijnlijk de ruwe rekencapaciteit kunnen gebruiken die nodig is om de schietpatronen voor alle neuronen van een brein te simuleren, hoewel dit momenteel vele malen langzamer gaat dan in een echt brein.

UPDATE: Ray Kurzweil reageert hier.

zich verstoppen