Kunstmatige algemene intelligentie: zijn we dichtbij, en heeft het zelfs zin om het te proberen?

Ariel Davis

Het idee van kunstmatige algemene intelligentie zoals we die vandaag kennen, begint met een dotcom-uitbarsting op Broadway.

Twintig jaar geleden - voordat Shane Legg een klik had met neurowetenschappen postgrad Demis Hassabis over een gedeelde fascinatie voor intelligentie; voordat het paar contact maakte met Hassabis' jeugdvriend Mustafa Suleyman, een progressieve activist, om die fascinatie om te zetten in een bedrijf genaamd DeepMind; voordat Google dat bedrijf vier jaar later voor meer dan een half miljard dollar kocht - werkte Legg bij een startup in New York genaamd Webmind, opgericht door AI-onderzoeker Ben Goertzel. Vandaag vertegenwoordigen de twee mannen twee heel verschillende takken van de toekomst van kunstmatige intelligentie, maar hun wortels reiken terug naar een gemeenschappelijke basis.

Zelfs voor de onstuimige dagen van de dotcom-bubbel waren de doelen van Webmind ambitieus. Goertzel wilde een digitaal babybrein en het op het internet vrijgeven, waar hij geloofde dat het zou opgroeien tot volledig zelfbewust en veel slimmer dan mensen. We staan ​​aan de vooravond van een transitie die even groot is als de komst van intelligentie, of de opkomst van taal, vertelde hij de Christelijke Wetenschapsmonitor in 1998.

Webmind probeerde zichzelf te financieren door een hulpmiddel te bouwen om het gedrag van financiële markten aan de zijkant te voorspellen, maar de grotere droom kwam nooit uit. Nadat hij $ 20 miljoen had verbrand, werd Webmin uit zijn kantoren in het zuidelijke puntje van Manhattan gezet en stopte met het betalen van zijn personeel. In 2001 werd het faillissement aangevraagd.

Ben Goertzel

WIKIMEDIA COMMONS

Maar Legg en Goertzel hielden contact. Toen Goertzel een boek aan het samenstellen was essays over bovenmenselijke AI een paar jaar later was het Legg die met de titel op de proppen kwam. Ik was aan het praten met Ben en ik dacht: 'Nou, als het gaat om de algemeenheid die AI-systemen nog niet hebben, zouden we het gewoon moeten noemen Kunstmatige algemene intelligentie ’, zegt Legg, die nu de hoofdwetenschapper van DeepMind is. En AGI heeft een soort van klank als een acroniem.

De term bleef hangen. Het boek van Goertzel en het jaarboek AGI-conferentie die hij in 2008 lanceerde, hebben van AGI een veelgebruikt modewoord gemaakt voor mensachtige of bovenmenselijke AI. Maar het is ook een grote bugbeer geworden. Ik hou niet van de term AGI, zegt Jerome Pesenti, hoofd AI bij Facebook. Ik weet niet wat het betekent.

Hij is niet alleen. Een deel van het probleem is dat AGI een verzamelnaam is voor de hoop en angst rond een hele technologie. In tegenstelling tot wat vaak wordt gedacht, gaat het niet echt om machinebewustzijn of denkende robots (hoewel veel AGI-mensen daar ook van dromen). Maar het gaat om groot denken. Veel van de uitdagingen waarmee we vandaag worden geconfronteerd, van klimaatverandering tot falende democratieën tot crises op het gebied van de volksgezondheid, zijn enorm complex. Als we machines hadden die konden denken zoals wij of beter - sneller en zonder moe te worden - dan zouden we misschien een grotere kans hebben om deze problemen op te lossen. Zoals de computerwetenschapper I.J. Goed verwoord in 1965: de eerste ultraintelligente machine is de laatste uitvinding die de mens ooit hoeft te doen.

Elon Musk, die vroeg in DeepMind investeerde en samenwerkte met een kleine groep mega-investeerders, waaronder Peter Thiel en Sam Altman, om $ 1 miljard in OpenAI te stoppen, heeft een persoonlijk merk gemaakt van wilde voorspellingen. Maar als hij spreekt, luisteren miljoenen. Een paar maanden geleden vertelde hij de New York Times dat bovenmenselijke AI is minder dan vijf jaar verwijderd . Het komt heel snel op ons af, zei hij op de Lex Fridman-podcast . Dan moeten we bedenken wat we moeten doen, als we die keuze al hebben.

In mei, Pesenti teruggeschoten . Elon Musk heeft geen idee waar hij het over heeft, tweette hij. Er bestaat niet zoiets als AGI en we komen bij lange na niet in de buurt van menselijke intelligentie. Musk antwoordde: Facebook zuigt.

Dergelijke opflakkeringen zijn niet ongewoon. Hier is Andrew Ng , voormalig hoofd van AI bij Baidu en medeoprichter van Google Brain: laten we de AGI-onzin weglaten en meer tijd besteden aan de urgente problemen.

En Julian Togelius , een AI-onderzoeker aan de New York University: Geloof in AGI is als geloof in magie. Het is een manier om rationeel denken op te geven en hoop/angst te uiten voor iets dat niet kan worden begrepen. Blader door de #noAGI-hashtag op Twitter en je zult veel van de zware slagmensen van AI tegenkomen, waaronder Yann LeCun , Facebook's hoofd AI-wetenschapper, die in 2018 de Turing Award won.

Maar met de recente reeks successen van AI, van de bordspelkampioen AlphaZero tot de overtuigende neptekstgenerator GPT-3, is het gebabbel over AGI sterk toegenomen. Hoewel deze tools nog verre van algemene intelligentie vertegenwoordigen - AlphaZero kan geen verhalen schrijven en GPT-3 kan niet schaken, laat staan ​​begrijpen waarom verhalen en schaken belangrijk zijn voor mensen - wordt het doel om een ​​AGI te bouwen, ooit voor gek gehouden, acceptabel aan het worden nog een keer.

Enkele van de grootste, meest gerespecteerde AI-labs ter wereld nemen dit doel zeer serieus. OpenAI heeft gezegd dat het wil zijn de eerste die een machine bouwde met mensachtige redeneervermogens . De onofficiële maar veel herhaalde missie van DeepMind is om: intelligentie oplossen . Topmensen in beide bedrijven bespreken deze doelen graag in termen van AGI.

Een halve eeuw later zijn we nog lang niet in de buurt van het maken van een AI met de multitasking-capaciteiten van een mens - of zelfs een insect.

Praten over AGI in de vroege jaren 2000 bracht je in de gekke marge, zegt Legg. Zelfs toen we DeepMind in 2010 startten, kregen we een verbazingwekkende hoeveelheid oogrollen op conferenties. Maar er zijn dingen aan het veranderen. Sommige mensen voelen zich er ongemakkelijk bij, maar het komt uit de kou', zegt hij.

Dus waarom is AGI controversieel? Waarom maakt het uit? En is het een roekeloze, misleidende droom - of het uiteindelijke doel?

Wat is AGI?

De term is al iets meer dan een decennium populair, maar de ideeën die erin worden samengevat, bestaan ​​al een heel leven.

In de zomer van 1956 kwamen een tiental wetenschappers bijeen aan het Dartmouth College in New Hampshire om te werken aan wat volgens hen een bescheiden onderzoeksproject zou zijn. AI-pioniers John McCarthy, Marvin Minsky, Nat Rochester en Claude Shannon gaven de workshop vooraf schreef : Het onderzoek moet plaatsvinden op basis van de veronderstelling dat elk aspect van leren of elk ander kenmerk van intelligentie in principe zo nauwkeurig kan worden beschreven dat er een machine kan worden gemaakt om het te simuleren. Er zal worden geprobeerd te ontdekken hoe machines taal kunnen gebruiken, abstracties en concepten kunnen vormen, problemen kunnen oplossen die nu voorbehouden zijn aan mensen, en zichzelf kunnen verbeteren. Ze dachten dat dit 10 mensen twee maanden zou kosten.

Fast-forward naar 1970 en hier is Minsky opnieuw, onverschrokken: binnen drie tot acht jaar zullen we een machine hebben met de algemene intelligentie van een gemiddeld mens. Ik bedoel een machine die Shakespeare kan lezen, een auto kan smeren, kantoorpolitiek kan spelen, een grap kan vertellen, ruzie kan maken. Op dat moment zal de machine zichzelf met een fantastische snelheid beginnen op te voeden. Over een paar maanden zal het op geniaal niveau zijn, en een paar maanden daarna zullen zijn krachten onmetelijk zijn.

Drie dingen vallen op in deze visies voor AI: een mensachtig vermogen om te generaliseren, een bovenmenselijk vermogen om zichzelf in een exponentieel tempo te verbeteren, en een supergroot deel van wishful thinking. Een halve eeuw later zijn we nog lang niet in de buurt van het maken van een AI met de multitasking-capaciteiten van een mens - of zelfs een insect.

GETTY IMAGES

Dat wil niet zeggen dat er geen enorme successen zijn geboekt. Veel van de items op die vroege bucketlist zijn afgevinkt: we hebben machines die taal kunnen gebruiken, zien en veel van onze problemen oplossen. Maar de AI's die we tegenwoordig hebben, zijn niet menselijk zoals de pioniers zich hadden voorgesteld. Deep learning, de technologie die de AI-hausse aanstuurt, leidt machines op om meesters te worden in een groot aantal dingen, zoals het schrijven van nepverhalen en schaken, maar slechts één tegelijk.

Toen Legg Goertzel de term AGI voorstelde voor zijn boek uit 2007, zette hij kunstmatige algemene intelligentie tegenover dit enge, gangbare idee van AI. Mensen hadden verschillende verwante termen gebruikt, zoals sterke AI en echte AI, om de visie van Minsky te onderscheiden van de AI die in plaats daarvan was aangekomen.

Praten over AGI was vaak bedoeld om te impliceren dat AI had gefaald, zegt Joanna Bryson, een AI-onderzoeker aan de Hertie School in Berlijn: Het was het idee dat er mensen waren die gewoon saaie dingen deden, zoals machinevisie, maar wij hier... en ik was toen een van hen - probeer nog steeds de menselijke intelligentie te begrijpen, zegt ze. Sterke AI, cognitieve wetenschap, AGI - dit waren onze verschillende manieren om te zeggen: 'Jullie hebben het verpest; we gaan vooruit.'

Dit idee dat AGI het ware doel van AI-onderzoek is, is nog steeds actueel. Een werkend AI-systeem wordt al snel slechts een stukje software: het saaie spul van Bryson. Ondertussen wordt AGI een stand-in voor elke AI waarvan we nog niet hebben bedacht hoe we ze moeten bouwen, altijd buiten bereik.

Verwant verhaal

Wat is machinaal leren?

Machine learning-algoritmen vinden en passen patronen in gegevens toe. En ze runnen zo'n beetje de wereld.

Soms heeft Legg het over AGI als een soort multitool: één machine die veel verschillende problemen oplost, zonder dat er voor elke extra uitdaging een nieuwe ontworpen hoeft te worden. In die optiek zou het niet intelligenter zijn dan AlphaGo of GPT-3; het zou gewoon meer mogelijkheden hebben. Het zou een AI voor algemene doeleinden zijn, geen volwaardige intelligentie. Maar hij heeft het ook over een machine waarmee je zou kunnen communiceren alsof het een andere persoon is. Hij beschrijft een soort ultieme speelkameraad: het zou geweldig zijn om met een machine om te gaan en hem een ​​nieuw kaartspel te laten zien en hem te laten begrijpen en je vragen te stellen en het spel met je te spelen, zegt hij. Het zou een droom zijn die uitkomt.

Wanneer mensen over AGI praten, zijn het meestal deze mensachtige vaardigheden die ze in gedachten hebben. Thor Graepel , een collega van Legg bij DeepMind, gebruikt graag een citaat van sciencefictionauteur Robert Heinlein, dat de woorden van Minsky lijkt te weerspiegelen: een mens zou een luier moeten kunnen verschonen, een invasie plannen, een varken afslachten, een schip besturen, een gebouw ontwerpen, een sonnet schrijven, rekeningen in evenwicht brengen, een muur bouwen, een bot plaatsen, de stervenden troosten, bevelen aannemen, bevelen geven, samenwerken, alleen handelen, vergelijkingen oplossen, een nieuw probleem analyseren, mest strooien, een computer programmeren, koken een smakelijke maaltijd, efficiënt vechten, dapper sterven. Specialisatie is voor insecten.

En toch, leuk weetje: de go-to-beschrijving van Graepel wordt gesproken door een personage genaamd Lazarus Long in de roman van Heinlein uit 1973 Tijd genoeg voor liefde . Long is een soort superman, het resultaat van een genetisch experiment waardoor hij honderden jaren kan leven. Gedurende die lange tijd leeft Long vele levens en beheerst hij vele vaardigheden. Met andere woorden, Minsky beschrijft de capaciteiten van een typisch mens; Graepel niet.

Op deze manier verschuiven de doelpalen van de zoektocht naar AGI voortdurend. Wat bedoelen mensen als ze praten over mensachtige kunstmatige intelligentie - mensen zoals jij en ik, of mensen zoals Lazarus Long? Voor Pesenti is deze ambiguïteit een probleem. Ik denk dat niemand weet wat het is, zegt hij. Mensen kunnen niet alles. Ze kunnen niet elk probleem oplossen - en ze kunnen zichzelf niet verbeteren.

Go-kampioen Lee Sedol (links) schudt de hand van DeepMind-medeoprichter Demis Hassabis

GETTY

Dus macht een AGI zoals in de praktijk? Het menselijk noemen is tegelijk vaag en te specifiek. Mensen zijn het beste voorbeeld van algemene intelligentie die we hebben, maar mensen zijn ook zeer gespecialiseerd. Een snelle blik over het gevarieerde universum van dierlijke intelligentie - van de collectieve kennis die wordt waargenomen bij mieren tot de probleemoplossende vaardigheden van kraaien of octopussen tot de meer herkenbare maar nog steeds buitenaardse intelligentie van chimpansees - laat zien dat er veel manieren zijn om een ​​algemene intelligentie op te bouwen .

Zelfs als we een AGI bouwen, begrijpen we het misschien niet helemaal. De modellen voor machinaal leren van vandaag zijn typisch zwarte dozen, wat betekent dat ze tot nauwkeurige resultaten komen via berekeningspaden die geen mens kan begrijpen. Voeg zelfverbeterende superintelligentie toe aan de mix en het is duidelijk waarom sciencefiction vaak de gemakkelijkste analogieën biedt.

Sommigen zouden ook het bewustzijn of het gevoel in de vereisten voor een AGI lasso. Maar als intelligentie moeilijk vast te stellen is, is bewustzijn nog erger. Filosofen en wetenschappers weten niet wat het in onszelf is, laat staan ​​wat het in een computer zou zijn. Intelligentie vereist waarschijnlijk een zekere mate van zelfbewustzijn, een vermogen om na te denken over je kijk op de wereld, maar dat is niet noodzakelijk hetzelfde als bewustzijn - wat het voelt graag de wereld beleven of reflecteren op jouw kijk erop. Zelfs de meest trouwe AGI's zijn agnostisch over machinebewustzijn.

Hoe maken we een AGI?

Legg jaagt al zijn hele carrière op inlichtingen. Na Webmind werkte hij met Marcus Hutter aan de Universiteit van Lugano in Zwitserland aan een proefschrift genaamd Superintelligentie van machines . Hutter (die nu ook bij DeepMind werkt) werkte aan een wiskundige definitie van intelligentie die alleen werd beperkt door de wetten van de natuurkunde - een ultieme algemene intelligentie.

Shane Legg

DEEPMIND

Het paar publiceerde een vergelijking voor wat ze noemden universele intelligentie , die Legg beschrijft als een maatstaf voor het vermogen om doelen te bereiken in een breed scala van omgevingen. Ze toonden aan dat hun wiskundige definitie vergelijkbaar was met veel theorieën over intelligentie in de psychologie, die intelligentie ook definiëren in termen van algemeenheid.

Bij DeepMind zet Legg zijn theoretische werk om in praktische demonstraties, te beginnen met AI's die bepaalde doelen in bepaalde omgevingen bereiken, van games tot eiwit vouwen .

Het lastige deel komt daarna: meerdere vaardigheden bij elkaar brengen. Deep learning is de meest algemene benadering die we hebben, in die zin dat één deep learning-algoritme kan worden gebruikt om meer dan één taak te leren. AlphaZero gebruikte hetzelfde algoritme om Go, shogi (een schaakachtig spel uit Japan) en schaken te leren. DeepMind's Atari57 systeem gebruikte hetzelfde algoritme om elke Atari-videogame onder de knie te krijgen. Maar de AI's kunnen nog steeds maar één ding tegelijk leren. Na het schaken onder de knie te hebben, moet AlphaZero zijn geheugen wissen en shogi vanaf het begin leren.

Legg verwijst naar dit type algemeenheid als één-algoritme, in tegenstelling tot de één-brein-algemeenheid die mensen hebben. Algemeenheid van één algoritme is erg handig, maar niet zo interessant als de soort met één brein, zegt hij: jij en ik hoeven niet van brein te wisselen; we zetten ons schaakbrein niet in om een ​​spelletje schaak te spelen.

De overstap van één algoritme naar één brein is een van de grootste openstaande uitdagingen in AI. Een one-brain AI zou nog steeds geen echte intelligentie zijn, alleen een betere AI voor algemeen gebruik - Leggs multitool. Maar of ze nu voor AGI schieten of niet, onderzoekers zijn het erover eens dat de systemen van vandaag algemener moeten worden gemaakt, en voor degenen die AGI als doel hebben, is een algemene AI een noodzakelijke eerste stap. Er is een lange lijst van benaderingen die kunnen helpen. Ze variëren van opkomende technologie die er al is tot meer radicale experimenten (zie kader). Grofweg in volgorde van volwassenheid zijn ze:

• Ongesuperviseerd of zelf-gesuperviseerd leren. Het labelen van datasets (bijv. alle foto's van katten met kat taggen) om AI's te vertellen waar ze naar kijken tijdens de training, is de sleutel tot wat bekend staat als leren onder toezicht. Het wordt nog grotendeels met de hand gedaan en is een groot knelpunt. AI moet zichzelf kunnen aanleren zonder menselijke begeleiding, bijvoorbeeld door naar foto's van katten en honden te kijken en ze zonder hulp van elkaar te leren onderscheiden, of te spotten anomalieën in financiële transacties zonder dat eerdere voorbeelden door een mens zijn gemarkeerd. Dit, ook wel unsupervised learning genoemd, komt nu steeds vaker voor.
• Leren overdragen, inclusief leren in een paar schoten. De meeste deep-learningmodellen van tegenwoordig kunnen worden getraind om maar één ding tegelijk te doen. Transfer learning is bedoeld om AI's sommige delen van hun training voor de ene taak, zoals schaken, te laten overdragen naar een andere, zoals het spelen van Go. Dit is hoe mensen leren.
• Gezond verstand en causale gevolgtrekking. Het zou gemakkelijker zijn om training tussen taken over te dragen als een AI een basis van gezond verstand had om mee te beginnen. En een belangrijk onderdeel van gezond verstand is het begrijpen van oorzaak en gevolg. Geven gezond verstand voor AI's is momenteel een populair onderzoeksonderwerp, met benaderingen variërend van het coderen van eenvoudige regels in een neuraal netwerk tot het beperken van de mogelijke voorspellingen die een AI kan doen . Maar het werk staat nog in de kinderschoenen.
• Leeroptimalisaties . Dit zijn tools die kunnen worden gebruikt om de manier waarop AI's leren vorm te geven, waardoor ze efficiënter kunnen trainen. Recent werk toont aan dat deze tools kunnen worden hebben zichzelf getraind -in feite, wat betekent dat één AI wordt gebruikt om anderen te trainen. Dit kan een kleine stap zijn in de richting van zelfverbeterende AI, een AGI-doel.

Al deze onderzoeksgebieden zijn gebouwd op deep learning, wat op dit moment nog steeds de meest veelbelovende manier is om AI te bouwen. Deep learning is gebaseerd op neurale netwerken, die vaak worden beschreven als hersenachtig omdat hun digitale neuronen zijn geïnspireerd door biologische. Menselijke intelligentie is het beste voorbeeld van algemene intelligentie die we hebben, dus het is logisch om naar onszelf te kijken voor inspiratie.

Maar hersenen zijn meer dan één enorme wirwar van neuronen. Ze hebben afzonderlijke componenten die samenwerken.

Hassabis bestudeerde bijvoorbeeld de hippocampus, die het geheugen verwerkt, toen hij en Legg elkaar ontmoetten. Hassabis denkt dat algemene intelligentie in het menselijk brein deels voortkomt uit: interactie tussen de hippocampus en de cortex . Dit idee leidde tot DeepMind's Atari-game met AI, die gebruikmaakt van een op de hippocampus geïnspireerde algoritme , genaamd de DNC (differentiële neurale computer), die een neuraal netwerk combineert met een speciale geheugencomponent.

Kunstmatige hersenachtige componenten zoals de DNC worden soms cognitieve architecturen genoemd. Ze spelen een rol in andere DeepMind AI's zoals AlphaGo en AlphaZero, die twee afzonderlijke gespecialiseerde neurale netwerken combineren met zoekbomen, een oudere vorm van algoritme dat een beetje werkt als een stroomdiagram voor beslissingen. Taalmodellen zoals GPT-3 combineren een neuraal netwerk met een meer gespecialiseerd netwerk, een transformator genaamd, dat reeksen gegevens zoals tekst verwerkt.

Uiteindelijk komen alle benaderingen om AGI te bereiken neer op twee brede stromingen. Een daarvan is dat als je de algoritmen goed hebt, je ze kunt rangschikken in elke cognitieve architectuur die je leuk vindt. Labs zoals OpenAI lijken achter deze aanpak te staan ​​en steeds grotere modellen voor machine learning te bouwen die dit kunnen bereiken AGI met brute kracht .

De andere school zegt dat een fixatie op deep learning ons tegenhoudt. Als de sleutel tot AGI ligt in het uitzoeken hoe de componenten van een kunstmatig brein zouden moeten samenwerken, dan is de focus te veel op de componenten zelf - de diepgaande algoritmen - om het bos door de bomen te missen. Zorg ervoor dat de cognitieve architectuur goed is, en u kunt de algoritmen bijna als een bijzaak aansluiten. Dit is de benadering die de voorkeur geniet van Goertzel, wiens OpenCog project is een poging om een ​​open-sourceplatform te bouwen dat verschillende stukjes van de puzzel in een AGI-geheel zal passen. Het is ook een pad dat DeepMind heeft verkend toen het neurale netwerken en zoekbomen voor AlphaGo combineerde.

UNSPLASH

Mijn persoonlijke gevoel is dat het iets tussen de twee is, zegt Legg. Ik vermoed dat er een relatief klein aantal zorgvuldig vervaardigde algoritmen is die we samen kunnen combineren om echt krachtig te zijn.

Goertzel is het daar niet mee eens. De diepgang van denken over AGI bij Google en DeepMind maakt indruk op mij, zegt hij (beide bedrijven zijn nu eigendom van Alphabet). Als er een groot bedrijf is dat het gaat krijgen, zullen zij het zijn.

Houd uw adem echter niet in. Geprikkeld door de uitdaging decennialang te hebben onderschat, durven maar weinigen behalve Musk een gok te wagen over wanneer (of ooit) AGI zal arriveren. Zelfs Goertzel zal niet het risico nemen om zijn doelen aan een specifieke tijdlijn vast te pinnen, hoewel hij eerder vroeger dan later zou zeggen. Het lijdt geen twijfel dat de snelle vooruitgang in deep learning - en in het bijzonder GPT-3 - verwachtingen heeft gewekt door bepaalde menselijke vaardigheden na te bootsen. Maar mimiek is geen intelligentie. Er zijn nog steeds hele grote gaten in de weg die voor ons liggen, en onderzoekers hebben nog steeds niet doorgrond hoe diep ze zijn, laat staan ​​hoe ze die kunnen vullen.

Maar als we snel blijven bewegen, wie weet? zegt Legg. Over een paar decennia hebben we misschien een aantal zeer, zeer capabele systemen.

Waarom is AGI controversieel?

Een deel van de reden waarom niemand weet hoe een AGI moet worden gebouwd, is dat maar weinigen het eens zijn over wat het is. De verschillende benaderingen weerspiegelen verschillende ideeën over waar we naar streven, van multitool tot bovenmenselijke AI. Er worden kleine stappen gezet om AI meer voor algemeen gebruik te maken, maar er is een enorme kloof tussen een hulpmiddel voor algemeen gebruik dat verschillende problemen kan oplossen en een hulpmiddel dat problemen kan oplossen die mensen niet kunnen oplossen: de laatste uitvinding van Good. Er is veel vooruitgang in AI, maar dat betekent niet dat er vooruitgang is in AGI, zegt Andrew Ng.

Zonder bewijs aan beide kanten over de vraag of AGI haalbaar is of niet, wordt de kwestie een kwestie van geloof. Het voelt als die argumenten in de middeleeuwse filosofie over de vraag of je een oneindig aantal engelen op de kop van een speld kunt passen, zegt Togelius. Het slaat nergens op; dit zijn maar woorden.

Goertzel bagatelliseert controverse. Aan beide kanten zijn er mensen met extremen, zegt hij, maar er zijn ook veel mensen in het midden, en de mensen in het midden hebben niet de neiging om zo veel te brabbelen.

De AGI-wereld is gevuld met onderzoekers die de buitenste regionen van het bouwen van een superintelligentie onderzoeken.

• Opkomende intelligentie

  Kristinn Thórisson onderzoekt wat er gebeurt als eenvoudige programma's andere eenvoudige programma's herschrijven om nog meer programma's te produceren. Hij is geïnteresseerd in het complexe gedrag dat voortkomt uit eenvoudige processen die ze zelf moeten ontwikkelen.

• Universele intelligentie

  Arthur Franz probeert Marcus Hutters wiskundige definitie van AGI, die uitgaat van oneindige rekenkracht, over te nemen in code die in de praktijk werkt.

• Intelligentie met een open einde

  David Weinbaum is een onderzoeker die werkt aan intelligenties die vooruitgang boeken zonder bepaalde doelen . Het idee is dat beloningsfuncties zoals die doorgaans worden gebruikt bij versterkend leren, de focus van een AI verkleinen. Weinbaum werkt aan manieren om intelligentie te ontwikkelen die buiten een specifiek probleemdomein werkt en zich eenvoudig doelloos aanpast aan zijn omgeving.

Goertzel plaatst een AGI-scepticus als Ng aan de ene kant en hijzelf aan de andere. Sinds zijn dagen bij Webmind heeft Goertzel de media het hof gemaakt als boegbeeld van de AGI-rand. Hij leidt de AGI-conferentie en leidt een organisatie genaamd SingularityNet,die hij beschrijftals een soort Webmind op blockchain. Van 2014 tot 2018 was hij ook hoofdwetenschapper bij Hanson Robotics, het in Hong Kong gevestigde bedrijf dat in 2016 een pratende humanoïde robot genaamd Sophia onthulde. Meerthemapark etalagepopdan baanbrekend onderzoek, verdiende Sophia Goertzel de krantenkoppen over de hele wereld. Maar zelfs hij geeft toe dat het slechts een theatrale robot is, geen AI. Goertzels specifieke showmanschap heeft ertoe geleid dat veel serieuze AI-onderzoekers afstand hebben genomen van zijn kant van het spectrum.

In het midden plaatste hij mensen als Yoshua Bengio, een AI-onderzoeker aan de Universiteit van Montreal die in 2018 samen met Yann LeCun en Geoffrey Hinton de Turing Award won. In een 2014 keynote talk op de AGI-conferentie suggereerde Bengio dat het bouwen van een AI met intelligentie op menselijk niveau mogelijk is omdat het menselijk brein een machine is - een die alleen moet worden uitgezocht. Maar hij is niet overtuigd van superintelligentie - een machine die de menselijke geest overtreft. Hoe dan ook, hij denkt dat AGI niet zal worden bereikt tenzij we een manier vinden om computers gezond verstand en causale gevolgtrekkingen te geven.

Ng houdt echter vol dat hij ook niet tegen AGI is. Ik vind AGI superspannend, ik zou er graag komen, zegt hij. Als ik veel vrije tijd had, zou ik er zelf aan werken. Toen hij bij Google Brain zat en deep learning steeds beter werd, vroeg Ng, net als OpenAI, zich af of het eenvoudigweg opschalen van neurale netwerken een weg naar AGI zou kunnen zijn. Maar dit zijn vragen, geen uitspraken, zegt hij. Waar AGI controversieel werd, was toen mensen er specifieke beweringen over begonnen te doen.

Een nog meer verdeeldheid zaaiende kwestie dan de overmoed over hoe snel AGI kan worden bereikt, is de bangmakerij over wat het zou kunnen doen als het losgelaten wordt. Hier vervagen speculatie en sciencefiction al snel. Musk zegt dat AGI gevaarlijker zal zijn dan kernwapens. Hugo de Garis, een AI-onderzoeker nu aan de Wuhan University in China, voorspelde in de jaren 2000 dat AGI tegen het einde van de eeuw zou leiden tot een wereldoorlog en miljarden doden. Goddelijke machines, die hij artilecten noemde, zouden een bondgenootschap sluiten met menselijke aanhangers, de kosmisten, tegen een menselijk verzet, de Terrans.

Geloof in AGI is als geloof in magie. Het is een manier om rationeel denken op te geven en hoop/angst te uiten voor iets dat niet kan worden begrepen.

Het helpt het pro-AGI-kamp zeker niet als iemand als De Garis, die ook een uitgesproken voorstander is van masculistische en antisemitische opvattingen, een artikel in Goertzels AGI-boek heeft naast dat van serieuze onderzoekers als Hutter en Jürgen Schmidhuber - soms de vader van de moderne AI genoemd. Als velen in het AGI-kamp zichzelf zien als de fakkeldragers van AI, zien velen hen daarbuiten als kaartendragende gekken, die gedachten over AI in een blender gooien met wilde beweringen over de Singularity (het punt waarop geen terugkeer meer mogelijk is wanneer zelfverbeterende machines de menselijke intelligentie), hersenuploads, transhumanisme en de apocalyps.

Ik stoor me niet aan de zeer interessante discussie over intelligenties, waar we meer van zouden moeten hebben, zegt Togelius. Ik erger me aan het belachelijke idee dat onze software op een dag plotseling wakker wordt en de wereld overneemt.

Waarom maakt het uit?

Een paar decennia geleden, toen AI de hype van Minsky en anderen niet kon waarmaken, stortte het veld meer dan eens in. Financiering verdwenen; onderzoekers gingen verder. Het duurde vele jaren voordat de technologie tevoorschijn kwam uit wat bekend stond als AI-winters en zichzelf opnieuw deed gelden. Die hype is er echter nog steeds.

Alle AI-winters zijn gecreëerd door onrealistische verwachtingen, dus daar moeten we elke keer tegen vechten, zegt Ng. Pesenti is het ermee eens: we moeten de drukte beheren, zegt hij.

Een meer directe zorg is dat deze onrealistische verwachtingen de besluitvorming van beleidsmakers aantasten. Bryson zegt dat ze getuige is geweest van veel warrig denken in bestuurskamers en regeringen omdat mensen daar een sci-fi-visie hebben op AI. Dit kan ertoe leiden dat ze zeer reële onopgeloste problemen negeren, zoals de manier waarop raciale vooroordelen in AI kunnen worden gecodeerd door scheve trainingsgegevens, het gebrek aan transparantie over hoe algoritmen werken of vragen over wie aansprakelijk is wanneer een AI een slechte beslissing neemt. ten gunste van meer fantastische zorgen over zaken als een robotovername.

De hype maakt ook investeerders enthousiast. Musks geld heeft geholpen bij het financieren van echte innovatie, maar als hij zegt dat hij werk aan existentiële risico's wil financieren, moedigt het onderzoekers aan om over toekomstige bedreigingen te praten. Sommigen van hen geloven het echt; sommigen van hen zijn gewoon uit op geld en aandacht en wat dan ook, zegt Bryson. En ik weet niet of ze allemaal helemaal eerlijk zijn tegen zichzelf over welke ze zijn.

De allure van AGI is niet verrassend. Zelfreflectie en creatie zijn twee van de meest menselijke activiteiten. De drive om een ​​machine te bouwen naar ons imago is onweerstaanbaar. Veel mensen die nu kritisch staan ​​tegenover AGI hebben er in hun eerdere carrière mee geflirt. Net als Goertzel heeft Bryson een aantal jaren geprobeerd om een ​​kunstmatige peuter te maken. In 2005 organiseerde Ng een workshop op NeurIPS (toen nog NIPS genoemd), 's werelds belangrijkste AI-conferentie, getiteld Towards human-level AI? Het was gek, zegt Ng. LeCun, nu een frequente criticus van AGI-gebabbel, gaf een keynote.

Deze onderzoekers gingen verder met meer praktische problemen. Maar dankzij de vooruitgang die zij en anderen hebben gemaakt, stijgen de verwachtingen weer. Veel mensen in het veld hadden niet zoveel vooruitgang verwacht als de afgelopen jaren, zegt Legg. Het is een drijvende kracht geweest om AGI een stuk geloofwaardiger te maken.

Zelfs de AGI-sceptici geven toe dat het debat onderzoekers in ieder geval dwingt na te denken over de richting van het veld in het algemeen in plaats van zich te concentreren op de volgende neurale netwerkhack of benchmark. Als we serieus nadenken over het idee van AGI, komen we op echt fascinerende plekken, zegt Togelius. Misschien is de grootste vooruitgang het verfijnen van de droom, proberen te achterhalen waar de droom over ging.

zich verstoppen