AI leert zichzelf te creëren

Mensen hebben geworsteld om echt intelligente machines te maken. Misschien moeten we ze hun gang laten gaan.

Shuhua Xiong

door

• Will Douglas Heaven archiefpagina

27 mei 2021

Een klein stokfiguurtje met een wigvormig hoofd schuifelt over het scherm. Het beweegt half gehurkt en sleept een knie over de grond. Het is lopen! Eh, soort van.

Toch is Rui Wang opgetogen. Elke dag loop ik mijn kantoor binnen en open mijn computer, en ik weet niet wat ik moet verwachten, zegt hij.

Wang, een onderzoeker op het gebied van kunstmatige intelligentie bij Uber, verlaat graag de Gepaarde pionier met open einde , een stukje software dat hij hielp ontwikkelen en 's nachts op zijn laptop draaide. POET is een soort trainingsdojo voor virtuele bots. Tot nu toe leren ze helemaal niet veel te doen. Deze AI-agenten zijn niet Go . spelen , tekenen van kanker spotten , of vouwende eiwitten - ze proberen door een ruw cartoonlandschap van hekken en ravijnen te navigeren zonder om te vallen.

Maar het is niet wat de bots leren dat opwindend is, het is hoe ze leren. POET genereert de hindernisbanen, beoordeelt de capaciteiten van de bots en wijst hun volgende uitdaging toe, allemaal zonder menselijke tussenkomst. Stap voor stap verbeteren de bots met vallen en opstaan. Op een gegeven moment kan het als een kungfu-meester over een klif springen, zegt Wang.

Op dit moment lijkt het misschien eenvoudig, maar voor Wang en een handvol andere onderzoekers zinspeelt POET op een revolutionaire nieuwe manier om superslimme machines te maken: door AI zichzelf te laten maken.

Wangs voormalige collega Jeff Clune is een van de grootste aanjagers van dit idee. Clune werkt er al jaren aan, eerst aan de Universiteit van Wyoming en daarna bij Uber AI Labs, waar hij samenwerkte met Wang en anderen. Nu hij zijn tijd verdeelt tussen de University of British Columbia en OpenAI, heeft hij de steun van: een van 's werelds beste kunstmatige-intelligentielaboratoria .

Clune noemt de poging om echt intelligente AI te bouwen de meest ambitieuze wetenschappelijke zoektocht in de menselijke geschiedenis. Vandaag, zeven decennia nadat serieuze inspanningen om AI te maken begonnen, zijn we nog ver verwijderd van het creëren van machines die bijna net zo slim zijn als mensen, laat staan ​​slimmer. Clune denkt dat DICHTER zou kunnen wijzen op een kortere weg.

We moeten de boeien afdoen en onze eigen weg gaan, zegt hij.

Als Clune gelijk heeft, AI gebruiken om AI te maken kan een belangrijke stap zijn op de weg waar ooit toe zal leiden kunstmatige algemene intelligentie (AGI) — machines die de mens te slim af zijn. Op kortere termijn kan de techniek ons ​​ook helpen verschillende soorten intelligentie te ontdekken: niet-menselijke slimmigheden die op onverwachte manieren oplossingen kunnen vinden en misschien onze eigen intelligentie kunnen aanvullen in plaats van deze te vervangen.

Evolutie nabootsen

Begin vorig jaar sprak ik voor het eerst met Clune over het idee, slechts een paar weken na zijn overstap naar OpenAI. Hij praatte graag over zijn werk uit het verleden, maar bleef de mond houden over wat hij met zijn nieuwe team aan het doen was. In plaats van binnen te bellen, liep hij tijdens het praten liever op en neer door de straten buiten de kantoren.

Het enige dat Clune zou zeggen, was dat OpenAI een goede match was. Mijn idee komt heel goed overeen met veel van de dingen die ze geloven, zegt hij. Het was een soort huwelijk gemaakt in de hemel. Ze hielden van het visioen en wilden dat ik hierheen zou komen om het na te jagen. Een paar maanden nadat Clune erbij kwam, nam OpenAI ook het grootste deel van zijn oude Uber-team in dienst.

De ambitieuze visie van Clune is gebaseerd op meer dan de investering van OpenAI. De geschiedenis van AI staat vol met voorbeelden waarin door mensen ontworpen oplossingen plaats maakten voor machinaal aangeleerde oplossingen. Neem computervisie: tien jaar geleden kwam de grote doorbraak in beeldherkenning toen bestaande handgemaakte systemen werden vervangen door systemen die zichzelf vanaf het begin aanleerden. Hetzelfde geldt voor veel AI-successen.

Een van de fascinerende dingen van AI, en machine learning in het bijzonder, is het vermogen om te vinden oplossingen die mensen niet hebben gevonden - om ons te verrassen. Een vaak genoemd voorbeeld is AlphaGo (en zijn opvolger AlphaZero), die het beste dat de mensheid te bieden heeft, versloeg in het oude, verleidelijke spel Go door schijnbaar buitenaardse strategieën toe te passen. Na honderden jaren van studie door menselijke meesters, vond AI oplossingen waar niemand ooit aan had gedacht.

Clune werkt nu met een team bij OpenAI dat zich ontwikkelde bots die verstoppertje hebben leren spelen in een virtuele omgeving in 2018. Deze AI's begonnen met eenvoudige doelen en eenvoudige hulpmiddelen om ze te bereiken: het ene paar moest het andere vinden, dat zich achter verplaatsbare obstakels kon verschuilen. Maar toen deze bots werden losgelaten om te leren, vonden ze al snel manieren om te profiteren van hun omgeving op manieren die de onderzoekers niet hadden voorzien. Ze maakten gebruik van glitches in de gesimuleerde fysica van hun virtuele wereld om over te springen en zelfs door muren te gaan.

Dat soort onverwacht optredend gedrag biedt verleidelijke hints dat AI zou kunnen komen tot technische oplossingen die mensen zelf niet zouden bedenken, door nieuwe en efficiëntere soorten algoritmen of neurale netwerken uit te vinden - of zelfs om neurale netwerken, een hoeksteen van moderne AI, volledig te dumpen.

Clune herinnert mensen er graag aan dat intelligentie al uit een eenvoudig begin is voortgekomen. Het interessante aan deze aanpak is dat we weten dat het kan werken, zegt hij. Het zeer eenvoudige algoritme van de darwinistische evolutie produceerde je hersenen, en je hersenen zijn het meest intelligente leeralgoritme in het universum dat we tot nu toe kennen. Zijn punt is dat als intelligentie zoals we die kennen het resultaat is van de hersenloze mutatie van genen over talloze generaties, waarom zou je dan niet proberen het intelligentie-producerende proces – dat aantoonbaar eenvoudiger is – te repliceren in plaats van intelligentie zelf?

Verwant verhaal

Kunstmatige algemene intelligentie: zijn we dichtbij, en heeft het zelfs zin om het te proberen?

Een machine die als een persoon zou kunnen denken, is sinds de vroegste dagen de leidende visie van AI-onderzoek geweest - en blijft het meest verdeeldheid zaaiende idee.

Maar er is hier nog een cruciale observatie. Intelligentie was nooit een eindpunt voor evolutie, iets om naar te streven. In plaats daarvan kwam het in veel verschillende vormen naar voren, van talloze kleine oplossingen tot uitdagingen waardoor levende wezens konden overleven en toekomstige uitdagingen konden aangaan. Intelligentie is het huidige hoogtepunt in een doorlopend en open proces. In die zin is evolutie heel anders dan algoritmen zoals mensen ze doorgaans zien - als middel tot een doel.

Het is deze openheid, waarvan een glimp te zien is in de schijnbaar doelloze reeks uitdagingen die door DICHTER worden gegenereerd, waarvan Clune en anderen geloven dat ze zouden kunnen leiden tot nieuwe soorten AI. Decennia lang hebben AI-onderzoekers geprobeerd algoritmen te bouwen om menselijke intelligentie na te bootsen, maar de echte doorbraak kan komen van het bouwen van algoritmen die proberen de open-ended probleemoplossing van evolutie na te bootsen - en achterover te leunen om te kijken wat er naar voren komt.

Onderzoekers gebruiken machine learning al op zichzelf en trainen het om oplossingen te vinden voor enkele van de moeilijkste problemen in het veld, zoals het maken van machines die meer dan één taak tegelijk kunnen leren of omgaan met situaties die ze nog niet eerder zijn tegengekomen. Sommigen denken nu dat het volgen van deze aanpak en ermee doorgaan misschien wel de beste weg is naar kunstmatige algemene intelligentie. We zouden een algoritme kunnen starten dat aanvankelijk niet veel intelligentie bevat, en kijken hoe het zichzelf tot AGI opstart, zegt Clune.

De waarheid is dat AGI voorlopig een fantasie blijft. Maar dat komt grotendeels omdat niemand weet hoe het te maken. Vooruitgang in AI is fragmentarisch en wordt uitgevoerd door mensen, waarbij vooruitgang meestal gepaard gaat met aanpassingen aan bestaande technieken of algoritmen, wat leidt tot incrementele sprongen in prestaties of nauwkeurigheid. Clune typeert deze inspanningen als pogingen om de bouwstenen voor kunstmatige intelligentie te ontdekken zonder te weten waar je naar op zoek bent of hoeveel blokken je nodig hebt. En dat is nog maar het begin. Op een gegeven moment moeten we de enorme taak op ons nemen om ze allemaal bij elkaar te brengen, zegt hij.

AI vragen om die bouwstenen voor ons te vinden en samen te stellen, is een paradigmaverschuiving. Het zegt dat we een intelligente machine willen maken, maar het maakt ons niet uit hoe het eruit ziet - geef ons gewoon wat werkt.

Zelfs als AGI nooit wordt bereikt, kan de zelflerende benadering nog steeds veranderen welke soorten AI worden gecreëerd. De wereld heeft meer nodig dan een hele goede Go-speler, zegt Clune. Voor hem betekent het creëren van een superslimme machine het bouwen van een systeem dat zijn eigen uitdagingen bedenkt, oplost en vervolgens nieuwe uitvindt. POET is een kleine glimp van dit in actie. Clune stelt zich een machine voor die een bot leert lopen, dan hinkelen en dan misschien Go spelen. Dan leert het misschien rekenpuzzels en begint het zijn eigen uitdagingen te bedenken, zegt hij. Het systeem innoveert continu en de sky is the limit in termen van waar het heen kan gaan.

Het is misschien wilde speculatie, maar een van de hoop is dat machines als deze in staat zouden kunnen zijn om onze conceptuele doodlopende wegen te omzeilen, waardoor we enorm complexe crises zoals klimaatverandering of wereldwijde gezondheid kunnen ontrafelen.

Maar eerst moeten we er een maken.

Hoe maak je een brein?

Er zijn veel verschillende manieren om een ​​kunstbrein aan te sluiten.

Neurale netwerken zijn gemaakt van meerdere lagen kunstmatige neuronen die in software zijn gecodeerd. Elk neuron kan worden verbonden met andere in de lagen erboven. De manier waarop een neuraal netwerk is aangesloten, maakt een groot verschil, en nieuwe architecturen leiden vaak tot nieuwe doorbraken.

De neurale netwerken die door menselijke wetenschappers zijn gecodeerd, zijn vaak het resultaat van vallen en opstaan. Er is weinig theorie over wat wel en niet werkt, en er is geen garantie dat de beste ontwerpen zijn gevonden. Daarom is het automatiseren van de jacht op betere neurale netwerkontwerpen al sinds de jaren tachtig een van de populairste onderwerpen in AI. De meest gebruikelijke manier om het proces te automatiseren, is door een AI veel mogelijke netwerkontwerpen te laten genereren en het netwerk ze allemaal automatisch te laten proberen en de beste te laten kiezen. Dit staat algemeen bekend als neuro-evolutie of neurale architectuur zoeken (NAS).

In de afgelopen jaren zijn deze machineontwerpen de menselijke beginnen te overtreffen. In 2018 gebruikten Esteban Real en zijn collega's bij Google NAS om een ​​neuraal netwerk te genereren voor beeldherkenning dat versla de beste door mensen ontworpen netwerken toen. Dat was een eye-opener.

Het 2018-systeem maakt deel uit van een lopend Google-project genaamd AutoML, dat ook NAS heeft gebruikt om EfficientNets te produceren, een familie van diepgaande leermodellen die efficiënter dan die welke door mensen zijn ontworpen , het bereiken van een hoge nauwkeurigheid bij beeldherkenningstaken met kleinere, snellere modellen.

Drie jaar later verlegt Real de grenzen van wat vanaf nul kan worden gegenereerd. De eerdere systemen herschikten gewoon beproefde neurale netwerkstukken, zoals bestaande soorten lagen of componenten. We konden een goed antwoord verwachten, zegt hij.

Vorig jaar haalden Real en zijn team de zijwieltjes eraf. Het nieuwe systeem, genaamd AutoML Zero , probeert een AI van de grond af op te bouwen met niets anders dan de meest elementaire wiskundige concepten die machine learning beheersen.

Verbazingwekkend genoeg bouwde AutoML Zero niet alleen spontaan een neuraal netwerk, maar bedacht het ook gradiëntafdaling, de meest voorkomende wiskundige techniek die menselijke ontwerpers gebruiken om een ​​netwerk te trainen. Ik was nogal verrast, zegt Real. Het is een heel eenvoudig algoritme - er zijn ongeveer zes regels code voor nodig - maar het schreef de exacte zes regels.

AutoML Zero genereert nog geen architecturen die wedijveren met de prestaties van door mensen ontworpen systemen, of doet zelfs niet veel dat een menselijke ontwerper niet zou hebben gedaan. Maar Real gelooft dat het ooit zou kunnen.

Tijd om een ​​nieuw soort leraar op te leiden

Eerst maak je een brein; dan moet je het aanleren. Maar machinebreinen leren niet zoals de onze. Onze hersenen zijn fantastisch in het aanpassen aan nieuwe omgevingen en nieuwe taken. De huidige AI's kunnen onder bepaalde omstandigheden uitdagingen oplossen, maar falen wanneer die omstandigheden ook maar een beetje veranderen. Deze inflexibiliteit belemmert de zoektocht om meer generaliseerbare AI te creëren die nuttig kan zijn in een breed scala aan scenario's, wat een grote stap zou zijn om ze echt intelligent te maken.

Voor Jane Wang, een onderzoeker bij DeepMind in Londen, is de beste manier om AI flexibeler te maken, ervoor te zorgen dat het die eigenschap zelf leert. Met andere woorden, ze wil een AI bouwen die niet alleen specifieke taken leert, maar leert die taken te leren op manieren die kunnen worden aangepast aan nieuwe situaties.

Onderzoekers proberen al jaren AI flexibeler te maken. Wang denkt dat door AI dit probleem voor zichzelf te laten oplossen een deel van het vallen en opstaan ​​​​van een met de hand ontworpen aanpak vermijdt: we kunnen onmogelijk verwachten dat we meteen het juiste antwoord vinden. Zo hopen we ook meer te leren over hoe hersenen werken. Er is nog zoveel dat we niet begrijpen over de manier waarop mensen en dieren leren, zegt ze.

Er zijn twee hoofdbenaderingen om automatisch leeralgoritmen te genereren, maar beide beginnen met een bestaand neuraal netwerk en gebruiken AI om het aan te leren.

Verwant verhaal

AI gewapend met meerdere zintuigen zou flexibelere intelligentie kunnen krijgen

Menselijke intelligentie komt voort uit onze combinatie van zintuigen en taalvaardigheden. Misschien geldt hetzelfde voor kunstmatige intelligentie.

De eerste benadering, afzonderlijk uitgevonden door Wang en haar collega's bij DeepMind en bij een team bij OpenAI gebruikt rond dezelfde tijd terugkerende neurale netwerken. Dit type netwerk kan zo worden getraind dat de activeringen van hun neuronen - ongeveer vergelijkbaar met het afvuren van neuronen in biologische hersenen - elk type algoritme coderen. DeepMind en OpenAI maakten hiervan gebruik om een ​​terugkerend neuraal netwerk te trainen om algoritmen voor het leren van versterking te genereren, die een AI vertellen hoe ze zich moeten gedragen om bepaalde doelen te bereiken.

Het resultaat is dat de DeepMind- en OpenAI-systemen geen algoritme leren dat een specifieke uitdaging oplost, zoals het herkennen van afbeeldingen, maar een aan het leren algoritme dat op meerdere taken kan worden toegepast en naar believen kan worden aangepast. Het is net als het oude gezegde over iemand leren vissen: terwijl een met de hand ontworpen algoritme een bepaalde taak kan leren, worden deze AI's gemaakt om te leren hoe ze zelf kunnen leren. En sommige presteren beter dan die welke door mensen zijn ontworpen.

De tweede benadering komt van Chelsea Finn van de University of California, Berkeley, en haar collega's. Genaamd model-agnostisch meta-leren , of MAML, het traint een model met behulp van twee machine learning-processen, de ene genest in de andere.

Grofweg, hier is hoe het werkt. Het innerlijke proces in MAML wordt getraind op gegevens en vervolgens getest, zoals gebruikelijk. Maar dan neemt het uiterlijke model de prestaties van het innerlijke model - hoe goed het bijvoorbeeld afbeeldingen identificeert - en gebruikt het om te leren hoe het leeralgoritme van dat model kan worden aangepast om de prestaties te verbeteren. Het is alsof je een schoolinspecteur hebt die waakt over een stel leraren, elk met verschillende leertechnieken. De inspecteur kijkt welke technieken de leerlingen helpen de beste scores te halen en past ze daarop aan.

Door deze benaderingen bouwen onderzoekers AI die robuuster en algemener is en sneller kan leren met minder gegevens. Finn wil bijvoorbeeld een robot die heeft leren lopen op een vlakke ondergrond om met minimale extra training de overgang te kunnen maken naar lopen op een helling of op gras of met last.

Vorig jaar hebben Clune en zijn collega's de techniek van Finn uitgebreid om een ​​algoritme te ontwerpen dat leert met minder neuronen, zodat het niet alles overschrijft wat het eerder heeft geleerd, een groot onopgelost probleem in machine learning dat bekend staat als catastrofaal vergeten. Een getraind model dat minder neuronen gebruikt, ook wel een schaars model genoemd, zal meer ongebruikte neuronen overhouden om aan nieuwe taken te wijden wanneer het opnieuw wordt getraind, wat betekent dat minder van de gebruikte neuronen worden overschreven. Clune ontdekte dat het instellen van zijn AI de uitdaging om meer dan één taak te leren, ertoe leidde dat het zijn eigen versie van een schaars model bedacht dat beter presteerde dan door mensen ontworpen modellen.

Als we er alles aan doen om AI zichzelf te laten creëren en onderwijzen, dan zouden AI's ook hun eigen trainingsomgevingen moeten genereren: de scholen en studieboeken, evenals de lesplannen.

En het afgelopen jaar zijn er tal van projecten geweest waarin AI is getraind op automatisch gegenereerde data. Gezichtsherkenningssystemen worden getraind met bijvoorbeeld AI-gegenereerde gezichten. AI's leren ook hoe ze elkaar kunnen trainen. In een recent voorbeeld twee robotarmen werkten samen, waarbij de ene arm leerde om steeds moeilijkere uitdagingen op het gebied van het stapelen van blokken aan te gaan, waarbij de andere werd getraind om objecten vast te pakken en vast te pakken.

Clune vraagt ​​zich zelfs af of de menselijke intuïtie over wat voor soort gegevens een AI nodig heeft om te leren misschien niet klopt. Hij en zijn collega's hebben bijvoorbeeld ontwikkeld wat hij noemt generatieve onderwijsnetwerken , die leren welke gegevens ze moeten genereren om de beste resultaten te krijgen bij het trainen van een model. In één experiment gebruikte hij een van deze netwerken om een ​​dataset van handgeschreven getallen aan te passen die vaak wordt gebruikt om algoritmen voor beeldherkenning te trainen. Wat het bedacht zag er heel anders uit dan de originele door mensen samengestelde dataset: honderden niet-helemaal cijfers, zoals de bovenste helft van het cijfer zeven of wat leek op twee samengevoegde cijfers. Sommige AI-gegenereerde voorbeelden waren moeilijk te ontcijferen. Desondanks hebben de door AI gegenereerde gegevens nog steeds uitstekend werk geleverd bij het trainen van het handschriftherkenningssysteem om werkelijke cijfers te identificeren.

Probeer niet te slagen

AI-gegenereerde gegevens zijn nog steeds slechts een deel van de puzzel. De langetermijnvisie is om al deze technieken - en andere die nog niet zijn uitgevonden - over te dragen aan een AI-trainer die controleert hoe kunstmatige hersenen worden bedraad, hoe ze worden getraind en waarop ze worden getraind. Zelfs Clune is niet duidelijk over hoe zo'n toekomstig systeem eruit zou zien. Soms heeft hij het over een soort hyperrealistische gesimuleerde sandbox, waar AI's hun tanden kunnen doorsnijden en hun virtuele knieën kunnen villen. Iets dat zo complex is, is nog jaren verwijderd. Het dichtst in de buurt is POET, het systeem dat Clune heeft gemaakt met Uber's Rui Wang en anderen.

DICHTER werd ingegeven door een paradox, zegt Wang. Als je een probleem probeert op te lossen, zul je falen; als je het niet probeert op te lossen, heb je meer kans van slagen. Dit is een van de inzichten die Clune ontleent aan zijn analogie met evolutie - verbazingwekkende resultaten die voortkomen uit een schijnbaar willekeurig proces kunnen vaak niet opnieuw worden gecreëerd door opzettelijke stappen in de richting van hetzelfde doel te nemen. Het lijdt geen twijfel dat vlinders bestaan, maar keer terug naar hun eencellige voorlopers en probeer ze helemaal opnieuw te maken door elke stap van bacterie tot bug te kiezen, en je zou waarschijnlijk falen.

POET begint zijn tweebenige agent in een eenvoudige omgeving, zoals een vlak pad zonder obstakels. De agent weet in eerste instantie niet wat hij met zijn benen moet doen en kan niet lopen. Maar door middel van vallen en opstaan ​​leert het algoritme voor het leren van versterkingen dat het bestuurt hoe het zich over vlakke grond moet voortbewegen. POET genereert dan een nieuwe willekeurige omgeving die anders is, maar niet per se moeilijker om in te bewegen. De agent probeert daarheen te lopen. Als er obstakels zijn in deze nieuwe omgeving, leert de agent hoe hij over of over die obstakels heen kan komen. Elke keer dat een agent slaagt of vastloopt, wordt deze verplaatst naar een nieuwe omgeving. Na verloop van tijd leren de agenten een reeks loop- en springacties waarmee ze steeds moeilijkere hindernisbanen kunnen navigeren.

Het team ontdekte dat het willekeurig wisselen van omgevingen essentieel was.

Agenten leerden bijvoorbeeld soms met een rare, halfknielende schuifelgang op vlak terrein lopen, omdat dat goed genoeg was. Ze leren nooit op te staan ​​omdat ze dat ook nooit hoeven, zegt Wang. Maar nadat ze waren gedwongen om alternatieve strategieën te leren op met obstakels bezaaide grond, konden ze terugkeren naar het vroege stadium met een betere manier van lopen - met beide benen in plaats van er een naar achteren te slepen, bijvoorbeeld - en dan die verbeterde versie van zichzelf naar voren te brengen tot moeilijkere uitdagingen.

POET traint zijn bots op een manier die geen mens zou doen: hij neemt grillige, niet-intuïtieve paden naar succes. In elke fase proberen de bots een oplossing te vinden voor de uitdaging waarmee ze worden geconfronteerd. Door het hoofd te bieden aan een willekeurige selectie van obstakels die op hun pad worden gegooid, worden ze over het algemeen beter. Maar er is geen eindpunt aan dit proces, geen ultieme test om te slagen of een hoge score om te verslaan.

Clune, Wang en een aantal van hun collega's geloven dat dit een diepgaand inzicht is. Ze onderzoeken nu wat het kan betekenen voor de ontwikkeling van superslimme machines. zou kunnen proberen niet om een ​​specifiek pad uit te stippelen, daadwerkelijk een belangrijke doorbraak is op weg naar kunstmatige algemene intelligentie?

POET inspireert al andere onderzoekers, zoals Natasha Jaques en Michael Dennis van de University of California, Berkeley. Ze hebben een systeem ontwikkeld genaamd GEKOPPELD die AI gebruikt om een ​​reeks doolhoven te genereren om een ​​andere AI te trainen om ze te navigeren.

Rui Wang denkt dat door de mens ontworpen uitdagingen een knelpunt zullen zijn en dat voor echte vooruitgang in AI AI moet komen met zijn eigen uitdagingen. Hoe goed algoritmen tegenwoordig ook zijn, ze worden altijd getest op een met de hand ontworpen benchmark, zegt hij. Het is heel moeilijk voor te stellen dat kunstmatige algemene intelligentie hieruit voortkomt, omdat het gebonden is aan vaste doelen.

Een nieuw soort intelligentie

De snelle ontwikkeling van AI die zichzelf kan trainen roept ook vragen op over hoe goed we de groei ervan kunnen beheersen. Het idee van AI die betere AI bouwt, is een cruciaal onderdeel van de mythevorming achter de Singularity, het denkbeeldige punt in de toekomst waarop AI's exponentieel beginnen te verbeteren en buiten onze controle komen. Uiteindelijk waarschuwen bepaalde doemdenkers dat AI zou kunnen besluiten dat het helemaal geen mensen nodig heeft.

Dat is niet wat een van deze onderzoekers in gedachten heeft: hun werk is erg gericht op het verbeteren van de AI van vandaag. Machines die op hol slaan, blijven een verre anti-fantasie.

Toch heeft Jane Wang van DeepMind bedenkingen. Een groot deel van de aantrekkingskracht van het gebruik van AI om AI te maken, is dat het met ontwerpen en technieken kan komen waar mensen niet aan hadden gedacht. Toch merkt Wang op dat niet alle verrassingen goede verrassingen zijn: een open einde is per definitie iets dat onverwacht is. Als het hele idee is om AI iets te laten doen dat je niet had verwacht, wordt het moeilijker te controleren. Dat is zowel spannend als eng, zegt ze.

Clune benadrukt ook het belang om vanaf het begin na te denken over de ethiek van de nieuwe technologie. De kans is groot dat door AI ontworpen neurale netwerken en algoritmen nog moeilijker te begrijpen zijn dan de al ondoorzichtige black-box-systemen van vandaag. Zijn AI's gegenereerd door algoritmen moeilijker te audit voor vooringenomenheid ? Is het moeilijker om te garanderen dat ze zich niet ongewenst gaan gedragen?

Clune hoopt dat dergelijke vragen zullen worden gesteld en beantwoord naarmate meer mensen het potentieel van zelfgenererende AI's inzien. De meeste mensen in de machine learning-gemeenschap praten nooit echt over ons algehele pad naar extreem krachtige AI, zegt hij, in plaats daarvan hebben ze de neiging zich te concentreren op kleine, incrementele verbeteringen. Clune wil weer het gesprek aangaan over de grootste ambities van het vakgebied.

Zijn eigen ambities sluiten aan bij zijn vroege interesses in menselijke intelligentie en hoe deze zich ontwikkelde. Zijn grootse visie is om dingen zo in te stellen dat machines op een dag hun eigen intelligentie - of intelligenties - kunnen zien ontstaan ​​en verbeteren door talloze generaties van vallen en opstaan, geleid door algoritmen zonder de ultieme blauwdruk in gedachten.

Als AI zelf intelligentie begint te genereren, is er geen garantie dat het menselijk zal zijn. In plaats van dat mensen machines leren denken als mensen, kunnen machines mensen nieuwe manieren van denken leren.

Er zijn waarschijnlijk een groot aantal verschillende manieren om heel intelligent te zijn, zegt Clune. Een van de dingen die me enthousiast maken over AI is dat we intelligentie misschien meer in het algemeen gaan begrijpen, door te kijken welke variatie mogelijk is.

Ik vind dat fascinerend. Ik bedoel, het is bijna alsof je interstellaire reizen uitvindt en buitenaardse culturen kunt bezoeken. Er zou geen groter moment in de geschiedenis van de mensheid zijn dan een buitenaards ras te ontmoeten en te leren over zijn cultuur, zijn wetenschap, alles. Interstellaire reizen zijn buitengewoon moeilijk, maar we hebben de mogelijkheid om mogelijk buitenaardse intelligenties digitaal te creëren.