Onze angst voor kunstmatige intelligentie

Jaren geleden dronk ik koffie met een vriend die een startup runde. Hij was net 40 geworden. Zijn vader was ziek, zijn rug deed pijn en hij werd overweldigd door het leven. Lach me niet uit, zei hij, maar ik rekende op de singulariteit.

Mijn vriend werkte in de technologie; hij had de veranderingen gezien die snellere microprocessors en netwerken hadden teweeggebracht. Het was niet zo'n grote stap voor hem om te geloven dat voordat hij op middelbare leeftijd werd geteisterd, de intelligentie van machines die van mensen zou overtreffen - een moment dat futuristen de singulariteit noemen. Een welwillende superintelligentie zou de menselijke genetische code met grote snelheid kunnen analyseren en het geheim van de eeuwige jeugd kunnen ontsluiten. Op zijn minst weet hij misschien hoe hij je rug kan herstellen.

Dit verhaal maakte deel uit van ons nummer van maart 2015

• Zie de rest van het nummer
• Abonneren

Maar wat als het niet zo welwillend was? Nick Bostrom, een filosoof die leiding geeft aan het Future of Humanity Institute aan de Universiteit van Oxford, beschrijft het volgende scenario in zijn boek superintelligentie , die tot veel discussie heeft geleid over de toekomst van kunstmatige intelligentie. Stel je een machine voor die we een paperclip-maximalisator zouden kunnen noemen, dat wil zeggen een machine die is geprogrammeerd om zoveel mogelijk paperclips te maken. Stel je nu voor dat deze machine op de een of andere manier ongelooflijk intelligent werd. Gezien zijn doelen zou het dan kunnen besluiten om nieuwe, efficiëntere machines voor het vervaardigen van paperclips te maken - totdat het, in King Midas-stijl, vrijwel alles had omgezet in paperclips.

Geen zorgen, zou je zeggen: je zou hem zo kunnen programmeren om precies een miljoen paperclips te maken en stoppen. Maar wat als het de paperclips maakt en vervolgens besluit zijn werk te controleren? Is het goed geteld? Het moet slimmer worden om zeker te zijn. De superintelligente machine produceert wat nog niet uitgevonden onbewerkt computermateriaal (noem het computronium) en gebruikt dat om elke twijfel te controleren. Maar elke nieuwe twijfel levert weer digitale twijfels op, enzovoort, totdat de hele aarde is omgezet in computronium. Behalve de miljoen paperclips.

Dingen beoordeeld

• Superintelligentie: paden, gevaren, strategieën

  Door Nick Bostrom
  Oxford University Press, 2014

  
  
  

Bostrom gelooft niet dat de paperclip-maximizer er precies zal komen; het is een gedachte-experiment, een dat is ontworpen om te laten zien hoe zelfs een zorgvuldig systeemontwerp extreme machine-intelligentie niet kan beperken. Maar hij gelooft wel dat superintelligentie zou kunnen ontstaan, en hoewel het geweldig zou kunnen zijn, denkt hij dat het ook zou kunnen beslissen dat er geen mensen in de buurt nodig zijn. Of doe een aantal andere dingen die de wereld vernietigen. De titel van hoofdstuk 8 is: Is de standaard uitkomst onheil?

Als dit je absurd in de oren klinkt, ben je niet de enige. Critici zoals robotica-pionier Rodney Brooks zeggen dat mensen die bang zijn voor een op hol geslagen AI, verkeerd begrijpen wat computers doen als we zeggen dat ze denken of slim worden. Vanuit dit perspectief is de vermeende superintelligentie die Bostrom beschrijft ver in de toekomst en misschien onmogelijk.

Toch zijn veel slimme, bedachtzame mensen het met Bostrom eens en maken zich nu zorgen. Waarom?

Wil

De vraag Kan een machine denken? heeft de informatica vanaf het begin geschaduwd. Alan Turing stelde in 1950 voor dat een machine als een kind kon worden aangeleerd; John McCarthy, uitvinder van de programmeertaal LISP, bedacht in 1955 de term kunstmatige intelligentie. Toen AI-onderzoekers in de jaren zestig en zeventig computers begonnen te gebruiken om afbeeldingen te herkennen, tussen talen te vertalen en instructies in normale taal en niet alleen code te begrijpen, Het idee dat computers uiteindelijk het vermogen zouden ontwikkelen om te spreken en te denken - en dus om kwaad te doen - borrelde op in de reguliere cultuur. Zelfs buiten de vaak genoemde HAL van 2001: Een ruimte-odyssee , de film uit 1970 Colossus: Het Forbin-project gekenmerkt door een grote knipperende mainframecomputer die de wereld op de rand van nucleaire vernietiging brengt; een soortgelijk thema werd 13 jaar later onderzocht in Oorlog spellen . De androïden van 1973 Westworld werd gek en begon te moorden.

Extreme AI-voorspellingen zijn vergelijkbaar met het zien van efficiëntere verbrandingsmotoren ... en springen tot de conclusie dat de warp-drives net om de hoek zijn, schrijft Rodney Brooks.

Toen AI-onderzoek ver achterbleef bij zijn verheven doelen, droogde de financiering op tot een straaltje, waardoor lange AI-winters begonnen. Toch werd de fakkel van de intelligente machine in de jaren tachtig en negentig gedragen door sci-fi-auteurs zoals Vernor Vinge, die het concept van de singulariteit populariseerde; onderzoekers zoals de roboticus Hans Moravec, een expert in computervisie; en de ingenieur/ondernemer Ray Kurzweil, auteur van het boek uit 1999 Het tijdperk van spirituele machines . Terwijl Turing een menselijke intelligentie had geponeerd, dachten Vinge, Moravec en Kurzweil groter: toen een computer in staat zou worden zelfstandig manieren te bedenken om doelen te bereiken, zou hij zeer waarschijnlijk in staat zijn tot introspectie - en dus in staat zijn zijn software aan te passen en zichzelf te intelligenter. Op korte termijn zou zo'n computer zijn eigen hardware kunnen ontwerpen.

Zoals Kurzweil het beschreef, zou hiermee een prachtig nieuw tijdperk beginnen. Dergelijke machines zouden het inzicht en geduld hebben (gemeten in picoseconden) om de onopgeloste problemen van nanotechnologie en ruimtevaart op te lossen; ze zouden de menselijke conditie verbeteren en ons ons bewustzijn laten uploaden naar een onsterfelijke digitale vorm. Intelligentie zou zich door de kosmos verspreiden.

Je kunt ook precies het tegenovergestelde vinden van zulk zonnig optimisme. Stephen Hawking heeft gewaarschuwd dat omdat mensen niet zouden kunnen concurreren met een geavanceerde AI, het zou het einde van de mensheid kunnen betekenen. bij het lezen superintelligentie , twitterde ondernemer Elon Musk: Ik hoop dat we niet alleen de biologische bootloader zijn voor digitale superintelligentie. Helaas wordt dat steeds waarschijnlijker. Musk volgde toen met een subsidie ​​van $ 10 miljoen aan het Future of Life Institute. Niet te verwarren met het centrum van Bostrom, dit is een organisatie die zegt te werken aan het verminderen van existentiële risico's waarmee de mensheid wordt geconfronteerd, de risico's die kunnen voortvloeien uit de ontwikkeling van kunstmatige intelligentie op menselijk niveau.

Niemand suggereert dat er nu zoiets als superintelligentie bestaat. In feite hebben we nog steeds niets dat in de buurt komt van kunstmatige intelligentie voor algemene doeleinden of zelfs een duidelijk pad naar hoe dit kan worden bereikt. Recente ontwikkelingen in AI, van geautomatiseerde assistenten zoals Apple's Siri tot Google's zelfrijdende auto's, onthullen ook de ernstige beperkingen van de technologie; beide kunnen worden weggegooid door situaties die ze nog niet eerder zijn tegengekomen. Kunstmatige neurale netwerken kunnen zelf leren katten op foto's te herkennen. Maar ze moeten honderdduizenden voorbeelden te zien krijgen en toch eindigen ze veel minder nauwkeurig in het spotten van katten dan een kind.

Dit is waar sceptici zoals Brooks , een oprichter van iRobot en Rethink Robotics, komt binnen. Zelfs als het indrukwekkend is - in vergelijking met wat eerdere computers konden - voor een computer om een ​​afbeelding van een kat te herkennen, heeft de machine geen wilskracht, geen idee wat katachtigheid is of wat er nog meer op de foto gebeurt, en geen van de talloze andere inzichten die mensen hebben. In deze visie zou AI mogelijk kunnen leiden tot intelligente machines, maar het zou veel meer werk vergen dan mensen zoals Bostrom zich voorstellen. En zelfs als het zou kunnen gebeuren, zal intelligentie niet noodzakelijkerwijs leiden tot bewustzijn. Extrapoleren vanuit de huidige stand van de AI om te suggereren dat superintelligentie opdoemt, is vergelijkbaar met het zien verschijnen van efficiëntere verbrandingsmotoren en springen tot de conclusie dat warp-drives net om de hoek zijn, schreef Brooks onlangs op edge.org . Kwaadaardige AI is niets om je zorgen over te maken, zegt hij, in ieder geval een paar honderd jaar.

Verzekeringspolis

Zelfs als de kans op een superintelligentie erg groot is, is het misschien onverantwoord om het risico te nemen. Een persoon die Bostroms zorgen deelt, is Stuart J. Russell, een professor in computerwetenschappen aan de University of California, Berkeley. Russell is de auteur, samen met Peter Norvig (een collega van Kurzweil bij Google), van Kunstmatige intelligentie: een moderne aanpak , dat al twee decennia het standaard AI-leerboek is.

Er zijn veel zogenaamd slimme publieke intellectuelen die gewoon geen idee hebben, vertelde Russell me. Hij wees erop dat AI de afgelopen tien jaar enorm is vooruitgegaan, en dat hoewel het publiek de vooruitgang misschien begrijpt in termen van de wet van Moore (snellere computers doen meer), in feite recent AI-werk van fundamenteel belang is geweest, met technieken als deep learning die de grondwerk voor computers die automatisch hun begrip van de wereld om hen heen kunnen vergroten.

Bostroms boek stelt manieren voor om computers af te stemmen op menselijke behoeften. We vertellen in feite een god hoe we behandeld willen worden.

Omdat Google, Facebook en andere bedrijven actief op zoek zijn naar een intelligente, lerende machine, redeneert hij, zou ik zeggen dat een van de dingen die we niet zouden moeten doen, is met volle kracht door te gaan met het opbouwen van superintelligentie zonder na te denken over het potentieel risico's. Het ziet er gewoon een beetje dom uit. Russell maakte een analogie: het is net fusieonderzoek. Als je een fusie-onderzoeker vraagt ​​wat ze doen, zeggen ze dat ze aan inperking werken. Als je onbeperkte energie wilt, kun je de fusiereactie maar beter in bedwang houden. Evenzo, zegt hij, als je onbeperkte intelligentie wilt, kun je maar beter uitzoeken hoe je computers kunt afstemmen op menselijke behoeften.

Het boek van Bostrom is een onderzoeksvoorstel om dit te doen. Een superintelligentie zou goddelijk zijn, maar zou het worden bezield door toorn of door liefde? Het is aan ons (dat wil zeggen, de ingenieurs). Zoals elke ouder, moeten we ons kind een reeks waarden geven. En niet zomaar waarden, maar die in het belang van de mensheid zijn. We vertellen in feite een god hoe we behandeld willen worden. Hoe verder te gaan?

Bostrom leunt zwaar op een idee van een denker genaamd Eliezer Yudkowsky, die spreekt over coherente geëxtrapoleerde wilskracht - het op consensus gebaseerde beste zelf van alle mensen. AI zou, hopen we, ons een rijk, gelukkig en bevredigend leven willen geven: onze pijnlijke rug herstellen en ons laten zien hoe we naar Mars kunnen komen. En aangezien mensen het nooit ergens helemaal over eens zullen zijn, hebben we het soms nodig om voor ons te beslissen - om de beste beslissingen te nemen voor de mensheid als geheel. Hoe programmeren we die waarden dan in onze (potentiële) superintelligenties? Wat voor soort wiskunde kan ze definiëren? Dit zijn de problemen, vindt Bostrom, die onderzoekers nu zouden moeten oplossen. Bostrom zegt dat het de essentiële taak van onze tijd is.

Voor de burger is er geen reden om wakker te liggen van enge robots. We hebben geen technologie die in de buurt komt van superintelligentie. Aan de andere kant zijn veel van de grootste bedrijven ter wereld diep geïnvesteerd in het intelligenter maken van hun computers; een echte AI zou een van deze bedrijven een ongelooflijk voordeel geven. Ze moeten ook worden afgestemd op de mogelijke nadelen en uitzoeken hoe ze deze kunnen vermijden.

Deze wat meer genuanceerde suggestie - zonder enige bewering van een dreigende AI-mageddon - is de basis van een open brief op de website van het Future of Life Institute, de groep die de donatie van Musk kreeg. In plaats van te waarschuwen voor een existentiële ramp, roept de brief op tot meer onderzoek om de voordelen van AI te benutten en mogelijke valkuilen te vermijden. Deze brief is niet alleen ondertekend door AI-buitenstaanders zoals Hawking, Musk en Bostrom, maar ook door prominente computerwetenschappers (waaronder Demis Hassabis, een top AI-onderzoeker). Je kunt zien waar ze vandaan komen. Als ze een kunstmatige intelligentie ontwikkelen die niet de beste menselijke waarden deelt, betekent dit dat ze niet slim genoeg waren om hun eigen creaties te beheersen.

Paul Ford, een freelance schrijver in New York, schreef in maart/april 2014 over Bitcoin.

zich verstoppen