211service.com
AI Doomsayer zegt dat zijn ideeën aanslaan
Het afgelopen jaar was professor filosofie van de Universiteit van Oxford Nick Bostrom heeft zichtbaarheid gekregen om te waarschuwen voor de potentiële risico's van meer geavanceerde vormen van kunstmatige intelligentie. Hij zegt nu dat zijn waarschuwingen de aandacht trekken van bedrijven die de grenzen van onderzoek naar kunstmatige intelligentie verleggen.
Nick Bostrom
Veel mensen die aan AI werken, blijven sceptisch over of staan zelfs vijandig tegenover de ideeën van Bostrom. Maar sinds zijn boek over dit onderwerp, superintelligentie , afgelopen zomer verscheen, hebben enkele vooraanstaande technologen en wetenschappers – waaronder Elon Musk, Stephen Hawking en Bill Gates – enkele van zijn zorgen geuit. Google stelt zelfs een ethische commissie samen om toezicht te houden op zijn kunstmatige-intelligentiewerk.
Bostrom ontmoette vorige week met MIT Technology Review Tom Simonite, de hoofd van het bureau van San Francisco, om zijn inspanningen te bespreken om onderzoekers op het gebied van kunstmatige intelligentie te laten nadenken over de gevaren van hun werk (zie Onze angst voor kunstmatige intelligentie).
Hoe kwam je tot de overtuiging dat kunstmatige intelligentie een urgenter probleem voor de wereld was dan bijvoorbeeld een nucleaire holocaust of een grote pandemie?
Veel dingen kunnen catastrofes veroorzaken, maar relatief weinig dingen kunnen de hele toekomst van intelligent leven op aarde bedreigen. Ik denk dat kunstmatige intelligentie een van de grootste is, en het lijkt erop dat de inspanningen van een klein aantal mensen, of een extra eenheid middelen, een niet-triviaal verschil kunnen maken. Met een kernoorlog zijn daar al veel grote, machtige groepen in geïnteresseerd.
Hoe zit het met de klimaatverandering, die op dit moment algemeen wordt gezien als de grootste bedreiging voor de mensheid?
Het is een heel, heel klein existentieel risico. Om er een te zijn, zouden onze huidige modellen verkeerd moeten zijn - zelfs de slechtste scenario's betekenen [alleen] dat het klimaat in sommige delen van de wereld een beetje ongunstiger zou zijn. Dan zouden we niet in staat moeten zijn om dat te saneren door middel van wat geo-engineering, wat ook onwaarschijnlijk lijkt.
Bepaalde ethische theorieën impliceren dat existentiële risico's gewoon veel belangrijker zijn. Alles bij elkaar genomen zou de existentiële risicobeperking veel groter moeten zijn dan nu het geval is. De wereld geeft veel meer uit aan het ontwikkelen van nieuwe vormen van lippenstift dan aan existentieel risico.
Als iemand naar je toe zou komen en zou zeggen: Mijn bedrijf heeft technologie ontwikkeld die kunstmatige intelligentie veel krachtiger zou kunnen maken, wat zou je dan adviseren?
De eerste suggestie zou zijn om intern enige competentie op te bouwen op het gebied van AI-veiligheidsonderzoek. Cruciaal is om een goede werkrelatie tot stand te brengen tussen de mensen die aan AI werken en de mensen die nadenken over veiligheidskwesties. De enige manier waarop er een goed scenario kan zijn, is als deze ideeën worden gecreëerd en vervolgens worden geïmplementeerd.
Google, Facebook en andere grote technologiebedrijven lijken voorop te lopen op het gebied van kunstmatige intelligentie. Spreek je ze al aan?
Ik wil geen namen noemen. Het zijn degenen die aanzienlijke interesse hebben in dit gebied. Ik denk dat er erkenning is dat het logisch is om sommige mensen nu te laten nadenken over [AI-veiligheid], en misschien, als en wanneer dingen vooruitgaan, om dat op te voeren. Het is goed om daar een zaadje in te hebben, iemand die deze dingen in de gaten houdt.
Wat voor soort onderzoek is er mogelijk naar iets dat tegenwoordig nog niet echt is?
Wat tot nu toe is geproduceerd, is een duidelijker begrip van wat het probleem is en enkele concepten die kunnen worden gebruikt om over deze dingen na te denken. Deze lijken op papier misschien niet veel, maar voorheen was het niet mogelijk om naar de volgende fase te gaan, namelijk het ontwikkelen van een technische onderzoeksagenda.
Kun je een voorbeeld geven van een technisch project dat daarop zou kunnen passen?
Zou je bijvoorbeeld een AI-motivatiesysteem kunnen ontwerpen [zo] dat de AI de programmeur niet weerstaat om binnen te komen om zijn doel te veranderen? Er is een hele reeks dingen die praktisch nuttig kunnen zijn, zoals boksmethoden - tools die een AI kunnen bevatten voordat deze klaar is om te worden vrijgegeven.
Maar die zijn ver verwijderd van het soort systemen dat onderzoekers van bijvoorbeeld Google tegenwoordig bouwen.
Ja. Een van de uitdagingen is om op dit gebied nuttig werk te doen, ver voordat je daadwerkelijk een systeem hebt waar ze zouden kunnen of moeten worden toegepast.
Zou een kunstmatige intelligentie die ver achterblijft bij het menselijke niveau niet nog steeds problemen kunnen veroorzaken? Bijvoorbeeld door een overheid als wapen te gebruiken, of per ongeluk losgelaten op financiële markten?
Er is een hele reeks meer dreigende en kleinere problemen waarvan sommige mensen zeggen dat ze reëler zijn. Er is algoritmische handel, of drones, of automatisering en de impact ervan op de arbeidsmarkten, of systemen bewust of onbewust kunnen discrimineren op basis van ras. Ik ontken niet dat die problemen bestaan - ik denk alleen dat er een extra probleem is dat de wereld misschien niet aanpakt, omdat het pas echt serieus wordt als AI een bepaald zeer hoog niveau bereikt.
Je zegt voorzichtig dat niemand echt kan voorspellen hoe dichtbij dat niveau is. Maar zijn er bepaalde vorderingen die aangeven dat we ergens komen?
Het is zeer waarschijnlijk dat er een aantal grote doorbraken zal moeten plaatsvinden, om meer gezond verstand redeneervermogen, algemene leervaardigheden in verschillende domeinen, [en] flexibeler planningsvermogen te geven.
Er zijn minstens twee periodes geweest waarin hype-bubbels in het veld werden gevolgd door perioden van desillusie. Het kan best zijn dat we nu in een derde hype-bubbel zitten en dat we de limiet bereiken van wat er met deze nieuwe technieken kan en dat het lang zal duren voor de volgende grote grens. Maar het kan ook de golf zijn die helemaal daarheen gaat.
Blijft u optimistisch over onze kansen als dat zo is?
Mijn langetermijnvisie is dat we hoogstwaarschijnlijk op een slechte of zeer goede plek terechtkomen, niet ergens dat zo-zo is. Hopelijk wordt het geweldig.