Een spel van beschaving kan mensen helpen de existentiële dreiging van AI te begrijpen

Categorie: Kunstmatige intelligentie Geplaatst 08 januari

Onderzoekers van de Universiteit van Cambridge bouwden een game-mod voor Civilization waarmee mensen een menselijke superintelligentie kunnen laten groeien en temmen.

Het spel: Shahar Avin van het Universitair Centrum voor de Studie van Existentiële Risico's zegt: het spel stelt spelers in staat AI R&D-capaciteit op te bouwen in hun virtuele wereld. Succes is een slimmer dan menselijke AI. Tegelijkertijd bouwt het risico op malafide AI op en wordt dit alleen beperkt door veiligheidsonderzoek.

Het doel: We wilden ons begrip van de concepten met betrekking tot existentiële risico's van kunstmatige superintelligentie testen door ze in te zetten in een beperkte maar rijke wereldsimulator, [en ook testen hoe] spelers reageren ... wanneer ze de kans krijgen om zelf AI-beslissingen te nemen, vertelde Avin me.

Angst of acceptatie: Het project is ook een outreach-instrument dat serieuze problemen onder de aandacht brengt van een breder publiek. Avin is zich ervan bewust dat het de angst voor AI zou kunnen voortzetten. Hij stelt echter dat spelers het risico zien, maar ook het scala aan hulpmiddelen dat ze tot hun beschikking hebben om het te verkleinen.