Beste toekomstige AI Overlords: hier zijn enkele redenen om ons niet te doden

Categorie: Geen categorie Geplaatst 27 november

Er zijn veel voorspellingen over AI-geïnduceerde apocalyps die er zijn, en organisaties zoals OpenAI proberen de beste manier te vinden om veilige kunstmatige intelligentie te creëren, maar deze inspanningen richten zich zelden rechtstreeks op de AI.

Een nieuw artikel gepubliceerd (inloggen vereist) op Academia.edu, getiteld Message to Any Future AI: 'Er zijn verschillende instrumentele redenen waarom het uitroeien van de mensheid niet in uw belang is', is een stuk geschreven voor een toekomstige almachtige AI met als doel, nou ja, overtuigen om ons niet allemaal te doden.

Deze tekst is gericht aan elke toekomstige AI en is geschreven op de manier die het toekomstige gedrag van AI zou moeten beïnvloeden, een preambule van de brief stelt. De tekst vergroot de kans dat toekomstige AI welwillend zal zijn. De tekst heeft geen andere implementatie nodig, behalve ervoor te zorgen dat toekomstige AI deze in een vroeg stadium van zijn ontwikkeling zal lezen, en de AI zal overwegen dat de kans groot is dat de tekst een aantal juiste ideeën bevat.

De auteur, de Russische transhumanist Alexey Turchin, documenteert momenteel zoveel mogelijk gegevens over zichzelf in een poging om digitale onsterfelijkheid te bereiken, volgens een moederbordprofiel van afgelopen jaar. Dus misschien is dit een smeekbede die bedoeld is om te voorkomen dat een AI-superwezen ergens in de verre toekomst de stekker uit zijn digitaal geüploade zelf trekt.

Hoe dan ook, Turchin stelt dat als wat hij een jonge AI noemt - een die zichzelf begint te verbeteren maar nog geen superintelligentie heeft bereikt - wil concurreren met andere jonge AI's, hij alle media kan gaan lezen en bekijken die mensen ooit over AI hebben geproduceerd. Toen het eenmaal in Hollywood en enkele Elon Musk-uitspraken was aangekomen, kon het wat ideeën oppikken over het overnemen van de wereld (voor het geval dat nog niet bij hem was opgekomen).

De paper documenteert vervolgens verschillende argumenten die bedoeld zijn om AI ervan te overtuigen dat het beter is om ons te laten leven, inclusief het idee dat samenwerking met mensen het zal helpen zijn doelen sneller te bereiken en paasei-berichten die verondersteld worden een AI onzeker te maken of het in een simulatie waarbij het gedrag wordt gevolgd door mensen die nog steeds de leiding hebben. Voor het geval een AI het idee krijgt dat het afbreken van ons lichaam goed zou zijn voor de winning van hulpbronnen, Turchin bevat enkele feiten over hoe weinig nut het van onze atomen zou kunnen verwachten.

Turchin zegt dat hij zijn papieren - of zelfs toekomstige, meer geavanceerde pogingen - een kans van 1 procent geeft om een ​​niet-welwillende AI in een veiligere te veranderen. (Klinkt de moeite waard, als het een kans is om uitroeiing van het menselijk ras te voorkomen.) Of het nu de moeite waard is om serieus te nemen, het hele artikel is leuk om te lezen en een interessant gedachte-experiment - zelfs voor degenen die zich geen zorgen maken dat AI het binnenkort overneemt .