211service.com
Nee, de experts denken niet dat superintelligente AI een bedreiging voor de mensheid is
Als je alles gelooft wat je leest, ben je waarschijnlijk behoorlijk bezorgd over het vooruitzicht van een superintelligente, moordende AI. De Voogd , een Britse krant, waarschuwde onlangs dat we net kinderen zijn die met een bom spelen, en een recente Nieuwsweek kop luidt: kunstmatige intelligentie komt eraan en kan ons uitroeien.
Tal van dergelijke koppen, gevoed door opmerkingen van onder meer Elon Musk en Stephen Hawking, zijn sterk beïnvloed door het werk van één man: professor Nick Bostrom, auteur van de filosofische verhandeling Superintelligentie: paden, gevaren en strategieën .
Bostrom is een Oxford-filosoof, maar kwantitatieve beoordeling van risico's is het domein van de actuariële wetenschap. Hij mag dan wel de eerste prominente actuariële filosoof ter wereld worden genoemd, hoewel de term een contradictio in terminis lijkt, aangezien filosofie een arena is voor conceptuele argumenten en risicobeoordeling een gegevensgestuurde statistische oefening is.
Dus wat zeggen de gegevens? Bostrom verzamelt de resultaten van vier verschillende onderzoeken van groepen, zoals deelnemers aan een conferentie genaamd Filosofie en theorie van AI, gehouden in 2011 in Thessaloniki, Griekenland, en leden van de Griekse Vereniging voor Kunstmatige Intelligentie (hij geeft geen responspercentages of de formulering vragen, en hij houdt geen rekening met het vertrouwen op gegevens die in Griekenland zijn verzameld).
Zijn bevindingen worden gepresenteerd als waarschijnlijkheden dat AI op menselijk niveau tegen een bepaalde tijd zal worden bereikt:
Tegen 2022: 10 procent.
In 2040: 50 procent.
Tegen 2075: 90 procent.
Dit totaal van vier onderzoeken is de belangrijkste bron van gegevens over de opkomst van intelligentie op menselijk niveau in meer dan 300 pagina's met filosofische argumenten, fabels en metaforen.
Om een nauwkeurigere beoordeling te krijgen van de mening van vooraanstaande onderzoekers in het veld, wendde ik me tot de Fellows van de American Association for Artificial Intelligence, een groep onderzoekers waarvan wordt erkend dat ze significante, duurzame bijdragen aan het veld hebben geleverd.
Begin maart 2016 stuurde AAAI namens mij een anonieme enquête, waarbij de volgende vraag werd gesteld aan 193 fellows:
In zijn boek heeft Nick Bostrom Superintelligence gedefinieerd als 'een intellect dat veel slimmer is dan de beste menselijke hersenen op praktisch elk gebied, inclusief wetenschappelijke creativiteit, algemene wijsheid en sociale vaardigheden.' Wanneer denk je dat we Superintelligence zullen bereiken?
In de komende week of zo reageerden 80 fellows (een responspercentage van 41 procent), en hun antwoorden zijn hieronder samengevat:
In wezen is superintelligentie volgens 92,5 procent van de respondenten buiten de voorzienbare horizon. Deze interpretatie wordt ook ondersteund door schriftelijke opmerkingen van de fellows.
Hoewel de enquête anoniem was, kozen 44 fellows ervoor om zichzelf te identificeren, waaronder Geoff Hinton (deep-learning luminary), Ed Feigenbaum (Stanford, Turing Award-winnaar), Rodney Brooks (leidende roboticus) en Peter Norvig (Google).
De respondenten deelden ook verschillende opmerkingen, waaronder de volgende:
Veel, veel, veel meer dan 25 jaar. Eeuwen waarschijnlijk. Maar niet nooit.
We concurreren met de miljoenen jaren durende evolutie van het menselijk brein. We kunnen programma's voor één doel schrijven die kunnen wedijveren met mensen en soms uitblinken, maar de wereld is niet netjes opgedeeld in vragen met één probleem.
Nick Bostrom is een professionele bangmaker. De rol van zijn instituut is het vinden van existentiële bedreigingen voor de mensheid. Hij ziet ze overal. Ik kom in de verleiding om hem de ‘Donald Trump’ van AI te noemen.
Enquêtes hebben natuurlijk een beperkte wetenschappelijke waarde. Ze zijn notoir gevoelig voor vraagstelling, selectie van respondenten, enz. Het is echter de enige gegevensbron waar Bostrom zich zelf op wendde.
Een andere methode zou zijn om te extrapoleren van de huidige staat van AI naar de toekomst. Dit is echter moeilijk omdat we geen kwantitatieve meting hebben van de huidige staat van intelligentie op menselijk niveau. We hebben superintelligentie bereikt in bordspellen zoals schaken en Go (zie Google's AI Masters Go een decennium eerder dan verwacht), en toch scoorden onze programma's niet meer dan 60 procent op wetenschappelijke tests van de achtste klas, zoals het onderzoek van het Allen Institute heeft aangetoond (zie The Beste AI-programma zakt nog steeds voor een wetenschappelijke test van de achtste klas), of meer dan 48 procent in het ondubbelzinnig maken van eenvoudige zinnen (zie Tougher Turing-test onthult de domheid van chatbots).
Er zijn veel terechte zorgen over AI, van de impact op banen tot het gebruik ervan in autonome wapensystemen en zelfs tot het potentiële risico van superintelligentie. Voorspellingen dat superintelligentie in de nabije toekomst ligt, worden echter niet ondersteund door de beschikbare gegevens. Bovendien houden doemscenario's vaak geen rekening met de potentiële voordelen van AI bij het voorkomen van medische fouten, het verminderen van auto-ongelukken en meer.
Ten slotte is het mogelijk dat AI-systemen kunnen samenwerken met mensen om een symbiotische superintelligentie te creëren. Dat zou heel anders zijn dan de verderfelijke en autonome soort die professor Bostrom voor ogen had.
Oren Etzioni is CEO van het Allen Institute for Artificial Intelligence en hoogleraar computerwetenschappen aan de Universiteit van Washington.
Bijgewerkt op 2 november 2016:
Ik ben verheugd dat professoren Dafoe & Russell, die op mijn artikel hier hebben gereageerd, en ik schijn het eens te zijn over drie cruciale zaken. Ten eerste moeten we ons onthouden van ad hominem-aanvallen. Hier moet ik mijn verontschuldigingen aanbieden: ik had de anonieme AAAI-fellow niet mogen citeren die Dr. Bostrom vergeleek met Donald Trump. Het was niet mijn bedoeling om mijn stem aan die vergelijking te lenen; Ik bood Bostrom oprecht mijn excuses aan voor deze misstap via e-mail, een verontschuldiging die hij genadig aanvaardde. Twee, als wetenschappers moeten we uitspraken over het risico van AI beoordelen op basis van gegevens. Dat was het belangrijkste punt van mijn kort artikel , en het artikel bood unieke gegevens over dit onderwerp. Ten derde zijn we het er ook over eens dat de media de implicaties van Bostroms werk verkeerd hebben voorgesteld - een onderwerp van grote zorg dat tot op zekere hoogte werd weggenomen door de Rapport van het Witte Huis over AI . Natuurlijk verschillen we van mening over veel details en de fijne kneepjes van de argumenten, maar de tijd zal het leren.