211service.com
Hoe weet je of kunstmatige intelligentie op het punt staat de beschaving te vernietigen?
mechanische kanaries illustratie mevrouw Tech
Kunnen we op een ochtend met stomheid geslagen worden dat er een superkrachtige AI is ontstaan, met desastreuze gevolgen? Boeken zoals superintelligentie door Nick Bostrom en Leven 3.0 door Max Tegmark, evenals meer recente artikelen , beweren dat kwaadwillende superintelligentie een existentieel risico voor de mensheid is.
Maar men kan eindeloos speculeren. Het is beter om een meer concrete, empirische vraag te stellen: wat zou ons erop wijzen dat superintelligentie inderdaad om de hoek ligt?
Zulke voorboden zouden we kanaries in de kolenmijnen van AI kunnen noemen. Als een kunstmatige-intelligentieprogramma een fundamentele nieuwe mogelijkheid ontwikkelt, is dat het equivalent van een kanarie die instort: een vroege waarschuwing voor AI-doorbraken aan de horizon.
Zou de beroemde Turing-test als kanarie kunnen dienen? De test, uitgevonden door Alan Turing in 1950, stelt dat AI op menselijk niveau zal worden bereikt wanneer een persoon een gesprek met een mens niet kan onderscheiden van een gesprek met een computer. Het is een belangrijke test, maar het is geen kanarie; het is eerder het teken dat AI op menselijk niveau al is gearriveerd. Veel computerwetenschappers geloven dat als dat moment komt, superintelligentie snel zal volgen. We hebben meer tussenliggende mijlpalen nodig.
Zijn de prestaties van AI in games zoals Gaan , poker of Schok 3 , een kanarie? Het is niet. Het grootste deel van de zogenaamde kunstmatige intelligentie in deze games is eigenlijk menselijk werk om het probleem te kaderen en de oplossing te ontwerpen. AlphaGo's overwinning op menselijke Go-kampioenen was een verdienste van het getalenteerde menselijke team van DeepMind, niet van de machine, die alleen het algoritme uitvoerde dat de mensen hadden gemaakt. Dit verklaart waarom het jaren van hard werken kost om AI-succes van de ene kleine uitdaging naar de andere te vertalen. Zelfs AlphaZero, dat in een paar uur tijd Go van wereldklasse leerde spelen, heeft zijn reikwijdte sinds 2017 niet substantieel uitgebreid. Methoden zoals deep learning zijn algemeen, maar hun succesvolle toepassing op een bepaalde taak vereist uitgebreide menselijke tussenkomst.
Meer in het algemeen vormt machine learning de kern van de successen van AI in de afgelopen tien jaar. Toch is de term machine learning een verkeerde benaming. Machines bezitten slechts een klein deel van de rijke en veelzijdige leervaardigheden van mensen. Zeggen dat machines leren, is hetzelfde als zeggen dat babypinguïns kunnen vissen. De realiteit is dat volwassen pinguïns zwemmen, vangen vis , verteren het, spugen uit in hun snavels en stoppen stukjes in de mond van hun kinderen. AI wordt eveneens met de paplepel ingegoten door menselijke wetenschappers en ingenieurs.
In tegenstelling tot machinaal leren, brengt menselijk leren een persoonlijke motivatie (ik wil autorijden om onafhankelijk te zijn van mijn ouders) in kaart met een strategisch leerplan (rijbewijs halen en oefenen in het weekend). Een mens formuleert specifieke leerdoelen (Beter worden in inparkeren), verzamelt en labelt gegevens (De hoek was deze keer verkeerd), en neemt externe feedback en achtergrondkennis op (de instructeur legde uit hoe de zijspiegels te gebruiken). Mensen identificeren, kaderen en vormen leerproblemen. Geen van deze menselijke vermogens wordt zelfs op afstand door machines gerepliceerd. Machines kunnen bovenmenselijke statistische berekeningen uitvoeren, maar dat is slechts de laatste leerstap.
Machines kunnen bovenmenselijke statistische berekeningen uitvoeren, maar dat is slechts de laatste leerstap.
Het automatisch formuleren van leerproblemen is dus onze eerste kanarie. Het lijkt nergens dichtbij dood te zijn.
Zelfrijdende auto's zijn een tweede kanarie. Ze zijn verder in de toekomst dan verwacht door boosters zoals Elon Musk . AI kan catastrofaal falen in atypische situaties, zoals wanneer een persoon in een rolstoel de straat oversteekt. Autorijden is veel uitdagender dan eerdere AI-taken omdat het levenskritieke, realtime beslissingen vereist op basis van zowel de onvoorspelbare fysieke wereld als de interactie met menselijke bestuurders, voetgangers en anderen. Natuurlijk moeten we beperkte zelfrijdende auto's inzetten zodra ze het aantal ongevallen verminderen, maar alleen wanneer autorijden op menselijk niveau wordt bereikt, kan worden gezegd dat deze kanarie is omgevallen.
AI-dokters zijn een derde kanarie. AI kan medische beelden al met bovenmenselijke nauwkeurigheid analyseren, maar dat is slechts een klein deel van het werk van een menselijke arts. Een AI-arts zou patiënten moeten interviewen, complicaties moeten overwegen, andere artsen moeten raadplegen en meer. Dit zijn uitdagende taken waarvoor begrip van mensen, taal en geneeskunde vereist is. Zo'n arts zou een patiënt niet voor de gek moeten houden door te denken dat het een mens is - daarom is dit anders dan de Turing-test. Maar het zou de capaciteiten van menselijke artsen moeten benaderen voor een breed scala aan taken en onverwachte omstandigheden.
En hoewel de Turing-test zelf geen goede kanarie is, kunnen beperkte versies van de test als kanarie dienen. Bestaande AI's zijn niet in staat om mensen en hun motivaties te begrijpen, of zelfs fysieke basisvragen zoals Past een jumbojet door een raam? We kunnen een gedeeltelijke Turing-test afnemen door een paar minuten te praten met een AI zoals Alexa of Google Home, wat al snel hun beperkte kennis van taal en de wereld blootlegt. Beschouw een heel eenvoudig voorbeeld dat is gebaseerd op de Winograd-schema's die zijn voorgesteld door computerwetenschapper Hector Levesque. Ik zei tegen Alexa: Mijn trofee past niet in mijn handbagage omdat hij te groot is. Wat moet ik doen? Alexa's antwoord was dat ik die niet ken. Omdat Alexa niet kan redeneren over de grootte van objecten, kan het niet beslissen of het verwijst naar de trofee of naar de handbagage. Als AI de betekenis ervan niet begrijpt, is het moeilijk te geloven dat het klaar staat om de wereld over te nemen. Als Alexa een inhoudelijke dialoog zou kunnen voeren over een rijk onderwerp, zou dat een vierde kanarie zijn.
Huidige AI's zijn idioten savants: succesvol in beperkte taken, zoals het spelen van Go of het categoriseren van MRI-beelden, maar missen de algemeenheid en veelzijdigheid van mensen. Elke idiot savant wordt handmatig en afzonderlijk geconstrueerd en we zijn tientallen jaren verwijderd van de veelzijdige vaardigheden van een vijfjarig kind. De kanaries die ik voorstel, daarentegen, geven buigpunten aan op het gebied van AI.
Oren Etzioni Courtesy Photo
Sommige theoretici, zoals Bostrom, beweren dat we niettemin moeten plannen voor gebeurtenissen met een zeer lage waarschijnlijkheid maar met grote gevolgen alsof ze onvermijdelijk zijn. De gevolgen, zeggen ze, zijn zo ingrijpend dat onze schattingen van hun waarschijnlijkheid niet belangrijk zijn. Dit is een dwaas argument: het kan worden gebruikt om zo ongeveer alles te rechtvaardigen. Het is een hedendaagse versie van het argument van de 17e-eeuwse filosoof Blaise Pascal dat het de moeite waard is om te doen alsof er een christelijke God bestaat, omdat je anders het risico loopt op een eeuwige hel. Hij gebruikte de oneindige kosten van een fout om te argumenteren dat een bepaalde handelwijze rationeel is, zelfs als deze gebaseerd is op een hoogst onwaarschijnlijke premisse. Maar argumenten gebaseerd op oneindige kosten kunnen tegenstrijdige overtuigingen ondersteunen. Denk bijvoorbeeld eens aan een antichristelijke God die voor elke christelijke daad een eeuwige hel belooft. Dat is ook zeer onwaarschijnlijk; vanuit een logisch oogpunt is het echter net zo'n redelijke gok als geloven in de god van de Bijbel. Deze tegenstrijdigheid toont een fout aan in argumenten die gebaseerd zijn op oneindige kosten.
Mijn catalogus van vroege waarschuwingssignalen, of kanaries, is eerder illustratief dan alomvattend, maar het laat zien hoe ver we verwijderd zijn van AI op menselijk niveau. Als en wanneer een kanarie instort, hebben we ruim de tijd voor de opkomst van AI op menselijk niveau om robuuste uit-schakelaars te ontwerpen en rode lijnen te identificeren waarvan we niet willen dat AI die overschrijdt. AI-eschatologie zonder empirische kanaries is een afleiding van het aanpakken van bestaande problemen, zoals hoe de impact van AI op de werkgelegenheid te reguleren of ervoor te zorgen dat het gebruik ervan bij strafrechtelijke veroordelingen of kredietscores niet discriminerend is voor bepaalde groepen.
Zoals Andrew Ng, een van 's werelds meest prominente AI-experts, heeft gezegd: je zorgen maken dat AI kwaad wordt, is een beetje hetzelfde als je zorgen maken over overbevolking op Mars. Totdat de kanaries beginnen te sterven, heeft hij helemaal gelijk.
Oren Etzioni is de CEO van het non-profit Allen Institute for AI en een professor in computerwetenschappen aan de Universiteit van Washington.