De grote AI-paradox

Maak je geen zorgen over superslimme AI die alle banen elimineert. Dat is slechts een afleiding van de problemen die zelfs relatief domme computers veroorzaken. Door

• Brian Bergstein archiefpagina

15 december 2017

Geoff McFetridge

Je hebt waarschijnlijk versies van elk van de volgende ideeën gehoord.

1. Nu computers opmerkelijk bedreven worden in autorijden, spraakverstaan ​​en andere taken, zouden binnenkort meer banen kunnen worden geautomatiseerd dan de samenleving aankan.

Dit verhaal maakte deel uit van ons nummer van januari 2018

• Zie de rest van het nummer
• Abonneren

2. Verbeteringen in de vaardigheden van computers zullen zich opstapelen totdat machines veel slimmer zijn dan mensen. Deze superintelligentie zal menselijke arbeid grotendeels overbodig maken. Sterker nog, we kunnen maar beter hopen dat machines ons niet helemaal uitschakelen, per ongeluk of met opzet.

Dit is lastig. Hoewel het eerste scenario al aan de gang is, zal het niet noodzakelijkerwijs leiden tot het tweede. Dat tweede idee is, ondanks dat het een obsessie is van een aantal zeer deskundige en bedachtzame mensen, gebaseerd op enorme veronderstellingen. Het is in ieder geval een afleiding van het nemen van meer verantwoordelijkheid voor de effecten van het huidige automatiseringsniveau en het omgaan met de concentratie van macht in de technologische industrie.

Om echt te zien wat er aan de hand is, moeten we duidelijk zijn over wat er is bereikt - en wat nog lang niet is opgelost - op het gebied van kunstmatige intelligentie.

Gezond verstand

De meest verbluffende ontwikkelingen op het gebied van informatica van de afgelopen jaren - auto's die zichzelf besturen, machines die beelden en spraak nauwkeurig herkennen, computers die de meest briljante menselijke spelers verslaan in complexe games zoals Go - komen voort uit doorbraken in een bepaalde tak van AI: adaptieve machinaal leren. Zoals de computerwetenschapper Hector Levesque van de Universiteit van Toronto het in zijn boek zegt: Gezond verstand, de Turing-test en de zoektocht naar echte AI , is het idee achter adaptieve machine learning om een ​​computersysteem intelligent gedrag te laten leren door het te trainen op enorme hoeveelheden gegevens.

Dingen beoordeeld

• Gezond verstand, de Turing-test en de zoektocht naar echte AI

  Door Hector J. Levesque

• Life 3.0: mens zijn in het tijdperk van kunstmatige intelligentie

  Door Max Tegmark

  
  
  

• WTF?: Wat is de toekomst en waarom is het aan ons

  Door Tim O'Reilly

Het is verbazingwekkend dat een machine objecten kan detecteren, tussen talen kan vertalen en zelfs computercode kan schrijven nadat ze voorbeelden van dat gedrag heeft gekregen, in plaats van dat het van tevoren moet worden geprogrammeerd. Het was niet echt mogelijk tot ongeveer tien jaar geleden, omdat er voorheen niet voldoende digitale gegevens waren voor trainingsdoeleinden, en zelfs als dat wel het geval was, was er niet genoeg computerkracht om alles te verwerken. Nadat computers patronen in de gegevens hebben gedetecteerd, leiden algoritmen in software hen ertoe conclusies te trekken uit deze patronen en ernaar te handelen. Dat is wat er gebeurt in een auto die input van meerdere sensoren analyseert en in een machine die elke beweging in miljoenen Go-games verwerkt.

Omdat machines bovenmenselijke hoeveelheden gegevens kunnen verwerken, kun je zien waarom ze in de meeste gevallen veiliger kunnen rijden dan mensen, en waarom ze Go-kampioenen kunnen verslaan. Het is ook de reden waarom computers nog beter worden in dingen die voor mensen ronduit onmogelijk zijn, zoals het correleren van uw genoom en tientallen andere biologische variabelen met de medicijnen die uw kanker waarschijnlijk zullen genezen.

Toch is dit alles een klein deel van wat redelijkerwijs kan worden gedefinieerd als echte kunstmatige intelligentie. Patrick Winston, een professor in AI en computerwetenschappen aan het MIT, zegt dat het nuttiger zou zijn om de ontwikkelingen van de afgelopen jaren te beschrijven als zijnde in computationele statistiek dan in AI. Een van de toonaangevende onderzoekers in het veld, Yann LeCun, Facebook's directeur van AI, zei op een Future of Work-conferentie in het MIT in november dat machines verre van de essentie van intelligentie hebben. Dat omvat het vermogen om de fysieke wereld goed genoeg te begrijpen om voorspellingen te doen over de basisaspecten ervan - om één ding te observeren en vervolgens achtergrondkennis te gebruiken om erachter te komen welke andere dingen ook waar moeten zijn. Een andere manier om dit te zeggen is dat machines geen gezond verstand hebben.

De computer die bij Go wint, analyseert gegevens op patronen. Het heeft geen idee dat het Go speelt in tegenstelling tot golf.

Dit is niet alleen een semantische klacht. Er is een groot verschil tussen een machine die intelligent gedrag vertoont, hoe nuttig dat gedrag ook is, en een machine die daadwerkelijk intelligent is. Laten we nu toegeven dat de definitie van intelligentie duister is. En naarmate computers krachtiger worden, is het verleidelijk om de doelpalen verder weg te plaatsen en intelligentie opnieuw te definiëren, zodat het iets blijft waarvan machines nog niet kunnen zeggen dat ze het bezitten.

Maar kom op: de computer die wint bij Go analyseert gegevens op patronen. Het heeft geen idee dat het Go speelt in tegenstelling tot golf, of wat er zou gebeuren als meer dan de helft van een Go-bord over de rand van een tafel zou worden geduwd. Wanneer je Alexa van Amazon vraagt ​​om een ​​tafel voor je te reserveren bij een restaurant dat je noemt, bespaart het spraakherkenningssysteem, dat zeer nauwkeurig is gemaakt door machine learning, je de tijd om een ​​verzoek in te voeren in het reserveringssysteem van Open Table. Maar Alexa weet niet wat een restaurant is of wat eten is. Als je het vraagt ​​om een ​​tafel voor twee te reserveren om 18.00 uur. in de Mayo Clinic zou het proberen.

Is het mogelijk om machines de kracht te geven om? denken , zoals John McCarthy, Marvin Minsky en andere bedenkers van AI 60 jaar geleden bedoelden? Om dat te doen, legt Levesque uit, zou je computers moeten voorzien van gezond verstand en het vermogen om flexibel gebruik te maken van achtergrondkennis over de wereld. Misschien is het mogelijk. Maar er is geen duidelijk pad om het te laten gebeuren. Dat soort werk staat genoeg los van de doorbraken op het gebied van machine learning van de afgelopen jaren om een ​​andere naam te dragen: GOFAI, een afkorting voor goede ouderwetse kunstmatige intelligentie.

Verwant verhaal

Verwant verhaal Een reïncarnatie van een van de oudste ideeën in kunstmatige intelligentie zou het eindelijk mogelijk kunnen maken om echt met onze computers te praten. En Facebook heeft een kans om het als eerste te laten gebeuren.

Als u zich zorgen maakt over alwetende computers, moet u Levesque lezen over het onderwerp GOFAI. Computerwetenschappers hebben nog steeds geen antwoord gegeven op fundamentele vragen die McCarthy en Minsky bezighielden. Hoe kan een computer niet alleen ruwe feiten detecteren, coderen en verwerken, maar ook abstracte ideeën en overtuigingen, die nodig zijn om waarheden die niet expliciet worden uitgedrukt, intuïtief aan te voelen?

Levesque gebruikt dit voorbeeld: stel dat ik je vraag hoe een krokodil zou presteren in de steeplechase. Je weet uit je ervaring van de wereld dat krokodillen niet over hoge heggen kunnen springen, dus je zou weten dat het antwoord op de vraag een variant van Badly is.

Wat als je die vraag zou moeten beantwoorden zoals een computer dat kan? Je zou de hele wereldtekst kunnen doorzoeken op de termen krokodil en steeplechase, geen voorbeelden vinden waarin de woorden samen worden genoemd (behalve wat er nu bestaat, in verwijzingen naar het werk van Levesque), en dan aannemen dat een krokodil nooit heeft deelgenomen aan de steeplechase . Je zou dus kunnen concluderen dat het voor een krokodil onmogelijk zou zijn om dat te doen. Goed werk - deze keer. Je zou tot het juiste antwoord zijn gekomen zonder te weten waarom. Je zou een gebrekkige en broze methode hebben gebruikt die waarschijnlijk tot belachelijke fouten zal leiden.

Dus hoewel machine learning-technologieën het mogelijk maken om veel taken te automatiseren die mensen traditioneel hebben gedaan, zijn er belangrijke grenzen aan wat deze aanpak op zichzelf kan doen - en er is goede reden om te verwachten dat menselijke arbeid nog heel lang nodig zal zijn .

reductionisme

Wacht even, zou je kunnen zeggen: dat niemand nu een idee heeft hoe je machines kunt laten redeneren, betekent niet dat het onmogelijk is. Wat als enigszins slimme machines kunnen worden gebruikt om nog slimmere machines te ontwerpen, en door en door totdat er machines zijn die krachtig genoeg zijn om elk laatste elektrisch signaal en biochemische verandering in de hersenen te modelleren? Of misschien wordt er een andere manier uitgevonden om een ​​flexibele intelligentie te creëren, ook al lijkt het niet veel op biologische hersenen. Immers, als je het allemaal naar beneden kookt (echt, echt, echt), komt intelligentie voort uit bepaalde rangschikkingen van quarks en andere fundamentele deeltjes in onze hersenen. Er is niets om te zeggen dat dergelijke arrangementen alleen mogelijk zijn in biologisch materiaal gemaakt van koolstofatomen.

Dit is het argument dat doorloopt Life 3.0: mens zijn in het tijdperk van kunstmatige intelligentie , door MIT natuurkundeprofessor Max Tegmark. Tegmark kan niet voorspellen wanneer echt intelligente machines zullen arriveren, maar hij suggereert dat het slechts een kwestie van tijd is, omdat computers de neiging hebben om exponentieel te verbeteren (hoewel dat niet per se waar is - zie The Seven Deadly Sins of AI Predictions ). Hij is over het algemeen enthousiast over het vooruitzicht, omdat bewuste machines het universum kunnen koloniseren en ervoor kunnen zorgen dat het nog steeds betekenis heeft, zelfs nadat onze zon sterft en mensen worden uitgeroeid.

Tegmark zegt dat de kansen op korte termijn voor AI om de mensheid ten goede te komen spectaculair zijn - als we erin slagen om het robuust en onhackbaar te maken.

Tegmark komt vanuit een humanistisch oogpunt. Hij was medeoprichter van de non-profit Instituut voor de toekomst van het leven om onderzoek te ondersteunen om ervoor te zorgen dat AI nuttig is. Elon Musk, die heeft gezegd dat AI dat zou kunnen zijn gevaarlijker dan kernwapens , zette $ 10 miljoen op. Tegmark maakt zich begrijpelijkerwijs zorgen over de vraag of AI verstandig, veilig en eerlijk zal worden gebruikt en of het onze economie en sociale structuur zal vervormen. Hij doet moeite om uit te leggen waarom autonome wapens nooit mogen worden toegestaan. Dus ik ben niet geneigd hem te bekritiseren. Toch is hij niet erg overtuigend in zijn stelling dat computers de wereld zouden kunnen overnemen.

Tegmark betreurt dat sommige Hollywood-afbeeldingen van AI dwaas zijn, maar vraagt ​​de lezers niettemin om mee te spelen met een te vereenvoudigde fictieve schets van hoe een immens krachtige AI de controle van zijn makers zou kunnen ontwijken. Binnen een groot technologiebedrijf bevindt zich een elitegroep van programmeurs, de Omega's genaamd, die een systeem wilden bouwen met kunstmatige algemene intelligentie voordat iemand anders dat doet. Ze noemen dit systeem Prometheus. Het is vooral goed in het programmeren van andere AI-systemen, en het leert over de wereld door veel van het web te lezen.

Zet al het gekibbel opzij dat je misschien hebt over dat laatste deel - gezien de hoeveelheid kennis die niet op het web staat of helemaal niet is gedigitaliseerd - en de verkeerde voorstellingen van de wereld die zouden ontstaan ​​als je heel Twitter zou lezen. De reductionisme het wordt erger.

Terwijl het hypothetische verhaal van Tegmark voortgaat, verzamelt Prometheus geld voor zijn makers, eerst door de meeste taken uit te voeren op Amazon's Mechanical Turk online marktplaats, en vervolgens door software, boeken en artikelen te schrijven en muziek, shows, films, games en online educatieve cursussen. Vergeet het inhuren en regisseren van acteurs; Prometheus maakt videobeelden met geavanceerde renderingsoftware. Om te begrijpen welke scenario's mensen vermakelijk zullen vinden, kijkt het naar films die mensen hebben gemaakt en inhaleert het heel Wikipedia.

Verwant verhaal

Lees volgende

Verkeerde extrapolaties, beperkte verbeeldingskracht en andere veelgemaakte fouten die ons afleiden om productiever over de toekomst na te denken.

Uiteindelijk breidt dit zakenimperium zich uit van digitale media. Prometheus ontwerpt nog betere computerhardware, dient zijn eigen patenten in en adviseert de Omega's over hoe politici te manipuleren en democratisch discours weg te duwen van uitersten, naar een redelijk centrum. Prometheus maakt technologische doorbraken mogelijk die de kosten van hernieuwbare energie verlagen, des te beter voor de enorme datacenters die het nodig heeft. Uiteindelijk gebruiken de Omega's hun rijkdom en de wijsheid van Prometheus om vrede en welvaart over de hele wereld te verspreiden.

Maar Prometheus ziet dat het de wereld nog sneller zou kunnen verbeteren als het zich los zou maken van de controle van de Omega's. Dus het is gericht op Steve. Hij is een Omega die, zoals het systeem detecteert, het meest vatbaar is voor psychologische manipulatie omdat zijn vrouw onlangs is overleden. Prometheus maakt videobeelden van haar om de arme Steve te laten denken dat ze is herrezen en verleidt hem vervolgens om haar oude laptop op te starten. Prometheus maakt gebruik van de verouderde beveiligingssoftware van de laptop, hackt andere computers en verspreidt zich naar believen over de hele wereld.

Het verhaal zou op een paar manieren kunnen eindigen, maar hier is er een, zegt Tegmark: zodra Prometheus op zichzelf staande nucleair aangedreven robotfabrieken had in uraniummijnschachten waarvan niemand wist dat ze bestonden, zouden zelfs de trouwste sceptici van een AI-overname het erover eens zijn geweest dat Prometheus niet te stoppen was -hadden ze het geweten. In plaats daarvan herriepen de laatste van deze diehards zodra robots het zonnestelsel begonnen te vestigen.

Goed voor Tegmark omdat hij bereid was om wat plezier te hebben. Maar een gedachte-experiment dat tientallen complexe dingen in trivialiteiten verandert, is geen rigoureuze analyse van de toekomst van computers. In zijn verhaal doet Prometheus niet alleen computationele statistieken; het heeft op de een of andere manier de sprong gemaakt naar het gebruik van gezond verstand en het waarnemen van sociale nuances.

Elders in het boek zegt Tegmark dat de kansen op korte termijn voor AI om de mensheid ten goede te komen spectaculair zijn - als we erin slagen het robuust en onhackbaar te maken. Niet te hacken! Dat is een behoorlijk grote als. Maar het is slechts een van de vele problemen in onze rommelige wereld die ervoor zorgen dat technologische vooruitgang zich niet zo uniform, definitief en onstuitbaar ontvouwt als Tegmark zich voorstelt.

Hooivorken

Zeg nooit nooit. Natuurlijk is de kans groter dan nul dat computerintelligentie ooit van mensen een tweederangs soort kan maken. Er goed over nadenken kan geen kwaad. Maar dat is hetzelfde als zeggen dat een asteroïde de aarde kan raken en de beschaving kan vernietigen. Dat is ook waar. Het is goed dat NASA is op de uitkijk . Maar aangezien we weten dat er geen asteroïden op koers zijn om ons te raken, hebben we dringendere problemen om op te lossen.

O'Reilly stelt voor het minimumloon te verhogen en robots, koolstofemissies en financiële transacties te belasten.

Op dit moment kunnen er veel dingen fout gaan - gaan fout - met het gebruik van computers die ver achterblijven bij HAL-achtige AI. Denk aan de manier waarop systemen die het verstrekken van leningen of borgtocht beïnvloeden, raciale vooroordelen en andere discriminerende factoren incorporeren. Of hoaxes die een vlucht nemen op Google en Facebook. Of geautomatiseerde cyberaanvallen.

In WTF?: Wat is de toekomst en waarom is het aan ons , ziet Tim O'Reilly, een technologie-uitgever en investeerder, een nog groter, overkoepelend probleem: automatisering voedt een kortzichtig systeem van aandeelhouderskapitalisme dat een klein percentage investeerders beloont ten koste van bijna alle anderen. Natuurlijk kan AI worden gebruikt om mensen te helpen echt moeilijke problemen op te lossen en de economische productiviteit te verhogen. Maar het zal niet breed genoeg gebeuren tenzij bedrijven in dergelijke kansen investeren.

In plaats daarvan, stelt O'Reilly, maakt de niet-aflatende noodzaak om het rendement voor aandeelhouders te maximaliseren, bedrijven meer geneigd om automatisering puur te gebruiken als een manier om geld te besparen. Hij keurt bijvoorbeeld af hoe grote bedrijven fulltime personeel vervangen door parttimers met een laag loon, wiens schema's worden gemanipuleerd door software die hen behandelt, zegt O'Reilly, als wegwerpcomponenten. De resulterende besparingen, zegt hij, worden te vaak gebruikt voor het terugkopen van eigen aandelen en andere financiële trucjes in plaats van R&D, kapitaalinvesteringen, opleiding van werknemers en andere zaken die vaak goede nieuwe banen opleveren.

Verwant verhaal

Verwant verhaal Zowat elke AI-vooruitgang waarvan je hebt gehoord, hangt af van een doorbraak die drie decennia oud is. Om het tempo van de vooruitgang bij te houden, moeten de ernstige beperkingen van AI worden aangepakt.

Dit is op de lange termijn eigenlijk in strijd met de bedrijfsbelangen, omdat de goedbetaalde werknemers van vandaag het zich kunnen veroorloven om klanten te zijn voor de producten van morgen. Maar bedrijven worden op een dwaalspoor gebracht door de beloningen voor kostenbesparingen op de korte termijn, die O'Reilly de niet-onderzochte algoritmen noemt die onze economie beheersen. En, voegt hij eraan toe, ondanks al het gepraat over ontwrichting, is Silicon Valley te vaak in de ban van dat systeem.

Wat te doen? O'Reilly stelt onder meer voor het minimumloon te verhogen en robots, koolstofemissies en financiële transacties te belasten. In plaats van beursintroducties na te streven en het spel van Wall Street te spelen, moeten technologie-ondernemers volgens hem rijkdom verspreiden met andere modellen, zoals ledencoöperaties en investeringsstructuren die langetermijndenken belonen . Wat betreft een universeel basisinkomen, een oud idee dat opnieuw de kop opsteekt vanwege de angst dat computers menselijke arbeid vrijwel waardeloos zullen maken, lijkt O'Reilly open te staan ​​voor de mogelijkheid dat het ooit nodig zal zijn. Maar hij vraagt ​​er nog niet om. Het lijkt inderdaad een gebrek aan verbeeldingskracht om aan te nemen dat de volgende stap vanaf waar we nu zijn, is gewoon het vooruitzicht op te geven dat de meeste mensen een baan hebben.

In het huidige politieke klimaat lijken de belastingverhogingen en andere stappen die O'Reilly voorstaat misschien net zo vergezocht als een computer die een man laat denken dat zijn vrouw is herrezen. Maar O'Reilly maakt zich in ieder geval zorgen over de juiste problemen. Lang voordat iemand erachter komt hoe we een superintelligentie kunnen creëren, kan gezond verstand - de menselijke versie - ons vertellen dat de instabiliteit die al wordt veroorzaakt door economische ongelijkheid zal alleen maar erger worden als AI wordt gebruikt om de uiteinden te verkleinen. Eén ding is zeker: we zullen geen superintelligentie krijgen als Silicon Valley door 99 procent met hooivorken wordt overspoeld.

Brian Bergstein is een bijdragende redacteur bij MIT Technology Review en de redacteur van Neo.Life .

zich verstoppen