AI's taalprobleem

Machines die taal echt begrijpen, zouden ongelooflijk nuttig zijn. Maar we weten niet hoe we ze moeten bouwen. Door

• Will Knight archiefpagina

9 augustus 2016

Ongeveer halverwege een bijzonder spannende Go-game die werd gehouden in Seoul, Zuid-Korea, tussen Lee Sedol, een van de beste spelers aller tijden, en AlphaGo, een kunstmatige intelligentie gecreëerd door Google, deed het AI-programma een mysterieuze zet die een zenuwslopend voorsprong op zijn menselijke tegenstander.

Op zet 37 koos AlphaGo ervoor om een ​​zwarte steen te plaatsen in wat in eerste instantie een belachelijke positie leek. Het leek erop dat het een aanzienlijk territorium zou opgeven - een beginnersfout in een spel dat draait om het beheersen van de ruimte op het bord. Twee televisiecommentatoren vroegen zich af of ze de zet verkeerd hadden gelezen of dat de machine op de een of andere manier niet goed werkte. In feite, in tegenstelling tot elke conventionele wijsheid, zou zet 37 AlphaGo in staat stellen een formidabele basis te bouwen in het midden van het bord. Het Google-programma had het spel effectief gewonnen met een zet die geen mens zou hebben bedacht.

Over de kunst

• Een van de redenen dat het begrijpen van taal zo moeilijk is voor computers en AI-systemen, is dat woorden vaak betekenissen hebben op basis van de context en zelfs het uiterlijk van de letters en woorden. In de afbeeldingen die bij dit verhaal horen, demonstreren verschillende kunstenaars het gebruik van een verscheidenheid aan visuele aanwijzingen om betekenissen over te brengen die veel verder gaan dan de eigenlijke letters.

  
  
  

Dit verhaal maakte deel uit van ons septembernummer van 2016

• Zie de rest van het nummer
• Abonneren

De overwinning van AlphaGo is bijzonder indrukwekkend omdat het oude spel Go vaak wordt gezien als een test van intuïtieve intelligentie. De regels zijn vrij eenvoudig. Twee spelers plaatsen om de beurt zwarte of witte stenen op de kruising van horizontale en verticale lijnen op een bord, in een poging de stukken van hun tegenstander te omringen en ze uit het spel te verwijderen. Goed spelen is echter ongelooflijk moeilijk.

Terwijl schakers een paar zetten vooruit kunnen kijken, is dit in Go niet mogelijk zonder dat het spel zich ontvouwt tot onhandelbare complexiteit, en er zijn geen klassieke gambits. Er is ook geen eenvoudige manier om voordeel te meten, en het kan zelfs voor een ervaren speler moeilijk zijn om precies uit te leggen waarom hij of zij een bepaalde zet heeft gedaan. Dit maakt het onmogelijk om een ​​eenvoudige set regels te schrijven voor een computerprogramma op expertniveau.

AlphaGo is helemaal niet verteld hoe Go moet worden gespeeld. In plaats daarvan analyseerde het programma honderdduizenden wedstrijden en speelde het miljoenen wedstrijden tegen zichzelf. Onder verschillende AI-technieken maakte het gebruik van een steeds populairdere methode die bekend staat als deep learning, waarbij wiskundige berekeningen betrokken zijn die, heel losjes, zijn geïnspireerd op de manier waarop onderling verbonden lagen van neuronen in een brein vuren terwijl het leert nieuwe informatie te begrijpen. Het programma leerde zichzelf door urenlang oefenen, waarbij geleidelijk een intuïtief gevoel voor strategie werd aangescherpt. Dat het toen in staat was om een ​​van 's werelds beste Go-spelers te verslaan, vertegenwoordigt een echte mijlpaal in machine-intelligentie en AI.

Lawrence Weiner
Een rubberen bal die in de zee wordt gegooid
1970 / 2014

Een paar uur na zet 37 won AlphaGo de wedstrijd om in de best-of-five wedstrijd met twee games op te staan ​​tot niets. Daarna stond Sedol voor een menigte journalisten en fotografen, beleefd verontschuldigend voor het teleurstellen van de mensheid. Ik ben nogal sprakeloos, zei hij, knipperend door een storm van flitsfotografie.

Het verrassende succes van AlphaGo wijst op hoeveel vooruitgang er de afgelopen jaren is geboekt op het gebied van kunstmatige intelligentie, na decennia van frustratie en tegenslagen die vaak worden beschreven als een AI-winter. Deep learning betekent dat machines zichzelf steeds meer kunnen leren hoe ze complexe taken moeten uitvoeren waarvan slechts een paar jaar geleden werd gedacht dat ze de unieke intelligentie van mensen nodig hadden. Zelfrijdende auto's zijn nu al een voorzienbare mogelijkheid. In de nabije toekomst zullen op deep learning gebaseerde systemen helpen bij het diagnosticeren van ziekten en het aanbevelen van behandelingen.

Deep learning betekent dat machines zichzelf steeds meer kunnen leren hoe ze complexe taken moeten uitvoeren waarvan slechts een paar jaar geleden werd gedacht dat ze de unieke intelligentie van mensen nodig hadden.

Maar ondanks deze indrukwekkende vooruitgang blijft één fundamenteel vermogen ongrijpbaar: taal. Systemen zoals Siri en IBM's Watson kunnen eenvoudige gesproken of getypte commando's volgen en basisvragen beantwoorden, maar ze kunnen geen gesprek voeren en hebben geen echt begrip van de woorden die ze gebruiken. Als AI echt transformatief wil zijn, moet dit veranderen.

Hoewel AlphaGo niet kan spreken, bevat het technologie die kan leiden tot een beter taalverstaan. Bij bedrijven als Google, Facebook en Amazon, maar ook bij toonaangevende academische AI-labs, proberen onderzoekers eindelijk dat schijnbaar hardnekkige probleem op te lossen, met behulp van enkele van dezelfde AI-tools - waaronder deep learning - die verantwoordelijk zijn voor het succes van AlphaGo en de AI-revival van vandaag. Of ze daarin slagen, zal de omvang en het karakter bepalen van wat een revolutie op het gebied van kunstmatige intelligentie wordt. Het zal helpen bepalen of we machines hebben waarmee we gemakkelijk kunnen communiceren - machines die een intiem onderdeel van ons dagelijks leven worden - of dat AI-systemen mysterieuze zwarte dozen blijven, zelfs als ze meer autonoom worden. Je kunt onmogelijk een menselijk AI-systeem hebben zonder taal als kern, zegt Josh Tenenbaum, hoogleraar cognitieve wetenschappen en berekeningen aan het MIT. Het is een van de meest voor de hand liggende dingen die menselijke intelligentie onderscheidt.

Misschien zullen dezelfde technieken die AlphaGo Go laten veroveren eindelijk computers in staat stellen de taal onder de knie te krijgen, of misschien is er ook iets anders nodig. Maar zonder taalbegrip zal de impact van AI anders zijn. Natuurlijk kunnen we nog steeds enorm krachtige en intelligente software hebben zoals AlphaGo. Maar onze relatie met AI is misschien veel minder collaboratief en misschien veel minder vriendelijk. Een zeurende vraag vanaf het begin was: 'Wat als je dingen had die intelligent waren in de zin dat ze effectief waren, maar niet zoals wij in de zin dat ze ons niet inleven in wat we zijn?', zegt Terry Winograd, emeritus hoogleraar aan de Stanford University. Je kunt je machines voorstellen die niet gebaseerd zijn op menselijke intelligentie, die gebaseerd zijn op deze big data-dingen, en die de wereld besturen.

Machinefluisteraars

Een paar maanden na de triomf van AlphaGo reisde ik naar Silicon Valley, het hart van de nieuwste boom in kunstmatige intelligentie. Ik wilde de onderzoekers bezoeken die opmerkelijke vooruitgang boeken met praktische toepassingen van AI en die nu machines proberen meer begrip van taal te geven.

Ik begon met Winograd, die in een buitenwijk woont aan de zuidelijke rand van de campus van Stanford in Palo Alto, niet ver van het hoofdkantoor van Google, Facebook en Apple. Met krullend wit haar en een borstelige snor ziet hij eruit als een eerbiedwaardige academicus, en hij heeft een aanstekelijk enthousiasme.

In 1968 deed Winograd een van de eerste pogingen om een ​​machine intelligent te leren praten. Een wiskundig wonderkind dat gefascineerd was door taal, hij was naar het nieuwe AI-lab van het MIT gekomen om te studeren voor zijn doctoraat, en hij besloot een programma te bouwen dat via een tekstprompt met mensen zou praten in alledaagse taal. Dat leek destijds geen buitenissige ambitie. Er werden ongelooflijke vorderingen gemaakt in AI, en anderen aan het MIT bouwden complexe computervisiesystemen en futuristische robotarmen. Er was een gevoel van onbekende, onbegrensde mogelijkheden, herinnert hij zich.

Joseph Kosuth
Vier kleuren vier woorden
1966

Niet iedereen was er echter van overtuigd dat taal zo gemakkelijk onder de knie te krijgen was. Sommige critici, waaronder de invloedrijke taalkundige en MIT-professor Noam Chomsky, waren van mening dat de AI-onderzoekers moeite zouden hebben om machines te begrijpen, aangezien de mechanica van taal bij mensen zo slecht begrepen werd. Winograd herinnert zich dat hij een feest bijwoonde waar een student van Chomsky wegliep toen hij hem hoorde zeggen dat hij in het AI-lab werkte.

Maar er was ook reden om optimistisch te zijn. Joseph Weizenbaum, een in Duitsland geboren professor aan het MIT, had een paar jaar eerder het allereerste chatbotprogramma gebouwd. Het heette ELIZA en was geprogrammeerd om op te treden als een tekenfilmpsychotherapeut, belangrijke delen van een verklaring te herhalen of vragen te stellen om verder gesprek aan te moedigen. Als je het programma bijvoorbeeld vertelde dat je boos was op je moeder, zou het zeggen: Wat komt er nog meer in je op als je aan je moeder denkt? Een goedkope truc, maar het werkte verrassend goed. Weizenbaum was geschokt toen sommige proefpersonen hun donkerste geheimen aan zijn machine begonnen op te biechten.

Er is een duidelijk probleem met het toepassen van deep learning op taal. Het is dat woorden willekeurige symbolen zijn en als zodanig fundamenteel verschillen van beeldspraak.

Winograd wilde iets creëren dat echt taal leek te begrijpen. Hij begon met het verkleinen van de omvang van het probleem. Hij creëerde een eenvoudige virtuele omgeving, een blokwereld, bestaande uit een handvol denkbeeldige objecten die op een denkbeeldige tafel zitten. Toen maakte hij een programma, die hij SHRDLU . noemde , die in staat was om alle zelfstandige naamwoorden, werkwoorden en eenvoudige grammaticaregels te ontleden die nodig waren om naar deze uitgeklede virtuele wereld te verwijzen. SHRDLU (een onzinwoord gevormd door de tweede kolom met toetsen op een Linotype-machine) zou de objecten kunnen beschrijven, vragen over hun relaties kunnen beantwoorden en wijzigingen kunnen aanbrengen in de blokwereld als reactie op getypte opdrachten. Het had zelfs een soort geheugen, dus als je het zou zeggen om de rode kegel te verplaatsen en later naar de kegel zou verwijzen, zou het aannemen dat je de rode bedoelde in plaats van een van een andere kleur.

SHRDLU werd omhoog gehouden als een teken dat het gebied van AI diepgaande vooruitgang boekte. Maar het was slechts een illusie. Toen Winograd probeerde de blokwereld van het programma groter te maken, werden de regels die nodig waren om rekening te houden met de benodigde woorden en grammaticale complexiteit onhandelbaar. Slechts een paar jaar later had hij het opgegeven en uiteindelijk verliet hij AI helemaal om zich op andere onderzoeksgebieden te concentreren. De beperkingen waren een stuk dichterbij dan het destijds leek, zegt hij.

Winograd concludeerde dat het onmogelijk zou zijn om machines echt taalbegrip te geven met de tools die toen beschikbaar waren. Het probleem, zoals Hubert Dreyfus, een professor in de filosofie aan UC Berkeley, betoogde in een boek uit 1972 genaamd: Wat computers niet kunnen , is dat veel dingen die mensen doen een soort instinctieve intelligentie vereisen die niet met vaste regels kan worden vastgelegd. Dit is precies waarom, voor de wedstrijd tussen Sedol en AlphaGo, veel experts twijfelden of machines Go zouden beheersen.

John Baldessari
Pure schoonheid
1966–68

Maar terwijl Dreyfus dat argument aanvoerde, ontwikkelden een paar onderzoekers in feite een aanpak die machines uiteindelijk dit soort intelligentie zou geven. Ze haalden inspiratie uit de neurowetenschap en experimenteerden met kunstmatige neurale netwerken - lagen van wiskundig gesimuleerde neuronen die konden worden getraind om te vuren als reactie op bepaalde input. Om te beginnen waren deze systemen pijnlijk traag en werd de aanpak afgedaan als onpraktisch voor logica en redenering. Cruciaal is echter dat neurale netwerken dingen kunnen leren die niet met de hand kunnen worden gecodeerd, en later zou dit nuttig blijken voor eenvoudige taken zoals het herkennen van handgeschreven karakters, een vaardigheid die in de jaren negentig werd gecommercialiseerd voor het lezen van cijfers op cheques. Voorstanders beweerden dat neurale netwerken machines uiteindelijk veel, veel meer zouden laten doen. Op een dag, beweerden ze, zou de technologie zelfs taal begrijpen.

De afgelopen jaren zijn neurale netwerken veel complexer en krachtiger geworden. De aanpak heeft geprofiteerd van belangrijke wiskundige verfijningen en, belangrijker nog, snellere computerhardware en massa's gegevens. Tegen 2009 hadden onderzoekers van de Universiteit van Toronto aangetoond dat een veellagig deep learning-netwerk spraak met recordnauwkeurigheid kon herkennen. En in 2012 won dezelfde groep een wedstrijd voor machinevisie met behulp van een diepgaand lerend algoritme dat verbazingwekkend nauwkeurig was.

Een deep-learning neuraal netwerk herkent objecten in afbeeldingen met een simpele truc. Een laag gesimuleerde neuronen ontvangt input in de vorm van een afbeelding, en sommige van die neuronen zullen vuren als reactie op de intensiteit van individuele pixels. Het resulterende signaal gaat door veel meer lagen onderling verbonden neuronen voordat het een uitgangslaag bereikt, die aangeeft dat het object is gezien. Een wiskundige techniek die bekend staat als backpropagation wordt gebruikt om de gevoeligheid van de neuronen van het netwerk aan te passen om de juiste respons te produceren. Het is deze stap die het systeem het vermogen geeft om te leren. Verschillende lagen binnen het netwerk reageren op kenmerken zoals randen, kleuren of textuur. Dergelijke systemen kunnen nu objecten, dieren of gezichten herkennen met een nauwkeurigheid die wedijvert met die van mensen.

Er is een duidelijk probleem met het toepassen van deep learning op taal. Het is dat woorden willekeurige symbolen zijn en als zodanig fundamenteel verschillen van beeldspraak. Twee woorden kunnen dezelfde betekenis hebben terwijl ze bijvoorbeeld totaal verschillende letters bevatten; en hetzelfde woord kan verschillende dingen betekenen in verschillende contexten.

In de jaren tachtig hadden onderzoekers een slim idee bedacht om van taal het soort probleem te maken dat een neuraal netwerk kan aanpakken. Ze toonden aan dat woorden kunnen worden weergegeven als wiskundige vectoren, waardoor overeenkomsten tussen verwante woorden kunnen worden berekend. Boot en water zijn bijvoorbeeld dicht bij elkaar in de vectorruimte, ook al zien ze er heel anders uit. Onderzoekers van de Universiteit van Montreal, onder leiding van Yoshua Bengio, en een andere groep bij Google, hebben dit inzicht gebruikt om netwerken te bouwen waarin elk woord in een zin kan worden gebruikt om een ​​complexere representatie te construeren - iets dat Geoffrey Hinton, een professor aan de Universiteit van Toronto en een prominente deep-learning onderzoeker die parttime bij Google werkt, noemt een gedachtevector.

Door twee van dergelijke netwerken te gebruiken, is het mogelijk om met uitstekende nauwkeurigheid tussen twee talen te vertalen. En door dit type netwerk te combineren met een netwerk dat is ontworpen om objecten in afbeeldingen te herkennen, is het mogelijk om verrassend plausibele bijschriften op te roepen.

Het doel van het leven

In een vergaderruimte in het hart van het bruisende hoofdkantoor van Google in Mountain View, Californië, overweegt een van de onderzoekers van het bedrijf die deze aanpak hebben helpen ontwikkelen, Quoc Le, het idee van een machine die een goed gesprek zou kunnen voeren. Le's ambities raken de kern van waarom pratende machines nuttig kunnen zijn. Ik wil een manier om gedachten in een machine te simuleren, zegt hij. En als je gedachten wilt simuleren, dan zou je een machine moeten kunnen vragen waar hij aan denkt.

Tauba Auerbach
Het antwoord/was er niet II
2008

Google leert zijn computers al de basis van taal. In mei kondigde het bedrijf een systeem aan, Parsey McParseface genaamd, dat naar syntaxis kan kijken en zelfstandige naamwoorden, werkwoorden en andere tekstelementen kan herkennen. Het is niet moeilijk in te zien hoe waardevol een beter taalverstaan ​​voor het bedrijf zou kunnen zijn. Het zoekalgoritme van Google wordt gebruikt om eenvoudig trefwoorden en links tussen webpagina's bij te houden. Nu, met behulp van een systeem genaamd RankBrain, leest het de tekst op pagina's in een poging om de betekenis te achterhalen en betere resultaten te leveren. Dat wil Le nog veel verder gaan. Door het systeem aan te passen dat nuttig is gebleken voor vertalingen en ondertiteling van afbeeldingen, bouwden hij en zijn collega's Smart Reply, dat de inhoud van Gmail-berichten leest en een handvol mogelijke antwoorden suggereert. Hij maakte ook een programma dat uit de chatlogboeken van Google voor IT-ondersteuning leerde hoe eenvoudige technische vragen te beantwoorden.

Meest recent heeft Le een programma gebouwd dat in staat is redelijke antwoorden te geven op open vragen; het werd getraind door dialogen te krijgen uit 18.900 films. Sommige van zijn antwoorden lijken griezelig precies. Le vroeg bijvoorbeeld: Wat is het doel van het leven? en het programma antwoordde: Om het grotere goed te dienen. Het was een redelijk goed antwoord, herinnert hij zich met een grote grijns. Waarschijnlijk beter dan de mijne zou zijn geweest.

Er is maar één probleem, zoals snel duidelijk wordt als je naar meer van de antwoorden van het systeem kijkt. Toen Le vroeg: Hoeveel poten heeft een kat? zijn systeem antwoordde: Vier, denk ik. Toen probeerde hij: Hoeveel poten heeft een duizendpoot? wat een merkwaardig antwoord opleverde: Acht. Kortom, het programma van Le heeft geen idee waar het over gaat. Het begrijpt dat bepaalde combinaties van symbolen samengaan, maar het heeft geen waardering voor de echte wereld. Hij weet niet hoe een duizendpoot er in werkelijkheid uitziet of hoe hij beweegt. Het is nog steeds slechts een illusie van intelligentie, zonder het soort gezond verstand dat mensen als vanzelfsprekend beschouwen. Deep-learning systemen kunnen op deze manier vaak wankel zijn. Degene die Google heeft gemaakt om bijschriften voor afbeeldingen te genereren, zou bizarre fouten maken, zoals het beschrijven van een straatnaambord als een koelkast gevuld met voedsel.

Le vroeg: Wat is het doel van het leven? en het programma antwoordde: Om het grotere goed te dienen.

Door een merkwaardig toeval is de buurman van Terry Winograd in Palo Alto iemand die computers misschien kan helpen een dieper begrip te krijgen van wat woorden eigenlijk betekenen. Fei-Fei Li, directeur van het Stanford Artificial Intelligence Lab, was met zwangerschapsverlof toen ik langskwam, maar ze nodigde me uit bij haar thuis en stelde me trots voor aan haar prachtige drie maanden oude baby, Phoenix. Kijk hoe ze meer naar jou kijkt dan naar mij, zei Li terwijl Phoenix naar me staarde. Dat komt omdat je nieuw bent; het is vroege gezichtsherkenning.

Li heeft een groot deel van haar carrière onderzoek gedaan naar machine learning en computervisie. Enkele jaren geleden leidde ze een poging om een ​​database op te bouwen met miljoenen afbeeldingen van objecten, elk getagd met een passend trefwoord. Maar Li gelooft dat machines een nog geavanceerder begrip nodig hebben van wat er in de wereld gebeurt, en dit jaar heeft haar team een ​​nieuwe database met afbeeldingen vrijgegeven, met veel gedetailleerdere aantekeningen. Elke afbeelding is getagd door een mens met tientallen beschrijvingen: een hond die op een skateboard rijdt, een hond heeft een pluizige, golvende vacht, de weg is gebarsten, enzovoort. De hoop is dat machine learning-systemen meer leren over de fysieke wereld. Het taalgedeelte van de hersenen krijgt veel informatie, ook van het visuele systeem, zegt Li. Een belangrijk onderdeel van AI zal het integreren van deze systemen zijn.

Dit komt dichter bij de manier waarop kinderen leren, door woorden te associëren met objecten, relaties en acties. Maar de analogie met menselijk leren gaat maar tot op zekere hoogte. Jonge kinderen hoeven geen skateboardende hond te zien om er een te kunnen bedenken of verbaal te beschrijven. Li gelooft inderdaad dat de huidige machine learning- en AI-tools niet voldoende zullen zijn om echte AI tot stand te brengen. Het gaat niet alleen om data-rijk deep learning, zegt ze. Li gelooft dat AI-onderzoekers moeten nadenken over zaken als emotionele en sociale intelligentie. Wij [mensen] zijn verschrikkelijk in computers met enorme gegevens, zegt ze, maar we zijn geweldig in abstractie en creativiteit.

Niemand weet machines die menselijke vaardigheden te geven, als het al mogelijk is. Is er iets unieks menselijks aan dergelijke kwaliteiten waardoor ze buiten het bereik van AI vallen?

Cognitieve wetenschappers zoals MIT's Tenenbaum theoretiseren dat belangrijke componenten van de geest ontbreken in de neurale netwerken van vandaag, hoe groot die netwerken ook mogen zijn. Mensen hebben het vermogen om zeer snel te leren van een relatief kleine hoeveelheid gegevens en hebben een ingebouwd vermogen om de wereld zeer efficiënt in 3D te modelleren. Taal bouwt voort op andere vaardigheden die waarschijnlijk fundamenteler zijn en die aanwezig zijn bij jonge baby's voordat ze taal hebben: de wereld visueel waarnemen, handelen op onze motorsystemen, de fysica van de wereld of de doelen van andere agenten begrijpen, zegt Tenenbaum.

Als hij gelijk heeft, zal het moeilijk zijn om taalbegrip opnieuw te creëren in machines en AI-systemen zonder te proberen menselijk leren, mentale modelbouw en psychologie na te bootsen.

Leg jezelf uit

Het kantoor van Noah Goodman op de psychologieafdeling van Stanford is praktisch kaal, afgezien van een paar abstracte schilderijen die tegen een muur staan ​​en een paar overgroeide planten. Toen ik aankwam, was Goodman aan het typen op een laptop, zijn blote voeten op een tafel. We maakten een wandeling over de zongebleekte campus voor ijskoffie. Taal is speciaal omdat het afhankelijk is van veel kennis over taal, maar het is ook afhankelijk van een enorme hoeveelheid gezond verstand kennis over de wereld, en die twee gaan op heel subtiele manieren samen, legde hij uit.

Goodman en zijn studenten hebben een programmeertaal ontwikkeld, Webppl genaamd, die kan worden gebruikt om computers een soort probabilistisch gezond verstand te geven, wat behoorlijk nuttig blijkt te zijn in een gesprek. De ene experimentele versie kan woordspelingen begrijpen en de andere kan hyperbool aan. Als wordt verteld dat sommige mensen eeuwig moesten wachten op een tafel in een restaurant, zal het automatisch beslissen dat de letterlijke betekenis onwaarschijnlijk is, en hoogstwaarschijnlijk bleven ze gewoon lang rondhangen en waren geïrriteerd. Het systeem is verre van echt intelligent, maar het laat zien hoe nieuwe benaderingen kunnen helpen om AI-programma's op een meer levensechte manier te maken.

Tegelijkertijd suggereert Goodmans voorbeeld ook hoe moeilijk het zal zijn om machines taal te leren. Het begrijpen van de contextuele betekenis van voor altijd is iets dat AI-systemen moeten leren, maar het is een vrij eenvoudige en rudimentaire prestatie.

Ik wil een manier om gedachten in een machine te simuleren, zegt hij. En als je gedachten wilt simuleren, dan zou je een machine moeten kunnen vragen waar hij aan denkt.

Ondanks de moeilijkheid en complexiteit van het probleem, biedt het verbazingwekkende succes dat onderzoekers hebben gehad met het gebruik van diepgaande leertechnieken om afbeeldingen te herkennen en uit te blinken in games als Go in ieder geval de hoop dat we misschien ook op het punt van taaldoorbraken staan . Als dat zo is, zullen die vorderingen net op tijd komen. Als AI moet dienen als een alomtegenwoordig hulpmiddel dat mensen gebruiken om hun eigen intelligentie en vertrouwen te vergroten om taken in een naadloze samenwerking over te nemen, zal taal de sleutel zijn. Dat zal met name het geval zijn omdat AI-systemen steeds vaker deep learning en andere technieken gebruiken om zichzelf in wezen te programmeren.

Over het algemeen zijn deep-learningsystemen ontzagwekkend, zegt John Leonard, een professor aan het MIT die onderzoek doet naar geautomatiseerd rijden. Maar aan de andere kant is hun optreden echt moeilijk te begrijpen.

Toyota, dat een reeks zelfrijdende technologieën bestudeert, is een onderzoeksproject gestart aan het MIT onder leiding van Gerald Sussman, een expert op het gebied van kunstmatige intelligentie en programmeertaal, om geautomatiseerde rijsystemen te ontwikkelen die kunnen verklaren waarom ze een bepaalde actie hebben ondernomen. En een voor de hand liggende manier voor een zelfrijdende auto om dit te doen, zou zijn door te praten. Het bouwen van systemen die weten wat ze weten, is een heel moeilijk probleem, zegt Leonard, die aan het MIT een ander door Toyota gesteund project leidt. Maar ja, idealiter zouden ze niet alleen een antwoord geven, maar ook een verklaring.

Een paar weken na terugkomst uit Californië zag ik David Silver, de Google DeepMind-onderzoeker die AlphaGo ontwierp, een lezing geven over de wedstrijd tegen Sedol op een academische conferentie in New York. Silver legde uit dat toen het programma tijdens game twee met zijn geweldige zet op de proppen kwam, zijn team net zo verrast was als alle anderen. Het enige wat ze konden zien waren de voorspelde winkansen van AlphaGo, die zelfs na zet 37 weinig veranderden. Pas enkele dagen later, na zorgvuldige analyse, deed het Google-team een ​​ontdekking: door eerdere games te verwerken, had het programma de kansen op een menselijke speler die dezelfde zet doet met één op 10.000. En de oefenwedstrijden hadden ook aangetoond dat het spel een ongewoon sterk positioneel voordeel bood.

Dus in zekere zin wist de machine dat Sedol volledig overrompeld zou zijn.

Silver zei dat Google verschillende opties overweegt om de technologie te commercialiseren, waaronder een soort intelligente assistent en een hulpmiddel voor de gezondheidszorg. Daarna vroeg ik hem hoe belangrijk het is om te kunnen communiceren met de AI achter dergelijke systemen. Dat is een interessante vraag, zei hij na een pauze. Voor sommige toepassingen kan het belangrijk zijn. Net als in de gezondheidszorg kan het belangrijk zijn om te weten waarom een ​​beslissing wordt genomen.

Naarmate AI-systemen steeds geavanceerder en complexer worden, is het moeilijk voor te stellen hoe we met hen zullen samenwerken zonder taal - zonder hen te kunnen vragen: waarom? Meer nog, het vermogen om moeiteloos met computers te communiceren zou ze oneindig veel nuttiger maken, en het zou niets minder dan magisch aanvoelen. Taal is tenslotte onze krachtigste manier om de wereld te begrijpen en ermee om te gaan. Het wordt tijd dat onze machines
ingehaald.

Will Knight is senior editor voor AI en robotica bij MIT Technology Review . Zijn speelfilm The People's Robots verscheen in het mei/juni-nummer.

zich verstoppen