De man die hielp bij het uitvinden van virtuele assistenten, denkt dat ze gedoemd zijn zonder een nieuwe AI-aanpak

mevrouw Tech

Siri, Alexa, Google Home: technologie die taal ontleedt, vindt steeds meer zijn weg naar het dagelijks leven.

Boris Katz , een hoofdonderzoeker aan het MIT, is niet zo onder de indruk. In de afgelopen 40 jaar heeft Katz een belangrijke bijdrage geleverd aan de taalvaardigheid van machines. In de jaren tachtig ontwikkelde hij BEGIN , een systeem dat in staat is te reageren op natuurlijk geformuleerde vragen. De ideeën die in START werden gebruikt, hielpen IBM's Watson om te winnen Gevaar! en legde de basis voor de kwebbelende kunstmatige bedienden van vandaag.

Maar Katz maakt zich nu zorgen dat het veld te lijden heeft onder een afhankelijkheid van decennia-oude ideeën, en dat deze ideeën ons geen machines met echte intelligentie zullen geven. Ik ontmoette hem om de huidige limieten van AI-assistenten te bespreken en om zijn mening te horen over waar het onderzoek heen moet als ze ooit slimmer worden.

Hoe raakte je geïnteresseerd om computers taal te laten gebruiken?

Ik kwam voor het eerst in aanraking met computers in de jaren zestig als student aan de universiteit van Moskou. De specifieke machine die ik gebruikte was een mainframe genaamd BESM-4. Men kon alleen octale code gebruiken om ermee te communiceren. Mijn eerste computerproject omvatte het leren van een computer om wiskundige problemen te lezen, te begrijpen en op te lossen.

Daarna ontwikkelde ik een computerprogramma voor het schrijven van poëzie. Ik herinner me nog dat ik in de machinekamer stond te wachten op het volgende gedicht dat door de machine werd gegenereerd. Ik stond versteld van de schoonheid van de gedichten; ze leken te zijn geproduceerd door een intelligente entiteit. En toen en daar wist ik dat ik de rest van mijn leven wil werken aan het maken van intelligente machines en het vinden van manieren om met hen te communiceren.

Wat vind je van Siri, Alexa en andere persoonlijke assistenten?

Het is grappig om over te praten, want aan de ene kant zijn we erg trots op deze ongelooflijke vooruitgang - iedereen in hun zak heeft iets dat we hier vele, vele jaren geleden hebben helpen creëren, wat geweldig is.

MET

Maar aan de andere kant zijn deze programma's zo ongelooflijk dom. Er is dus een gevoel van trots en bijna beschaamd te zijn. Je lanceert iets waarvan mensen denken dat het intelligent is, maar het komt niet eens in de buurt.

Er is aanzienlijke vooruitgang geboekt op het gebied van AI dankzij machine learning. Maakt dat machines niet beter in taal?

Aan de ene kant is er deze dramatische vooruitgang, en dan is een deel van deze vooruitgang opgeblazen. Als je kijkt naar de vooruitgang op het gebied van machine learning, dan kwamen alle ideeën 20 tot 25 jaar geleden. Het is gewoon zo dat ingenieurs uiteindelijk geweldig werk hebben geleverd om deze ideeën te realiseren. Deze technologie, hoe geweldig ze ook is, zal het probleem van echt begrip niet oplossen - van echte intelligentie.

Het lijkt erop dat we vooruitgang boeken op het gebied van AI, hoewel … (zie 10 baanbrekende technologieën: vlot pratende persoonlijke assistenten) ?

Op een zeer hoog niveau zijn moderne technieken - statistische technieken zoals machine learning en deep learning - erg goed in het vinden van regelmatigheden. En omdat mensen meestal dezelfde zinnen produceren, is het heel gemakkelijk om ze in taal te vinden.

Kijk naar voorspellende tekst. De machine weet beter dan u wat u gaat zeggen. Je zou dat intelligent kunnen noemen, maar het is gewoon woorden en cijfers tellen. Omdat we steeds hetzelfde zeggen, is het eenvoudig om systemen te bouwen die de regelmatigheden vastleggen en doen alsof ze intelligent zijn. Dit is het fictieve karakter van een groot deel van de huidige vooruitgang.

Hoe zit het met de gevaarlijke taalgenererende tool? onlangs aangekondigd door OpenAI ?

Deze voorbeelden zijn inderdaad erg indrukwekkend, maar ik weet niet zeker wat ze ons leren. Het OpenAI-taalmodel is getraind op 8 miljoen webpagina's om het volgende woord te voorspellen, gezien alle voorgaande woorden in een tekst (die over hetzelfde onderwerp ging als het onderwerp waarop het model was getraind). Deze enorme hoeveelheid training zorgde zeker voor lokale coherentie (syntactisch en zelfs semantisch) van de tekst.

Waarom denk je dat AI de verkeerde kant op gaat in taal?

Op het gebied van taalverwerking werd, net als op andere gebieden, vooruitgang geboekt door modellen te trainen op enorme hoeveelheden gegevens - vele miljoenen zinnen. Maar het menselijk brein zou geen taal kunnen leren met dit paradigma. We laten onze baby's niet achter met een encyclopedie in de wieg, in de verwachting dat ze de taal beheersen.

Als we iets zien, beschrijven we het in taal; als we iemand ergens over horen praten, stellen we ons voor hoe de beschreven objecten en gebeurtenissen er in de wereld uitzien. Mensen leven in een fysieke omgeving, gevuld met visuele, tactiele en linguïstische sensorische inputs, en de overtollige en complementaire aard van deze inputs maakt het voor menselijke kinderen mogelijk om de wereld te begrijpen en tegelijkertijd taal te leren. Misschien hebben we het probleem eerder moeilijker dan gemakkelijker gemaakt door deze modaliteiten afzonderlijk te bestuderen?

Waarom is gezond verstand belangrijk?

Stel dat je robot je helpt inpakken, en je zegt: Dit boek zou niet in de rode doos passen omdat het is ook klein. Het is duidelijk dat u wilt dat uw robot begrijpt dat de netto- doos te klein is, zodat je een zinvol gesprek kunt blijven voeren. Als je echter tegen de robot zegt: Dit boek zou niet in het rode vak passen omdat het is ook groot, u wilt dat uw robot begrijpt dat de boek is te groot.

Weten naar welke entiteit in een gesprek een voornaamwoord verwijst, is een veel voorkomende taak die mensen elke dag uitvoeren, en toch, zoals je aan deze en andere voorbeelden kunt zien, is het vaak afhankelijk van een diep begrip van de wereld, die momenteel buiten het bereik ligt van onze machines: begrip van gezond verstand en intuïtieve fysica, begrip van overtuigingen en bedoelingen van anderen, vermogen om oorzaak en gevolg te visualiseren en te redeneren, en nog veel meer.

Je probeert machines over taal te leren met behulp van gesimuleerde fysieke werelden. Waarom is dat?

Ik moet nog een baby zien wiens ouders een encyclopedie in de wieg hebben gestopt en zeggen: ga leren. En dit is wat onze computers tegenwoordig doen. Ik denk niet dat deze systemen zullen leren zoals wij dat willen of de wereld zullen begrijpen zoals wij dat willen.

Wat er met baby's gebeurt, is dat ze onmiddellijk een tastbare ervaring van de wereld krijgen. Dan beginnen baby's de wereld te zien en gebeurtenissen en eigenschappen van objecten te absorberen. En dan hoort de baby uiteindelijk taalkundige input. En het is deze complementaire input die de magie van begrip laat gebeuren.

Wat is een betere aanpak?

Een manier om vooruit te komen is om meer inzicht te krijgen in menselijke intelligentie en dat inzicht vervolgens te gebruiken om intelligente machines te maken. AI-onderzoek moet voortbouwen op ideeën uit de ontwikkelingspsychologie, cognitieve wetenschap en neurowetenschappen, en AI-modellen moeten weerspiegelen wat al bekend is over hoe mensen de wereld leren en begrijpen.

Echte vooruitgang zal pas komen als onderzoekers onze kantoren verlaten en met mensen op andere gebieden gaan praten. Samen zullen we dichter bij het begrijpen van intelligentie komen en uitzoeken hoe we het kunnen repliceren in intelligente machines die kunnen spreken, zien en werken in onze fysieke wereld.

De uitdaging om echt intelligente machines te maken is erg moeilijk, maar het is ook een van de belangrijkste uitdagingen die we hebben.

zich verstoppen