Machines leren om ons te begrijpen

De eerste keer dat Yann LeCun een revolutie teweegbracht in kunstmatige intelligentie, was het een valse dageraad. Het was 1995 en bijna tien jaar lang was de jonge Fransman toegewijd aan wat veel computerwetenschappers als een slecht idee beschouwden: dat het grof nabootsen van bepaalde kenmerken van de hersenen de beste manier was om intelligente machines tot stand te brengen. Maar LeCun had laten zien dat deze aanpak iets opvallend slims en nuttigs kon opleveren. Hij werkte bij Bell Labs en maakte software die neuronen ruwweg simuleerde en leerde handgeschreven tekst lezen door naar veel verschillende voorbeelden te kijken. De moedermaatschappij van Bell Labs, AT&T, gebruikte het om de eerste machines te verkopen die het handschrift op cheques en schriftelijke formulieren konden lezen. Voor LeCun en een paar medegelovigen in kunstmatige neurale netwerken leek dit het begin te markeren van een tijdperk waarin machines veel andere vaardigheden konden leren die voorheen beperkt waren tot mensen. Dat was het niet.

Dit hele project is min of meer verdwenen op de dag van zijn grootste succes, zegt LeCun. Op dezelfde dag dat hij de lancering vierde van bankmachines die duizenden cheques per uur konden lezen, kondigde AT&T aan dat het splitsen in drie bedrijven gewijd aan verschillende markten in communicatie en informatica. LeCun werd hoofd onderzoek bij een slanker AT&T en kreeg de opdracht om aan andere dingen te werken; in 2002 zou hij AT&T verlaten, om binnenkort professor te worden aan de New York University. Ondertussen ontdekten onderzoekers elders dat ze de doorbraak van LeCun niet konden toepassen op andere computerproblemen. De door de hersenen geïnspireerde benadering van AI werd weer een bijzaak.

Dit verhaal maakte deel uit van ons septembernummer 2015

• Zie de rest van het nummer
• Abonneren

LeCun, nu een gedrongen 55-jarige met een vlotte glimlach en een zijdelings plukje donker haar met een vleugje grijs, stopte nooit met het nastreven van die marginale interesse. En opmerkelijk genoeg is de rest van de wereld erbij gekomen. De ideeën die hij en een paar anderen koesterden ondanks meer dan twee decennia van apathie en soms regelrechte afwijzing, hebben de afgelopen jaren opvallende resultaten opgeleverd op gebieden als gezichts- en spraakherkenning. Deep learning, zoals het vakgebied nu bekend staat, is een nieuw strijdtoneel geworden tussen Google en andere toonaangevende technologiebedrijven die zich haasten om het te gebruiken in consumentendiensten. Een zo'n bedrijf is Facebook, dat LeCun in december 2013 van NYU inhuurde en hem de leiding gaf over een nieuwe onderzoeksgroep op het gebied van kunstmatige intelligentie, FAIR, die nu 50 onderzoekers heeft, maar zal uitgroeien tot 100. Het laboratorium van LeCun is Facebook's eerste significante investering in fundamentele onderzoek, en het zou van cruciaal belang kunnen zijn voor de pogingen van het bedrijf om meer te worden dan alleen een virtuele sociale ontmoetingsplaats. Het kan ook onze verwachtingen van wat machines kunnen doen, hervormen.

Facebook en andere bedrijven, waaronder Google, IBM en Microsoft, hebben de afgelopen jaren snel gehandeld om dit gebied te betreden, omdat deep learning veel beter is dan eerdere AI-technieken om computers vaardigheden aan te leren die machines uitdagen, zoals het begrijpen van foto's . Die meer gevestigde technieken vereisen dat menselijke experts moeizaam bepaalde vaardigheden programmeren, zoals het detecteren van lijnen en hoeken in afbeeldingen. Deep-learning software zoekt uit hoe gegevens voor zichzelf kunnen worden begrepen, zonder een dergelijke programmering. Sommige systemen kunnen nu afbeeldingen herkennen of gezichten ongeveer net zo nauwkeurig als mensen.

Nu mikt LeCun op iets veel krachtigers. Hij wil software leveren met de taalvaardigheden en het gezond verstand die nodig zijn voor een basisgesprek. In plaats van met machines te moeten communiceren door op knoppen te klikken of zorgvuldig gekozen zoektermen in te voeren, konden we ze gewoon vertellen wat we willen alsof we met een andere persoon praten. Onze relatie met de digitale wereld zal volledig veranderen door intelligente agenten waarmee je kunt communiceren, voorspelt hij. Hij denkt dat deep learning software kan produceren die onze zinnen begrijpt en kan reageren met passende antwoorden, verduidelijkende vragen of eigen suggesties.

Agenten die feitelijke vragen beantwoorden of restaurants voor ons boeken, zijn een voor de hand liggende - zo niet echt wereldveranderende - toepassing. Het is ook gemakkelijk in te zien hoe dergelijke software kan leiden tot meer stimulerende videogamekarakters of het online leren kan verbeteren. Meer provocerend zegt LeCun dat systemen die gewone taal begrijpen ons goed genoeg kunnen leren kennen om te begrijpen wat goed voor ons is. Systemen als deze moeten niet alleen kunnen begrijpen waar mensen zich mee kunnen vermaken, maar ook wat ze moeten zien, ongeacht of ze ervan zullen genieten, zegt hij. Dergelijke prestaties zijn niet mogelijk met de technieken achter de zoekmachines, spamfilters en virtuele assistenten die ons vandaag proberen te begrijpen. Ze negeren vaak de volgorde van woorden en redden het met statistische trucs zoals het matchen en tellen van trefwoorden. Siri van Apple probeert bijvoorbeeld wat je zegt in te passen in een klein aantal categorieën die gescripte reacties veroorzaken. Ze begrijpen de tekst niet echt, zegt LeCun. Het is verbazingwekkend dat het überhaupt werkt. Ondertussen zijn systemen die complexe taaltaken lijken te beheersen, zoals die van IBM Gevaar! winnaar Watson, doe het door supergespecialiseerd te zijn in een bepaald formaat. Het is leuk als demonstratie, maar geen werk dat zich in een andere situatie zou vertalen, zegt hij.

Daarentegen kan deep-learning software taal beter begrijpen zoals mensen dat doen. Onderzoekers van Facebook, Google en elders ontwikkelen software die vooruitgang heeft laten zien bij het begrijpen van wat woorden betekenen. Het team van LeCun heeft een systeem dat in staat is om eenvoudige verhalen te lezen en vragen daarover te beantwoorden, gebruikmakend van vermogens als logische deductie en een rudimentair begrip van tijd.

Zoals LeCun echter uit de eerste hand weet, is kunstmatige intelligentie berucht vanwege de snelle vooruitgang die voorspellingen van grote sprongen voorwaarts doet ontstaan, maar uiteindelijk heel weinig verandert. Software maken die de duizelingwekkende complexiteit van taal aankan, is een grotere uitdaging dan deze te trainen om objecten in afbeeldingen te herkennen. Het nut van deep learning voor spraakherkenning en beelddetectie staat buiten twijfel, maar het is nog steeds een gok dat het de taal zal beheersen en ons leven radicaler zal veranderen. We weten nog niet zeker of deep learning een blip is die iets veel groters zal blijken te zijn.

Diepe geschiedenis

De wortels van deep learning gaan verder terug dan de tijd van LeCun bij Bell Labs. Hij en een paar anderen die de techniek pionierden, waren in feite bezig een lang geleden dood idee in kunstmatige intelligentie nieuw leven in te blazen.

Toen het veld begon, in de jaren vijftig, begonnen biologen net met het ontwikkelen van eenvoudige wiskundige theorieën over hoe intelligentie en leren voortkomen uit signalen die tussen neuronen in de hersenen gaan. Het kernidee - dat vandaag nog steeds actueel is - was dat de verbindingen tussen neuronen worden versterkt als die cellen vaak communiceren. De fusillade van neurale activiteit die wordt veroorzaakt door een nieuwe ervaring, past de verbindingen van de hersenen aan, zodat ze deze de tweede keer beter kunnen begrijpen.

In 1956 gebruikte de psycholoog Frank Rosenblatt die theorieën om een ​​manier te bedenken om eenvoudige simulaties van neuronen in software en hardware te maken. De New York Times kondigde zijn werk aan met de kop Elektronisch 'brein' leert zichzelf . Rosenblatts perceptron, zoals hij zijn ontwerp noemde, zou kunnen leren eenvoudige afbeeldingen in categorieën te sorteren, bijvoorbeeld driehoeken en vierkanten. Rosenblatt implementeerde zijn ideeën meestal op gigantische machines dik verward met draden, maar ze legden de basisprincipes vast die tegenwoordig aan het werk zijn in kunstmatige neurale netwerken.

Deep learning is goed in het opnemen van dictaat en het herkennen van afbeeldingen. Maar kan het de menselijke taal beheersen?

Een computer die hij bouwde had acht gesimuleerde neuronen, gemaakt van motoren en wijzerplaten die waren verbonden met 400 lichtdetectoren. Elk van de neuronen ontving een deel van de signalen van de lichtdetectoren, combineerde ze en spuugde, afhankelijk van wat ze optelden, ofwel een een of een 0 . Samen kwamen die cijfers overeen met de beschrijving van de perceptron van wat hij zag. Aanvankelijk waren de resultaten een rommeltje. Maar Rosenblatt gebruikte een methode genaamd supervisie leren om een ​​perceptron te trainen om resultaten te genereren die verschillende vormen correct onderscheidden. Hij zou het perceptron een afbeelding laten zien samen met het juiste antwoord. Vervolgens zou de machine aanpassen hoeveel aandacht elk neuron aan zijn binnenkomende signalen besteedde, en die gewichten verschuiven naar instellingen die het juiste antwoord zouden opleveren. Na vele voorbeelden gaven die tweaks de computer voldoende intelligentie om afbeeldingen die hij nog nooit eerder had gezien correct te categoriseren. De huidige deep learning-netwerken maken gebruik van geavanceerde algoritmen en hebben miljoenen gesimuleerde neuronen, met miljarden verbindingen ertussen. Maar ze worden op dezelfde manier opgeleid.

Rosenblatt voorspelde dat perceptrons binnenkort in staat zouden zijn om mensen bij naam te begroeten, en zijn idee werd een spil in het ontluikende veld van kunstmatige intelligentie. Het werk was gericht op het maken van perceptrons met complexere netwerken, gerangschikt in een hiërarchie van meerdere leerlagen. Door afbeeldingen of andere gegevens achtereenvolgens door de lagen te laten gaan, zou een perceptron complexere problemen kunnen aanpakken. Helaas werkte het leeralgoritme van Rosenblatt niet op meerdere lagen. In 1969 publiceerde de AI-pionier Marvin Minsky, die bij Rosenblatt naar de middelbare school was gegaan, een boek-length kritiek op perceptrons die de interesse in neurale netwerken in één klap doodde. Minsky beweerde dat door meer lagen te laten werken de perceptrons niet krachtig genoeg zouden zijn om bruikbaar te zijn. Onderzoekers op het gebied van kunstmatige intelligentie lieten het idee varen om software te maken die leerde. In plaats daarvan gebruikten ze logica om werkende facetten van intelligentie te creëren, zoals aanleg voor schaken. Neurale netwerken werden naar de marge van de informatica geschoven.

Desalniettemin was LeCun gebiologeerd toen hij begin jaren tachtig in Parijs las over perceptrons als student engineering in Parijs. Ik was verbaasd dat dit werkte en vroeg me af waarom mensen het verlieten, zegt hij. Hij bracht dagen door in een onderzoeksbibliotheek in de buurt van Versailles, op zoek naar artikelen die waren gepubliceerd voordat de perceptrons uitstierven. Toen ontdekte hij dat een kleine groep onderzoekers in de Verenigde Staten weer heimelijk bezig was met neurale netwerken. Dit was een zeer ondergrondse beweging, zegt hij. In artikelen die zorgvuldig waren gezuiverd van woorden als neuraal en leren om afwijzing door recensenten te vermijden, werkten ze aan iets dat erg leek op Rosenblatts oude probleem over het trainen van neurale netwerken met meerdere lagen.

LeCun trad toe tot de underground nadat hij in 1985 de centrale figuren ontmoette, waaronder een wrange Brit genaamd Geoff Hinton, die nu werkt bij Google en de Universiteit van Toronto. Ze werden onmiddellijk vrienden, wederzijdse bewonderaars - en de kern van een kleine gemeenschap die het idee van neurale netwerken nieuw leven inblies. Ze werden gesteund door de overtuiging dat het gebruik van een kernmechanisme dat wordt gezien in natuurlijke intelligentie de enige manier was om kunstmatige intelligentie op te bouwen. De enige methode waarvan we wisten dat die werkte, waren de hersenen, dus op de lange termijn moesten zulke systemen kunnen werken, zegt Hinton.

Het succes van LeCun bij Bell Labs kwam tot stand nadat hij, Hinton en anderen een leeralgoritme voor neurale netwerken met meerdere lagen hadden geperfectioneerd. Het stond bekend als backpropagation, en het leidde tot een stormloop van interesse van psychologen en computerwetenschappers. Maar nadat het cheque-leesproject van LeCun was afgelopen, bleek backpropagation lastig om zich aan te passen aan andere problemen, en een nieuwe manier om software te trainen om gegevens te sorteren, werd uitgevonden door een onderzoeker van Bell Labs in de hal van LeCun. Het ging niet om gesimuleerde neuronen en werd gezien als wiskundig eleganter. Het werd al snel een hoeksteen van internetbedrijven zoals Google, Amazon en LinkedIn, die het gebruiken om systemen te trainen die spam blokkeren of dingen voorstellen die u kunt kopen.

Nadat LeCun in 2003 naar NYU kwam, vormden hij, Hinton, en een derde medewerker, professor Yoshua Bengio van de Universiteit van Montreal, wat LeCun de diepgaande samenzwering noemt. Om te bewijzen dat neurale netwerken nuttig zouden zijn, ontwikkelden ze stilletjes manieren om ze groter te maken, ze te trainen met grotere datasets en ze op krachtigere computers te laten draaien. Het handschriftherkenningssysteem van LeCun had vijf lagen neuronen, maar nu konden ze er tien of veel meer hebben. Rond 2010 begon wat nu deep learning werd genoemd, de gevestigde technieken te verslaan voor echte taken zoals het sorteren van afbeeldingen. Microsoft, Google en IBM hebben het toegevoegd aan spraakherkenningssystemen. Maar neurale netwerken waren de meeste onderzoekers nog steeds vreemd en werden niet algemeen nuttig geacht. Begin 2012 schreef LeCun een vurige brief - aanvankelijk anoniem gepubliceerd - nadat een paper die beweerde een nieuw record te hebben gevestigd op een standaard vision-taak, werd afgewezen door een toonaangevende conferentie. Hij beschuldigde de recensenten ervan onwetend en negatief bevooroordeeld te zijn.

Alles veranderde zes maanden later. Hinton en twee afstudeerders gebruikten een netwerk zoals dat van LeCun voor het lezen van cheques om het veld te leiden in de toonaangevende wedstrijd voor beeldherkenning. Het staat bekend als de ImageNet Large Scale Visual Recognition Challenge en vraagt ​​software om 1.000 soorten objecten te identificeren, zo divers als muskietennetten en moskeeën. De Toronto-invoer identificeerde het object in een afbeelding correct binnen vijf keer raden, ongeveer 85 procent van de tijd, meer dan 10 procentpunten beter dan het op één na beste systeem. De eerste neuronenlagen van de deep-learningsoftware optimaliseerden zichzelf voor het vinden van eenvoudige dingen zoals randen en hoeken, en de lagen daarna op zoek naar achtereenvolgens complexere functies zoals basisvormen en uiteindelijk honden of mensen.

LeCun herinnert zich hoe de gemeenschap die neurale netwerken grotendeels had genegeerd zich in de kamer had verzameld waar de winnaars een paper over hun resultaten presenteerden. Je kon zien dat veel senioren in de gemeenschap gewoon omdraaiden, zegt hij. Ze zeiden: 'Ok, nu kopen we het. Dat is het, nu - je hebt gewonnen.'

Academici die aan computervisie werkten, verlieten snel hun oude methoden en deep learning werd plotseling een van de belangrijkste onderdelen van kunstmatige intelligentie. Google kocht een bedrijf opgericht door Hinton en de twee anderen achter het resultaat van 2012, en Hinton begon daar parttime te werken aan een onderzoeksteam dat bekend staat als Google Brain. Microsoft en andere bedrijven hebben nieuwe projecten opgezet om deep learning te onderzoeken. In december 2013 verbaasde Facebook-CEO Mark Zuckerberg academici door te verschijnen op de grootste onderzoeksconferentie over neurale netwerken, waar hij een feest organiseerde waar hij aankondigde dat LeCun FAIR begon (hoewel hij nog steeds een dag per week op NYU werkt).

LeCun koestert nog steeds gemengde gevoelens over het onderzoek uit 2012 dat de wereld naar zijn standpunt bracht. Tot op zekere hoogte had dit uit mijn lab moeten komen, zegt hij. Hinton deelt die beoordeling. Het was een beetje jammer voor Yann dat hij niet degene was die het doorbraaksysteem daadwerkelijk heeft gemaakt, zegt hij. De groep van LeCun had meer werk verzet dan wie dan ook om de technieken te bewijzen die werden gebruikt om de ImageNet-uitdaging te winnen. De overwinning had kunnen zijn dat de afstudeerschema's van studenten en andere verplichtingen zijn eigen groep er niet van weerhielden ImageNet aan te gaan, zegt hij. LeCun's jacht op de volgende doorbraak van deep learning is nu een kans om de score gelijk te maken.

LeCun bij Bell Labs in 1993, met een computer die het handschrift op cheques kon lezen.

Taal leren

Het kantoor van Facebook in New York ligt op drie minuten lopen van Broadway vanaf het kantoor van LeCun aan de NYU, op twee verdiepingen van een gebouw dat aan het begin van de 20e eeuw als warenhuis is gebouwd. Werknemers zijn dichter opeengepakt in de open ruimte dan op het hoofdkantoor van Facebook in Menlo Park, Californië, maar je kunt ze nog steeds zien glijden op gearticuleerde skateboards langs aankondigingen voor wekelijkse bierpong. Bijna de helft van LeCuns team van vooraanstaande AI-onderzoekers werkt hier, de rest op de campus van Facebook in Californië of een kantoor in Parijs. Velen van hen proberen neurale netwerken beter te maken in het begrijpen van taal. Ik heb alle mensen ingehuurd die hieraan werken, zegt LeCun.

Een neuraal netwerk kan woorden leren door door tekst te spoelen en te berekenen hoe elk woord dat het tegenkomt voorspeld had kunnen worden op basis van de woorden ervoor of erna. Door dit te doen, leert de software elk woord weer te geven als een vector die de relatie met andere woorden aangeeft - een proces dat op griezelige wijze concepten in taal vastlegt. Het verschil tussen de vectoren voor koning en koningin is hetzelfde als voor bijvoorbeeld man en vrouw. De vectoren voor papier en karton liggen dicht bij elkaar, en die voor groot en groot nog dichter bij elkaar.

Dezelfde aanpak werkt voor hele zinnen (Hinton zegt dat het gedachtevectoren genereert), en Google overweegt het te gebruiken om zijn automatische vertaalservice te versterken. Een recent artikel van onderzoekers van een Chinese universiteit en het laboratorium van Microsoft in Peking gebruikte een versie van de vectortechniek om software te maken die sommige mensen verslaat bij IQ-testvragen waarvoor begrip van synoniemen, antoniemen en analogieën vereist is.

De groep van LeCun werkt eraan om verder te gaan. Taal op zich is niet zo ingewikkeld, zegt hij. Wat ingewikkeld is, is een diep begrip van taal en de wereld dat je gezond verstand geeft. Dat is wat we echt willen inbouwen in machines. LeCun betekent gezond verstand zoals Aristoteles de term gebruikte: het vermogen om de fysieke basisrealiteit te begrijpen. Hij wil dat een computer begrijpt dat de zin die Yann de fles oppakte en de kamer uitliep, betekent dat de fles bij hem is achtergelaten. De onderzoekers van Facebook hebben een diepgaand leersysteem uitgevonden, een geheugennetwerk genaamd, dat laat zien wat mogelijk de vroege prikkels van gezond verstand zijn.

Een geheugennetwerk is een neuraal netwerk met een geheugenbank die is vastgeschroefd om de geleerde feiten op te slaan, zodat ze niet elke keer worden weggespoeld als er nieuwe gegevens binnenkomen. Het Facebook AI-lab heeft versies gemaakt die eenvoudige, gezond verstand vragen over tekst kunnen beantwoorden die ze nog nooit eerder hebben gezien. Toen onderzoekers bijvoorbeeld een geheugennetwerk een zeer vereenvoudigde samenvatting gaven van de plot van Lord of the Rings , kan het vragen beantwoorden zoals Waar is de ring? en waar was Frodo vóór Mount Doom? Het zou de eenvoudige wereld kunnen interpreteren die in de tekst wordt beschreven, ondanks dat het nog nooit eerder veel van de namen of objecten, zoals Frodo of ring, is tegengekomen.

De software leerde zijn rudimentaire gezond verstand door te laten zien hoe je vragen moest beantwoorden over een eenvoudige tekst waarin personages dingen doen in een reeks kamers, zoals Fred verhuisde naar de slaapkamer en Joe ging naar de keuken. Maar LeCun wil de software blootstellen aan teksten die veel beter zijn in het weergeven van de complexiteit van het leven en de dingen die een virtuele assistent mogelijk moet doen. Een virtuele conciërge genaamd Moneypenny die Facebook naar verwachting zal vrijgeven, zou een bron van die gegevens kunnen zijn. De assistent wordt naar verluidt aangedreven door een team van menselijke operators die mensen zullen helpen bij het maken van reserveringen voor restaurants. Het team van LeCun zou een geheugennetwerk over Moneypenny's schouder kunnen laten waken voordat het uiteindelijk leert door zelf met mensen om te gaan.

Verschillende bedrijven hebben deep-learning labs geopend. Ik heb alle mensen ingehuurd die hieraan werken, zegt LeCun.

Het bouwen van iets dat zelfs een eenvoudig, eng gericht gesprek kan bevatten, vereist nog steeds veel werk. Neurale netwerken hebben bijvoorbeeld slechts heel eenvoudige redeneringen laten zien en onderzoekers hebben niet bedacht hoe ze kunnen worden geleerd om plannen te maken, zegt LeCun. Maar de resultaten van het werk dat tot nu toe met de technologie is gedaan, geven hem vertrouwen in waar het naartoe gaat. De revolutie is onderweg, zegt hij.

Sommige mensen zijn minder zeker. Deep-learning software heeft tot nu toe alleen de eenvoudigste mogelijkheden getoond die nodig zijn voor wat we zouden herkennen als een gesprek, zegt Oren Etzioni , CEO van het Allen Institute for Artificial Intelligence in Seattle. De logica en planningsmogelijkheden die nog nodig zijn, zegt hij, zijn heel anders dan de dingen die neurale netwerken het beste doen: het verwerken van reeksen pixels of akoestische golfvormen om te beslissen welke afbeeldingscategorie of woord ze vertegenwoordigen. De problemen met het begrijpen van natuurlijke taal zijn niet op dezelfde manier te verminderen, zegt hij.

Gary Marcus , een professor in psychologie en neurale wetenschappen aan de NYU die heeft bestudeerd hoe mensen taal leren en onlangs een bedrijf voor kunstmatige intelligentie heeft opgericht met de naam Geometrische Intelligentie, denkt dat LeCun onderschat hoe moeilijk het zou zijn voor bestaande software om taal en gezond verstand op te pikken. Het trainen van de software met grote hoeveelheden zorgvuldig geannoteerde gegevens is prima om afbeeldingen te sorteren. Maar Marcus betwijfelt of het de lastigere vaardigheden kan verwerven die nodig zijn voor taal, waarbij de betekenissen van woorden en complexe zinnen kunnen veranderen afhankelijk van de context. Mensen zullen terugkijken op deep learning en zeggen dat dit een heel krachtige techniek is - het is de eerste keer dat AI praktisch werd, zegt hij. Ze zullen ook zeggen dat die dingen veel gegevens vereisten, en er waren domeinen waar mensen nooit genoeg hadden. Marcus denkt dat taal een van die domeinen kan zijn. Om software de conversatie onder de knie te krijgen, zou het meer moeten leren als een peuter die het oppakt zonder expliciete instructie, stelt hij voor.

diep geloof

Op het hoofdkantoor van Facebook in Californië zitten de West Coast-leden van LeCun's team dicht bij Mark Zuckerberg en Mike Schroepfer, de CTO van het bedrijf. De leiders van Facebook weten dat de groep van LeCun nog ver verwijderd is van het bouwen van iets waarmee je kunt praten, maar Schroepfer denkt al na over hoe het te gebruiken. Het toekomstige Facebook dat hij beschrijft, haalt en coördineert informatie, zoals een butler waarmee je communiceert door te typen of te praten zoals je zou kunnen met een menselijke.

Je kunt werken met een systeem dat concepten en taal echt op een veel hoger niveau kan begrijpen, zegt Schroepfer. Hij stelt zich voor dat hij je kan vragen om de babykiekjes van een vriend te zien, maar niet zijn grappen, bijvoorbeeld. Ik denk dat op korte termijn een versie daarvan heel realiseerbaar is, zegt hij. Omdat de systemen van LeCun beter kunnen redeneren en plannen, verwacht hij dat het gesprek minder eenzijdig zal worden. Facebook kan informatie aanbieden waarvan het denkt dat je het leuk vindt en vragen wat je ervan vond. Uiteindelijk is het als deze superintelligente helper die is aangesloten op alle informatiestromen in de wereld, zegt Schroepfer.

Het is niet duidelijk hoeveel we zouden profiteren van slimmere virtuele assistenten, maar we hoeven misschien niet lang te wachten om erachter te komen.

De algoritmen die nodig zijn om dergelijke interacties mogelijk te maken, zouden ook de systemen verbeteren die Facebook gebruikt om de berichten en advertenties die we zien te filteren. En ze kunnen van vitaal belang zijn voor de ambities van Facebook om veel meer te worden dan alleen een plek om te socializen. Nu Facebook bijvoorbeeld artikelen en video begint te hosten namens media- en entertainmentbedrijven, zullen mensen betere manieren nodig hebben om informatie te beheren. Virtuele assistenten en andere spin-outs van het werk van LeCun kunnen ook helpen bij het ambitieuzere vertrek van Facebook van zijn oorspronkelijke bedrijf, zoals de Oculus-groep die werkt om virtual reality tot een massamarkttechnologie te maken.

Dit alles zal niet gebeuren als de recente indrukwekkende resultaten overeenkomen met het lot van eerdere grote ideeën op het gebied van kunstmatige intelligentie. Bloei van opwinding rond neurale netwerken is al twee keer verdord. Maar hoewel ze klagen dat andere bedrijven of onderzoekers hun werk overhypen, is dat een van LeCun's favoriete bezigheden , zegt hij dat er voldoende indirect bewijs is om stand te houden achter zijn eigen voorspellingen dat deep learning indrukwekkende resultaten zal opleveren. De technologie biedt nog steeds meer nauwkeurigheid en kracht op elk gebied van AI waar het is toegepast, zegt hij. Er zijn nieuwe ideeën nodig over hoe het op taalverwerking kan worden toegepast, maar het nog steeds kleine veld breidt zich snel uit naarmate bedrijven en universiteiten er meer mensen aan wijden. Dat zal de vooruitgang versnellen, zegt LeCun.

Het is nog steeds niet duidelijk dat deep learning iets kan opleveren zoals de informatiebutler die Facebook voor ogen heeft. En zelfs als het kan, is het moeilijk te zeggen hoeveel de wereld er echt van zou profiteren. Maar misschien hoeven we niet lang te wachten om erachter te komen. LeCun vermoedt dat virtuele helpers met een beheersing van taal die ongekend is voor software, over slechts twee tot vijf jaar beschikbaar zullen zijn. Hij verwacht dat iedereen die twijfelt aan het vermogen van deep learning om taal onder de knie te krijgen, nog sneller ongelijk krijgt. Er is hetzelfde fenomeen dat we net voor 2012 waarnamen, zegt hij. De dingen beginnen te werken, maar de mensen die meer klassieke technieken toepassen, zijn niet overtuigd. Binnen een jaar of twee zal het einde zijn.

zich verstoppen