211service.com
We kunnen AI-systemen die alleen op deep learning zijn gebouwd niet vertrouwen
AI opnieuw opstarten door Gary Marcus en Ernest Davis met dank aan Penguin Random House
Gary Marcus is niet onder de indruk van de hype rond deep learning. Hoewel de NYU-professor van mening is dat de techniek een belangrijke rol heeft gespeeld bij het bevorderen van AI, denkt hij ook dat de huidige te grote nadruk van het veld erop kan leiden tot de ondergang ervan.
Marcus, een neurowetenschapper van opleiding die zijn carrière in de voorhoede van AI-onderzoek heeft doorgebracht, noemt zowel technische als ethische zorgen. Vanuit technisch oogpunt kan deep learning goed zijn in het nabootsen van de perceptuele taken van het menselijk brein, zoals beeld- of spraakherkenning. Maar het schiet tekort bij andere taken, zoals het begrijpen van gesprekken of causale verbanden. Om meer capabele en algemeen intelligente machines te creëren, in de volksmond vaak kunstmatige algemene intelligentie genoemd, moet deep learning worden gecombineerd met andere methoden.
Wanneer een AI-systeem zijn taken of de wereld eromheen niet echt begrijpt, kan dat ook tot gevaarlijke gevolgen leiden. Zelfs de kleinste onverwachte veranderingen in de omgeving van een systeem kunnen ervoor zorgen dat het mis gaat. Er zijn al talloze voorbeelden hiervan: haatspraakdetectoren die gemakkelijk voor de gek kunnen worden gehouden, sollicitatiesystemen die discriminatie in stand houden en zelfrijdende auto's die zijn gecrasht, waarbij soms de bestuurder of een voetganger om het leven is gekomen. De zoektocht naar kunstmatige algemene intelligentie is meer dan een interessant onderzoeksprobleem. Het heeft zeer reële implicaties.
In hun nieuwe boek AI opnieuw opstarten , pleiten Marcus en zijn collega Ernest Davis voor een nieuwe weg vooruit. Ze geloven dat we nog lang niet in de buurt zijn van het bereiken van dergelijke algemene intelligentie, maar ze hebben er ook vertrouwen in dat we daar uiteindelijk zullen komen.
Ik sprak met Marcus over de zwakke punten van deep learning, de lessen die het vakgebied kan trekken uit de menselijke geest en waarom hij optimistisch is.
Het volgende is bewerkt voor lengte en duidelijkheid.
Waarom willen we überhaupt algemene inlichtingen? Smalle AI heeft al veel waarde voor ons gegenereerd.
Gary Marcus met dank aan Gary Marcus
Het heeft, en het zal nog meer genereren. Maar er zijn veel problemen waar smalle AI gewoon niet goed toe in staat lijkt. Dingen zoals conversatie in natuurlijke taal en algemene hulp in de virtuele wereld, of dingen zoals Rosie de robot die je misschien kan helpen je huis op te ruimen of je avondeten te koken. Dat valt gewoon ver buiten het bereik van wat we kunnen doen met smalle AI. Het is ook een interessante empirische vraag of smalle AI ons naar veilige auto's zonder bestuurder kan brengen. De realiteit tot nu toe is dat smalle AI veel problemen heeft met uitschieters, zelfs voor autorijden, wat een vrij beperkt probleem is.
Meer in het algemeen denk ik dat we allemaal graag zouden zien dat AI ons helpt om op grote schaal nieuwe ontdekkingen in de geneeskunde te doen. Het is niet duidelijk of de huidige technieken ons zullen brengen waar we moeten zijn, omdat biologie ingewikkeld is. Je moet de literatuur echt kunnen lezen. Wetenschappers hebben oorzakelijke inzichten over hoe netwerken en moleculen op elkaar inwerken; ze kunnen theorieën ontwikkelen over banen en planeten of wat dan ook. Met smalle AI kunnen we machines niet zover krijgen dat ze dat innovatieniveau doen. Met algemene AI kunnen we misschien een revolutie teweegbrengen in wetenschap, technologie en geneeskunde. Dus ik denk dat het werken aan algemene AI een zeer waardig project is.
Het klinkt alsof je algemene AI gebruikt om naar robuuste AI te verwijzen?
Algemene AI gaat erom dat AI in staat is om on-the-fly te denken en zelf nieuwe problemen op te lossen. Dit is in tegenstelling tot, laten we zeggen, Go, waar het probleem in 2000 jaar niet is veranderd.
Algemene AI zou ook net zo comfortabel moeten kunnen redeneren over politiek als redeneren over medicijnen. Het is de analogie van wat mensen hebben; elk redelijk intelligent persoon kan heel veel verschillende dingen doen. Je neemt een undergraduate stagiair en binnen een paar dagen laat je ze werken aan vrijwel alles, van een juridisch probleem tot een medisch probleem. Het is omdat ze een algemeen begrip van de wereld hebben, en ze kunnen lezen, dus ze kunnen bijdragen aan een zeer breed scala aan dingen.
De relatie tussen dat en robuuste intelligentie is dat als je niet robuust bent, je waarschijnlijk niet echt in staat zult zijn om het algemene te doen. Dus om iets te bouwen dat betrouwbaar genoeg is om om te gaan met een wereld die voortdurend verandert, moet je waarschijnlijk op zijn minst algemene intelligentie benaderen.
Maar weet je, we zijn er op dit moment vrij ver van. AlphaGo kan heel goed spelen op een 19x19 bord maar moet eigenlijk omgeschoold worden om op een rechthoekig bord te spelen. Of je neemt je gemiddelde deep-learning systeem, en het kan een olifant herkennen zolang de olifant goed verlicht is en je de textuur van de olifant kunt zien. Maar als je de olifant in silhouet zet, kan hij hem misschien niet meer herkennen.
Zoals je in je boek vermeldt, kan deep learning de algemene AI niet echt bereiken omdat het diepgaand begrip mist.
In de cognitieve wetenschap hebben we het over het hebben van cognitieve modellen van dingen. Dus ik zit in een hotelkamer en ik begrijp dat er een kast is, er is een bed, er is de televisie die op een ongebruikelijke manier is gemonteerd. Ik weet dat er al deze dingen hier zijn, en ik identificeer ze niet alleen. Ik begrijp ook hoe ze zich tot elkaar verhouden. Ik heb deze ideeën over hoe de buitenwereld werkt. Ze zijn niet perfect. Ze zijn feilbaar, maar ze zijn best goed. En ik maak veel gevolgtrekkingen om hen heen om mijn dagelijkse acties te sturen.
Het andere uiterste is zoiets als het Atari-spelsysteem dat DeepMind maakte, waar het onthield wat het moest doen toen het pixels op bepaalde plaatsen op het scherm zag. Als je genoeg gegevens krijgt, kan het lijken alsof je begrip hebt, maar het is eigenlijk een heel oppervlakkig begrip. Het bewijs is dat als je dingen drie pixels verschuift, het veel slechter speelt. Het breekt met de verandering. Dat is het tegenovergestelde van diep begrip.
Je stelt voor om terug te keren naar de klassieke AI om deze uitdaging op te lossen. Wat zijn de sterke punten van klassieke AI die we zouden moeten proberen te integreren?
Ik ben gewoon een beetje verbijsterd over hoe weinig waardering de deep learning-gemeenschap in het algemeen daarvoor heeft.
Er zijn een paar. Ten eerste, klassieke AI eigenlijk is een raamwerk voor het bouwen van cognitieve modellen van de wereld waarover je vervolgens conclusies kunt trekken. Het tweede is dat klassieke AI perfect op zijn gemak is met regels. Het is momenteel een vreemde sociologie in deep learning waar mensen regels willen vermijden. Ze willen alles doen met neurale netwerken en niets doen met iets dat lijkt op klassieke programmering. Maar er zijn problemen die routinematig op deze manier worden opgelost waar niemand aandacht aan schenkt, zoals het maken van je route op Google maps.
We hebben eigenlijk beide benaderingen nodig. De machine learning-dingen zijn redelijk goed in het leren van gegevens, maar het is erg slecht in het weergeven van het soort abstractie dat computerprogramma's vertegenwoordigen. Klassieke AI is redelijk goed in abstractie, maar het moet allemaal met de hand worden gecodeerd en er is te veel kennis in de wereld om alles handmatig in te voeren. Het lijkt dus duidelijk dat we een soort synthese willen die deze benaderingen vermengt.
Dit sluit aan bij het hoofdstuk waar je verschillende dingen noemt die we van de menselijke geest kunnen leren. De eerste bouwt voort op waar we het al over hebben gehad: het idee dat onze geest bestaat uit veel verschillende systemen die op verschillende manieren werken.
Ik denk dat er een andere manier is om het punt te maken, namelijk: elk cognitief systeem dat we hebben doet echt iets anders. Evenzo moeten de tegenhangers in AI worden ontworpen om verschillende problemen met verschillende kenmerken aan te pakken.
Op dit moment proberen mensen een soort one-size-fits-all-technologieën te gebruiken om dingen aan te pakken die echt fundamenteel anders zijn. Het begrijpen van een zin is fundamenteel anders dan het herkennen van een object. Maar mensen proberen deep learning te gebruiken om beide te doen. Dit zijn kwalitatief verschillende problemen vanuit een cognitief perspectief, en ik ben gewoon een beetje verbijsterd over hoe weinig waardering de deep-learning-gemeenschap in het algemeen daarvoor heeft. Waarom verwachten dat die ene zilveren kogel voor dat alles zal werken? Het is niet realistisch en het onthult geen geavanceerd begrip van wat de uitdaging van AI zelfs is.
Een ander ding dat u naar voren brengt, is de noodzaak voor AI-systemen om causale verbanden te begrijpen. Denk je dat dat zal komen van deep learning, klassieke AI of iets geheel nieuws?
Het is opnieuw een plek waar deep learning niet erg geschikt is. Deep learning geeft geen verklaringen waarom dingen gebeuren, maar eerder een waarschijnlijkheid van wat er in een bepaalde omstandigheid zou kunnen gebeuren.
De natuur bouwt het eerste ontwerp, het ruwe ontwerp. Dan herziet leren dat concept voor de rest van je leven.
Het soort dingen waar we het over hebben - je kijkt naar enkele scenario's en je hebt enig begrip over waarom het gebeurt en wat er zou kunnen gebeuren als bepaalde dingen zouden worden veranderd. Ik kan naar de ezel kijken waar de hoteltelevisie op staat en veronderstellen dat als ik een van de poten wegsnijd, de ezel omvalt en de televisie ermee naar beneden valt. Dat is causaal redeneren.
Klassieke AI geeft ons hier enkele tools voor. Het kan bijvoorbeeld weergeven wat een steunrelatie is en wat er aan de hand is. Ik wil het echter niet overdrijven. Een probleem is dat klassieke AI meestal afhangt van zeer volledige informatie over wat er aan de hand is, terwijl ik die conclusie zojuist heb getrokken zonder de hele ezel te kunnen zien. Dus ik ben op de een of andere manier in staat om snelkoppelingen te maken en stukjes van de ezel af te leiden die ik niet eens kan zien. We hebben nog niet echt tools die dat kunnen.
Een derde ding dat je naar voren brengt, is het idee dat mensen aangeboren kennis hebben. Hoe zie jij dat verwerkt worden in AI-systemen?
Voor mensen, tegen de tijd dat je geboren wordt, zijn je hersenen eigenlijk heel uitgebreid gestructureerd. Het ligt niet vast, maar de natuur bouwt het eerste ontwerp, het ruwe ontwerp. Dan herziet leren dat concept voor de rest van je leven.
Een ruwe schets van de hersenen heeft al bepaalde mogelijkheden. Een babysteenbok van slechts een paar uur oud kan zonder fouten van een berg af klauteren. Het is duidelijk dat het enig begrip heeft van de driedimensionale ruimte, zijn eigen lichaam en de onderlinge relatie tussen beide. Vrij verfijnde dingen.
Dit is een deel van de reden waarom ik denk dat we hybriden nodig hebben. Het is moeilijk in te zien hoe we een robot zouden kunnen bouwen die goed functioneert in de wereld zonder analoge kennis daar vanaf het begin, in tegenstelling tot beginnen met een schone lei en leren door enorme, enorme ervaring.
Voor mensen komt onze aangeboren kennis van onze genomen die in de loop van de tijd zijn geëvolueerd. Voor AI-systemen moeten ze op een andere manier komen. Een deel daarvan kan afkomstig zijn van regels over hoe we onze algoritmen bouwen. Een deel ervan kan voortkomen uit regels over hoe we de gegevensstructuren bouwen die door die algoritmen worden gemanipuleerd. En dan kan een deel ervan voortkomen uit de wetenschap dat we de machines gewoon rechtstreeks aanleren.
Het is interessant dat je alles in je boek koppelt aan het idee van vertrouwen en het bouwen van betrouwbare systemen. Waarom heb je juist voor dat frame gekozen?
Omdat ik denk dat het nu het hele balspel is. Ik denk dat we op een raar moment in de geschiedenis leven waarin we veel vertrouwen schenken aan software die dat vertrouwen niet verdient. Ik denk dat de zorgen die we nu hebben niet blijvend zijn. Over honderd jaar zal AI ons vertrouwen rechtvaardigen - en misschien zelfs eerder.
Maar op dit moment is AI gevaarlijk, en niet op de manier waar Elon Musk zich zorgen over maakt. Maar in de vorm van systemen voor sollicitatiegesprekken die vrouwen discrimineren, wat de programmeurs ook doen, omdat de technieken die ze gebruiken te weinig geavanceerd zijn.
Ik wil dat we betere AI hebben. Ik wil niet dat we een AI-winter hebben waarin mensen beseffen dat dit spul niet werkt en gevaarlijk is, en ze er niets aan doen.
In zekere zin voelt je boek eigenlijk heel optimistisch, omdat je suggereert dat het mogelijk is om betrouwbare AI te bouwen. We moeten gewoon in een andere richting kijken.
Juist, het boek is op de korte termijn pessimistisch en op de lange termijn optimistisch. We denken dat elk probleem dat we in het boek hebben beschreven, kan worden opgelost als het veld een bredere kijk heeft op wat de juiste antwoorden zijn. En we denken dat als dat gebeurt, de wereld een betere plek zal zijn.
Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.