We zullen nooit echte AI hebben zonder eerst de hersenen te begrijpen

Patrick T Powers

De zoektocht naar AI ging altijd over het proberen machines te bouwen die denken - althans in zekere zin. Maar over de vraag hoe kunstmatige en biologische intelligentie op elkaar zouden moeten lijken, zijn de meningen al decennia verdeeld. Vroege pogingen om AI te bouwen, omvatten besluitvormingsprocessen en informatieopslagsystemen die losjes waren geïnspireerd door de manier waarop mensen leken te denken. En die van vandaag diepe neurale netwerken zijn losjes geïnspireerd door de manier waarop onderling verbonden neuronen in de hersenen vuren. Maar losse inspiratie is meestal zo ver als het gaat.

Verwant verhaal

Kunstmatige algemene intelligentie: zijn we dichtbij, en heeft het zelfs zin om het te proberen?

Een machine die als een persoon zou kunnen denken, is sinds de vroegste dagen de leidende visie van AI-onderzoek geweest - en blijft het meest verdeeldheid zaaiende idee.

De meeste mensen bij AI geven niet zoveel om de details, zegt Jeff Hawkins, een neurowetenschapper en tech-ondernemer. Daar wil hij verandering in brengen. Hawkins begeeft zich al bijna 40 jaar in de twee werelden van neurowetenschap en AI. In 1986, na een paar jaar als software-ingenieur bij Intel, dook hij op aan de University of California, Berkeley, om een ​​doctoraat in de neurowetenschappen te beginnen, in de hoop erachter te komen hoe intelligentie werkte. Maar zijn ambitie liep tegen een muur aan toen hem werd verteld dat er niemand was om hem te helpen met zo'n grootschalig project. Gefrustreerd verruilde hij Berkeley voor Silicon Valley en richtte in 1992 Palm Computing op, dat de PalmPilot ontwikkelde, een voorloper van de huidige smartphones.

Maar zijn fascinatie voor hersenen ging nooit weg. Vijftien jaar later keerde hij terug naar de neurowetenschappen en richtte hij de Redwood Centrum voor Theoretische Neurowetenschappen (nu in Berkeley). Vandaag rent hij Numenta , een neurowetenschappelijk onderzoeksbedrijf gevestigd in Silicon Valley. Daar bestuderen hij en zijn team de neocortex, het deel van de hersenen dat verantwoordelijk is voor alles wat we associëren met intelligentie. Na een reeks doorbraken in de afgelopen jaren heeft Numenta de focus verlegd van hersenen naar AI, door wat het heeft geleerd over biologische intelligentie toe te passen op machines.

De ideeën van Hawkins hebben grote namen in AI geïnspireerd, waaronder Andrew Ng, en lofbetuigingen gekregen van onder meer Richard Dawkins, die een enthousiast voorwoord schreef bij het nieuwe boek van Hawkins Duizend Hersenen: een nieuwe theorie van intelligentie , gepubliceerd op 2 maart.

Ik had een lang gesprek met Hawkins op Zoom over wat zijn onderzoek naar menselijke hersenen betekent voor machine-intelligentie. Hij is niet de eerste ondernemer in Silicon Valley die denkt dat hij alle antwoorden heeft - en niet iedereen zal het waarschijnlijk met zijn conclusies eens zijn. Maar zijn ideeën kunnen AI opschudden.

Ons gesprek is bewerkt voor lengte en duidelijkheid.

Waarom denk je dat AI op dit moment de verkeerde kant op gaat?

Dat is een ingewikkelde vraag. Hé, ik ben geen criticus van de AI van vandaag. Ik vind het geweldig; het is handig. Ik vind het gewoon niet intelligent.

Mijn grootste interesse zijn hersenen. Ik werd tientallen jaren geleden verliefd op hersenen. Ik heb lang de instelling gehad dat voordat we AI maken, we eerst moeten uitzoeken wat intelligentie eigenlijk is, en de beste manier om dat te doen is door hersenen te bestuderen.

In 1980, of iets dergelijks, had ik het gevoel dat de benaderingen van AI niet tot echte intelligentie zouden leiden. En ik heb hetzelfde gevoeld tijdens alle verschillende fasen van AI - het is niet nieuw voor mij.

Ik kijk naar de vooruitgang die onlangs is geboekt met diep leren en het is dramatisch, het is behoorlijk indrukwekkend, maar dat neemt niet weg dat het fundamenteel ontbreekt. Ik denk dat ik weet wat intelligentie is; Ik denk dat ik weet hoe hersenen het doen. En AI doet niet wat hersenen doen.

Wil je zeggen dat om een ​​AI te bouwen, we op de een of andere manier een brein moeten herscheppen?

Nee, ik denk niet dat we directe kopieën van hersenen gaan bouwen. Ik hou helemaal niet van hersenemulatie. Maar we zullen machines moeten bouwen die volgens vergelijkbare principes werken. De enige voorbeelden die we hebben van intelligente systemen zijn biologische systemen. Waarom zou je dat niet bestuderen?

Het is alsof ik je voor het eerst een computer heb laten zien en je zegt: dat is geweldig! Ik ga zoiets bouwen. Maar in plaats van ernaar te kijken, te proberen uit te vinden hoe het werkt, ga je gewoon weg en probeer je iets helemaal opnieuw te maken.

Dus wat is het brein dat cruciaal is voor intelligentie waarvan je denkt dat AI dat ook moet doen?

Er zijn vier minimumattributen van intelligentie, een soort baseline. De eerste is leren door te bewegen: we kunnen niet alles om ons heen tegelijk voelen. We moeten bewegen om een ​​mentaal model van dingen op te bouwen, zelfs als het alleen onze ogen of handen beweegt. Dit wordt belichaming genoemd.

Verwant verhaal

Een concept in de psychologie helpt AI om beter door onze wereld te navigeren

Vervolgens wordt deze sensorische input ingenomen door tienduizenden corticale kolommen, elk met een gedeeltelijk beeld van de wereld. Ze concurreren en combineren via een soort stemsysteem om een ​​totaalbeeld op te bouwen. Dat is de duizend hersens idee . In een AI-systeem kan dit een machine zijn die verschillende sensoren bestuurt - zicht, aanraking, radar enzovoort - om een ​​completer model van de wereld te krijgen. Hoewel er meestal veel corticale kolommen zijn voor elk zintuig, zoals visie.

Dan is er continu leren, waarbij je nieuwe dingen leert zonder eerdere dingen te vergeten. De huidige AI-systemen kunnen dit niet. En tot slot structureren we kennis met behulp van referentiekaders , wat betekent dat onze kennis van de wereld relatief is ten opzichte van ons gezichtspunt. Als ik met mijn vinger langs de rand van mijn koffiekopje schuif, kan ik voorspellen dat ik de rand ervan zal voelen, omdat ik weet waar mijn hand is ten opzichte van het kopje.

Uw lab is onlangs verschoven van neurowetenschap naar AI. Komt dat overeen met jouw duizend-brein-theorie die samenkomt?

Ongeveer. Als je tot twee jaar geleden ons kantoor binnenkwam, was het allemaal neurowetenschap. Toen hebben we de overstap gemaakt. We hadden het gevoel dat we genoeg over het brein hadden geleerd om het toe te passen op AI.

Wat voor soort AI-werk doe je?

Een van de eerste dingen waar we naar keken, was schaarste. Op elk moment vuren slechts 2% van onze neuronen; de activiteit is schaars. We hebben dit idee toegepast op deep-learning netwerken en we krijgen dramatische resultaten , zoals 50 keer versnellen op bestaande netwerken. Sparsity geeft u ook robuustere netwerken en een lager stroomverbruik. Nu werken we aan continu leren.

Het is interessant dat je beweging opneemt als basis voor intelligentie. Betekent dat dat een AI een lichaam nodig heeft? Moet het een robot zijn?

In de toekomst denk ik dat het onderscheid tussen AI en robotica zal verdwijnen. Maar op dit moment geef ik de voorkeur aan het woord belichaming, want als je het over robots hebt, roept het beelden op van mensachtige robots, en dat is niet waar ik het over heb. Het belangrijkste is dat de AI sensoren moet hebben en ze moet kunnen verplaatsen ten opzichte van zichzelf en de dingen die het modelleert. Maar je zou ook een virtuele AI kunnen hebben die zich op internet beweegt.

Dit idee is heel anders dan veel populaire ideeën over intelligentie, van een ontlichaamd brein.

Beweging is echt interessant. De hersenen gebruiken dezelfde mechanismen om mijn vinger over een koffiekopje te bewegen, of mijn ogen te bewegen, of zelfs als je aan een conceptueel probleem denkt. Je brein beweegt door referentiekaders om feiten op te roepen die het op verschillende locaties heeft opgeslagen.

Het belangrijkste is dat elk intelligent systeem, ongeacht zijn fysieke vorm, een model van de wereld leert door verschillende delen ervan waar te nemen, door erin te bewegen. Dat is de basis; daar kom je niet vanaf. Of het nu lijkt op een humanoïde robot, een slangenrobot, een auto, een vliegtuig of, je weet wel, gewoon een computer die op je bureau zit te speuren op internet - ze zijn allemaal hetzelfde.

Hoe denken de meeste AI-onderzoekers over deze ideeën?

De overgrote meerderheid van AI-onderzoekers omarmt het idee dat de hersenen belangrijk zijn niet echt. Ik bedoel, ja, mensen hebben een tijdje geleden neurale netwerken ontdekt, en ze zijn een beetje geïnspireerd door de hersenen. Maar de meeste mensen proberen de hersenen niet te repliceren. Het is gewoon wat werkt, werkt. En de neurale netwerken van tegenwoordig werken goed genoeg.

Verwant verhaal

AI-pionier Geoff Hinton: Deep learning gaat alles kunnen Dertig jaar geleden was Hintons geloof in neurale netwerken tegendraads. Nu is het moeilijk om iemand te vinden die het er niet mee eens is, zegt hij.

En de meeste mensen in AI hebben heel weinig begrip van neurowetenschap. Dat is niet zo gek, want het is heel moeilijk. Het is niet iets waar je even voor gaat zitten en een paar dagen over leest. De neurowetenschap zelf heeft moeite gehad om te begrijpen wat er in godsnaam in de hersenen aan de hand is.

Maar een van de grote doelen van het schrijven van dit boek was om een ​​gesprek op gang te brengen over intelligentie die we niet hebben. Ik bedoel, mijn ideale droom is dat elk AI-lab ter wereld dit boek leest en deze ideeën begint te bespreken. Accepteren we ze? Zijn we het oneens? Dat was vroeger echt niet mogelijk. Ik bedoel, dit hersenonderzoek is nog geen vijf jaar oud. Ik hoop dat het een echt keerpunt wordt.

Hoe zie je deze gesprekken AI-onderzoek veranderen?

Als vakgebied ontbrak het AI aan een definitie van wat intelligentie is. Je weet wel, de Turing-test is naar mijn mening een van de ergste dingen die ooit zijn gebeurd. Zelfs vandaag de dag focussen we ons nog steeds zo op benchmarks en slimme trucs. Ik probeer niet te zeggen dat het niet handig is. Een AI die kankercellen kan detecteren is geweldig. Maar is dat intelligentie? Nee. In het boek gebruik ik het voorbeeld van robots op Mars die een leefgebied voor mensen bouwen. Probeer je eens voor te stellen wat voor soort AI daar voor nodig is. Is dat mogelijk? Het is helemaal mogelijk. Ik denk dat we aan het einde van de eeuw zulke machines zullen hebben. De vraag is hoe we wegkomen van, zoals: Hier is nog een truc voor de fundamenten die nodig zijn om de toekomst op te bouwen.

Wat deed Turing verkeerd toen hij het gesprek over machine-intelligentie begon?

Ik bedoel alleen dat als je teruggaat en zijn originele werk leest, hij in feite probeerde mensen zover te krijgen dat ze niet langer met hem in discussie gingen over de vraag of je een intelligente machine zou kunnen bouwen. Hij had zoiets van, hier zijn wat dingen om over na te denken - stop met me lastig te vallen. Maar het probleem is dat het gericht is op een taak. Kan een machine iets doen wat een mens kan? En dat is doorgetrokken naar alle doelen die we stellen voor AI. Dus het spelen van Go was een geweldige prestatie voor AI. Werkelijk? [ lacht ] Ik bedoel, oké.

Het probleem met alle op prestaties gebaseerde statistieken, en de Turing-test is er een van, is dat het gewoon het gesprek of de grote vraag over wat een intelligent systeem is, vermijdt. Als je iemand voor de gek kunt houden, als je een taak kunt oplossen met een soort slimme techniek, dan heb je die maatstaf bereikt, maar je hebt niet noodzakelijk vooruitgang geboekt in de richting van een dieper begrip van wat het betekent om intelligent te zijn.

Is de focus op menselijke prestatie ook een probleem?

Ik denk dat in de toekomst veel intelligente machines niets zullen doen wat mensen doen. Velen zullen heel eenvoudig en klein zijn - je weet wel, net als een muis of een kat. Dus focussen op taal en menselijke ervaring en al deze dingen om de Turing-test te doorstaan, is niet relevant voor het bouwen van een intelligente machine. Het is relevant als je een mensachtige machine wilt bouwen, maar ik denk niet dat we dat altijd willen doen.

Je vertelt een verhaal in het boek over het aanbieden van draagbare computers aan een baas bij Intel die niet kon zien waar ze voor waren. Dus wat zullen deze toekomstige AI's doen?

Ik weet het niet. Niemand weet. Maar ik twijfel er niet aan dat we talloze nuttige dingen zullen vinden voor intelligente machines, net zoals we hebben gedaan voor telefoons en computers. Niemand had in de jaren 40 of 50 voorzien wat computers zouden doen. Het zal hetzelfde zijn met AI. Het zal goed zijn. Sommige slecht, maar vooral goed.

Maar ik denk daar liever op de lange termijn aan. In plaats van te vragen Wat is het nut van het bouwen van intelligente machines? Ik vraag Wat is het doel van het leven? We leven in een enorm universum waarin we kleine puntjes van niets zijn. Ik heb dit vraagteken in mijn hoofd gehad sinds ik een klein kind was. Waarom maken we ons ergens druk om? Waarom doen we dit allemaal? Wat moet ons doel zijn als soort?

Ik denk dat het niet gaat om het behouden van de genenpool: het gaat om het behouden van kennis. En als je er zo over nadenkt, zijn intelligente machines daarvoor essentieel. We zullen er niet voor altijd zijn, maar onze machines zouden dat wel kunnen zijn.

Ik vind het inspirerend. Ik wil een doel in mijn leven. Ik denk dat AI - AI zoals ik het voor ogen heb, niet de AI van vandaag - een manier is om onszelf in wezen te behouden voor een tijd en een plaats die we nog niet kennen.

zich verstoppen