211service.com
Reverse-engineering van de hersenen
Maggie is een heel slimme aap, zegt Tim Buschman, een afgestudeerde student in het neurowetenschappelijk laboratorium van professor Earl Miller. Maggie is niet zichtbaar - ze zit in een bioveiligheidsverblijf dat bedoeld is om haar te beschermen tegen menselijke ziektekiemen - maar de tekenen van haar intelligentie stromen over twee monitoren voor Buschman. De afgelopen zeven jaar heeft Maggie gewerkt voor MIT's Department of Brain and Cognitive Sciences (BCS). Drie uur per dag speelt de makaak computerspelletjes die (meestal) zijn ontworpen om van haar te eisen dat ze abstracte representaties genereert en die abstracties vervolgens als gereedschap gebruikt. Zelfs ik heb hier moeite mee, zegt Buschman, knikkend naar een spel waarbij logische bewerkingen worden geclassificeerd. Maar Maggie is goed bezig, lost problemen op, neemt ongeveer een halve seconde voor elk en krijgt ongeveer vier van de vijf goed.
Illustratie door David Plunkert
Maggie's gaming ligt op het snijvlak van kunstmatige intelligentie (AI) en neurowetenschappen. Onder de voogdij van Buschman en Michelle Machon, een andere afgestudeerde student, draagt ze bij aan onderzoek naar hoe het brein logische regels leert en construeert, en hoe de uitvoering van die taken zich verhoudt tot die van de kunstmatige neurale netwerken die in AI worden gebruikt.
Veertig jaar geleden was het idee dat neurowetenschap en AI zouden kunnen samenkomen in laboratoria zoals die van Miller vrijwel ondenkbaar zijn geweest. De twee disciplines opereerden toen op armlengte. Terwijl de neurowetenschap zich concentreerde op het blootleggen en beschrijven van de details van neuroanatomie en neurale activiteit, probeerde AI een onafhankelijk, niet-biologisch pad naar intelligentie te ontwikkelen. (Historisch gezien heeft technologie het niet echt nodig gehad om de natuur zo slaafs te kopiëren; vliegtuigen vliegen niet als vogels en auto's rennen niet als paarden.) En het was AI die veel sneller leek te evolueren. De neurowetenschap wist nauwelijks wat het brein was, laat staan hoe het werkte, terwijl iedereen met een greintje verstand geloofde dat de dag dat computers in staat zouden zijn om alles te doen wat mensen deden (en het beter te doen), goed in zicht was. In 1962 was president Kennedy zelf overtuigd van het punt en noemde automatisering (of zoals het toen vaak werd genoemd, cybernatie) de belangrijkste binnenlandse uitdaging van de jaren zestig, vanwege de dreiging dat het mensen werkloos zou maken.
Maar iets deed de AI-express ontsporen. Hoewel computers gemaakt konden worden om eenvoudige objecten in een gecontroleerde omgeving te verwerken, faalden ze jammerlijk in het herkennen van complexe objecten in de natuurlijke wereld. Een microfoon kon geluidsniveaus onderscheiden, maar niet samenvatten wat er was gezegd; een manipulator kan een schoon nieuw object oppakken dat in een geordende reeks ligt, maar geen vuile oude die op een door elkaar gegooide hoop ligt. (Noch zou het, in het geïnspireerde voorbeeld van Marvin Minsky, een kussen in een kussensloop kunnen doen.) Tegenwoordig maken we ons veel meer zorgen over de concurrentie van mensen in het buitenland dan over de concurrentie van machines.
Hoewel de vooruitgang van AI langzamer is dan verwacht, is de neurowetenschap veel geavanceerder geworden in het begrijpen van hoe de hersenen werken. Nergens is dit duidelijker dan in de 37 laboratoria van MIT's BCS Complex. Groepen hier brengen de neurale paden in kaart van de meeste hogere cognitieve functies (en hun stoornissen), waaronder leren, geheugen, de organisatie van complex sequentieel gedrag, de vorming en opslag van gewoonten, mentale beelden, nummerbeheer en -controle, doeldefinitie en planning, de verwerking van concepten en overtuigingen, en het vermogen om te begrijpen wat anderen denken. De potentiële impact van dit onderzoek kan enorm zijn. Ontdekken hoe de hersenen werken - precies hoe het werkt, zoals we weten hoe een motor werkt - zou bijna elke tekst in de bibliotheek herschrijven. Om te beginnen zou het een revolutie teweegbrengen in strafrecht, onderwijs, marketing, ouderschap en de behandeling van allerlei soorten mentale stoornissen. (Earl Miller hoopt dat het onderzoek in zijn laboratorium zal helpen bij de ontwikkeling van therapieën voor leerstoornissen.)
Dergelijke vooruitgang is een van de redenen waarom de eens zo heldere lijn tussen neurowetenschap en AI begint te vervagen bij MIT - en niet alleen in Miller's lab. Het lopende visieonderzoek van het Instituut illustreert ook hoe de twee disciplines beginnen samen te werken. De velden groeiden apart op, zegt James DiCarlo, assistent-professor neurowetenschappen, maar ze zullen niet lang meer gescheiden zijn. Tegenwoordig volgen AI-onderzoekers de opmars van de neurowetenschap met grote belangstelling, en het idee van omgekeerde
het construeren van de hersenen is niet langer zo onwaarschijnlijk als het ooit leek.
Objectherkenning begrijpen
Veel van het werk in DiCarlo's lab betreft objectherkenning, waardoor we een object (zoals een koe) kunnen identificeren in veel verschillende presentaties (koeien ver weg, koeien van bovenaf gezien, koeien bij zonsopgang, een koe in een vrachtwagen) zonder het te verwarren met soortgelijke objecten (zoals bijvoorbeeld een paard). DiCarlo en promovendus David Cox publiceerden afgelopen augustus onderzoek in Natuur Neurowetenschap dat gericht was op een van de basisvragen over objectherkenning: hoeveel van ons succes bij het herkennen van objecten hangt af van vast bedrade, aangeboren circuits, en hoeveel van aangeleerde vaardigheden?
DiCarlo en Cox voerden elk van hun experimenten uit op een tiental mensen, één persoon tegelijk. De proefpersonen zaten voor apparatuur die zowel afbeeldingen van objecten kon weergeven als de richting van de blik van de proefpersonen kon volgen. De objecten waren door de computer gegenereerd en leken vaag op antropomorfe dieren, maar ze waren zo ontworpen dat ze onbekend waren voor de proefpersonen. Een object zou in een van de drie posities op een scherm verschijnen en het onderwerp zou zijn of haar blik er natuurlijk naar toe verplaatsen. Voor bepaalde objecten zouden de onderzoekers echter nieuwe objecten vervangen terwijl de proefpersonen hun ogen bewogen. Laten we bijvoorbeeld zeggen dat een object dat er nogal gedrongen uitzag, met parmantige oren, aan de rechterkant van het scherm werd geïntroduceerd terwijl het onderwerp zich op het midden concentreerde. Terwijl de blik van het onderwerp verschoof naar gehurkt en parmantig, zouden de onderzoekers het object vervangen door een object dat er iets dunner uitzag, met hangende oren. Omdat mensen effectief blind zijn tijdens blikverschuivingen, merkten de proefpersonen de wisseling niet op. Maar hun hersenen deden het wel.
Na een uur of twee blootstelling aan verschillende objecten, waarvan sommige consequent werden verwisseld wanneer ze op bepaalde posities verschenen, kregen de proefpersonen paren van de objecten op verschillende posities op het scherm te zien en vroegen ze om ze te vergelijken. Je zou verwachten dat de proefpersonen de objecten zonder veel moeite zouden onderscheiden. En dat deden ze, behalve toen de objecten waren verwisseld - en nu weer verschenen op dezelfde posities waar de verwisseling plaatsvond. Proefpersonen hadden de neiging om die objecten te verwarren: dat wil zeggen, ze waren eerder geneigd te beoordelen dat gehurkt en parmantig op de ene positie en dun en hangend in een andere een en hetzelfde object waren. DiCarlo denkt dat dergelijke fouten aantonen dat de mechanismen van de hersenen om hetzelfde object op verschillende plaatsen te herkennen, afhankelijk zijn van normale visuele ervaring in ruimte en tijd. De bevinding suggereert dat zelfs fundamentele eigenschappen van objectherkenning kunnen worden ontwikkeld door visuele ervaring met onze wereld, zegt hij. DiCarlo en zijn team voeren soortgelijke experimenten uit bij dieren om de patronen van neuronale activiteit te onderzoeken die ten grondslag liggen aan objectherkenning. (Een goed voorbeeld van dit onderzoek werd gepubliceerd in het nummer van 4 november 2005 van: Wetenschap tijdschrift. DiCarlo en drie medewerkers registreerden en analyseerden de activiteit van honderden neuronen in makakenhersenen. Ze waren in staat om aan te tonen dat zeer betrouwbare informatie over objectidentiteit en categorie zelfs in een handvol neuronen aanwezig was.)
Objectherkenning is een van de belangrijkste doelen en grote teleurstellingen van traditionele AI geweest. Hoewel machine vision een echte industrie is, zijn de successen behaald in nauwkeurig gedefinieerde toepassingen onder zeer gecontroleerde omstandigheden, zoals het decoderen van kentekenplaten, het identificeren van vingerafdrukken, het herkennen van gedrukte karakters en het inspecteren van producten (bijvoorbeeld het identificeren van verbrande chips zodat ze kunnen worden weggeblazen uit een lopende band). Elk machine vision-systeem ziet alleen een specifiek soort object; de machine die kentekenplaten leest, zou bijvoorbeeld geen vingerafdrukken kunnen identificeren en vice versa. Hoewel de huidige technologie misschien goed genoeg is om ons machines te geven die één ding herkennen, vereisen de meeste banen in de meeste industrieën - assemblage, onderhoud, gezondheidszorg, transport, beveiliging - meer veelzijdigheid dan dat. Werknemers moeten een hamer en een schroevendraaier en een moersleutel kunnen herkennen, ondanks verschillen in verlichting, de oriëntatie van de objecten en de rommel eromheen. Het falen om machines te bouwen die dit kunnen, is vooral frustrerend, aangezien vogels zoals kraaien en kleine zoogdieren zoals ratten routinematig een niveau van vaardigheid in algemene herkenning vertonen dat veel verder gaat dan de huidige technologie. Er is iets aan het niet kunnen maken van machines die zo slim zijn als wij, dat troost biedt voor onze ijdelheid; maar niet in staat zijn om er een zo slim te maken als een duif is gewoon gênant.
Al jaren werken AI-onderzoekers dus aan het probleem van het associëren van visuele patronen met betekenissen of identiteiten. Dit is een van de gebieden waar AI en neurowetenschap naar elkaar toe zijn gekomen: neurowetenschap heeft gewerkt aan de rol van de hersenen bij objectherkenning, AI aan de algemene logica van wat elk systeem zou moeten doen om hetzelfde probleem op te lossen. Na decennia zijn ze bijna op spreekafstand. DiCarlo vraagt zich af of het misschien tijd is om een nieuwe discipline te dopen die uit beide velden put, zoals biologisch geïnspireerde machinevisie.
Geen universiteit nadert dit kruispunt sneller dan MIT, waar de samenwerking van techniek en wetenschap een institutionele missie is. En dat, zegt DiCarlo, is een van de redenen waarom hij naar MIT kwam: hij verwacht dat de revolutie hier zal plaatsvinden.
Onmiddellijke herkenning modelleren
Een opvallende illustratie van DiCarlo's punt is te vinden in de laboratoria van Tomaso Poggio. Als mededirecteur van MIT's Center for Biological and Computational Learning, werkt Poggio al vier decennia aan visie, eerst bij het Max Planck Instituut in Tübingen, Duitsland, daarna bij MIT's AI-lab (dat het Computer Science and Artificial Intelligence Lab werd), en nu in de afdeling Hersenen en Cognitieve Wetenschappen. (Poggio werkte samen met DiCarlo aan de makakenexperimenten beschreven in Wetenschap .) Gedurende een groot deel van deze tijd leidde Poggio één onderzoeksgroep in neurowetenschappen en één in machinevisie en zag hij geen reden om ze samen te brengen. We wisten zo weinig, zegt hij. Ik heb altijd gedacht dat het een vergissing was om veel van de neurowetenschap te verwachten. Maar recente resultaten van een project uitgevoerd door postdoc Thomas Serre en Aude Oliva, assistent-professor cognitieve neurowetenschappen in BCS, maakten hem tot een bekeerling.
Poggio's laboratorium richt zich momenteel op een type objectherkenning dat onmiddellijke herkenning wordt genoemd. Dit fenomeen werd voor het eerst beschreven in 1969 in een paper door MIT-docent Mary Potter (nu hoogleraar psychologie aan BCS) en haar onderzoeksassistent, Ellen Levy. Onmiddellijke herkenning is de snelst bekende vorm van herkenning. Een proefpersoon in een klassiek experiment met directe herkenning zit voor een scherm en wordt gevraagd om een van de twee toetsen in te drukken als reactie op elk beeld in een reeks, afhankelijk van of het een dier bevat of niet. Om ervoor te zorgen dat proefpersonen niet per ongeluk naar een afbeelding kijken, leren ze hoe ze naar anderen moeten kijken. Daarom kiezen onderzoekers afbeeldingen die heel verschillend zijn: veel soorten, in veel verschillende poses en perspectieven, tegen een breed scala aan achtergronden. De foto's komen en gaan in een paar tienden van een seconde. Aan het begin van een studie kan een proefpersoon zich er bijna niet van bewust zijn dat hij zelfs maar een afbeelding te zien krijgt, laat staan dat hij herkent wat erin staat. Maar verbazingwekkend genoeg raken mensen vaker wel dan niet de juiste toetsen. Door oefening worden ze steeds beter – en worden ze zich bewust van het uiterlijk van de beelden. Toch is in het begin iets in de hersenen in staat om objecten te herkennen en te categoriseren voordat het subject zich ervan bewust is iets te zien.
Onmiddellijke herkenning is belangrijk voor onderzoekers omdat dit het eenvoudigst mogelijke geval is van algemene objectherkenning. Het gaat te snel om het rekruteren van veel neuronen of het intensief verwerken van informatie of het verzenden en ontvangen van impulsen over meer dan een fractie van een centimeter. Informatie uit oogbewegingen, een sleutelelement in andere vormen van herkenning (zoals in het werk van DiCarlo), kan geen rol spelen. Toch worden op de een of andere manier (meestal) de juiste toetsen ingedrukt, wat betekent dat een beperkte vorm van objectherkenning voor algemene doeleinden mogelijk moet zijn met een relatief klein aantal neuronen die op een relatief eenvoudige manier zijn georganiseerd.
Voortbouwend op het werk dat Poggio deed met Max Riesenhuber, PhD '00, toen een afgestudeerde student aan het MIT en nu een professor aan de Georgetown University, Serre, Poggio en anderen in Poggio's
groep ontwikkelde een theorie over het deel van de visuele cortex dat voornamelijk verantwoordelijk is voor onmiddellijke herkenning. Hun benadering van visuele verwerking was in veel opzichten anders dan die van een machine vision engineer. De meeste machine vision-programma's hebben bijvoorbeeld één processor die een reeks instructies in opeenvolgende volgorde uitvoert, een architectuur die bekend staat als seriële verwerking. Het brein daarentegen maakt gebruik van parallelle verwerking, een aanpak waarbij een probleem wordt opgedeeld in vele stukken, elk afzonderlijk aangepakt door een eigen processor, waarna de resultaten worden gecombineerd of geïntegreerd om één algemeen resultaat te krijgen, bijvoorbeeld: de beleving van een koe. In theorie zouden ingenieurs parallelle verwerking kunnen gebruiken voor machine vision-programma's (en sommigen hebben het geprobeerd), maar in de praktijk is het zelden duidelijk hoe een probleem kan worden opgelost op een manier die het mogelijk maakt de voltooide stukken naadloos opnieuw te combineren.
Biologische visie lost dit probleem op verschillende manieren op. Een daarvan, volgens de groep van Poggio, is om de verwerking te organiseren rond twee eenvoudige bewerkingen en deze bewerkingen vervolgens op een geordende manier af te wisselen door lagen van neuronen. Laag A kan de basisinvoer van de oogzenuw filteren; laag B zou de resultaten van veel cellen in laag A integreren; C zou de invoer van B filteren; D zou de resultaten van C integreren; enzovoort, misschien een tiental keer. Naarmate een signaal door de lagen stijgt, combineren de uitgangen van de parallelle processors zich geleidelijk, komt identiteit naar voren en valt ruis weg.
Serre en Poggio gebruikten deze gelaagdheidstechniek om hun model parallelle verwerking mogelijk te maken. Een andere truc die ze uit de biologie leenden, was om het aantal verbindingen tussen hun basisschakeleenheden te vergroten. De schakeleenheden in conventionele computers hebben zeer weinig aansluitingen, meestal rond de drie; neuronen, de fundamentele schakeleenheden van de hersenen, hebben duizenden of zelfs tienduizenden. Serre en Poggio gaven de logische schakelaars in hun model een biologisch plausibele mate van connectiviteit. In gevallen waar de wetenschap nog niet bekend was, deden ze aannames op basis van hun bredere ervaring met neuroanatomie.
Om hun theorie te testen, ontwikkelden Serre en Poggio een computerprogramma met onmiddellijke herkenning dat digitale beelden analyseert. Wanneer digitale afbeeldingsbestanden in het programma worden ingevoerd, worden ze door meerdere afwisselende lagen van filterende en integrerende cellen geleid, waarbij het zichzelf traint om de afbeeldingen te identificeren en te classificeren. De sleutel is om langzaam complexiteit op te bouwen, zegt Serre. Intelligentie te snel introduceren is een grote fout. Vroege AI-inspanningen hebben mogelijk geprobeerd om te snel in te zoomen op identiteit, waardoor informatie werd weggegooid die cruciaal was voor het verkrijgen van het juiste antwoord.
De aanpak van Serre en Poggio was een spectaculair succes. Vanuit neurowetenschappelijk oogpunt bleken sommige van hun aannames echte kenmerken te voorspellen, zoals de aanwezigheid van cellen (noem ze OR-cellen) die het sterkste of meest consistente signaal uit een groep inputs halen en dit naar hun eigen uitgangsvezels. (Stel je een groep van drie neuronen voor, A, B en C, die allemaal signalen naar OR-neuron X sturen. Als die signalen respectievelijk sterkteniveaus 1, 2 en 3 hadden, zou X A en B onderdrukken en het signaal van C kopiëren naar zijn Als de sterke punten 3, 2 en 1 waren geweest, zou het in plaats daarvan het signaal van A hebben gekopieerd en dat van B en C hebben onderdrukt.)
De resultaten waren net zo dramatisch vanuit het oogpunt van AI. Toen proefpersonen en het programma voor onmiddellijke herkenning van Serre en Poggio de aan-/afwezigheidstest van dieren deden, deed de computer het net zo goed als de mens - en beter dan de beste beschikbare machinevisieprogramma's. (In feite kreeg het 82 procent van de tijd het juiste antwoord, terwijl mensen gemiddeld slechts 80 procent hadden.) Dit is vrijwel zeker de eerste keer dat een algemeen -vision-programma heeft net zo goed gepresteerd als mensen.
De veelbelovende resultaten doen Poggio en Serre onherkenbaar denken. Poggio vermoedt dat het model net zo goed van toepassing kan zijn op auditieve waarneming. Serre brengt een nog gewaagdere speculatie naar voren: dat algemene objectherkenning de basisbouwsteen van cognitie is. Misschien zeggen we daarom ik zie wanneer we willen aangeven dat we iets begrijpen.
Hoewel het wat werk zal vergen om hun theorie in deze nieuwe richtingen uit te breiden, is het model van Serre en Poggio al begonnen zich te verspreiden via zowel de AI- als de neurowetenschappelijke gemeenschap aan het MIT. Afgestudeerde elektrotechnische student Stan Bileschi heeft onlangs een doctoraat afgerond waarbij het model werd toegepast op scèneherkenning, wat het resultaat is van hogere-orde oordelen - het is een boerderij! – uit de herkenning van losse objecten – een stal, een koe, een splijtrail. Bileschi is van mening dat algemene scène-analyse van cruciaal belang zal zijn voor veel real-world machine vision-toepassingen, bijvoorbeeld bewaking.
Onmiddellijke herkenning is de basis van algehele visuele herkenning, zegt Poggio, maar het is niet alles. Er zijn veel niveaus van herkenning en onmiddellijke herkenning is een van de eenvoudigste. Afhankelijk van de context kan een object worden geïdentificeerd als speelgoed, een pop, een Barbie, een weerspiegeling van de Amerikaanse cultuur, een vrouw, een afbeelding van een meisje met een vreemde groeistoornis, enzovoort, op een lange lijst. Evenzo kan het herkennen van de juiste zet bij schaakproblemen seconden, minuten of uren duren, afhankelijk van de configuratie van de stukken. Vermoedelijk, als problemen moeilijker worden, vereist het oplossen ervan hogere niveaus van hersenfunctie - en dat kost tijd.
Een model met onmiddellijke herkenning zou de zichtproblemen kunnen oplossen die de ontwikkeling van bruikbare onderhouds- en constructierobots hebben belemmerd. Of misschien vinden we dat dergelijke robots, om echt nuttig te zijn, zowel afwijkingen in het landschap als hun oorzaken moeten kunnen herkennen. Dat soort herkenning is duidelijk van een hogere orde.
De volgende stap is het bouwen van herkenningsmodellen die steeds meer resources werven en dus meer verwerkingstijd vergen. We weten hoe het model kan worden gewijzigd om tijd op te nemen, zegt Serre. Dit zou ons dichter bij het denken kunnen brengen - heel misschien.