211service.com
Getrainde neurale netwerken presteren net als mensen bij klassieke psychologische tests
mevrouw Tech
In het begin van de 20e eeuw begon een groep Duitse experimentele psychologen zich af te vragen hoe de hersenen zinvolle percepties krijgen van een wereld die anders chaotisch en onvoorspelbaar is. Om deze vraag te beantwoorden, ontwikkelden ze het idee van het gestalteffect - het idee dat als het op waarneming aankomt, het geheel iets anders is dan de delen.
Zo hebben psychologen ontdekt dat het menselijk brein opmerkelijk goed is in het waarnemen van complete beelden op basis van fragmentarische informatie. Een goed voorbeeld is de hier getoonde figuur. De hersenen nemen tweedimensionale vormen waar, zoals een driehoek en een vierkant, en zelfs een driedimensionale bol. Maar geen van deze vormen is expliciet getekend. In plaats daarvan vullen de hersenen de gaten op.
Een natuurlijke uitbreiding van dit werk is de vraag of er gestalteffecten optreden in neurale netwerken. Deze netwerken zijn geïnspireerd op het menselijk brein. Inderdaad, onderzoekers die machinevisie bestuderen, zeggen dat de diepe neurale netwerken die ze hebben ontwikkeld opmerkelijk veel lijken op het visuele systeem in de hersenen van primaten en op delen van de menselijke cortex.
Dat leidt tot een interessante vraag: kunnen neurale netwerken een heel object waarnemen door alleen naar de delen ervan te kijken, zoals mensen dat doen?
Vandaag krijgen we een antwoord dankzij het werk van Been Kim en collega's van Google Brain, de AI-onderzoeksafdeling van het bedrijf in Mountain View, Californië. De onderzoekers hebben verschillende neurale netwerken getest met dezelfde gestalt-experimenten die zijn ontworpen voor mensen. En ze zeggen dat ze goed bewijs hebben dat machines inderdaad hele objecten kunnen waarnemen met behulp van observaties van de onderdelen.
Het experiment van Kim en co is gebaseerd op de driehoeksillusie in de figuur. Ze maken eerst drie databases met afbeeldingen voor het trainen van hun neurale netwerken. De eerste bestaat uit gewone complete driehoeken die in hun geheel worden weergegeven.
De volgende database toont alleen de hoeken van de driehoeken, met lijnen die moeten worden geïnterpoleerd om de volledige vorm waar te nemen. Dit is de illusoire dataset. Wanneer mensen dit soort afbeeldingen bekijken, hebben ze de neiging om de gaten te dichten en uiteindelijk de driehoek als geheel waar te nemen. We willen bepalen of neurale netwerken vergelijkbare sluitingseffecten vertonen, zeggen Kim en co.
De uiteindelijke database bestaat uit vergelijkbare hoeken, maar willekeurig georiënteerd, zodat de lijnen niet kunnen worden geïnterpoleerd om driehoeken te vormen. Dit is de niet-illusoire dataset.
Door de grootte en oriëntatie van deze vormen te variëren, heeft het team bijna 1.000 verschillende afbeeldingen gemaakt om hun machines te trainen.
Hun benadering is om een neuraal netwerk te trainen om gewone complete driehoeken te herkennen en vervolgens te testen of het de afbeeldingen in de illusoire dataset classificeert als complete driehoeken (terwijl de afbeeldingen in de niet-illusoire dataset worden genegeerd). Met andere woorden, ze testen of de machine de gaten in de afbeeldingen kan opvullen tot een compleet beeld.
Ze vergelijken ook het gedrag van een getraind netwerk met het gedrag van een ongetraind netwerk of een netwerk dat is getraind op willekeurige gegevens.
De resultaten zorgen voor interessante lectuur. Het blijkt dat het gedrag van getrainde neurale netwerken opmerkelijke overeenkomsten vertoont met menselijke gestalteffecten. Onze bevindingen suggereren dat neurale netwerken die zijn getraind met natuurlijke afbeeldingen, sluiting vertonen, in tegenstelling tot netwerken met gerandomiseerde gewichten of netwerken die zijn getraind op visueel willekeurige gegevens, zeggen Kim en co.
Dat is een fascinerend resultaat. En niet alleen omdat het laat zien hoe neurale netwerken de hersenen nabootsen om de wereld te begrijpen.
Het grotere plaatje is dat de benadering van het team de deur opent naar een geheel nieuwe manier om neurale netwerken te bestuderen met behulp van experimentele psychologie. We zijn van mening dat het onderzoeken van andere Gestalt-wetten - en meer in het algemeen andere psychofysische verschijnselen - in de context van neurale netwerken een veelbelovend gebied is voor toekomstig onderzoek, zeggen Kim en co.
Dat lijkt een eerste stap in een nieuw veld van machinepsychologie. Zoals het Google-team het uitdrukte: Begrijpen waar mensen en neurale netwerken verschillen, zal nuttig zijn voor onderzoek naar interpreteerbaarheid door de fundamentele verschillen tussen de twee interessante soorten te verlichten. De Duitse experimentele psychologen van het begin van de 20e eeuw zouden zeker gefascineerd zijn geweest.
Referentie: arxiv.org/abs/1903.01069 : Vertonen neurale netwerken gestaltverschijnselen? Een verkenning van de wet van sluiting