Een neuraal netwerk kan leren om de wereld die het ziet in concepten te organiseren, net zoals wij dat doen

Gabriël Santiago | unsplash





GAN's, of generatieve vijandige netwerken, zijn het socialmedia-sterretje van AI-algoritmen. Ze zijn verantwoordelijk voor het maken van het eerste AI-schilderij dat ooit is verkocht tegen een kunstveiling en voor gezichten van beroemdheden over elkaar heen leggen op de lichamen van pornosterren. Ze werken door twee neurale netwerken tegen elkaar te plaatsen om realistische outputs te creëren op basis van wat ze krijgen. Voer een heleboel hondenfoto's en het kan volledig nieuwe honden creëren; voed het veel gezichten en het kan nieuwe gezichten creëren.

Hoe goed ze ook zijn in het veroorzaken van onheil, onderzoekers van het MIT-IBM Watson AI Lab realiseerden zich dat GAN's ook een krachtig hulpmiddel zijn: omdat ze schilderen wat ze denken, kunnen ze mensen inzicht geven in hoe neurale netwerken leren en redeneren. Dit is iets waar de bredere onderzoeksgemeenschap al heel lang naar op zoek is - en het is belangrijker geworden met onze toenemende afhankelijkheid van algoritmen.

Er is een kans voor ons om te leren wat een netwerk weet door te proberen de visuele wereld opnieuw te creëren, zegt David Bau, een MIT-promovendus die aan het project heeft gewerkt.



Dus begonnen de onderzoekers de leermechanismen van een GAN te onderzoeken door hem verschillende foto's van landschappen te geven: bomen, gras, gebouwen en lucht. Ze wilden zien of het zou leren om de pixels in verstandige groepen te ordenen zonder expliciet te horen hoe.

Verbluffend, na verloop van tijd deed het dat. Door verschillende neuronen aan en uit te zetten en de GAN te vragen om te schilderen wat het dacht, vonden de onderzoekers verschillende neuronclusters die hadden geleerd om bijvoorbeeld een boom te vertegenwoordigen. Andere clusters vertegenwoordigden gras, terwijl weer andere muren of deuren vertegenwoordigden. Met andere woorden, het was erin geslaagd om boompixels met boompixels en deurpixels met deurpixels te groeperen, ongeacht hoe deze objecten van foto tot foto van kleur veranderden in de trainingsset.

De GAN weet dat er geen deuren in de lucht mogen worden geschilderd. MIT Computer Science & Artificial Intelligence Laboratory



Deze GAN's leren concepten die heel sterk doen denken aan concepten waar mensen woorden aan hebben gegeven, zegt Bau.

Niet alleen dat, maar de GAN leek te weten wat voor soort deur te schilderen, afhankelijk van het type muur dat in een afbeelding wordt afgebeeld. Het zou een deur in Georgische stijl schilderen op een bakstenen gebouw met Georgische architectuur, of een stenen deur op een gotisch gebouw. Het weigerde ook deuren op een stuk lucht te schilderen. Zonder te zijn verteld, had de GAN op de een of andere manier bepaalde onuitgesproken waarheden over de wereld begrepen.

Dit was een grote openbaring voor het onderzoeksteam. Er zijn bepaalde aspecten van gezond verstand die in opkomst zijn, zegt Bau. Het was tot nu toe onduidelijk of er een manier was om dit soort dingen te leren [via deep learning]. Dat het is mogelijk suggereert dat deep learning ons dichter bij de werking van onze hersenen kan brengen dan we eerder dachten, hoewel dat nog lang niet in de buurt komt van enige vorm van intelligentie op menselijk niveau.



Andere onderzoeksgroepen zijn volgens Bau begonnen met het vinden van vergelijkbaar leergedrag in netwerken die andere soorten gegevens verwerken. In taalonderzoek hebben mensen bijvoorbeeld neuronclusters gevonden voor meervoudswoorden en geslachtsvoornaamwoorden.

In staat zijn om te identificeren welke clusters overeenkomen met welke concepten, maakt het mogelijk om de output van het neurale netwerk te regelen. De groep van Bau kan bijvoorbeeld alleen de boomneuronen aanzetten om de GAN bomen te laten schilderen, of alleen de deurneuronen aanzetten om deuren te schilderen. Op dezelfde manier kunnen taalnetwerken worden gemanipuleerd om hun output te veranderen, bijvoorbeeld om het geslacht van de voornaamwoorden te wisselen tijdens het vertalen van de ene taal naar de andere. We beginnen de mogelijkheid voor een persoon mogelijk te maken om interventies te doen om verschillende outputs te veroorzaken, zegt Bau.

Het team heeft nu een app uitgebracht genaamd GANpaint dat maakt van deze hernieuwde vaardigheid een artistiek hulpmiddel. Hiermee kun je specifieke neuronclusters inschakelen om scènes van gebouwen in grasvelden met veel deuren te schilderen. Naast zijn dwaasheid als een speelse uitlaatklep, spreekt het ook over het grotere potentieel van dit onderzoek.

Het probleem met AI is dat als je het vraagt ​​om een ​​taak voor je te doen, je het enorm veel vertrouwen geeft, zegt Bau. Je geeft het je input, het doet zijn 'geniale' denkwijze en het geeft je wat output. Zelfs als je een menselijke expert had die superslim is, zou je ook niet met hen willen werken.

Met GANpaint begin je het deksel van de zwarte doos af te pellen en een soort relatie tot stand te brengen. Je kunt erachter komen wat er gebeurt als je dit doet, of wat er gebeurt als je dat doet, zegt Hendrik Strobelt, de maker van de app. Zodra je met dit spul kunt spelen, krijg je meer vertrouwen in zijn mogelijkheden en ook in zijn grenzen.

Een verkorte versie van dit verhaal verscheen oorspronkelijk in onze AI-nieuwsbrief The Algorithm. Schrijf je hier gratis in om het direct in je inbox te krijgen.

zich verstoppen