211service.com
Dit AI-algoritme leert eenvoudige taken net zo snel als wij
Geïnspireerd door de manier waarop mensen lijken te leren, hebben wetenschappers AI-software gemaakt die nieuwe kennis op een veel efficiëntere en geavanceerdere manier kan oppikken.
Fig. 1. Mensen kunnen rijke concepten leren van beperkte gegevens. (A en B) Een enkel voorbeeld van een nieuw concept (rode vakken) kan voldoende informatie zijn om de (i) classificatie van nieuwe voorbeelden, (ii) het genereren van nieuwe voorbeelden, (iii) het ontleden van een object in delen en relaties ( onderdelen gesegmenteerd op kleur), en (iv) het genereren van nieuwe concepten uit verwante concepten.
Het nieuwe AI-programma kan een handgeschreven karakter ongeveer net zo nauwkeurig herkennen als een mens, na slechts één enkel voorbeeld te hebben gezien. De beste bestaande algoritmen voor machine learning, die gebruikmaken van een techniek die deep learning wordt genoemd, hebben vele duizenden voorbeelden van een handgeschreven karakter nodig om het verschil tussen een A en een Z te leren.
De software is ontwikkeld door Brendenmeer , een onderzoeker aan de New York University, samen met Ruslan Salakhutdinov , een assistent-professor computerwetenschappen aan de Universiteit van Toronto, en Joshua Tenenbaum , een professor in de afdeling Hersenen en Cognitieve Wetenschappen aan het MIT. Details van het programma, en de ideeën erachter, worden vandaag gepubliceerd in het tijdschrift Wetenschap.
Computers zijn de afgelopen jaren veel slimmer geworden, onder meer door gezichten te leren herkennen, spraak te verstaan en zelfs veilig auto te rijden. En de meeste vooruitgang is geboekt met behulp van grote of diepe neurale netwerken. Maar er is een cruciaal nadeel aan deze systemen: ze hebben een hoop gegevens nodig om zelfs de eenvoudigste taak te leren uitvoeren.
Deze beperking is grotendeels te wijten aan het feit dat de algoritmen informatie niet verwerken zoals wij dat doen. Hoewel deep learning is gemodelleerd naar een virtueel netwerk van neuronen - en de aanpak heeft zeer indrukwekkende resultaten opgeleverd bij perceptuele taken - is het een zeer ruwe imitatie van de manier waarop de hersenen werken. Een deep-learning algoritme associeert de pixels in een afbeelding met een bepaald karakter. De hersenen kunnen sommige visuele stimuli op een vergelijkbare manier verwerken, maar mensen gebruiken ook hogere vormen van cognitieve functies om de inhoud van een afbeelding te interpreteren.
De onderzoekers gebruikten een techniek die ze het Bayesian Program Learning Framework of BPL noemen. In wezen genereert de software een uniek programma voor elk personage met behulp van een denkbeeldige pen. Een probabilistische programmeertechniek wordt dan gebruikt om een programma te matchen met een bepaald karakter, of om een nieuw programma te genereren voor een onbekend personage. De software bootst niet de manier na waarop kinderen leren lezen en schrijven, maar de manier waarop volwassenen, die al weten hoe, nieuwe karakters leren herkennen en opnieuw creëren.
Het belangrijkste van probabilistisch programmeren - en nogal anders dan de manier waarop de meeste deep-learning-dingen werken - is dat het begint met een programma dat de causale processen in de wereld beschrijft, zegt Tenenbaum. Wat we proberen te leren, is geen handtekening van functies of een patroon van functies. We proberen een programma te leren dat deze karakters genereert.
Tenenbaum en collega's testten de aanpak door zowel mensen als de software nieuwe karakters te laten tekenen na het zien van een handgeschreven voorbeeld, en vervolgens een groep mensen te vragen te beoordelen of een karakter door een persoon of een machine is geschreven. Ze ontdekten dat minder dan 25 procent van de rechters het verschil kon zien.
Het team zegt dat de techniek kan worden uitgebreid naar meer praktische toepassingen. Zo kunnen computers bijvoorbeeld snel nieuwe woorden in gesproken taal leren herkennen en gebruiken. Of het kan een computer in staat stellen nieuwe exemplaren van een bepaald object te herkennen. Meer in het algemeen wijst de benadering op een belangrijke nieuwe richting in kunstmatige intelligentie, aangezien onderzoekers zich laten inspireren door onderzoek naar menselijke cognitie.
Geoffrey Hinton , een professor psychologie aan de Universiteit van Toronto die een sleutelrol speelde bij de ontwikkeling van deep learning, zegt dat het werk een belangrijke stap voor het veld is. Het is een prachtig document en een zeer indrukwekkend voorbeeld van leren van niet veel voorbeelden, zegt hij.
Hinton, die ook de PhD-adviseur was van een van de auteurs van het artikel, Salakhutdinov, zegt dat AI-onderzoekers veel nuttige dingen kunnen leren van zowel neurowetenschappen als cognitieve wetenschap. Hij suggereert ook dat benaderingen zoals die ontwikkeld zijn voor handschriftherkenning, in feite compatibel kunnen zijn met diep leren. Ik denk dat je het beste van twee werelden kunt hebben, zegt hij.
Gary Marcus , een cognitief wetenschapper aan de New York University en medeoprichter van een bedrijf genaamd Geometric Intelligence, dat ook machine learning-benaderingen ontwikkelt die zijn geïnspireerd op menselijk gedrag, zegt dat hij het er niet helemaal mee eens is dat de menselijke geest werkt op de manier die wordt beschreven in de Wetenschap papier. Maar hij denkt dat de aanpak een belangrijk doel voor AI laat zien, omdat er in veel situaties geen enorme hoeveelheden gegevens zijn waar een machine van kan leren.
Het probleem met het dominante paradigma is dat het heel, heel veel data vraagt, zegt Marcus. Dit is het bewijs dat je sneller kunt leren. En ik denk dat dat iets is waar mensen veel over zullen nadenken.
Marcus voegt eraan toe dat taal de killer-app voor dergelijke systemen zou kunnen zijn. Veel deep-learning-onderzoekers werken al aan deze uitdaging (zie Machines leren om ons te begrijpen), maar Marcus is van mening dat machines op efficiëntere en flexibelere manieren zullen moeten leren om deze te doorbreken. Het echte buigpunt in AI komt wanneer machines taal echt kunnen begrijpen, zegt hij. Niet alleen middelmatige vertalingen maken, maar echt begrijpen wat je bedoelt.