211service.com
Wat gebeurt er als je een AI een werkgeheugen geeft?
Een nieuw soort computer, bedacht door onderzoekers van Google DeepMind in het VK, zou de mogelijkheden van de beste AI-systemen van vandaag kunnen uitbreiden door ze een belangrijke nieuwe functie te geven: een soort werkgeheugen.
De onderzoekers laten zien dat de computer, die bestaat uit een groot neuraal netwerk dat is verbonden met een unieke vorm van geheugen, relatief complexe taken kan uitvoeren door zelf uit te zoeken welke informatie hij in zijn geheugen moet bewaren. De taken omvatten het uitzoeken van de beste manier om van het ene station naar het andere te komen op het spaghetti-achtige ondergrondse transitnetwerk van Londen, na het verkennen van diagrammen van andere soorten netwerken en het leren over de meest opvallende kenmerken.
De Google DeepMind-onderzoekers noemen hun systeem een differentieerbare neurale computer. Het is differentieerbaar in die zin dat zijn gedrag - inclusief wat in het geheugen moet worden opgeslagen - kan worden geleerd met behulp van het wiskundige proces, backpropagation genaamd, dat ten grondslag ligt aan de werking van neurale netwerken. Omdat het netwerk wordt getraind met gegevens, slaat het automatisch wat informatie op in een geheugenmatrix.
Net als een conventionele computer kan het zijn geheugen gebruiken om complexe gegevensstructuren weer te geven en te manipuleren, maar net als een neuraal netwerk kan het leren om dit te doen van gegevens, schrijven de auteurs, waaronder Alex Graves, Greg Wayne en Demis Hassabis, in een artikel dat vandaag in het tijdschrift is gepubliceerd Natuur .
De vooruitgang is een stap in de richting van kunstmatige intelligentie die iets menselijker is in zijn mogelijkheden. Hoewel de techniek voorlopig beperkt is, kunnen systemen die op deze manier zijn gebouwd op een dag nuttig werk verrichten, zegt Ruslan Salakhutdinov , een universitair hoofddocent bij CMU die gespecialiseerd is in machine learning en AI. Een meer geavanceerde versie kan bijvoorbeeld Wikipedia doorzoeken en uitzoeken welke belangrijke concepten, zoals namen, plaatsen en datums, in het geheugen moeten worden opgeslagen. Of het kan een robot in staat stellen om informatie die in de ene omgeving is geleerd te gebruiken in een geheel nieuwe. Het is een heel spannend stuk werk, zegt Salakhutdinov.
De nieuwste machine learning-systemen zijn briljant in bepaalde taken, zoals het herkennen van gezichten in afbeeldingen of gesproken woorden. En door te oefenen kunnen ze leren om complexe taken uit te voeren, zoals het spelen van computergames, op expertniveau. Maar ze hebben enorme hoeveelheden specifieke gegevens nodig voor training, en in tegenstelling tot mensen kunnen ze niet veel van wat ze hebben geleerd in het geheugen opslaan om later te gebruiken. Dit vormt een probleem op veel gebieden, waaronder taal (zie AI's taalprobleem).
Salakhutdinov merkt echter op dat het moeilijk zou kunnen zijn om zo'n differentieerbare neurale computer complexer te maken. Dat komt omdat om toegang te krijgen tot het geheugen, het een complexe berekening moet uitvoeren om elk opgeslagen stuk te ondervragen. Het is super moeilijk om deze dingen te laten werken, zegt hij. Opschalen kan een beetje problematisch zijn.
Interessant is dat het werk twee AI-gebieden die lange tijd met elkaar overhoop lagen, een beetje dichter bij elkaar brengt. Vroeg werk op het gebied van kunstmatige intelligentie omvatte het programmeren van machines om informatie symbolisch weer te geven, terwijl de huidige mode is om zeer grote neurale netwerken te gebruiken die zichzelf trainen om taken uit te voeren. Lange tijd hebben sommige AI-traditionalisten en cognitieve wetenschappers zich afgevraagd of neurale netwerken kunnen doen wat mensen doen zonder een dieper vermogen te verwerven om informatie symbolisch weer te geven.
Ik ben het meest onder de indruk van het vermogen van het netwerk om 'algoritmen' te leren van voorbeelden, zegt Brendenmeer , een cognitief wetenschapper aan de New York University die manieren bestudeert om computers menselijke intelligentie na te laten bootsen. Dit zou het nut van deep learning kunnen vergroten. Algoritmen, zoals sorteren of het vinden van de kortste paden, vormen de basis van de klassieke informatica. Ze hebben traditioneel een programmeur nodig om te ontwerpen en te implementeren.
Maar Lake wijst erop dat het systeem nog steeds niet helemaal menselijk is in de manier waarop het werkt. Mensen kunnen met een beperkte hoeveelheid ervaring een nieuwe taak oppikken, vooral als ze bekend zijn met het domein, zegt hij. De differentiële neurale computer daarentegen wordt getraind op tien- of honderdduizenden voorbeelden van elke taak. Ik denk dat het menselijk vermogen om snel nieuwe taken te leren een van de volgende grote AI-uitdagingen zal zijn.