211service.com
Efficiëntere machine learning kan het AI-paradigma op zijn kop zetten
Yaopai
In januari lanceerde Google een nieuwe service genaamd Cloud AutoML, die een aantal lastige aspecten van het ontwerpen van machine learning-software kan automatiseren. Tijdens het werken aan dit project moesten de onderzoekers van het bedrijf soms wel 800 grafische chips tegelijk gebruiken om hun krachtige algoritmen te trainen.
In tegenstelling tot mensen, die koffiekopjes kunnen herkennen aan het zien van een of twee voorbeelden, moeten AI-netwerken op basis van gesimuleerde neuronen tienduizenden voorbeelden zien om een object te identificeren. Stel je voor dat je probeert om elk item in je omgeving op die manier te leren herkennen, en je begint te begrijpen waarom AI-software zoveel rekenkracht vereist.
Als onderzoekers neurale netwerken zouden kunnen ontwerpen die kunnen worden getraind om bepaalde taken uit te voeren met slechts een handvol voorbeelden, zou dit het hele paradigma op zijn kop zetten, vertelde Charles Bergan, vice-president engineering bij Qualcomm, aan de menigte op MIT Technology Review ’s EmTech China-conferentie eerder deze week.
Verwant verhaal
Verwant verhaalAls neurale netwerken in staat zouden zijn om in één keer te leren, zei Bergan, zou het omslachtige proces van het invoeren van stapels gegevens in algoritmen om ze te trainen achterhaald zijn. Dit kan ernstige gevolgen hebben voor de hardware-industrie, aangezien zowel bestaande techreuzen als startups zich momenteel richten op het ontwikkelen van krachtigere processors die zijn ontworpen om de huidige data-intensieve AI-algoritmen uit te voeren.
Het zou ook een veel efficiëntere machine learning betekenen. Hoewel neurale netwerken die kunnen worden getraind met kleine datasets nog geen realiteit zijn, wordt er al onderzoek gedaan om algoritmen kleiner te maken zonder de nauwkeurigheid te verliezen, zei Bill Dally, hoofdwetenschapper bij Nvidia, op de conferentie.
Nvidia-onderzoekers gebruiken een proces dat netwerksnoei wordt genoemd om een neuraal netwerk kleiner en efficiënter te maken door de neuronen te verwijderen die niet direct bijdragen aan de output. Er zijn manieren van trainen die de complexiteit van training enorm kunnen verminderen, zei Dally.