211service.com
Algoritmen die leren met minder gegevens kunnen de kracht van AI vergroten
Vorig jaar lieten Microsoft en Google beide zien dat hun algoritmen voor beeldherkenning de beste mensen hadden leren kennen. Ze creëerden onafhankelijk software die de gemiddelde menselijke score zou kunnen overtreffen op een standaardtest die software uitdaagt om afbeeldingen van duizend verschillende objecten te herkennen, van moskeeën tot muggen.
Maar om goed genoeg te worden om de mensheid te verslaan, onderzocht de software van elk bedrijf 1,2 miljoen gelabelde afbeeldingen. Een kind kan aan de hand van slechts één voorbeeld een nieuw soort voorwerp of dier leren herkennen.
Beginnen Geometrische Intelligentie zei maandag dat het machine-learningsoftware heeft ontwikkeld die een veel snellere studie is. CEO Gary Marcus zei op: MIT Technology Review 's EmTech Digital-conferentie dat zijn XPro-software aanzienlijk minder voorbeelden nodig heeft dan de dominante vorm van machine learning-software, bekend als deep learning, om een nieuwe visuele taak te leren.
Marcus heeft geen details over de werking van XPro bekendgemaakt. Maar hij liet wel een grafiek zien waarin werd vergeleken hoe XProp en een niet-gespecificeerd deep-learningprogramma presteerden op een test die software uitdaagt om handgeschreven cijfers te leren herkennen.
Beide systemen zouden nauwkeuriger kunnen presteren met meer trainingsgegevens. Maar de XProp-software van Geometric Intelligence zou meer kunnen maken van de trainingsvoorbeelden die het kreeg.
Na bijvoorbeeld slechts ongeveer 150 voorbeelden van elk cijfer te hebben gezien, zou het slechts ongeveer 2 procent van de nieuwe cijfers onjuist herkennen. De deep-learningsoftware had van elk ongeveer 700 voorbeelden nodig om vergelijkbare prestaties te bereiken.
Dat betekent niet dat XProp noodzakelijkerwijs nuttig is. Het herkennen van handgeschreven cijfers is min of meer een opgelost probleem. Trainingsgegevens zijn er in overvloed en de best gepubliceerde resultaten met behulp van deep-learningsoftware hebben een foutpercentage van slechts ongeveer 0,2 procent . Het voordeel van XProp ten opzichte van de deep-learning software in de gegevens die Marcus liet zien, nam af naarmate de hoeveelheid trainingsgegevens toenam.
Maar Marcus zei dat XProp ook vergelijkbare resultaten had opgeleverd op een database met foto's van huisnummers verzameld door Google's Street View-project , en andere beeldherkenningstesten, wat suggereert dat de techniek van het bedrijf breed toepasbaar zou kunnen zijn.
Er is brede overeenstemming onder onderzoekers op het gebied van machine learning dat er nieuwe technieken nodig zijn die kunnen werken met minder gegevens (zie Dit AI-algoritme leert eenvoudige taken net zo snel als wij).
Deep learning is erg data-hongerig - we leren het sneller, zei Marcus. Wat we hebben, kan soms de benodigde gegevens halveren, soms met een grotere verhouding.
Marcus, een professor psychologie aan de New York University die tientallen jaren heeft besteed aan het bestuderen van hoe kinderen leren, is sceptisch dat recente vooruitgang op gebieden zoals spraak- en beeldherkenning, mogelijk gemaakt door diepgaand leren, noodzakelijkerwijs zal leiden tot vooruitgang op meer uitdagende gebieden zoals het begrijpen van taal ( zie Kan deze man AI menselijker maken?).
Grote computerbedrijven zoals Google hebben krachtige spraak- en beeldherkenningssoftware kunnen maken door veel geld uit te geven om gigantische verzamelingen gelabelde trainingsgegevens samen te stellen. Marcus betwist niet dat technologie zal leiden tot succesvolle producten (zie Google denkt dat u klaar bent om met computers te praten). Maar hij is van mening dat het maken van algoritmen die minder gegevens nodig hebben, nodig is als software dichter bij de manier moet komen waarop mensen snel nieuwe vaardigheden kunnen leren of zich kunnen aanpassen aan veranderende omstandigheden.
We leven in dit tijdperk van big data, en er is het idee dat we gewoon meer data naar het probleem kunnen gooien, vertelde Marcus aan het EmTech-publiek. Maar voor sommige problemen zijn er gewoon niet genoeg gegevens.
Taal is daar een voorbeeld van, zei hij. Met een oneindig aantal mogelijke zinnen is trainingssoftware met gelabelde voorbeelden van alle mogelijke betekenissen die het moet herkennen gewoon niet mogelijk. Marcus noemde ook zelfrijdende auto's als voorbeeld waarbij dataverslindende machine learning misschien niet voldoende is.
Als een auto situaties keer op keer moet ervaren om ze onder de knie te krijgen, kan het erg lang duren om hem te trainen om met alle mogelijke verkeers- en weersomstandigheden om te gaan, zei hij.