Een AI-algoritme dat is geïnspireerd op hoe kinderen leren, is moeilijker te verwarren

Categorie: Kunstmatige intelligentie Geplaatst 06 mei

Informatie brandweerslang: De standaardpraktijk voor het aanleren van een machine-learning-algoritme is om het alle details in één keer te geven. Stel dat u een beeldclassificatiesysteem bouwt om verschillende diersoorten te herkennen. Je laat voorbeelden van elke soort zien en labelt ze dienovereenkomstig: Duitse herder en poedel voor honden, bijvoorbeeld.

Maar wanneer een ouder een kind lesgeeft, is de aanpak heel anders. Ze beginnen met veel bredere labels: elke soort hond is in eerste instantie gewoon een hond. Pas nadat het kind heeft geleerd hoe het deze eenvoudigere categorieën kan onderscheiden, splitst de ouder ze op in meer details.

Verdreven verwarring: Geïnspireerd door deze benadering, creëerden onderzoekers van de Carnegie Mellon University een nieuwe techniek dat leert een neuraal netwerk om dingen in fasen te classificeren. In elke fase ziet het netwerk dezelfde trainingsgegevens. Maar de labels beginnen eenvoudig en breed en worden in de loop van de tijd specifieker.

Om deze moeilijkheidsgraad te bepalen, toonden de onderzoekers eerst het neurale netwerk de trainingsgegevens met de definitieve gedetailleerde labels. Vervolgens berekenden ze een zogenaamde verwarringsmatrix, die de categorieën laat zien die het model de meeste moeite had om uit elkaar te houden. De onderzoekers gebruikten dit om de trainingsfasen te bepalen, waarbij ze de minst te onderscheiden categorieën in vroege stadia onder één label groepeerden en ze bij elke iteratie weer opsplitsten in fijnere labels.

Betere nauwkeurigheid: In tests met verschillende populaire datasets voor beeldclassificatie leidde de aanpak bijna altijd tot een uiteindelijk machine-learningmodel dat beter presteerde dan een model dat met de conventionele methode was getraind. In het beste geval verhoogde het de classificatienauwkeurigheid tot 7%.

Leerplan: Hoewel de aanpak nieuw is, is het idee erachter dat niet. De praktijk van het trainen van een neuraal netwerk op toenemende moeilijkheidsgraden staat bekend als curriculumleren en bestaat al sinds de jaren negentig. Maar eerdere leerinspanningen in het curriculum waren gericht op het tonen van het neurale netwerk in elke fase een andere subset van gegevens, in plaats van dezelfde gegevens met verschillende labels. De nieuwste aanpak was: gepresenteerd door Otilia Stretcu, co-auteur van de paper, op de International Conference of Learning Representations vorige week.

Waarom het uitmaakt: De overgrote meerderheid van deep-learning-onderzoek van tegenwoordig benadrukt de grootte van modellen: als een beeldclassificatiesysteem moeite heeft om onderscheid te maken tussen verschillende objecten, betekent dit dat het niet op genoeg voorbeelden is getraind. Maar door inzicht te ontlenen aan de manier waarop mensen leren, vonden de onderzoekers een nieuwe methode waarmee ze betere resultaten konden behalen met precies dezelfde trainingsgegevens. Het suggereert een manier om meer data-efficiënte leeralgoritmen te creëren.