211service.com
Apple's AI-directeur: hier leest u hoe u Deep Learning een boost kunt geven
Apple's directeur van kunstmatige intelligentie, Ruslan Salakhutdinov, is van mening dat de diepe neurale netwerken die de afgelopen jaren spectaculaire resultaten hebben opgeleverd, de komende jaren kunnen worden versterkt door de toevoeging van geheugen, aandacht en algemene kennis.
Spreken op MIT Technology Review Op de EmTech Digital-conferentie van dinsdag in San Francisco, zei Salakhutdinov dat deze attributen kunnen helpen bij het oplossen van enkele van de openstaande problemen op het gebied van kunstmatige intelligentie.
Salakhutdinov, die een functie behoudt als een universitair hoofddocent aan de Carnegie Mellon University in Pittsburgh, wees in zijn lezing op beperkingen met door diepgaand leren aangedreven machinevisie en begrip van natuurlijke taal.
Diep leren - een techniek waarbij grote aantallen ruwweg gesimuleerde neuronen worden gebruikt die in veel onderling verbonden lagen zijn gerangschikt - heeft de afgelopen jaren een dramatische vooruitgang opgeleverd in de waarneming van machines, maar er zijn veel manieren waarop deze netwerken beperkt zijn.
Salakhutdinov liet bijvoorbeeld zien hoe systemen voor ondertiteling van afbeeldingen op basis van de technologie afbeeldingen verkeerd kunnen labelen omdat ze de neiging hebben om zich op alles in de afbeelding te concentreren. Vervolgens wees hij op een oplossing in de vorm van zogenaamde aandachtsmechanismen, een tweak naar deep learning die de afgelopen jaren is ontwikkeld. de aanpak kan deze fouten verhelpen door een systeem te laten focussen op specifieke delen van een afbeelding bij het toepassen van verschillende woorden in een bijschrift. Dezelfde benadering kan ook het begrip van natuurlijke taal helpen verbeteren door een machine in staat te stellen zich te concentreren op het relevante deel van een zin om de betekenis ervan af te leiden.
Een techniek genaamd geheugennetwerken , ontwikkeld door onderzoekers van Facebook, kan de manier waarop machines met mensen praten, verbeteren. Zoals de naam al doet vermoeden, voegt de aanpak een onderdeel van het langetermijngeheugen toe aan neurale netwerken, zodat ze de geschiedenis van een chat onthouden.
Van geheugennetwerken is aangetoond dat ze ook een ander soort AI verbeteren, bekend als versterkingsleren. Zo lieten twee onderzoekers van CMU onlangs zien hoe hiermee een slimmere algoritme voor het spelen van games . Onderzoekers van DeepMind, een op AI gerichte dochteronderneming van Alphabet, hebben ook aangetoond: manieren waarop deep-learningsystemen kunnen worden gebouwd en gebruikt een vorm van geheugen.
Reinforcement learning komt snel naar voren als een waardevolle manier om moeilijk te programmeren problemen in robotica en geautomatiseerd rijden op te lossen. Het was een van MIT Technology Review De 10 baanbrekende technologieën van 2017 .
Een ander opwindend gebied van toekomstig onderzoek, zei Salakhutdinov, zou het vinden van manieren zijn om handgemaakte kennisbronnen te combineren met diepgaand leren. Hij wees op algemene kennisdatabases zoals: vrije basis en woordbetekenende repositories zoals WordNet .
Net zoals mensen sterk afhankelijk zijn van algemene kennis bij het ontleden van taal of het interpreteren van een visuele scène, zou dit kunnen helpen om AI-systemen slimmer te maken, zei Salakhutdinov. Hoe kunnen we al die voorkennis integreren in deep learning? zei hij tijdens zijn gesprek. Dat is een grote uitdaging.
Salakhutdinov sprak tijdens een sessie die onderzoekers van verschillende AI-scholen samenbracht. Een gemeenschappelijk thema onder de sprekers was de behoefte aan verschillende benaderingen om AI naar een hoger niveau te tillen.
Tijdens de sessie Peter Zondagen , een professor aan de Universiteit van Washington die verschillende benaderingen van machine learning bestudeert, zei dat er ook moet worden gezocht naar volledig nieuwe benaderingen van AI. Er is een stroming in machine learning dat we geen mooie nieuwe algoritmen nodig hebben, we hebben alleen meer gegevens nodig, zei hij. Ik denk dat er echt diepe, fundamentele ideeën zijn die ontdekt moeten worden voordat we AI echt kunnen oplossen.