211service.com
Een algoritme dat Starcraft-bots heeft ontwikkeld, traint ook zelfrijdende auto's
Waymo-voertuig Waymo
De zelfrijdende auto's van Waymo hebben nu iets gemeen met de hersenen die reguliere voertuigen aansturen: hun intelligentie komt deels voort uit de kracht van evolutie.
Ingenieurs bij Waymo, eigendom van Alphabet, werkten samen met onderzoekers van DeepMind, een andere Alphabet-divisie die zich toelegt op AI, om een efficiënter proces te vinden om de zelfrijdende algoritmen van het bedrijf te trainen en te verfijnen.
Ze gebruikten een techniek die populatiegebaseerde training (PBT) wordt genoemd, eerder ontwikkeld door DeepMind voor het aanscherpen van algoritmen voor videogames. PBT, dat is geïnspireerd op biologische evolutie, versnelt de selectie van algoritmen en parameters voor machinaal leren voor een bepaalde taak door kandidaatcode te laten trekken uit de meest geschikte exemplaren (degenen die een bepaalde taak het meest efficiënt uitvoeren) in een algoritmische populatie.
Het op deze manier verfijnen van AI-algoritmen kan Waymo ook een voorsprong geven. De algoritmen die zelfrijdende auto's aansturen, moeten worden bijgeschoold en opnieuw gekalibreerd naarmate de voertuigen meer gegevens verzamelen en op nieuwe locaties worden ingezet. Tientallen bedrijven racen om de beste zelfrijdende technologie op echte wegen te demonstreren. Waymo is aan het verkennen verschillende andere manieren van het automatiseren en versnellen van de ontwikkeling van zijn machine learning-algoritmen.
Efficiëntere methoden voor het omscholen van code voor machine learning zouden AI in staat moeten stellen om flexibel en bruikbaar te zijn in verschillende contexten.
Een van de belangrijkste uitdagingen voor iedereen die machine learning in een industrieel systeem doet, is om het systeem opnieuw te kunnen bouwen om te profiteren van nieuwe code, zegt Matthieu Devin, directeur van machine learning-infrastructuur bij Waymo. We moeten het internet voortdurend opnieuw trainen en onze code herschrijven. En wanneer u zich opnieuw traint, moet u mogelijk uw parameters aanpassen.
Moderne zelfrijdende auto's worden bestuurd door een bijna Rube Goldberg combinatie van algoritmen en technieken. Talrijke algoritmen voor machine learning worden gebruikt om weglijnen, borden, andere voertuigen en voetgangers in sensorgegevens te herkennen. Deze werken samen met conventionele of handgeschreven code om het voertuig te besturen en te reageren op verschillende eventualiteiten. Elke nieuwe iteratie van een zelfrijdend systeem moet rigoureus worden getest in simulatie.
De zelfrijdende voertuigen van vandaag zijn in het bijzonder sterk afhankelijk van deep learning. Maar het configureren van een diep neuraal netwerk met de juiste eigenschappen en parameters (de waarden die in het begin hard gecodeerd zijn) is een lastige kunst. Kandidaatnetwerken en parameters worden meestal handmatig geselecteerd, wat tijdrovend is, of willekeurig aangepast door een computer, wat veel verwerkingskracht vereist.
Bij Waymo trainen we tonnen verschillende neurale netten, en onderzoekers besteden veel tijd aan het uitzoeken hoe ze deze neurale netten het beste kunnen trainen, zegt Yu-hsin (Joyce) Chen, een machine learning-infrastructuuringenieur bij Waymo. We hadden er behoefte aan en grepen die kans gewoon aan.
Chen zegt dat haar team nu PBT gebruikt om de ontwikkeling van deep learning-code te verbeteren die wordt gebruikt om rijstrookmarkeringen, voertuigen en voetgangers te detecteren, en om de nauwkeurigheid te verifiëren van gelabelde gegevens die naar andere machine-learning-algoritmen worden gevoerd. Ze zegt dat PBT de computerkracht die nodig is om een neuraal netwerk te hertrainen met ongeveer de helft heeft verminderd en de snelheid van de ontwikkelingscyclus heeft verdubbeld of verdrievoudigd.
Google ontwikkelt een reeks technieken om het proces van het trainen van machine learning-modellen te helpen automatiseren, en biedt enkele ervan al aan klanten aan via een project dat bekend staat als Cloud Auto-ML . Het efficiënter en geautomatiseerd maken van AI-trainingen zal ongetwijfeld cruciaal blijken voor de inspanningen om de technologie te commercialiseren en ervan te profiteren.
Oriol Vinyals, hoofdonderzoeker bij DeepMind en een van de uitvinders van PBT, zegt dat het idee voor het gebruik van PBT bij Waymo ontstond toen hij Devin bezocht. DeepMind ontwikkelde de techniek voor het eerst in 2017 als een manier om de training van neurale netwerken te versnellen en later te gebruiken om een computer te helpen StarCraft II te spelen, een gevechtsvideogame die vooral een uitdaging is voor machines (zie Innovators Under 35, 2016). De samenwerking van DeepMind met Waymo begon voordat het zijn StarCraft-onderzoek in januari 2019 publiceerde.
Het evolutie-achtige proces dat in PBT wordt gebruikt, maakt het ook gemakkelijker om te begrijpen hoe een deep-learning-algoritme is aangepast en geoptimaliseerd, met iets dat lijkt op een genealogische boom. Een van de leuke dingen is dat je de evolutie van parameters kunt visualiseren, zegt Vinylals. Het is een leuke manier om te verifiëren dat wat er gebeurt, echt logisch voor je is.
Op 29 juli bijgewerkt om het feit weer te geven dat PBT is ontwikkeld voordat DeepMind aan StarCraft II begon te werken.