211service.com
Nvidia laat je in de zwarte doos van zijn zelfrijdende AI kijken
Nvidia heeft ontwikkeld een zelfrijdende AI die je laat zien hoe het werkt.
Zoals we hebben uitgelegd in ons nieuwste coververhaal, The Dark Secret at the Heart of AI , resulteren enkele van de krachtigste machine learning-technieken die beschikbaar zijn in software die bijna volledig ondoorzichtig is, zelfs voor de ingenieurs die het bouwen. Benaderingen die enige aanwijzingen geven over hoe een AI werkt, zullen daarom enorm belangrijk zijn voor het opbouwen van vertrouwen in een technologie die een revolutie lijkt teweeg te brengen in alles, van geneeskunde tot productie.
Nvidia levert chips die ideaal zijn voor deep learning, een bijzonder krachtige machine learning-techniek (zie 10 Breakthrough Technologies 2013: Deep Learning).
Nvidia's neurale netwerksoftware benadrukt de gebieden waarop het zich richt bij het nemen van beslissingen.
De chipmaker heeft zich ook ontwikkeld systemen die laten zien hoe een autofabrikant deep learning kan toepassen op autonoom rijden. Dit omvat een auto die volledig wordt bestuurd door een diepgaand lerend algoritme. Verbazingwekkend genoeg krijgt de computer van het voertuig geen regels om te volgen - het stemt eenvoudig de invoer van verschillende videocamera's af op het gedrag van een menselijke bestuurder en bepaalt zelf hoe het moet rijden. Het enige nadeel is dat het systeem zo complex is dat het moeilijk is om te ontrafelen hoe het echt werkt.
Maar Nvidia werkt eraan om deze zwarte doos te openen. Het heeft een manier ontwikkeld om visueel te benadrukken waar het systeem aandacht aan besteedt. Zoals uitgelegd in een onlangs gepubliceerde papier , is de neurale netwerkarchitectuur ontwikkeld door Nvidia's onderzoekers zo ontworpen dat het de gebieden van een videobeeld kan markeren die het sterkst bijdragen aan het gedrag van het diepe neurale netwerk van de auto. Opmerkelijk genoeg laten de resultaten zien dat het netwerk zich richt op de randen van wegen, rijbaanmarkeringen en geparkeerde auto's - precies het soort dingen waar een goede menselijke bestuurder aandacht aan zou willen besteden.
Wat hier revolutionair aan is, is dat we het netwerk nooit rechtstreeks hebben verteld om zich om deze dingen te bekommeren, schreef Urs Muller, Nvidia's hoofdarchitect voor zelfrijdende auto's, in een blogpost .
Het is geen volledige uitleg van hoe het neurale netwerk redeneert, maar het is een goed begin. Zoals Muller zegt: ik kan niet alles uitleggen wat de auto moet doen, maar ik kan het laten zien, en nu kan het me laten zien wat het heeft geleerd.
Dit soort benadering kan steeds belangrijker worden, aangezien deep learning wordt toegepast op zowat elk probleem waarbij grote hoeveelheden gegevens betrokken zijn, inclusief kritieke gebieden zoals geneeskunde, financiën en militaire inlichtingen.
Een handvol academische onderzoekers onderzoeken ook de kwestie. Bijvoorbeeld, Jeff Clune aan de Universiteit van Wyoming en Charles Guestrin aan de Universiteit van Washington (en Apple) hebben manieren gevonden om de delen van afbeeldingen te benadrukken die classificatiesystemen oppikken. En Tommi Jaakola en Regina Barzilay aan het MIT ontwikkelen manieren om tekstfragmenten te verschaffen die een conclusie helpen verklaren die is getrokken uit grote hoeveelheden geschreven gegevens.
Het Defense Advanced Projects Research Agency (DARPA), dat langetermijnonderzoek doet voor het Amerikaanse leger, financiert verschillende soortgelijke onderzoeksinspanningen via een programma dat het noemt Verklaarbare kunstmatige intelligentie (XAI) .
Afgezien van de technische details, is het echter fascinerend om te bedenken hoe dit zich verhoudt tot menselijke intelligentie. We doen allerlei dingen die we niet volledig kunnen verklaren, en de verklaringen die we verzinnen zijn vaak slechts benaderingen, of verhalen over wat er aan de hand is. Gezien de ondoorzichtigheid van de steeds complexere methoden voor machinaal leren van vandaag, zullen we op een dag misschien ook gedwongen worden om dergelijke verklaringen van AI te accepteren.
(Bronnen: Nvidia , Het duistere geheim in het hart van AI , het Amerikaanse leger wil dat zijn autonome machines zichzelf verklaren )