Google en anderen bouwen AI-systemen die aan zichzelf twijfelen

Saiman Chow

De krachtigste benadering in AI, deep learning, is het verkrijgen van een nieuwe mogelijkheid: een gevoel van onzekerheid.

Onderzoekers van Uber en Google werken aan aanpassingen aan de twee meest populaire deep-learning frameworks die hen in staat zullen stellen om met waarschijnlijkheid om te gaan. Dit zal de slimste AI-programma's een manier bieden om hun vertrouwen in een voorspelling of een beslissing te meten - in wezen om te weten wanneer ze aan zichzelf moeten twijfelen.

Deep learning, waarbij voorbeeldgegevens worden ingevoerd in een groot en krachtig neuraal netwerk, is de afgelopen jaren een enorm succes geweest, waardoor machines objecten in afbeeldingen kunnen herkennen of spraak bijna perfect kunnen transcriberen. Maar het vereist veel trainingsgegevens en rekenkracht, en het kan verrassend broos zijn.

Enigszins contra-intuïtief, biedt deze twijfel aan jezelf één oplossing. De nieuwe aanpak kan nuttig zijn in kritieke scenario's met zelfrijdende auto's en andere autonome machines.

Je wilt een systeem waarmee je kunt meten hoe zeker het is, zegt Dustin Tran, die bij Google aan dit probleem werkt. Als een zelfrijdende auto zijn mate van onzekerheid niet kent, kan hij een fatale fout maken en dat kan catastrofaal zijn.

Het werk weerspiegelt het besef dat onzekerheid een belangrijk aspect is van menselijk redeneren en intelligentie. Door het toe te voegen aan AI-programma's zouden ze slimmer kunnen worden en minder vatbaar voor blunders, zegt Zoubin Ghahramani , een prominente AI-onderzoeker die professor is aan de Universiteit van Cambridge en hoofdwetenschapper bij Uber.

Dit kan van cruciaal belang zijn, aangezien AI-systemen in steeds kritiekere scenario's worden gebruikt. We willen een solide raamwerk hebben voor diepgaand leren, maar het voor mensen gemakkelijker maken om onzekerheid te vertegenwoordigen, vertelde Ghahramani me onlangs tijdens een koffie op een ochtend tijdens een grote AI-conferentie in Long Beach, Californië.

Tijdens dezelfde AI-conferentie verzamelde een groep onderzoekers zich op een middag in een nabijgelegen bar om Pyro te bespreken, een nieuwe programmeertaal die is uitgebracht door Uber en die deep learning combineert met probabilistisch programmeren.

De meetup in Long Beach werd georganiseerd door Noah Goodman , een professor aan Stanford die ook verbonden is aan Uber's AI Lab. Met krullend, onverzorgd haar en een losgeknoopt overhemd zou hij gemakkelijk kunnen worden aangezien voor een yogaleraar in plaats van een AI-expert. Onder de aanwezigen was Tran, die ook heeft bijgedragen aan de ontwikkeling van Pyro.

Goodman legt uit dat het op verschillende manieren slimmer kan maken door deep learning de mogelijkheid te bieden om met waarschijnlijkheid om te gaan. Het zou bijvoorbeeld een programma kunnen helpen om dingen met een redelijke mate van zekerheid te herkennen aan slechts een paar voorbeelden in plaats van vele duizenden. Het bieden van een zekere mate van zekerheid in plaats van een ja-of-nee-antwoord zou ook moeten helpen bij het engineeren van complexe systemen.

En terwijl een conventioneel deep-learningsysteem alleen leert van de gegevens die het krijgt, kan Pyro ook worden gebruikt om een ​​systeem te bouwen dat voorgeprogrammeerd is met kennis. Dit kan handig zijn in vrijwel elk scenario waarin machine learning momenteel opduikt.

Verwant verhaal

Verwant verhaal Alphabet, nummer 5 op onze lijst van de 50 slimste bedrijven, denkt dat het de cloud computing-markt van Amazon kan afpakken door bedrijven te helpen gebruik te maken van machine learning met een tool genaamd TensorFlow.

In gevallen waarin je voorkennis hebt die je in het model wilt inbouwen, is probabilistisch programmeren vooral handig, zegt Goodman. Mensen zullen Pyro voor allerlei dingen gebruiken.

Edward is een andere programmeertaal die onzekerheid omarmt, deze is ontwikkeld aan de Columbia University met financiering van DARPA. Zowel Pyro als Edward bevinden zich nog in een vroeg ontwikkelingsstadium, maar het is niet moeilijk te begrijpen waarom Uber en Google geïnteresseerd zijn.

Uber gebruikt machine learning op talloze gebieden, van het routeren van chauffeurs tot het instellen van prijsstijgingen, en natuurlijk in zijn zelfrijdende auto's. Het bedrijf heeft zwaar geïnvesteerd in AI en heeft een aantal experts ingehuurd die aan nieuwe ideeën werken. Google heeft de laatste tijd zijn hele bedrijf opnieuw opgebouwd rond AI en deep learning.

David Blai , een professor in statistiek en computerwetenschappen aan de Columbia University en adviseur van Tran, zegt dat het combineren van deep learning en probabilistisch programmeren een veelbelovend idee is dat meer werk vereist. In principe is het heel krachtig, zegt hij. Maar er zijn heel veel technische uitdagingen.

Maar zoals Goodman opmerkt, zijn Pyro en Edward ook belangrijk voor het samenbrengen van twee concurrerende scholen in AI, de ene gericht op neurale netwerken en de andere op waarschijnlijkheid.

In de afgelopen jaren is de neurale netwerkschool zo dominant geweest dat andere ideeën vrijwel zijn achtergebleven. Om vooruit te komen, moet het veld deze andere ideeën misschien omarmen.

Het interessante verhaal hier is dat je deze kampen niet als apart hoeft te beschouwen, zegt Goodman. Ze kunnen samenkomen - sterker nog, ze komen samen - in de tools die we nu aan het bouwen zijn.

Je zou zelfs kunnen zeggen dat ze slimmer worden, gedeeltelijk door te leren wat ze niet weten.

zich verstoppen