211service.com
De perfecte, onmogelijke chatbot van Facebook
Tim Liedtke
Amazon's Alexa kan een Uber oproepen en voldoen aan de vraag van een vierjarige naar scheetgeluiden. Siri kan uw op internet aangesloten thermostaat bedienen. Elke dag bedienen ze miljoenen gebruikers. Maar een gelukkige groep van ongeveer 10.000 mensen, voornamelijk in Californië, weet dat de assistent van Facebook, genaamd M, de slimste van het stel is.
Een romantisch hotel in Marokko aanraden en reserveren dat ook geschikt is voor kleine kinderen? Geen probleem. Offertes ontvangen van lokale aannemers voor het aanleggen van uw voortuin? Beschouw het als gedaan. De experimentele assistent van Facebook, aangeboden in de Messenger-app van het bedrijf, laat zien hoe waardevol het is om een echte digitale butler op zak te hebben. In plaats van alleen eenvoudige stukjes informatie uit databases te halen, kan M complexe bestellingen begrijpen en acties ondernemen zoals het boeken van theatertickets of contact opnemen met bedrijven voor informatie.
M is zo slim omdat het vals speelt. Het werkt als Siri in die zin dat wanneer je een bericht naar M tikt, algoritmen proberen te achterhalen wat je wilt. Maar als ze dat niet kunnen, valt M niet terug op zoeken op internet of zeggen dat het me spijt, ik begrijp de vraag niet. In plaats daarvan neemt een mens onzichtbaar het roer over en reageert op uw verzoek alsof de algoritmen nog aan het roer staan. (Facebook weigerde te zeggen hoeveel van die werknemers het heeft, of om M beschikbaar te stellen om te proberen.)
Dat ontwerp is te duur om op te schalen naar de 1,2 miljard mensen die Facebook Messenger gebruiken, dus bood Facebook in 2015 M aan een paar duizend gebruikers aan als een soort semi-publiek R&D-project. Het verstrengelen van menselijke werkers en algoritmen was bedoeld om te onthullen hoe mensen zouden reageren op een alwetende virtuele assistent, en om gegevens te verschaffen waarmee de algoritmen zouden leren het werk van hun menselijke trainers over te nemen.
Iedereen op dit gebied droomt ervan de assistent te creëren die uiteindelijk heel, heel, heel slim zal zijn, zegt Alex Lebrun, die het project begon. M wordt verondersteld een pad te openen om het echt te doen.
Nu, twee jaar later, kan het onderzoeksproject van Facebook met recht succesvol genoemd worden. Gebruikers zoals M, en de theorie dat software zou kunnen leren om wat werk van de menselijke trainers over te nemen, is bevestigd. Toch is M nog ver verwijderd van het punt waarop het een echt product zou kunnen zijn dat aan de overige 99,9 procent van de Messenger-gebruikers wordt aangeboden, en de vooruitgang is moeilijker behaald dan verwacht.
We wisten dat het een enorme uitdaging was, maar het is nog groter dan ik dacht, zegt Lebrun. Het leertempo, de groei van de automatisering - we hebben gezien dat het langzamer zou gaan dan we hadden gehoopt. Het verhaal van M herinnert ons eraan hoe ver kunstmatige intelligentie de afgelopen jaren is gekomen - en hoe ver het nog moet gaan.
M is voor moonshot
Mensen zijn verrassend leuk om te praten met domme machines. De eerste chatbot werd in 1964 gemaakt door MIT-professor Joseph Weizenbaum. Het draafde ingeblikte regels uit als reactie op specifieke trefwoorden, het meest succesvol in de rol van therapeut. Tot ergernis van Weizenbaum waren veel mensen die het probeerden, waaronder zijn eigen secretaresse, geslagen ondanks het feit dat ze wisten dat de bot, Eliza genaamd, van niets wist. Ik had me niet gerealiseerd dat extreem korte blootstelling aan een relatief eenvoudig computerprogramma krachtige waanvoorstellingen zou kunnen veroorzaken bij heel normale mensen, schreef hij later.
Een chatbot maken die je helpt door dingen voor elkaar te krijgen, niet alleen als klankbord of biechtvader, is veel moeilijker. Wanneer een virtuele dienaar wordt gevraagd om iets te doen, zal een vage of afleidende reactie het niet redden. De software van vandaag is slecht in het begrijpen van taal en de wereld, dus virtuele assistenten, zoals Siri of Alexa, moeten expliciet worden geprogrammeerd om een bepaalde taak uit te voeren.
Daarom hebben bots op de markt beperkte repertoires. En het verklaart waarschijnlijk waarom suggesties vorig jaar dat chatbots waren ingesteld om de manier waarop we computers gebruiken te transformeren zoals mobiele apps deden, opgestookt door Microsoft, Facebook en sommige tech-investeerders, niet veel lijken te hebben opgeleverd. Bots bevinden zich momenteel in het dal van wanhoop, zegt Greg Cohn, CEO van Burner, een mobiel privacybedrijf dat Airbnb-hosts is gaan helpen bij het maken van een eenvoudige bot om veelgestelde vragen van gasten te beantwoorden. Voor waarnemers uit de sector voelt het alsof ze overhyped zijn en te weinig presteren.
Lebrun bouwde M omdat hij meer dan een decennium had besteed aan het bouwen van conventionele, smalle chatbots en ervan droomde veel meer te bieden. Hij kwam begin 2015 bij Facebook toen het sociale netwerk Wit.ai overnam, een bedrijf dat hij mede heeft opgericht om bedrijven te helpen chatbots te maken voor functies zoals klantenondersteuning. Lebrun had eerder een chatbotbedrijf verkocht aan de spraakherkenningsgigant Nuance.
Elke bot op de markt, inclusief de mijne, was gebaseerd op regels, en je weet dat je op een dag een plafond zult bereiken en er nooit doorheen zult gaan, zegt Lebrun. Onze kinderen werken niet met regels of scripts, en op een dag worden ze slimmer dan jij.
M werd aanvankelijk alleen aangeboden aan Facebook-medewerkers en vervolgens aan enkele zware Messenger-gebruikers in Californië. En het duurde niet lang om aan te tonen dat algoritmen inderdaad kunnen leren om een deel van het werk te doen dat wordt gedaan door de mensen die de assistent aandrijven.
Tim Liedtke
De onderzoeksgroep op het gebied van kunstmatige intelligentie van Facebook gebruikte M om een nieuw type leersoftware te testen, een geheugennetwerk genaamd, dat geschikt was gebleken om vragen over eenvoudige verhalen te beantwoorden. De software gebruikt een soort werkgeheugen om belangrijke informatie weg te zouten voor later gebruik, een ontwerp dat Google ook aan het testen is om het redeneervermogen van de software te verbeteren.
Weizenbaum had al in 1964 gesuggereerd dat zoiets Eliza slimmer zou kunnen maken, en binnen enkele weken werkte het voor M. Lebrun herinnert zich dat hij verrast was nadat hij de assistente bedankte voor het bestellen van bioscoopkaartjes. Het genereerde automatisch het antwoord. Graag gedaan. Geniet van de film. M had geleerd de context van de taak waarmee hij hielp te onthouden en te gebruiken. We waren echt weggeblazen, zegt Lebrun. Niemand heeft daar een programma voor geschreven.
Geheugennetwerken gingen meer doen. Ze komen nu in actie als iemand M vraagt om bloemen te laten bezorgen, bijvoorbeeld automatisch met behulp van belangrijke informatie uit het verzoek, zoals budget of adres, om suggesties van online bloemisten te genereren. De menselijke trainer kiest vervolgens welke hij de gebruiker aanbiedt.
Andere ontdekkingen waren minder juichend. Een daarvan is de enorme eetlust die M ontsluit bij zijn gebruikers. Met beperkte, volledig geautomatiseerde assistenten zoals Siri of Alexa, hebben mensen de neiging om een paar functies te gebruiken die ze betrouwbaar vinden. Bij M doen ze dat niet.
Mensen proberen morgen eerst naar het weer te vragen; dan zeggen ze: 'Is er een Italiaans restaurant beschikbaar?' Vervolgens hebben ze een vraag over immigratie, en na een tijdje vragen ze M om hun bruiloft te organiseren, zegt Lebrun. We wisten dat het gevaarlijk zou zijn, en het is breder dan onze verwachtingen.
Menselijke trainers doen dapper hun best als ze lastige vragen krijgen, zoals: Regel een papegaai om mijn vriend te bezoeken , maar soms weigeren ze helemaal te helpen. Zelfs als M automatisch de meest complexe vragen van gebruikers zou weigeren, maakt de enorme verscheidenheid aan verzoeken het doel om algoritmen het over te laten nemen van menselijke trainers moeilijker te bereiken. Een techniek genaamd deep learning heeft machine learning recentelijk krachtiger gemaakt (geheugennetwerken zijn een voorbeeld). Maar leren omgaan met een breed scala aan complexe scenario's, met weinig gegevens over elk omdat ze niet vaak voorkomen, is niet het soort probleem waar deep learning in uitblinkt. Het is veel slimmer en het kan zeer complexe taken leren, maar het heeft veel gegevens nodig, zegt Lebrun.
lange afstand
Trager dan verwachte vooruitgang heeft ertoe geleid dat Facebook zijn project opnieuw heeft bedacht. Vorige week verscheen er een functie genaamd M Suggestions in Messenger, vergelijkbaar met het soort beperkte bots dat M moet vervangen. Het kijkt naar je chats met vrienden voor aanwijzingen dat je misschien dingen wilt doen, zoals een ritje bestellen bij Uber, of iemand geld sturen, en biedt een knop om die doelen met een enkele tik te bereiken.
We besloten een use-case te vinden waarmee we sneller waarde aan gebruikers kunnen leveren, zegt Laurent Landowski, die samen met Lebrun bij Facebook kwam als medeoprichter van Wit.ai en nu toezicht houdt op M. (Lebrun keerde in januari terug naar zijn geboorteland Frankrijk en voegde zich bij Facebook's AI-onderzoek laboratorium in Parijs.)
De originele, mensafhankelijke M is er nog steeds en levert veel meer waarde aan de weinige gelukkige gebruikers. Facebook zegt toegewijd te zijn aan het project en het huidige moment in kunstmatige intelligentie is een goed moment voor langetermijnweddenschappen. In de afgelopen jaren heeft deep learning de gevestigde technieken en verwachtingen voor software die taal verwerkt, op zijn kop gezet, zegt Justine Cassell , een professor aan Carnegie Mellon. We bevinden ons in de gloriedagen van deze nieuwe algoritmen voor machine learning, zegt ze. Inderdaad, de nauwkeurigheid van Google's vertaling is onlangs naar een bijna menselijk niveau gesprongen.
Dat betekent niet dat het een uitgemaakte zaak is dat software butler kan leren spelen door te kijken hoe mensen het doen. Ik denk dat we het nog niet weten, zegt Cassell. Maar de onderzoekers van Facebook zeggen dat ze genoeg ideeën hebben om te verkennen.
Een daarvan is om de geautomatiseerde kant van M te laten leren van positieve of negatieve feedback in de berichten die gebruikers verzenden, met behulp van een techniek die is geïnspireerd op het proces van het trainen van dieren met beloningen (zie 10 Breakthrough Technologies 2017: Reinforcement Learning). M zou sneller vooruit kunnen gaan, zo niet alleen afhankelijk van wat zijn menselijke contractanten doen. Om ideeën in de bredere onderzoeksgemeenschap aan te wakkeren, heeft het team van Facebook tools vrijgegeven om anderen te helpen bij het testen en vergelijken van niet-gescripte assistent-bots. En kansrijke nieuwe technieken kunnen nu ook op grotere schaal worden getest, in M Suggestions.
Lebrun en Landowski denken dat ze nog steeds op schema liggen om uiteindelijk de echte M naar de massa te brengen. Soms zeggen we dat dit drie jaar is, of vijf jaar, maar misschien is het 10 jaar of langer, zegt Landowski.
Lebrun voegt eraan toe: het is zo moeilijk en we boeken langzaam vooruitgang, maar ik denk dat we alles hebben wat we nodig hebben. Hij zou gelijk kunnen hebben, maar je kunt je ook voorstellen dat iemand die Eliza in 1964 ontmoette, ongeveer hetzelfde zou zeggen.