211service.com
Hoe een plaag van domme chatbots te voorkomen
De afgelopen minuten heb ik met George Washington gepraat, en eerlijk gezegd lijkt hij nogal dronken. Hij lijkt ook rond te hangen met twintigers, want hij blijft dingen zeggen als cool, haha, en wil je bij mijn leger of wat?
Dit is natuurlijk niet echt de eerste president van Amerika. Het is geautomatiseerde, gemoedelijke kunstmatige intelligentie, ook wel een chatbot genoemd, gemaakt door dronken geschiedenis , een komische tv-show, en beschikbaar gesteld via het berichtenprogramma Kik. Het is verrassend vermakelijk, zo niet erg coherent.
Je kunt nu met allerlei soorten bots chatten via een aantal berichtenservices, waaronder: Wie ,WeChat, Telegram , en nu, Facebook messenger . Sommige zijn gewoon bedoeld om te entertainen, maar een groeiend aantal is ontworpen om iets nuttigs te doen. Je kunt nu een vlucht boeken, de laatste technische krantenkoppen lezen en zelfs een hamburger kopen bij Burger King door berichten te typen naar een virtuele helper. Startups racen om tools aan te bieden om de ontwikkeling, het beheer en het genereren van inkomsten van deze virtuele butlers te versnellen.
Het probleem is dat computers nog steeds moeite hebben om de menselijke taal in al zijn complexiteit en subtiliteit te begrijpen. Er wordt een indrukwekkende vooruitgang geboekt, maar chatbots zijn nog steeds vatbaar voor verwarring en misverstanden. En hoewel dronken George Washington daar een deugd van kan maken, is het minder charmant als je een vlucht probeert te boeken.
De beste commerciële chatbots zullen hoogstwaarschijnlijk degenen zijn die hun eigen beperkingen herkennen. Een valkuil is om te veel dingen tegelijk te doen, zegt Paul Gray, directeur platformservices bij Kik, dat sinds 2014 integratie voor bots aanbiedt. Je moet klein en simpel beginnen.
30 SecondstoFly , gevestigd in New York en Bangkok, bouwt een chatbot voor het boeken van reizen die werkt via sms of het berichtenplatform Slack. Het bedrijf gebruikt tools van: API.ai , een Californisch bedrijf dat een krachtige reeks tools heeft ontwikkeld voor het afhandelen van vragen die in natuurlijke taal zijn geschreven, maar het begrijpt mensen nog steeds niet.
We hebben spreektaal die erg moeilijk is; dan hebben we specifieke verzoeken die niet in onze gebruikersscenario's voorkomen, zegt medeoprichter Felicia Schneiderhan. Dit bracht het bedrijf ertoe zijn eigen tool te ontwikkelen voor het omleiden van berichten naar menselijke helpers.
Deze haast naar chatbots is deels te wijten aan de populariteit van verschillende nieuwe berichtenservices. Maar de inspanningen om bots in te zetten zijn ongetwijfeld ook geïnspireerd door de ongelooflijke vooruitgang op andere gebieden van kunstmatige intelligentie in de afgelopen jaren, zoals de verwerking van beelden en audio.
Maar het verwerken van taal is een heel andere uitdaging, en een die AI-onderzoekers al tientallen jaren bezighoudt. Chatbots dateren uit de vroegste dagen van AI. Een van de allereerste, genaamd Eliza , werd in 1964 aan het MIT ontwikkeld. Eliza speelde de rol van psychotherapeut en gebruikte een simpele truc om mensen aan het lijntje te houden: standaardvragen stellen en vaak iemands eigen uitspraken herformuleren in de vorm van een vraag. Maar als je heel ver van de formule afdwaalt, verliest Eliza snel de plot.
De huidige chatbots zijn beter, maar niet veel, en dat is niet verwonderlijk. Er zijn de afgelopen jaren geen fundamentele doorbraken geweest in het trainen van computers om taal te verwerken en erop te reageren (een gebied dat bekend staat als natuurlijke taalverwerking).
Microsoft is hier een goed voorbeeld van: het heeft verklaard dat de toekomst van personal computing geheel over bots zal gaan, ook al hebben zijn eigen experimenten met zelflerende chatbots enkele van de resterende uitdagingen aan het licht gebracht (zie Microsoft Says Maverick Chatbot Foreshadows the Future of Computing en waarom Microsoft per ongeluk een nazi-sexbot heeft losgelaten).
Dat gezegd hebbende, de technieken die hebben geleid tot vooruitgang op andere gebieden, voornamelijk deep learning, zijn veelbelovend voor het ontleden van taal, zegt Chris Dyer , een assistent-professor aan de Carnegie Mellon University. Neurale netwerken zijn hier veelbelovend, zegt Dyer. Elke paar maanden komt er veel spannend werk uit over het beantwoorden van vragen.
Een deel van dat werk wordt nu ingevoerd in de chatbots die opduiken. Derrick Connell, een corporate vice-president bij Microsoft die toezicht houdt op de engineering van de zoekmachine van het bedrijf, Bing, en zijn persoonlijke assistent, Cortana, zeggen dat zoekopdrachten die in Bing worden ingevoerd, worden gebruikt om de chatbot-algoritmen te trainen die Microsoft beschikbaar stelt aan ontwikkelaars. Hij zegt ook dat de meeste chatbots periodiek moeten worden bijgeschoold om nieuwe zinnen en concepten te begrijpen, maar dat ze daarmee gestaag moeten verbeteren. Er zullen randgevallen zijn, maar na verloop van tijd zal het systeem leren en steeds beter worden, zegt Connell.
Er moet nog veel werk verzet worden. Inderdaad, Facebook's eigen virtuele helper, genaamd M, wordt nog steeds bemand door mensen. De antwoorden die deze mensen geven, worden gebruikt om deep learning-algoritmen te trainen die uiteindelijk zelf vragen kunnen beantwoorden.
Het ophalen en presenteren van informatie uit een database op een manier die voor een persoon natuurlijk aanvoelt, is bijzonder moeilijk te bereiken, zegt Dyer; en het begrijpen van de intentie van een persoon is nog steeds een onopgeloste uitdaging.
Gezien de kans op verwarring en misverstanden, heeft het weinig zin om chatbots te algemeen te ontwerpen of om ze iets bijzonders te laten doen. Juridisch advies, medisch advies en psychiatrische begeleiding zouden waarschijnlijk allemaal zeer riskant zijn, zegt Dyer.