Sociale intelligentie

I: Moet ik naar bed, Siri?

Siri: Ik denk dat je er een nachtje over moet slapen.

Dit verhaal maakte deel uit van ons nummer van mei 2012

• Zie de rest van het probleem
• Abonneren

Het is moeilijk om zo'n slim antwoord niet te bewonderen. Siri, de intelligente persoonlijke assistent die is ingebouwd in de iPhone 4S van Apple, vertoont vaak dit soort houding, vooral wanneer een vraag wordt gesteld die de spot drijft met zijn kunstmatige intelligentie. Maar het antwoord is niet de grap van een sluwe programmeur. Het is een cruciaal onderdeel van waarom Siri zo goed werkt.

De populariteit van Siri laat zien dat een digitale assistent meer nodig heeft dan alleen intelligentie om te slagen; het heeft ook tact, charme en, verrassend genoeg, humor nodig. Fouten veroorzaken frustratie en ergernis bij elke computerinterface. Het risico wordt dramatisch vergroot met een die zich voordoet als een persoonlijke assistent voor gesprekken, een feit dat in het verleden een aantal sociaal onvolgroeide virtuele assistenten ongedaan heeft gemaakt. Dus voor Siri is sympathiek en af ​​en toe gek zijn net zo belangrijk als oogverblindend met machine-intelligentie.

Dingen beoordeeld

• Siri (bètaversie, draait op iPhone 4)

• BEGIN

  http://start.csail.mit.edu

• De man die tegen zijn laptop loog: wat machines ons leren over menselijke relaties

  Clifford Nass
  Huidig, 2010

  
  
  

Siri vindt zijn oorsprong in een onderzoeksproject dat in 2003 is begonnen en wordt gefinancierd door het Defense Advanced Research Projects Agency (DARPA) van het Amerikaanse leger. De inspanning werd geleid door SRI International, dat in 2007 een spin-off van een bedrijf dat in februari 2010 de originele versie van Siri als iPhone-app uitbracht (de technologie werd genoemd onder Technologie beoordeling ’s 10 opkomende technologieën in 2009). Deze eerdere Siri kon minder dingen doen dan degene die later in de iPhone 4S werd ingebouwd. Het had toegang tot een handvol online diensten voor het maken van restaurantreserveringen, het kopen van bioscoopkaartjes en het boeken van taxi's, maar het was foutgevoelig en maakte nooit een grote hit bij gebruikers. Apple kocht de startup achter Siri voor een onbekend bedrag, slechts twee maanden nadat de app zijn debuut maakte.

De Siri die anderhalf jaar later verscheen, werkt verbazingwekkend goed. Hij luistert naar gesproken commando's (in het Engels, Frans, Duits en Japans) en reageert met een passende actie of een antwoord dat wordt uitgesproken met een kalme, geschikte robotachtige vrouwenstem. Vraag Siri om je om 8:00 uur wakker te maken en het zal de wekker van de telefoon dienovereenkomstig instellen. Vertel Siri om een ​​sms naar een vriend te sturen en het zal plichtsgetrouw dicteren voordat je je bericht afvuurt. Zeg Waar kan ik een burrito vinden, Siri? en Siri zal een lijst tonen van goed beoordeelde Mexicaanse restaurants in de buurt, gevonden door de locatiesensor van de telefoon te doorzoeken en een zoekopdracht op internet en op de kaart uit te voeren. Siri heeft ook talloze feiten en cijfers binnen handbereik, dankzij de online antwoordengine Wolfram Alpha, die toegang heeft tot vele databases. Vraag Wat is de straal van Jupiter? en Siri zal je terloops informeren dat het 42.982 mijl is.

Siri's charismatische kwaliteit ontbreekt volledig in andere natuurlijke taalinterfaces. Verschillende bedrijven verkopen virtuele klantenservicemedewerkers die online met klanten kunnen chatten in getypte tekst. Een voorbeeld is Eva, gemaakt door het Spaanse bedrijf Indysis. Eva kan comfortabel chatten, tenzij het gesprek begint af te wijken van de gebieden waarover het is getraind om over te praten. Als dat zo is, zal Eva nogal grof proberen om je terug te duwen naar die onderwerpen.

Siri heeft ook enkele nauwere concurrenten in de vorm van apps die beschikbaar zijn voor iPhones en Android-apparaten. Evi, gemaakt door Ware Kennis; Dragon Go, van het spraakherkenningsbedrijf Nuance; en Iris, gemaakt door het Indiase softwarebedrijf Dexetra, zijn allemaal variaties op het thema van een spraakgestuurde persoonlijke assistent, en ze kunnen vaak overeenkomen met Siri's vermogen om eenvoudige taken te begrijpen en uit te voeren, of om informatie op te halen. Maar ze zijn veel minder sociaal bedreven. Toen ik Iris vroeg of het dacht dat ik moest gaan slapen, misschien kon je de rest gebruiken was zijn platte, humorloze reactie.

Hoewel Siri indrukwekkend is, is de betrokken AI niet zo geavanceerd. Boris Katz, hoofdonderzoeker bij het Computer Science and Artificial Intelligence Lab van het MIT, die al tientallen jaren machines bouwt die menselijke taal ontleden, vermoedt dat Siri niet veel moeite doet om te analyseren wat iemand vraagt. In plaats van uit te zoeken hoe de woorden in een zin samenwerken om betekenis over te brengen, herkent Siri volgens hem vaak maar een paar trefwoorden en koppelt deze met een beperkt aantal voorgeprogrammeerde antwoorden. Ze hebben het een paar dingen geleerd, en het systeem verwacht die dingen, zegt hij. Ze zijn heel slim in wat mensen normaal vragen.

Daarentegen heeft conventioneel onderzoek naar kunstmatige intelligentie ernaar gestreefd om complexere betekenissen in gesprekken te ontleden. In 1985 begon Katz met het bouwen van een systeem genaamd START om vragen te beantwoorden door de zinsstructuur te verwerken. Dat systeem beantwoordt getypte vragen door te analyseren hoe de woorden zijn gerangschikt, om de betekenis van wat er wordt gevraagd te interpreteren. Dit stelt START in staat om vragen te beantwoorden die op complexe manieren of met een zekere mate van dubbelzinnigheid zijn geformuleerd.

In 2006, een jaar voordat SRI van start ging, demonstreerden Katz en collega's een op START gebaseerde software-assistent die toegankelijk was door vragen in te typen op een mobiele telefoon. Het concept lijkt opmerkelijk veel op Siri, maar dit onderdeel van het START-project is nooit verder gekomen. Het bleef minder belangrijk dan het nastreven van zijn werkelijke doel door Katz: een machine maken die beter aansluit bij het menselijke vermogen om taal te gebruiken.

Om te begrijpen hoe moeilijk het is om communicatie goed te krijgen, hoef je niet verder te zoeken dan de beruchte intelligente assistent Clippy, geïntroduceerd door Microsoft in 1997.

START is slechts een kleine uitloper van het onderzoek naar kunstmatige intelligentie dat zo'n 50 jaar eerder begon als een poging om de werking van de menselijke geest te begrijpen en iets analoogs in machines te creëren. Die inspanning heeft veel werkelijk opmerkelijke technologieën opgeleverd die in staat zijn om rekentaken uit te voeren die voor mensen onmogelijk gecompliceerd zijn. Maar onderzoek naar kunstmatige intelligentie is er niet in geslaagd veel aspecten van het menselijk intellect opnieuw te creëren, waaronder taal en communicatie. Zoals Katz uitlegt, kan een eenvoudig gesprek tussen twee mensen de volledige diepte van iemands levenservaringen aanboren, en dit blijft onmogelijk na te bootsen in een machine. Dus zelfs nu AI-systemen beter zijn geworden in het verkrijgen van toegang tot informatie, het verwerken en presenteren van informatie, blijft menselijke communicatie hen ontgaan.

Ondanks dat Siri minder goed in staat is dan START om met de complexiteit van taal om te gaan, laat Siri zien dat een machine net genoeg trucs kan uithalen om gebruikers voor de gek te houden alsof ze iets hebben dat ongeveer op een echt gesprek lijkt. Om te begrijpen hoe moeilijk het is om zelfs eenvoudige op tekst gebaseerde communicatie goed te krijgen, hoeft u niet verder te zoeken dan de beruchte intelligente assistent die in 1997 door Microsoft werd geïntroduceerd. Deze vervelende virtuele paperclip, Clippy genaamd, zou verschijnen wanneer een gebruiker een document, hulp biedend bij een bericht zoals de irritante regel Het lijkt alsof je een brief schrijft. Wilt u hulp? Microsoft verwachtte dat gebruikers van Clippy zouden houden. Bill Gates dacht dat fans Clippy T-shirts, mokken en websites zouden ontwerpen. Dus het bedrijf was stomverbaasd en verward toen gebruikers Clippy haatten en T-shirts, mokken en websites maakten die erop gericht waren het te kleineren. De respons was zo slecht dat Microsoft Clippy in 2007 heeft uitgeschakeld.

Voordat het gebeurde, huurde Microsoft Stanford-professor Clifford Nass, een expert op het gebied van mens-computerinteractie, in om te onderzoeken waarom het programma zoveel onaangenaamheden had veroorzaakt. Nass, de auteur van De man die tegen zijn laptop loog: wat machines ons leren over menselijke relaties, heeft jarenlang soortgelijke verschijnselen bestudeerd, en zijn werk suggereert een vrij eenvoudige oorzaak: mensen passen instinctief de regels van menselijke sociale interacties toe op de omgang met computers, mobiele telefoons, robots, autonavigatiesystemen en soortgelijke machines. Nass realiseerde zich dat Clippy zowat elke norm van acceptabel sociaal gedrag overtrad. Het maakte keer op keer dezelfde fouten en viel constant gebruikers lastig die met rust gelaten wilden worden. Clippy's probleem was dat het zei: 'Ik zal alles doen' en vervolgens teleurstelde, zegt Nass. Net zoals iemand die hetzelfde antwoord keer op keer herhaalt, ons beledigd laat voelen, zegt Nass, doet een computerinterface dat ook - zelfs als we heel goed weten dat we met een machine te maken hebben.

Clippy toonde aan dat pogingen tot meer menselijke communicatie een spectaculaire averechts effect kunnen hebben als de subtiliteiten van sociaal gedrag niet worden begrepen en gerespecteerd. Nass zegt dat Apple er alles aan heeft gedaan om Siri sympathiek te maken. Siri dringt zich helemaal niet op aan de gebruiker. De applicatie draait op de achtergrond op de iPhone en springt pas in de aandacht als de gebruiker de home-knop ingedrukt houdt of de telefoon tegen zijn of haar oor houdt en begint te praten. Het voorkomt ook dat dezelfde fout twee keer wordt gemaakt, waarbij verschillende antwoorden worden geprobeerd wanneer de gebruiker een vraag herhaalt. Zelfs de toon van Siri's stem is zorgvuldig gekozen om onschuldig te zijn, meent Nass.

Apple beperkte ook de taken die Siri kan uitvoeren en de antwoorden die het kan geven, hoogstwaarschijnlijk om teleurstelling te voorkomen. Als je Siri bijvoorbeeld vraagt ​​iets op Twitter te plaatsen, geeft het schaapachtig toe dat het niet weet hoe. Maar aangezien het alternatief zou kunnen zijn om per ongeluk verminkte tweets uit te zenden, is deze strategie begrijpelijk.

De nauwkeurigheid van Siri's spraakherkenning helpt ook teleurstellingen te voorkomen. Het systeem begrijpt woorden soms verkeerd, vaak met grappige resultaten. Het spijt me, Will, ik begrijp niet dat 'Ik heb een pyjama nodig' een merkwaardig antwoord was op een vraag die niets met pyjama's te maken had. Maar meestal werkt het spraaksysteem opmerkelijk goed. Het heeft geen probleem met mijn Engelse accent of met veel complexe woorden en zinnen, en deze algehele nauwkeurigheid maakt de vreemde fout des te acceptabeler.

Een belangrijke uitdaging voor Apple was dat iemand kort na zijn ontmoeting met Siri een sterke drang zou kunnen ervaren om deze virtuele betweter te laten struikelen: om het de zin van het leven te vragen, of het in God gelooft, of dat het R2D2 kent. Apple koos ervoor om op een inventieve manier met dit fenomeen om te gaan: door ervoor te zorgen dat Siri de grap snapt en meespeelt. Het heeft dus een slim antwoord voor zowat elke curveball die erop wordt gegooid en varieert zelfs de reacties, een truc waardoor het soms griezelig menselijk lijkt.

Dit geklets helpt ook om de klap te verminderen wanneer Siri iets verkeerd begrijpt of stomverbaasd is door een verrassend eenvoudige vraag. Toen ik een keer vroeg wie de Super Bowl had gewonnen, zette hij een Koreaanse won met trots om in dollars voor mij. Ik wist dat dit slechts een algoritmische fout was in een verre bank van computerservers, maar ik voelde ook de drang om het te interpreteren als Siri die gek is.

Nass zegt dat de manier waarop Siri omgaat met humor geïnspireerd is. Onderzoek heeft aangetoond, merkt hij op, dat humor mensen slimmer en sympathieker doet lijken. Het is aangetoond dat intermitterende, onschuldige humor, zowel voor mensen als computers, effectief is, zegt Nass. Het is zeer positief, zelfs voor de meest saaie, bezadigde computerinterface.

Maar Katz, iemand die er al tientallen jaren naar streeft om machines de mogelijkheid te geven om taal te gebruiken, hoopt uiteindelijk iets veel geavanceerder dan Siri te zien verschijnen: een machine die in staat is om echte gesprekken met mensen te voeren. Dergelijke machines kunnen fundamentele inzichten verschaffen in de aard van menselijke intelligentie, zegt hij, en ze kunnen een meer natuurlijke manier zijn om machines te leren slimmer te zijn.

Dat blijft misschien wel de droom van AI-onderzoekers. Maar voor de rest van ons is de komst van een virtuele assistent die echt nuttig is, net zo'n fundamentele doorbraak. In het kantoor van Katz aan het MIT liet ik hem enkele van de grappige antwoorden zien die Siri bedenkt als hij wordt uitgelokt. Hij grinnikte en maakte een opmerking over de slimheid van de ingenieurs die Siri hebben ontworpen, maar hij sprak ook als AI-onderzoeker en gebruikte betekenissen en woorden waar Siri ongetwijfeld mee zou worstelen. Er is niets mis met het hebben van gimmicks, zei hij, maar het zou leuk zijn als het echt diep kon analyseren wat je zei. De gesprekken met de gebruiker zullen zoveel rijker zijn.

Katz heeft gelijk dat een meer revolutionaire intelligente persoonlijke assistent - een die in staat is om veel meer gecompliceerde taken uit te voeren - meer geavanceerde AI nodig heeft. Maar dit ondermijnt ook een belangrijke innovatie achter Siri. Na de app nog een tijdje te hebben getest, bekende Katz dat hij bewondering heeft voor ondernemers die weten hoe ze de vooruitgang in de informatica kunnen omzetten in iets dat gewone mensen elke dag zullen gebruiken. Ik wou dat ik wist hoe mensen dat doen, geeft hij toe.

Voor het antwoord moet hij misschien gewoon met Siri blijven praten.

Will Knight is Technologie beoordeling ’s online-editor.

zich verstoppen