211service.com
Hoe de aanstootgevende chatbot van Microsoft te repareren met behulp van tips van Marvin Minsky en Improv Comedy
Microsoft's chatbot Tay werd vorige week snel offline gehaald nadat het beledigende uitspraken begon te tweeten waarin homofobie, racisme en antisemitisme werden afgekondigd, terwijl het ook aanvallen op specifieke individuen uitvoerde.
Toch circuleren er nog drie ietwat ongepaste termen met betrekking tot Tay: AI, leren en slimmer.
We kunnen de hele dag discussiëren over de aard van AI en hoe dichtbij of ver weg verschillende systemen zijn voor menselijk redeneren, maar het is een gesprek dat hier gewoon niet relevant is. Het systeem is ontworpen om tekst uit interacties met gebruikers op te nemen in zowel persoonlijke reacties als tweets. Het is moeilijk om het woord leren toe te passen op dat statistisch gestuurde proces van het opnemen, snijden en opnieuw samenstellen van reeksen woorden, laat staan om het hele systeem AI te noemen.
De voor de hand liggende oplossingen voor Tay zijn al voorgesteld. De ontwikkelaars kunnen het systeem een lijst met te vermijden termen geven, voorkomen dat het van een enkele gebruiker leert, voorkomen dat het openbare uitspraken doet op basis van nieuw geleerd materiaal, of zelfs een mens laten modereren wat het zegt.
Maar geen van die fijne technische oplossingen zou de oorzaak van het probleem van de bot aanpakken: Tay had gewoon geen idee wat het zei. De oplossingen zijn allemaal gericht op het helpen van een systeem dat niet zo slim is om een gesprek door te komen zonder ronduit slecht te klinken. Ze zijn ontworpen om Tay er slimmer uit te laten zien zonder het echt slimmer te maken.
Dus wat zou het betekenen om Tay te maken lijken slimmer door eigenlijk het slimmer maken ?
Eén benadering is te zien in Siri en haar zussen (ze worden meestal gebrandmerkt als vrouwen) zoals Cortana. Deze systemen herkennen trefwoorden die verband houden met vrij beperkte taken en spoelen programmatische antwoorden af. Ze hebben een aanzienlijke macht om actie te ondernemen en nauwkeurige antwoorden te genereren binnen de gebieden die ze begrijpen. Maar het Microsoft-team achter Tay probeerde duidelijk iets breder te communiceren.
Aan de andere kant van het spectrum bevindt zich de volledige AI-benadering, waarbij het systeem pas het levenslicht ziet als het toegang heeft tot alle kennis die nodig is om alles wat er tegen hem wordt gezegd, alles wat deze uitingen inhouden, en de volledige implicaties van zijn eigen verklaringen op zijn beurt.
Software die aan die criteria voldoet, zou een rijke en volledige weergave van de wereld nodig hebben, een enorme bibliotheek van gevolgtrekkingsregels die elke keer dat een nieuw feit in beeld komt, en de mogelijkheid om taal te genereren op basis van elk idee en elke combinatie van ideeën die het tegenkomt of zelfstandig uitzoekt. Dat is een riskant onderzoeksproject van 20 jaar in plaats van een product-roadmap.
Er is echter een middenweg tussen gewoon zinnen snijden en in blokjes snijden en proberen iets te maken dat de hele schepping kan begrijpen. Het houdt in dat het systeem slechts een klein beetje kennis wordt gegeven - genoeg om te herkennen wanneer een gebruiker het systeem probeert te spelen. Je hoeft niet alles te weten. Je moet gewoon weten wanneer iemand je lastigvalt.
Aangezien Microsoft's release notes voor Tay zei dat het team geïmproviseerde komieken omvatte, het verbaast me dat dit niet de gekozen route was.
Ik heb persoonlijk genoeg suggesties van het publiek aangenomen om te weten dat op elk vrijgezellenfeest een dronken jonge vrouw achterin obscene suggesties zal schreeuwen waar ze de komende twee jaar spijt van zal hebben. Als dat gebeurt, heb je twee keuzes: respecteer de suggestie en werk het in een scène zonder het storend te maken, of zeg beleefd. Het eerste wat ik van het front hoorde was 'mailbox' en ga verder. Het belangrijkste is om te weten wanneer het gebeurt en een plan van aanpak te hebben om ermee om te gaan.
Niets neutraliseert een pestkop zo goed als geroepen worden. Mijn gok is dat als Tay erop wees dat het wist dat het in één-op-één interacties werd gespeeld en nieuw geleerde feiten toeschreef bij het gebruik ervan in openbare tweets, het shaming-effect voldoende zou zijn geweest om zelfs de meest gemene aanvallen af te sluiten .
Goede gesprekspartners weten niet alles. Ze kennen een gesprek. En een systeem dat niets van de wereld weet, maar weet hoe te communiceren en niet te beledigen, zou briljant zijn. Maar om op het spel te reageren, moet je herkennen wanneer het wordt gespeeld.
Wijlen Marvin Minsky zei: Met een beetje semantiek kom je een heel eind. Systemen zoals Tay hoeven niet alles van de wereld te weten, maar ze moeten wel weten wat ze doen en wat gebruikers met hen gaan doen. Het cruciale kleine beetje dat Tay miste, was het vermogen om te weten wanneer het werd gespeeld en het vermogen om in natura te reageren.
Ik hoop dat Tay snel weer online komt. Sterker nog, ik hoop dat het een Reddit AMA doet waarin het de bron van elk van zijn tweets uitlegt en de lessen die het heeft geleerd door gepest te worden op het schoolplein dat internet is.
Kristian Hammond is hoogleraar computerwetenschappen aan de Northwestern University en hoofdwetenschapper en medeoprichter van Narratieve wetenschap , die software biedt die automatisch genereert schriftelijke rapporten van gegevens . Om redenen die niemand helemaal begrijpt, heeft hij ongeveer 20 jaar op het podium geïmproviseerd met mensen die veel getalenteerder zijn dan hij.