211service.com
Om een slimmere chatbot te bouwen, moet je hem eerst een tweede taal leren
Dhr. technisch
Van Alexa en Siri tot talloze chatbots en geautomatiseerde klantenondersteuningslijnen, computers leren geleidelijk aan te praten. Het enige probleem is dat ze nog steeds heel gemakkelijk in de war zijn.
Een onderzoeksteam van Salesforce heeft een slimme manier bedacht om de prestaties van veel moderne taalprogramma's te verbeteren: een algoritme leren een andere taal te spreken voordat het wordt getraind om andere taken uit te voeren.
Machines leren een samenhangend gesprek te voeren blijft een van de grote uitdagingen in AI, omdat het ontwarren van de betekenis van gesproken of geschreven tekst zo vaak afhankelijk is van een breder begrip van de wereld of gezond verstand (zie AI's taalprobleem).
Het blijkt dat het trainen van een machine-learningsysteem om tussen twee talen te vertalen automatisch nuttige dingen leert over de relatie en de juiste context van woorden. Wanneer dit systeem wordt gebruikt als de basis voor een ander machine-learningsysteem (een systeem dat bijvoorbeeld is getraind om een gesprek te voeren of om het sentiment in tekst te detecteren), presteert het veel beter dan een systeem dat helemaal opnieuw is getraind.
We gebruiken gegevens van machinevertalingen en we leren het model in feite hoe woorden en context te begrijpen, zegt Richard Socher , hoofdwetenschapper bij Salesforce en expert in het toepassen van machine learning en taal.
Het werk is een voorbeeld van hoe vooruitgang op het gebied van machinaal leren kan helpen de taalvaardigheid van AI-systemen te verbeteren. Veel op deep learning gebaseerde computervisiesystemen maken gebruik van een of andere vorm van netwerkvooropleiding, en Socher suggereert dat machinevertaling een vergelijkbare manier kan bieden om natuurlijke taalsystemen op te starten.
Salesforce, een online platform voor het beheren van klantinteracties in verkoop, marketing en commercie, biedt al een reeks AI-tools via zijn Einstein-platform. Deze omvatten een tool om automatisch het sentiment van e-mail- of chatberichten te classificeren, en een andere om prioriteit te geven aan de leads die een werknemer nastreeft op basis van zijn of haar eerdere activiteit.
Socher gelooft dat deze ontdekking de natuurlijke taalmogelijkheden van het Einstein-platform zal helpen verbeteren. Voor chatbots en het automatiseren van klantenondersteuning is dit super handig, zegt hij.
De Salesforce-onderzoekers trainden een deep-learningsysteem om te vertalen tussen Engels en Duits. Dit omvatte het invoeren van een groot aantal vertaalde documenten in een neuraal netwerk met veel lagen, en het aanpassen van de parameters van het netwerk totdat het leerde een fatsoenlijke vertaling voor zichzelf te produceren. Het systeem vertegenwoordigt woorden met behulp van vectoren, wat een gebruikelijke manier is om betekenis in tekst te coderen en te ontleden.
De onderzoekers trainden het tweetalige netwerk vervolgens om verschillende dingen te doen: het sentiment van een stuk tekst bepalen; classificeren van verschillende soorten vragen; en beantwoord vragen. En ze laten zien dat hun vooraf getrainde netwerk de prestaties overtrof van iemand die geen tweede taal heeft geleerd.
Gegevenssets voor machinevertalingen zijn bijzonder groot, wat helpt bij de uitdaging van machine learning. Er is een belangrijk verband tussen vertaling en de rest van de taal, zegt Bryan McCann, een onderzoeker bij Salesforce die bij het project betrokken was. [Vertaaldatasets] zijn erg algemeen; ze bevatten informatie die over de hele linie nuttig kan zijn voor de verwerking van natuurlijke taal.