Hoe Google taalvertaling heeft omgezet in een probleem van vectorruimte-wiskunde

De computerwetenschap verandert de aard van de vertaling van woorden en zinnen van de ene taal naar de andere. Iedereen die het heeft geprobeerd BabelVis of Google Vertalen zullen weten dat ze nuttige vertaaldiensten leveren, maar verre van perfect.

Het basisidee is om een ​​corpus van woorden in de ene taal te vergelijken met hetzelfde corpus van woorden die in een andere taal zijn vertaald. Woorden en woordgroepen die vergelijkbare statistische eigenschappen hebben, worden als gelijkwaardig beschouwd.

Het probleem is natuurlijk dat de eerste vertalingen afhankelijk zijn van woordenboeken die door menselijke experts moeten worden samengesteld en dit kost veel tijd en moeite.

Nu hebben Tomas Mikolov en een paar vrienden bij Google in Mountain View een techniek ontwikkeld die automatisch woordenboeken en zinstabellen genereert die de ene taal in de andere omzetten.

De nieuwe techniek is niet afhankelijk van versies van hetzelfde document in verschillende talen. In plaats daarvan gebruikt het dataminingtechnieken om de structuur van een enkele taal te modelleren en deze vervolgens te vergelijken met de structuur van een andere taal.

Deze methode maakt weinig aannames over de talen, dus het kan worden gebruikt om woordenboeken en vertaaltabellen voor alle talenparen uit te breiden en te verfijnen, zeggen ze.

De nieuwe aanpak is relatief eenvoudig. Het is gebaseerd op het idee dat elke taal een vergelijkbare reeks ideeën moet beschrijven, dus de woorden die dit doen, moeten ook vergelijkbaar zijn. De meeste talen hebben bijvoorbeeld woorden voor gewone dieren zoals kat, hond, koe enzovoort. En deze woorden worden waarschijnlijk op dezelfde manier gebruikt in zinnen als een kat is een dier dat kleiner is dan een hond.

Hetzelfde geldt voor getallen. De afbeelding hierboven toont de vectorrepresentaties van de nummers één tot en met vijf in het Engels en Spaans en laat zien hoe vergelijkbaar ze zijn.

Dit is een belangrijke aanwijzing. De nieuwe truc is om een ​​hele taal weer te geven met behulp van de relatie tussen de woorden. De verzameling van alle relaties, de zogenaamde taalruimte, kan worden gezien als een verzameling vectoren die elk van het ene woord naar het andere wijzen. En de laatste jaren hebben taalkundigen ontdekt dat het mogelijk is om deze vectoren wiskundig te hanteren. De bewerking 'koning' - 'man' + 'vrouw' resulteert bijvoorbeeld in een vector die lijkt op 'koningin'.

Het blijkt dat verschillende talen veel overeenkomsten hebben in deze vectorruimte. Dat betekent dat het proces van het converteren van de ene taal naar de andere gelijk staat aan het vinden van de transformatie die de ene vectorruimte in de andere omzet.

Dit verandert het probleem van de vertaling van een van de taalkunde in een van de wiskunde. Het probleem voor het Google-team is dus om een ​​manier te vinden om de ene vectorruimte nauwkeurig op de andere in kaart te brengen. Hiervoor gebruiken ze een klein tweetalig woordenboek samengesteld door menselijke experts - door hetzelfde corpus van woorden in twee verschillende talen te vergelijken, krijgen ze een kant-en-klare lineaire transformatie die het lukt.

Nadat deze mapping is geïdentificeerd, is het een eenvoudige zaak om deze toe te passen op de grotere taalruimten. Mikolov en co zeggen dat het opmerkelijk goed werkt. Ondanks zijn eenvoud is onze methode verrassend effectief: we kunnen bijna 90% precisie@5 bereiken voor de vertaling van woorden tussen Engels en Spaans, zeggen ze.

De methode kan worden gebruikt om bestaande woordenboeken uit te breiden en te verfijnen, en zelfs om fouten erin op te sporen. Inderdaad, het Google-team doet precies dat met een Engels-Tsjechisch woordenboek en vindt talloze fouten.

Ten slotte wijst het team erop dat, aangezien de techniek weinig aannames doet over de talen zelf, deze kan worden gebruikt op argumenten die totaal niets met elkaar te maken hebben. Dus hoewel Spaans en Engels een gemeenschappelijke Indo-Europese geschiedenis hebben, laten Mikolov en co zien dat de nieuwe techniek ook goed werkt voor talenparen die minder nauw verwant zijn, zoals Engels en Vietnamees.

Dat is een nuttige stap voorwaarts voor de toekomst van meertalige communicatie. Maar het team zegt dat dit nog maar het begin is. Het is duidelijk dat er nog veel te ontdekken valt, concluderen ze.

Referentie: arxiv.org/abs/1309.4168 : Overeenkomsten tussen talen benutten voor machinevertaling

zich verstoppen