211service.com
Machine learning is gebruikt om lang verloren gewaande talen automatisch te vertalen
Oud-Grieks in steen gebeiteld Don Lloyd | Flickr
In 1886 vond de Britse archeoloog Arthur Evans een oude steen met een merkwaardige reeks inscripties in een onbekende taal. De steen kwam van het mediterrane eiland Kreta en Evans reisde er onmiddellijk heen om op zoek te gaan naar meer bewijs. Hij vond al snel talloze stenen en tabletten met soortgelijke schriften en dateerde ze rond 1400 vGT.
Dat maakte de inscriptie tot een van de vroegste vormen van schrijven die ooit zijn ontdekt. Evans voerde aan dat de lineaire vorm duidelijk was afgeleid van grof gekraste lijntekeningen die tot de kinderschoenen van de kunst behoorden, waarmee hij het belang ervan in de geschiedenis van de taalkunde aantoonde.
Hij en anderen stelden later vast dat de stenen en tabletten in twee verschillende schriften waren geschreven. De oudste, Linear A genaamd, dateert van tussen 1800 en 1400 vGT, toen het eiland werd gedomineerd door de Minoïsche beschaving uit de Bronstijd.
Het andere schrift, Lineair B, is recenter en verschijnt pas na 1400 vGT, toen het eiland door Myceners werd veroverd op het Griekse vasteland.
Evans en anderen probeerden jarenlang de oude schriften te ontcijferen, maar de verloren talen weerstonden alle pogingen. Het probleem bleef onopgelost tot 1953, toen een amateur-linguïst genaamd Michael Ventris de code voor Linear B kraakte.
Zijn oplossing was gebaseerd op twee beslissende doorbraken. Ten eerste vermoedde Ventris dat veel van de herhaalde woorden in de Lineaire B-vocabulaire namen waren van plaatsen op het eiland Kreta. Dat bleek te kloppen.
Zijn tweede doorbraak was om aan te nemen dat het schrift een vroege vorm van het oude Grieks bevatte. Door dat inzicht kon hij meteen de rest van de taal ontcijferen. Daarbij toonde Ventris aan dat het oude Grieks voor het eerst in geschreven vorm vele eeuwen eerder verscheen dan eerder werd gedacht.
Het werk van Ventris was een enorme prestatie. Maar het oudere schrift, Lineair A, is tot op de dag van vandaag een van de grote openstaande problemen in de taalkunde gebleven.
Het is niet moeilijk voor te stellen dat recente ontwikkelingen op het gebied van machinevertaling daarbij kunnen helpen. In slechts een paar jaar tijd heeft de studie van taalkunde een revolutie teweeggebracht door de beschikbaarheid van enorme geannoteerde databases en technieken om machines ervan te laten leren. Bijgevolg is machinale vertaling van de ene taal naar de andere routine geworden. En hoewel het niet perfect is, hebben deze methoden gezorgd voor een geheel nieuwe manier om over taal na te denken.
Voer Jiaming Luo en Regina Barzilay van MIT en Yuan Cao van Google's AI-lab in Mountain View, Californië in. Dit team heeft een machine learning-systeem ontwikkeld dat verloren talen kan ontcijferen, en ze hebben dit aangetoond door het Lineair B te laten ontcijferen – de eerste keer dat dit automatisch is gedaan. De aanpak die ze gebruikten was heel anders dan de standaard machinevertalingstechnieken.
Eerst wat achtergrond. Het grote idee achter machinevertaling is het begrip dat woorden op vergelijkbare manieren met elkaar in verband staan, ongeacht de taal die erbij betrokken is.
Het proces begint dus met het in kaart brengen van deze relaties voor een specifieke taal. Dit vereist enorme databases met tekst. Een machine doorzoekt vervolgens deze tekst om te zien hoe vaak elk woord naast elk ander woord voorkomt. Dit verschijningspatroon is een unieke signatuur die het woord definieert in een multidimensionale parameterruimte. Het woord kan inderdaad worden gezien als een vector binnen deze ruimte. En deze vector werkt als een krachtige beperking voor hoe het woord kan verschijnen in elke vertaling die de machine bedenkt.
Deze vectoren gehoorzamen aan enkele eenvoudige wiskundige regels. Bijvoorbeeld: koning – man + vrouw = koningin. En een zin kan worden gezien als een reeks vectoren die de een na de ander volgen om een soort traject door deze ruimte te vormen.
Het belangrijkste inzicht dat machinevertaling mogelijk maakt, is dat woorden in verschillende talen dezelfde punten in hun respectievelijke parameterruimten innemen. Dat maakt het mogelijk om met een één-op-één correspondentie een hele taal op een andere taal in kaart te brengen.
Op deze manier wordt het proces van het vertalen van zinnen het proces van het vinden van vergelijkbare trajecten door deze ruimtes. De machine hoeft zelfs nooit te weten wat de zinnen betekenen.
Dit proces is cruciaal afhankelijk van de grote datasets. Maar een paar jaar geleden liet een Duits team van onderzoekers zien hoe een vergelijkbare aanpak met veel kleinere databases zou kunnen helpen bij het vertalen van veel zeldzamere talen die de grote tekstdatabases missen. De truc is om een andere manier te vinden om de machinebenadering te beperken die niet afhankelijk is van de database.
Nu zijn Luo en co verder gegaan om te laten zien hoe machinevertaling talen kan ontcijferen die volledig verloren zijn gegaan. De beperking die ze gebruiken, heeft te maken met de manier waarop talen bekend zijn in de loop van de tijd te evolueren.
Het idee is dat elke taal alleen op bepaalde manieren kan veranderen - de symbolen in verwante talen verschijnen bijvoorbeeld met vergelijkbare distributies, verwante woorden hebben dezelfde volgorde van tekens, enzovoort. Met deze regels die de machine beperken, wordt het veel gemakkelijker om een taal te ontcijferen, op voorwaarde dat de vooroudertaal bekend is.
Luo en co testten de techniek met twee verloren talen, Lineair B en Ugaritisch. Taalkundigen weten dat Lineair B codeert voor een vroege versie van het oude Grieks en dat Ugaritisch, dat in 1929 werd ontdekt, een vroege vorm van Hebreeuws is.
Gezien die informatie en de beperkingen die worden opgelegd door taalkundige evolutie, is de machine van Luo en co in staat om beide talen met opmerkelijke nauwkeurigheid te vertalen. We waren in staat om 67,3% van de lineaire B-cognates correct te vertalen naar hun Griekse equivalenten in het ontcijferingsscenario, zeggen ze. Voor zover wij weten, is ons experiment de eerste poging om Lineair B automatisch te ontcijferen.
Dat is indrukwekkend werk dat machinevertaling naar een nieuw niveau tilt. Maar het roept ook de interessante vraag op over andere verloren gegane talen, vooral talen die nooit zijn ontcijferd, zoals Lineair A.
In dit artikel valt Lineair A op door zijn afwezigheid. Luo en co noemen het niet eens, maar het moet een grote rol spelen in hun denken, zoals bij alle taalkundigen. Toch zijn er nog belangrijke doorbraken nodig voordat dit script machinaal kan worden vertaald.
Niemand weet bijvoorbeeld welke taal Lineair A codeert. Pogingen om het in het oud-Grieks te ontcijferen zijn allemaal mislukt. En zonder de vooroudertaal werkt de nieuwe techniek niet.
Maar het grote voordeel van machinegebaseerde benaderingen is dat ze de ene taal na de andere snel kunnen testen zonder vermoeid te raken. Het is dus heel goed mogelijk dat Luo en co Linear A aanpakken met een brute-force-aanpak - probeer het gewoon te ontcijferen in elke taal waarvoor machinevertaling al werkt.
Als dat lukt, is dat een indrukwekkende prestatie, waar zelfs Michael Ventris versteld van zou staan.
Referentie: arxiv.org/abs/1906.06718 : Neurale ontcijfering via minimale kostenstroom: van Ugaritisch naar lineair B