Deze vreselijke songteksten van AI laten ons zien hoe moeilijk taal is voor machines

Categorie: Kunstmatige intelligentie Geplaatst 13 november

Van de creatieve toepassingen voor algoritmen is het schrijven van songteksten en poëzie bijzonder uitdagend gebleken. De kunst van het produceren van songteksten met een machine verschilt ook sterk van andere taken bij het verwerken van natuurlijke taal. Het uiteindelijke doel is om creatief te zijn in plaats van nauwkeurig, wat een moeilijk vast te pinnen definitie kan hebben.

Dat weerhield twee onderzoekers bij Google er niet van om te proberen een geautomatiseerde songtekst-generatiemachine . Ze benaderden de taak met twee afzonderlijke modellen voor machine learning. Ze trainden de eersten in de structuur van een enorme reeks songteksten door individuele songregels naar hun woordsoorten te extrapoleren. Ze trainden de ander op woorden uit 20 populaire boeken, om een ​​corpus van diverse woordenschat op te bouwen. Daarna verpulverde de machine het allemaal door de woordenschat in de structuren van bestaande tekstregels te gieten.

Het resultaat, gemeten op een schaal van woord- en regeldiversiteit (met andere woorden, een kleine fractie van herhaalde woorden en regels), bleek beter dan de output van een model dat puur op tekst of puur op woorden was getraind. Maar de teksten zijn nog steeds hilarisch rotzooi. zie:

ik ben je grote en dappere en knappe romeo
je kent mijn geheime geheim
je hebt mijn tweede landgoed
je past bij je hoge afkomst
je hebt mijn vervloekte jeugd
je hebt mijn leven

En een ander:

kom op, uh
je herinnert je de stem van de weduwe
ik hou van het meisje van de leeftijd
ik heb respect voor het geheel
ik twijfel er niet aan
ik zit in de hoek van de schoorsteenmantel

De oefening bewijst hoe ver we nog verwijderd zijn van het repliceren van de vindingrijkheid van menselijke taal. We zijn er nog steeds niet achter hoe we machines kunnen doordringen met een geavanceerd begrip van wat we zeggen, laat staan ​​het vermogen om zoiets meesterlijks als Shake It Off te schrijven.