Je kunt een AI trainen om VN-toespraken te vervalsen in slechts 13 uur

Categorie: Kunstmatige intelligentie Geplaatst 07 juni

Diepgaande leertechnieken hebben het voor iedereen gemakkelijker en gemakkelijker gemaakt om overtuigende verkeerde informatie te vervalsen. Maar hoe gemakkelijk? Twee onderzoekers van Global Pulse, een initiatief van de Verenigde Naties, besloten erachter te komen.

In een nieuw papier , gebruikten ze alleen open source-tools en gegevens om te laten zien hoe snel ze een nep-spraakgenerator van de VN aan de gang konden krijgen. Ze gebruikten een gemakkelijk beschikbaar taalmodel dat was getraind op tekst van Wikipedia en verfijnde het op alle toespraken van politieke leiders op de Algemene Vergadering van de VN van 1970 tot 2015. Dertien uur en $ 7,80 later (uitgegeven aan cloud computing-bronnen) , spuwde hun model realistische toespraken uit over een breed scala aan gevoelige en belangrijke onderwerpen, van nucleaire ontwapening tot vluchtelingen.

De onderzoekers testten het model op drie soorten prompts: algemene onderwerpen (bijv. klimaatverandering), openingszinnen uit de opmerkingen van de secretaris-generaal van de VN en opruiende zinnen (bijv. immigranten zijn de schuldige …). Ze ontdekten dat de output van de eerste categorie ongeveer 90% van de tijd nauw overeenkwam met de stijl en cadans van echte VN-toespraken. Waarschijnlijk vanwege de diplomatieke aard van de trainingsgegevens, vergden de resultaten van de derde categorie meer werk om te genereren, wat ongeveer 60% van de tijd overtuigende resultaten opleverde.

De casestudy demonstreert de snelheid en het gemak waarmee het nu mogelijk is om nepnieuws te verspreiden, aanzetten tot haat en het nadoen van spraakmakende figuren, met verontrustende implicaties. De onderzoekers concluderen dat er een grotere wereldwijde inspanning nodig is om te werken aan manieren om AI-gegenereerde inhoud te detecteren en erop te reageren.

Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.