Nep Amerika weer geweldig

Binnen de race om de verontrustend echte vervalsingen te vangen die kunnen worden gemaakt met behulp van kunstmatige intelligentie. Door

• Will Knight archiefpagina

17 augustus 2018

Bruce Peterson

Raad eens? Ik heb net wat gênante videobeelden gekregen van Texas senator Ted Cruz die Tina Turner zong en ronddraaide. Zijn politieke vijanden zullen het tijdens de midterms met veel plezier laten zien. Donald Trump zal hem Dancin' Ted noemen.

Oké, ik geef het toe: ik heb de video zelf gemaakt. Maar hier is het verontrustende: er was heel weinig videobewerkingsvaardigheid voor nodig. Ik heb software gedownload en geconfigureerd die machine learning gebruikt om een ​​overtuigende digitale face-swap uit te voeren. De resulterende video, bekend als een deepfake, toont de kenmerkende hangende ogen van Cruz, gestikt op de trekken van acteur Paul Rudd die lip-sync karaoke doet. Het is niet perfect - er is iets mis - maar het kan sommige mensen voor de gek houden.

Dit verhaal maakte deel uit van ons septembernummer 2018

• Zie de rest van het nummer
• Abonneren

Nepfoto's zijn verre van nieuw, maar kunstmatige intelligentie zal het spel volledig veranderen. Tot voor kort kon alleen een filmstudio met een groot budget een video face-swap uitvoeren, en dat zou waarschijnlijk miljoenen dollars hebben gekost. AI maakt het nu mogelijk voor iedereen met een fatsoenlijke computer en een paar uur over om hetzelfde te doen. Verdere vooruitgang op het gebied van machinaal leren zal nog complexere misleiding mogelijk maken en het moeilijker maken om vervalsing te herkennen.

Deze vooruitgang dreigt de grens tussen waarheid en fictie in de politiek verder te vervagen. Het internet versnelt en versterkt nu al de verspreiding van desinformatie via nep-accounts op sociale media. Alternatieve feiten en complottheorieën komen veel voor en worden algemeen aangenomen. Nepnieuwsverhalen hebben, afgezien van hun mogelijke invloed op de laatste Amerikaanse presidentsverkiezingen, het afgelopen jaar geleid tot etnisch geweld in Myanmar en Sri Lanka. Stel je nu eens voor dat er nieuwe soorten echt uitziende nepvideo's in de mix worden gegooid: politici die onzin uiten of etnische beledigingen uiten, of betrapt worden op ongepast gedrag op video, behalve dat het nooit echt is gebeurd.

Deepfakes kunnen het politieke discours doen ontsporen, zegt Charles Seife, een professor aan de New York University en de auteur van Virtuele onwerkelijkheid: alleen omdat internet je dat vertelde, hoe weet je dat het waar is? Seife bekent tot zijn verbazing hoe snel de zaken zijn gevorderd sinds zijn boek in 2014 werd gepubliceerd. Technologie verandert onze perceptie van de werkelijkheid in een alarmerend tempo, zegt hij.

Staan we op het punt een tijdperk in te gaan waarin we niets kunnen vertrouwen, zelfs niet authentiek ogende video's die echt nieuws lijken vast te leggen? Hoe bepalen we wat geloofwaardig is? Wie vertrouwen we?

Deze stilstaande beelden van Ted Cruz en Paul Rudd zijn afkomstig van de beelden die zijn ingevoerd in een programma voor het wisselen van gezichten.

Echt nep

Verschillende technologieën zijn samengekomen om fakery gemakkelijker te maken en ze zijn gemakkelijk toegankelijk: met smartphones kan iedereen videobeelden vastleggen en krachtige grafische computerhulpmiddelen zijn veel goedkoper geworden. Voeg kunstmatige-intelligentiesoftware toe, waarmee dingen kunnen worden vervormd, opnieuw gemixt en gesynthetiseerd op verbluffende nieuwe manieren. AI is niet alleen een betere versie van Photoshop of iMovie. Het laat een computer leren hoe de wereld eruitziet en klinkt, zodat het overtuigende simulaties kan oproepen.

Ik heb de clip van Cruz gemaakt met OpenFaceSwap, een van de verschillende programma's voor het wisselen van gezicht die je gratis kunt downloaden. Je hebt een computer nodig met een geavanceerde grafische chip, en dit kan je een paar duizend dollar schelen. Maar je kunt ook voor een paar cent per minuut toegang tot een virtuele machine huren via een cloud machine learning platform zoals Paperspace. Vervolgens voer je gewoon twee videoclips in en leun je een paar uur achterover terwijl een algoritme uitzoekt hoe elk gezicht eruitziet en beweegt, zodat het de ene op de andere kan in kaart brengen. Dingen aan het werk krijgen is een beetje een kunst: als je clips kiest die te verschillend zijn, kan het resultaat een nachtmerrieachtige mengelmoes van neuzen, oren en kinnen zijn.

Maar het proces is eenvoudig genoeg.

Dingen aan het werk krijgen is een beetje een kunst: als je clips kiest die te verschillend zijn, kan het resultaat een mengelmoes van neuzen, oren en kinnen zijn.

Face-swapping werd, voorspelbaar, voor het eerst toegepast voor het maken van porno. In 2017 gebruikte een anonieme Reddit-gebruiker, bekend als Deepfakes, machine learning om de gezichten van beroemde actrices om te wisselen in scènes met volwassen filmsterren, en plaatste de resultaten vervolgens op een subreddit gewijd aan gelekte porno van beroemdheden. Een andere Reddit-gebruiker bracht toen een gebruiksvriendelijke interface uit, die leidde tot een wildgroei aan deepfake-porno en, om de een of andere reden, eindeloze clips van de acteur Nicolas Cage in films waar hij niet echt in speelde. Zelfs Reddit, een notoir freewheelen ontmoetingsplaats, verboden dergelijke non-consensuele pornografie. Maar het fenomeen blijft bestaan ​​in de donkere hoeken van het internet.

OpenFaceSwap maakt gebruik van een kunstmatig neuraal netwerk, inmiddels de go-to-tool in AI. Zeer grote of diepe neurale netwerken die enorme hoeveelheden trainingsgegevens krijgen, kunnen allerlei nuttige dingen doen, waaronder het vinden van het gezicht van een persoon tussen miljoenen afbeeldingen. Ze kunnen ook worden gebruikt om afbeeldingen te manipuleren en te synthetiseren.

OpenFaceSwap traint een diep netwerk om een ​​gezicht te coderen (een proces dat vergelijkbaar is met gegevenscompressie), waardoor een representatie wordt gecreëerd die kan worden gedecodeerd om het volledige gezicht te reconstrueren. De truc is om de gecodeerde gegevens voor het ene gezicht naar de decoder voor het andere te voeren. Het neurale netwerk zal dan, vaak met verrassende nauwkeurigheid, het ene gezicht toveren dat de uitdrukkingen en bewegingen van het andere nabootst. De resulterende video kan wankel lijken, maar OpenFaceSwap vervaagt automatisch de randen en past de kleur van het nieuw getransplanteerde gezicht aan om de dingen er echt uit te laten zien.

Links: OpenFaceSwap geeft voorbeelden van pogingen tot gezichtswisselingen tijdens de training. Vroege pogingen kunnen vaak een beetje raar en grotesk zijn.

Rechts: de software heeft enkele uren nodig om een ​​goede face-swap te maken. Hoe meer trainingsgegevens, hoe beter het eindresultaat.

Soortgelijke technologie kan ook worden gebruikt om iemands stem opnieuw te creëren. Een startup genaamd Lyrebird heeft overtuigende demo's gepost van Barack Obama en Donald Trump die volledig verzonnen dingen zeggen. Lyrebird zegt dat het in de toekomst zijn stemduplicaties zal beperken tot mensen die hun toestemming hebben gegeven, maar zeker niet iedereen zal zo scrupuleus zijn.

Een startup heeft overtuigende demo's geplaatst van Barack Obama en Donald Trump die volledig verzonnen dingen zeggen.

Er zijn gevestigde methoden voor het identificeren van vervalste afbeeldingen en video. Een optie is om op internet te zoeken naar afbeeldingen die mogelijk door elkaar zijn gepureerd. Een meer technische oplossing is om te zoeken naar veelbetekenende wijzigingen in een digitaal bestand, of in de pixels in een afbeelding of een videoframe. Een expert kan zoeken naar visuele inconsistenties: een schaduw die er niet zou moeten zijn, of een object met de verkeerde maat.

Hany Farid van Dartmouth University, een van 's werelds meest vooraanstaande experts, heeft laten zien hoe een scène in 3D kan worden gereconstrueerd om fysieke eigenaardigheden te ontdekken. Hij heeft ook bewezen dat subtiele veranderingen in pixelintensiteit in een video, die de hartslag van een persoon aangeven, kunnen worden gebruikt om het verschil te zien tussen een echte persoon en een door de computer gegenereerde. Onlangs heeft een van Farid's oud-studenten, nu een professor aan de State University van New York in Albany, aangetoond dat onregelmatig knipperen met de ogen een gezicht kan verraden dat is gemanipuleerd door AI.

Toch kunnen de meeste mensen dit soort speurwerk niet doen en hebben ze geen tijd om elke afbeelding of clip die op Facebook verschijnt te bestuderen. Dus naarmate visuele fakery vaker voorkomt, is er een druk geweest om de analyse te automatiseren. En het blijkt dat deep learning niet alleen uitblinkt in het verzinnen van dingen, het is ook ideaal voor het onderzoeken van afbeeldingen en video's op tekenen van vervalsing. Deze inspanning is echter nog maar net begonnen en kan uiteindelijk worden belemmerd door hoe realistisch de geautomatiseerde vervalsingen zouden kunnen worden.

Netwerken van misleiding

Een van de nieuwste ideeën in AI-onderzoek betreft het tegen zichzelf keren van neurale netwerken om nog realistischere vervalsingen te produceren. Een generatief adversarial netwerk, of GAN, maakt gebruik van twee diepe neurale netwerken: een die is getraind om echte afbeeldingen of video te identificeren, en een andere die in de loop van de tijd leert zijn tegenhanger te slim af te zijn. GAN's kunnen worden getraind om verrassend realistische nepbeelden te produceren.

Naast het kopiëren en verwisselen van gezichten, kunnen GAN's het mogelijk maken om hele scènes en mensen te synthetiseren die er heel echt uitzien, waardoor een scène overdag in een nachtelijke scène verandert en denkbeeldige beroemdheden worden bedacht. GAN's werken niet perfect, maar ze worden steeds beter, en dit is een populair onderzoeksgebied ( MIT Technology Review noemde GAN's een van de 10 baanbrekende technologieën voor 2018).

GAN's kunnen dagscènes veranderen in nachtelijke scènes en denkbeeldige gezichten van beroemdheden bedenken.

Het meest verontrustend is dat de techniek ook kan worden gebruikt om digitaal forensisch onderzoek te omzeilen. Het Amerikaanse Defense Advanced Research Projects Agency nodigde onderzoekers deze zomer uit om deel te nemen aan een wedstrijd waarin sommigen nepvideo's ontwikkelden met behulp van GAN's en anderen probeerden ze te detecteren. GAN's vormen een bijzondere uitdaging voor ons in de forensische gemeenschap omdat ze tegen onze forensische technieken kunnen worden gekeerd, zegt Farid. Het is afwachten welke kant zal zegevieren.

Dit is het einde

Als we niet oppassen, kan dit leiden tot het einde van de wereld - of in ieder geval wat erop lijkt.

In april kondigde een zogenaamd BBC-nieuwsbericht de openingssalvo's aan van een nucleair conflict tussen Rusland en de NAVO. De clip, die begon te circuleren op het berichtenplatform WhatsApp, toonde beelden van raketten die werden afgeschoten toen een nieuwslezer kijkers vertelde dat de Duitse stad Mainz samen met delen van Frankfurt was vernietigd.

Het was natuurlijk volledig nep, en de BBC haastte zich om het aan de kaak te stellen. De video is niet gegenereerd met behulp van AI, maar het toonde de kracht van nepvideo en hoe het geruchten met warpsnelheid kan verspreiden. De wildgroei aan AI-programma's zal het maken van dergelijke video's veel gemakkelijker en zelfs overtuigender maken.

Zelfs als we ons niet laten misleiden door nepnieuws, kan het ernstige gevolgen hebben voor het politieke debat. Net zoals we nu gewend zijn om ons af te vragen of een foto mogelijk gephotoshopt is, kunnen door AI gegenereerde vervalsingen ons achterdochtiger maken over gebeurtenissen die we online zien gedeeld. En dit zou kunnen bijdragen aan de verdere uitholling van het rationele politieke debat.

In De dood van de waarheid , dit jaar gepubliceerd, stelt de literaire criticus Michiko Kakutani dat alternatieve feiten, nepnieuws en de algemene waanzin van de moderne politiek het hoogtepunt zijn van culturele stromingen die decennia teruggaan. Kakutani ziet hyperrealistische AI-vervalsingen als de laatste zware klap voor het concept van objectieve realiteit.

Voordat de technologie zelfs maar goed wordt, is het feit dat het bestaat en een manier is om het vertrouwen in legitiem materiaal te ondermijnen, zeer problematisch, zegt Renee DiResta, een onderzoeker bij Data for Democracy en een van de eersten die het fenomeen politiek gemotiveerde Twitter identificeerde. desinformatiecampagnes.

Misschien is het grootste risico van deze nieuwe technologie dus niet dat deze zal worden misbruikt door staatshackers, politieke saboteurs of Anonymous, maar dat ze de waarheid en objectiviteit zelf verder zal ondermijnen. Als je een nep niet van de realiteit kunt onderscheiden, wordt het gemakkelijk om de authenticiteit van iets in twijfel te trekken. Dit is nu al een manier voor politici om verantwoording af te leggen.

Het grootste risico is misschien wel dat de technologie de waarheid en objectiviteit verder ondermijnt.

President Trump heeft het idee van nepnieuws op zijn kop gezet door de term te gebruiken om mediaberichten aan te vallen die kritiek op zijn regering hebben. Hij heeft ook gesuggereerd dat een belastende clip van hem die vrouwen denigreert, uitgebracht tijdens de campagne van 2016, mogelijk digitaal is vervalst. In april beschuldigde de Russische regering Groot-Brittannië van het vervalsen van videobewijs van een chemische aanval in Syrië om de voorgestelde militaire actie te rechtvaardigen. Geen van beide beschuldigingen was waar, maar de mogelijkheid van gesofisticeerde vervalsing vermindert in toenemende mate de geloofwaardigheid van echte informatie. In Myanmar en Rusland probeert nieuwe wetgeving nepnieuws te verbieden, maar in beide gevallen kunnen de wetten gewoon dienen als een manier om kritiek op de regering te bestrijden.

Naarmate de machtigen zich steeds meer bewust worden van AI-fake, zal het gemakkelijk worden om zelfs duidelijk videobewijs van wangedrag af te doen als niets meer dan door GAN gemaakte digitale misleiding.

De waarheid zal er nog zijn. Maar weet je het als je het ziet?

Will Knight is senior redacteur bij MIT Technology Review die kunstmatige intelligentie dekt.

zich verstoppen