Onderschat de goedkope nep niet

mevrouw Tech | Unsplash

Op 30 november zei de woordvoerder van het Chinese ministerie van Buitenlandse Zaken, Lijian Zhao een afbeelding vastgemaakt aan zijn Twitter-profiel. Daarin staat een soldaat op een Australische vlag en grijnst maniakaal terwijl hij een bebloed mes tegen de keel van een jongen houdt. De jongen, wiens gezicht bedekt is met een semi-transparante sluier, draagt ​​een lam. Naast de afbeelding twitterde Zhao: Geschokt door moord op Afghaanse burgers en gevangenen door Australische soldaten. We veroordelen dergelijke daden ten stelligste, & roepen [sic] om ze ter verantwoording te roepen.

De tweet is verwijzend naar een recente aankondiging door de Australian Defence Force, die geloofwaardige informatie vond dat 25 Australische soldaten betrokken waren bij de moord op 39 Afghaanse burgers en gevangenen tussen 2009 en 2013. De afbeelding zou een Australische soldaat tonen die op het punt staat de keel door te snijden van een onschuldig Afghaans kind. Explosieve dingen.

Behalve dat de afbeelding nep is. Bij nader inzien is het niet eens erg overtuigend. Het zou door een beginner in Photoshop in elkaar zijn gezet. Deze afbeelding is een zogenaamde goedkope nep, een stuk media dat grof is gemanipuleerd, bewerkt, verkeerd gelabeld of onjuist gecontextualiseerd om desinformatie te verspreiden.

De goedkope nep is nu de kern van een groot internationaal incident. De Australische premier, Scott Morrison, zei dat China zich diep moest schamen en eiste excuses voor de... weerzinwekkend beeld . Peking heeft geweigerd, in plaats daarvan beschuldigt het Australië van barbaarsheid en van proberen de aandacht van het publiek af te leiden van vermeende oorlogsmisdaden door zijn strijdkrachten in Afghanistan.

Er zijn twee belangrijke politieke lessen te trekken uit dit incident. De eerste is dat Peking het gebruik van een goedkope nep door een van zijn topdiplomaten heeft gesanctioneerd om actief desinformatie te verspreiden op westerse online platforms. China is van oudsher voorzichtig in dergelijke zaken, met als doel zichzelf te presenteren als een goedaardige en verantwoordelijke supermacht. Deze nieuwe aanpak is een belangrijk vertrek.

De goedkope nep is nu de kern van een groot internationaal incident.

Meer in het algemeen toont deze schermutseling echter ook het groeiende belang van visuele desinformatie als politiek instrument. In de afgelopen tien jaar heeft de verspreiding van gemanipuleerde media de politieke realiteit hervormd. (Denk bijvoorbeeld aan de goedkope vervalsingen die de een genocide tegen de Rohingya-moslims in Birma, of hielpen zich te verspreiden covid desinformatie. ) Nu wereldwijde supermachten openlijk goedkope neppers delen op sociale media, wat weerhoudt hen (of welke andere actor dan ook) ervan om meer geavanceerde visuele desinformatie in te zetten zodra deze opduikt?

Journalisten en technologen waarschuwen al jaren voor de gevaren van deepfakes. Breed, deepfake s zijn een soort synthetische media' die zijn gemanipuleerd of gecreëerd door kunstmatige intelligentie. Ze kunnen ook worden gezien als de superieure opvolger van goedkope neppers.

Technologische vooruitgang verbetert tegelijkertijd de kwaliteit van visuele desinformatie en maakt het voor iedereen gemakkelijker om deze te genereren. Nu het mogelijk wordt om deepfakes te produceren via smartphone-apps, zal bijna iedereen in staat zijn om zonder enige kosten geavanceerde visuele desinformatie te creëren.

Vals alarm

Deepfake-waarschuwingen bereikten een koortspiek in aanloop naar de Amerikaanse presidentsverkiezingen dit jaar. Maandenlang hebben politici, journalisten en academici gedebatteerd over hoe de waargenomen dreiging het hoofd te bieden. In de aanloop naar de stemming hebben de staatswetgevers in Texas en Californië zelfs preventief het gebruik van deepfakes om verkiezingen te beïnvloeden verboden .

Verwant verhaal

Een deepfake-bot wordt gebruikt om minderjarige meisjes uit te kleden

Een technologie vergelijkbaar met DeepNude, de app uit 2019 die kort na de lancering werd afgesloten, verspreidt zich nu ongehinderd op Telegram.

Achteraf gezien waren deze angsten: overdreven . Afgezien van enkele interessante ontwikkelingen, inclusief een ironische creatie door de Russische staatsomroep Russia Today (RT), waarin een verslagen Donald Trump toegeeft de pion van de Russische president Vladimir Poetin te zijn, was er weinig verkiezingsgerelateerde deepfaker te melden. Er is zeker niets uitgekomen waarvan objectief kan worden gezegd dat het de uitkomst heeft beïnvloed. In plaats van te worden gebruikt om politici te saboteren of uit te buiten, worden deepfakes nog steeds het vaakst gebruikt om te creëren niet-consensuele porno .

Hoewel deepfakes nog niet de wapens van massale desinformatie zijn geworden die sommigen voorspelden, is er geen ruimte voor zelfgenoegzaamheid. Het potentiële risico wordt voorlopig grotendeels beperkt door technische beperkingen. Naarmate de technologieën voor het maken van deepfake verbeteren, zullen de sluizen opengaan.

En zelfs daarvoor, de loutere bewustzijn van deepfakes heeft al een schadelijk effect. In de nabije toekomst zullen slechte acteurs in staat zijn om over alles deepfakes te produceren en alle authentieke media als nep af te wijzen. Deze dubbele bonus voor slechte acteurs staat bekend als de dividend van de leugenaar. Hoewel de term was bedacht in een baanbrekend artikel uit 2018 over deepfakes heeft het niet alleen betrekking op deepfakes. Het concept strekt zich uit tot alle desinformatie, inclusief goedkope vervalsingen.

Overal goedkope neppers

Sinds de beruchte gemanipuleerde video van House Speaker Nancy Pelosi verscheen in 2019 zijn goedkope vervalsingen een vast onderdeel van het Amerikaanse politieke leven geworden. Dit jaar hielpen ze bij het ondersteunen van een spraakmakende desinformatie-operatie die was opgezet door de president en zijn naaste medewerkers. De valse bewering dat de verkiezingen werden ontsierd door wijdverbreide kiezersfraude, werd consequent versterkt door goedkope vervalsingen.

Een voorbeeld is een virale video van verkozen president Joe Biden die zegt: We hebben, denk ik, de meest uitgebreide en inclusieve organisatie voor kiezersfraude samengesteld in de geschiedenis van de Amerikaanse politiek. Indien correct gecontextualiseerd, kunnen de opmerkingen van Biden worden opgevat als een beschrijving van een programma om kiezers te beschermen in het geval van ongegronde rechtszaken over de verkiezingsuitslag. Desalniettemin werd de clip gedeeld door beide Trump en perssecretaris Kayleigh McEnany en afgeschilderd als een erkenning van fraude.

Zelfs terwijl de stemmen nog steeds werden geteld, authentieke video's van verkiezingswerkers stemmen uitschrijven en stemmen verzamelen routinematig werden gedeeld, door mensen, waaronder Trump zelf, als bewijs van dumping en manipulatie van stemmen. Ondertussen bleek een virale goedkope nep waarin een man stembiljetten verscheurde het werk te zijn van een TikTok-grappenmaker .

De beschuldigingen van wijdverbreide kiezersfraude zijn ongegrond, en rechtbanken in heel Amerika verwerpen pogingen van het juridische team van Trump om het verkiezingsresultaat te betwisten. Eerder deze maand heeft procureur-generaal Bill Barr (die op 23 december aftreedt) eindelijk toegegeven dat het Amerikaanse ministerie van Justitie geen bewijs van fraude heeft gevonden.

Maar goedkope neppers lijken echte gevolgen te hebben gehad: begin december Gabriel Sterling, de implementatiemanager van het stemsysteem van Georgië , noemde gevallen van intimidatie en doodsbedreigingen tegen verkiezingswerkers, smekend: Het is allemaal te ver gegaan! Het moet stoppen! Een verkiezingsmedewerker in Georgië moest onderduiken na een goedkope nepper van 34 seconden beschuldigde hem valselijk van het weggooien van een stembiljet bij afwezigheid ging viraal.

Het geloof in het verhaal van de vervalste verkiezingen valt sterk uiteen langs partijdige lijnen. EEN Politico/Morning Consult poll uitgevoerd na de verkiezingen bleek dat 70% van de Republikeinse kiezers zei dat ze niet geloofden dat het vrij en eerlijk was geweest. Het aantal GOP-kiezers dat vóór de verkiezingen een soortgelijk wantrouwen tegen het proces uitte, was 35%. Omgekeerd zei slechts de helft van de Democratische kiezers (52%) dat ze geloofden dat de verkiezingen vóór 3 november vrij en eerlijk zouden zijn. In peilingen die na de overwinning van Biden werden gehouden, schoot het cijfer omhoog naar 90%.

Wat te geloven?

De toenemende prevalentie van visuele desinformatie lijkt de politiek op twee verschillende manieren te beïnvloeden. Ten eerste voedt het de verspreiding van allerlei soorten desinformatie. Slechte acteurs handelen met meer straffeloosheid, in het vertrouwen dat ze controle en aansprakelijkheid kunnen vermijden. Op het moment van schrijven was de goedkope nep die Lijian Zhao deelde nog steeds vastgepind op zijn Twitter-profiel.

De cheapfakes van vandaag bieden waardevolle lessen over de deepfakes van de toekomst.

Ten tweede maakt de toenemende prevalentie van visuele desinformatie ons vatbaarder voor alle desinformatie. Naarmate het publiek zich meer bewust wordt van de vele manieren waarop media kunnen worden gemanipuleerd, zal het sceptischer worden tegenover alle media, inclusief authentieke media.

Deze scepsis maakt het voor slechte acteurs gemakkelijker om echte gebeurtenissen als nep af te doen. Het kan ook leiden tot steeds subjectievere en partijdigere interpretaties van gebeurtenissen door het publiek zelf. Denk bijvoorbeeld aan de wijdverbreide overtuiging onder Republikeinse kiezers dat de Amerikaanse verkiezingen van 2020 niet vrij en eerlijk waren. Dit is aantoonbaar onjuist, maar zoals uit gegevens van de publieke opinie blijkt, zijn het niet alleen Republikeinse kiezers die het verkiezingsproces wantrouwen. Totdat ze wonnen, waren de Democratische kiezers... ook sceptisch. Als een Republikeinse kandidaat in 2024 wint, zal de publieke opinie dan weer partijdig worden?

Hoewel de meest sombere voorspellingen over politiek gemotiveerde deepfakes in 2020 niet werden gerealiseerd, moeten we hun evolutie analyseren in de context van goedkope vervalsingen en andere vormen van politieke desinformatie. De cheapfakes van vandaag bieden waardevolle lessen over de deepfakes van de toekomst. De vraag zou dan niet moeten zijn: Wanneer komen er politieke deepfakes? maar hoe kunnen we de vele manieren verminderen waarop visuele desinformatie onze politieke realiteit al hervormt?

Nina Schick is de auteur van Deepfakes: The Coming Infocalypse.

zich verstoppen