211service.com
De grootste bedreiging van deepfakes zijn niet de deepfakes zelf
Een afbeelding van Hitler die een toespraak houdt met zijn gezicht vervangen door een vraagteken. mevrouw Tech
Het was eind 2018 en de inwoners van Gabon hadden hun president, Ali Bongo, al maanden niet meer in het openbaar gezien. Sommigen begonnen te vermoeden dat hij ziek was, of zelfs dood, en de regering verdoezelde het. Om de speculatie een halt toe te roepen, kondigde de regering aan dat Bongo een beroerte had gehad, maar in goede gezondheid verkeerde. Kort daarna is het heeft een video uitgebracht dat hij zijn gebruikelijke nieuwjaarsadres overhandigde.
In plaats van de spanningen te verminderen, deed de video precies het tegenovergestelde. Zoals ontdekt door de digitale rechtenorganisatie Internet Zonder Grenzen, denken veel mensen Bongo keek uit in de beelden , vermoedde meteen dat het een deepfake was - een stuk media dat is vervalst of gewijzigd met behulp van AI. Het geloof voedde hun vermoedens dat de regering iets verborg. Een week later lanceerde het leger een mislukte staatsgreep, waarbij de video als onderdeel van de motivatie werd aangehaald.
Daaropvolgende forensische analyse vond nooit iets veranderd of gemanipuleerd in de video. Dat deed er niet toe. Alleen al het idee van deepfakes was voldoende geweest om het ontrafelen van een toch al precaire situatie te versnellen.
In de aanloop naar de Amerikaanse presidentsverkiezingen van 2020 heeft de steeds overtuigender wordende deepfake-technologie geleid tot angst over hoe dergelijke vervalste media de politieke opinie zouden kunnen beïnvloeden. Maar een nieuw rapport van Deeptrace Labs, een cyberbeveiligingsbedrijf dat zich richt op het detecteren van dit bedrog, heeft geen gevallen gevonden waarin deepfakes daadwerkelijk zijn gebruikt in desinformatiecampagnes. Wat het krachtiger effect heeft gehad, is de wetenschap dat ze zou kunnen op die manier worden gebruikt.
Deepfakes vormen een risico voor de politiek in termen van nepmedia die echt lijken, maar op dit moment is de meer tastbare dreiging hoe het idee van deepfakes kan worden ingeroepen om de echte nep te laten lijken, zegt Henry Ajder, een van de auteurs van de verslag doen van. De hype en nogal sensationele berichtgeving over de politieke impact van deepfakes heeft de echte gevallen overschaduwd waarin deepfakes een impact hebben gehad.
Documentatie is niet langer bewijs
Mensenrechtenactivisten en desinformatie-experts hebben alarm geslagen over deze afzonderlijke maar met elkaar verweven bedreigingen sinds deepfakes op het toneel verschenen. De afgelopen twee jaar hebben Amerikaanse technologiebedrijven en beleidsmakers zich bijna uitsluitend gericht op het eerste probleem dat Ajder noemt: het gemak waarmee de technologie nepdingen echt kan laten lijken. Maar het is de tweede waar experts meer last van hebben. Hoewel de barrières voor het maken van deepfakes snel kunnen dalen, is er helemaal geen technologie nodig om de waarheid van iets in twijfel te trekken.
Het geeft een ander wapen aan de machtigen: zeggen 'Het is een deepfake' over alles wat mensen die geen macht hebben, proberen te gebruiken om corruptie aan te tonen.
Vanaf het allereerste begin was het mijn grootste zorg in deze ruimte, zegt Aviv Ovadya, een desinformatie-expert die nu het non-profit Thoughtful Technology Project leidt.
Het ondermijnen van het vertrouwen in de media kan grote gevolgen hebben, vooral in fragiele politieke omgevingen. Sam Gregory, de programmadirecteur van Witness, een non-profitorganisatie die mensen helpt mensenrechtenschendingen vast te leggen, geeft een voorbeeld. In Brazilië, dat een geschiedenis van politiegeweld kent, maken burgers en activisten zich nu zorgen dat elke video die ze filmen van een agent die een burger doodt, niet langer voldoende grond voor onderzoek zal zijn. Deze angst dat echt bewijs aannemelijk kan worden afgedaan als nep, zegt Gregory, is een terugkerend thema geworden in workshops die hij over de hele wereld organiseert.
Het is een evolutie van de bewering dat iets 'nepnieuws' is, zegt hij. Het geeft een ander wapen aan de machtigen: zeggen 'Het is een deepfake' over alles wat mensen die geen macht hebben proberen te gebruiken om corruptie aan te tonen, om mensenrechtenschendingen aan te tonen.
Bewijzen dat de echte echt is en de nep nep is
Om deze problemen op te lossen, moet u beide soorten dreigingen begrijpen. Op een hoog niveau wil je het zo gemakkelijk mogelijk maken om te laten zien dat iets echt is en dat een nep ding nep is, zegt Ovadya.
De afgelopen maanden hebben veel onderzoeksgroepen en technologiebedrijven zoals Facebook en Google zich gericht op tools om vervalsingen aan het licht te brengen, zoals databases voor het trainen van detectie-algoritmen en watermerken die kunnen worden ingebouwd in digitale fotobestanden om te onthullen of ermee is geknoeid. Verschillende startups hebben ook gewerkt aan manieren om vertrouwen op te bouwen via consumentenapplicaties die foto's en video's verifiëren wanneer ze worden gemaakt, om een vergelijkingsbasis te vormen als versies van de inhoud later worden verspreid. Gregory zegt dat technische giganten beide soorten cheques rechtstreeks in hun platforms moeten integreren om ze algemeen beschikbaar te maken.
Maar technologiebedrijven moeten ook moderators van menselijke inhoud in dienst hebben, en mediaorganisaties moeten journalisten en factcheckers ook trainen in zowel detectie als verificatie. Rapportage ter plaatse kan bevestigen of een video de werkelijkheid weerspiegelt en een belangrijke nuancering toevoegen. Technische modellen kunnen de inhoud van de vervalste video niet interpreteren in verschillende culturele contexten of zich voorstellen hoe deze verder in een andere context kan worden geplaatst, zegt Britt Paris, een expert op het gebied van informatiestudies die onlangs een rapport over deepfakes publiceerde.
Wat [desinformatieactoren] echt willen, is niet dat je meer in twijfel trekt, maar dat je alles in twijfel trekt.
Paris wijst bijvoorbeeld op gewijzigde video's van Nancy Pelosi en Jim Acosta die het afgelopen jaar viraal gingen. Beiden waren zogenaamde goedkope neppers in plaats van deepfakes - er was simpelweg met hun snelheid geknoeid om kijkers te misleiden. Er zou geen manier zijn om deze vervalsingen te vangen met technische methoden om deepfakes te vangen, zegt Paris. In plaats daarvan moesten journalisten ze ontkrachten - wat betekende dat mensen de journalisten moesten vertrouwen.
Ten slotte zijn alle experts het erover eens dat het publiek behoefte heeft aan meer mediageletterdheid. Er is een verschil tussen bewijzen dat iets echt is en het grote publiek laten geloven dat het echt is, zegt Ovadya. Hij zegt dat mensen zich ervan bewust moeten zijn dat het vervalsen van inhoud en het in twijfel trekken van de waarheidsgetrouwheid van inhoud beide tactieken zijn die kunnen worden gebruikt om opzettelijk verwarring te zaaien.
Gregory waarschuwt er echter voor om de nieuwsconsumenten niet te zwaar te belasten. Onderzoekers, platforms en journalisten moeten zoveel mogelijk werk doen om duidelijk te maken wat echt en wat nep is voordat nieuws het publiek bereikt.
Het uiteindelijke doel, zegt Ovadya, is niet om algemene scepsis te wekken, maar om sociale, educatieve en inentingsinfrastructuur te bouwen om de impact van deepfakes te neutraliseren. Wat moeten we proberen te vermijden? hij vraagt. Het is waardevol om bewijs in twijfel te trekken. Maar wat [desinformatieactoren] echt willen, is niet dat je meer in twijfel trekt, maar dat je alles in twijfel trekt.
Hij voegt eraan toe: Dat is de antithese van wat we zoeken.
Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.