Facebook, Google en Twitter zijn niet voorbereid op presidentiële deepfakes

Categorie: Kunstmatige intelligentie Geplaatst 06 aug

Volgens de voorzitter van de House Intelligence Committee lijkt geen van de drie grote internetmisthoorns – Facebook, Google of Twitter – een duidelijk plan te hebben om met AI-gegenereerde nepvideo’s of deepfakes om te gaan in de aanloop naar de presidentsverkiezingen van volgend jaar.

Status update: Adam Schiff, een democraat uit Californië, zei vrijdag dat de drie bedrijven serieus zijn gaan nadenken over de uitdagingen van machinaal gemanipuleerde media, of deepfakes, maar dat er nog veel werk aan de winkel is om voorbereid te zijn op de ontwrichtende effect van deze technologie bij de volgende verkiezingen.

Geen paniek: Het is niet nodig om te schrikken. Er zijn in feite enkele opkomende technieken voor het spotten van video's die zijn gefabriceerd met behulp van AI.

Face-off: Deepfake-video's maken gebruik van recente ontwikkelingen op het gebied van machine learning om automatisch gezichten in een video te wisselen of andere trucs uit te voeren die de realiteit vervagen. Eenvoudige deepfake-tools kunnen van internet worden gedownload en u kunt veel surrealistische voorbeelden van de resultaten vinden via internet .

De zorg: Beeldmanipulatie bestaat al heel lang, maar AI maakt gesofisticeerde fakery toegankelijker. Tijdens een verkiezing zou een deepfake misschien gebruikt kunnen worden om kiezers op het laatste moment te beïnvloeden. In mei circuleerde een video van Nancy Pelosi die was gemanipuleerd om het te laten lijken alsof ze haar toespraak slurpte snel op sociale media.

Kat en muis: Op dit moment zijn er een paar manieren om deepfakes te spotten. Onregelmatig knipperen is een veelbetekenend teken dat er bijvoorbeeld met een video is geknoeid. Maar detectie is een soort wapenwedloop, omdat een AI-algoritme meestal kan worden getraind om een ​​bepaalde fout aan te pakken.

Gotcha: deze juni, een nieuw papier van verschillende digitale forensische experts schetsten een meer onfeilbare aanpak. Het is gebaseerd op het trainen van een detectie-algoritme om de gezichts- en hoofdbewegingen van een bepaalde persoon te herkennen, en zo te laten zien wanneer het gezicht van die persoon op het hoofd en lichaam van iemand anders is geplakt. De aanpak werkt alleen als het systeem is getraind om iemand te herkennen, maar het kan op zijn minst presidentskandidaten beschermen tegen aanvallen.

Stil blijven? Google heeft zelfs enige financiering verstrekt voor dit nieuwe onderzoek. Dus misschien houden deze bedrijven hun kaarten dicht bij hun borst als het gaat om deepfake-detectie. Als je de fakers een stap voor wilt blijven, zou dat zeker een slimme zet zijn.