211service.com
Het ministerie van Defensie heeft de eerste tools geproduceerd om deepfakes te vangen
ZONNIG ZONNIG
De eerste forensische tools voor het opsporen van wraakporno en nepnieuws gemaakt met AI zijn ontwikkeld via een programma van het Amerikaanse ministerie van Defensie.
Forensische experts hebben haast gemaakt om manieren te vinden om video's te detecteren die zijn gesynthetiseerd en gemanipuleerd met behulp van machine learning, omdat de technologie het veel gemakkelijker maakt om overtuigende nepvideo's te maken die kunnen worden gebruikt om desinformatie te zaaien of mensen lastig te vallen.
De meest gebruikelijke techniek voor het genereren van nepvideo's is het gebruik van machine learning om het gezicht van de ene persoon op dat van de andere te veranderen. De resulterende video's, ook wel deepfakes genoemd, zijn eenvoudig te maken en kunnen verrassend realistisch . Verdere aanpassingen, gemaakt door een ervaren video-editor, kunnen ze laten lijken nog meer echt .
Bij videotrucs wordt gebruikgemaakt van een machine learning-techniek die bekend staat als generatieve modellering, waarmee een computer kan leren van echte gegevens voordat nepvoorbeelden worden gemaakt die statistisch vergelijkbaar zijn. Een recente draai hieraan is dat twee neurale netwerken, ook wel generatieve vijandige netwerken genoemd, samenwerken om steeds overtuigender vervalsingen te produceren (zie The GANfather: The man who's give machines the gift of verbeelding).
De tools voor het opsporen van deepfakes zijn ontwikkeld via een programma, geleid door het Amerikaanse Defense Advanced Research Projects Agency (DARPA), genaamd Media forensisch onderzoek . Het programma is gemaakt om bestaande forensische tools te automatiseren, maar heeft onlangs zijn aandacht gericht op door AI gemaakte vervalsing.
'We hebben subtiele aanwijzingen ontdekt in huidige GAN-gemanipuleerde afbeeldingen en video's waarmee we de aanwezigheid van wijzigingen kunnen detecteren,' zegt Matthew Turek, die het Media Forensics-programma leidt.
Tucker Carlson krijgt zijn eigen Nicolas Cage-make-over. Universiteit van Albany, SUNY
Een opmerkelijk eenvoudige techniek is ontwikkeld door een team onder leiding van Siwei Lyu , een professor aan de State University van New York in Albany, , en een van zijn studenten. We hebben ongeveer 50 nepvideo's gegenereerd en een aantal traditionele forensische methoden geprobeerd. Ze werkten af en toe, maar niet erg goed, zegt Lyu.
Toen, op een middag, terwijl hij verschillende deepfakes bestudeerde, realiseerde Lyu zich dat de gezichten die met deepfakes zijn gemaakt zelden of nooit knipperen. En als ze knipperen, is de oogbeweging onnatuurlijk. Dit komt omdat deepfakes worden getraind op stilstaande beelden, die de neiging hebben om een persoon met open ogen te laten zien.
Anderen die betrokken zijn bij de DARPA-uitdaging onderzoeken soortgelijke trucs voor het automatisch vangen van deepfakes: vreemde hoofdbewegingen, vreemde oogkleur, enzovoort. We werken aan het benutten van dit soort fysiologische signalen die, althans voorlopig, moeilijk te imiteren zijn voor deepfakes, zegt Hany Farid , een toonaangevende digitale forensische expert aan het Dartmouth College.
Turek van DARPA zegt dat het bureau meer wedstrijden zal organiseren om ervoor te zorgen dat de technologieën in ontwikkeling de nieuwste technieken kunnen detecteren.'
De komst van deze forensische tools kan eenvoudigweg het begin zijn van een door AI aangedreven wapenwedloop tussen videovervalsers en digitale speurders. Een belangrijk probleem, zegt Farid, is dat machine learning-systemen kunnen worden getraind om forensische tools te slim af te zijn.
Lyu zegt dat een ervaren vervalser zijn oogknippergereedschap kan omzeilen door simpelweg afbeeldingen te verzamelen waarop een persoon met zijn ogen knippert. Maar hij voegt eraan toe dat zijn team een nog effectievere techniek heeft ontwikkeld, maar zegt dat hij die voorlopig geheim houdt. Ik wacht liever nog even, zegt Lyu. We hebben nu een klein voordeel ten opzichte van de vervalsers en dat voordeel willen we behouden.