211service.com
Een nieuwe deepfake-detectietool moet wereldleiders veilig houden - voorlopig
Een afbeelding van deepfake en imiterende voorbeelden van Barak Obama Universiteit van California, Berkeley
Een door AI geproduceerde video zou kunnen laten zien dat Donald Trump iets extreem schandaligs en opruiends zegt of doet. Het zou maar al te geloofwaardig zijn, en in het ergste geval zou het een verkiezing kunnen beïnvloeden, geweld op straat kunnen veroorzaken of een internationaal gewapend conflict kunnen veroorzaken.
Gelukkig een nieuwe digitale forensische techniek belooft president Trump, andere wereldleiders en beroemdheden te beschermen tegen dergelijke deepfakes - voorlopig althans. De nieuwe methode maakt gebruik van machine learning om de spraak- en bewegingsstijl van een specifiek individu te analyseren, wat de onderzoekers een softbiometrische handtekening noemen.
De onderzoekers, van UC Berkeley en de University of Southern California, gebruikten een bestaand hulpmiddel om de gezichts- en hoofdbewegingen van individuen te extraheren. Ze creëerden ook hun eigen deepfakes voor Donald Trump, Barack Obama, Bernie Sanders, Elizabeth Warren en Hillary Clinton met behulp van generatieve vijandige netwerken.
Het team gebruikte vervolgens machine learning om de hoofd- en gezichtsbewegingen te onderscheiden die kenmerkend zijn voor de echte persoon. Deze subtiele signalen – de manier waarop Bernie Sanders knikt terwijl hij een bepaald woord zegt, misschien, of de manier waarop Trump grijnst na een comeback – worden momenteel niet gemodelleerd door deepfake-algoritmen.
In experimenten was de techniek ten minste 92% nauwkeurig in het spotten van verschillende variaties van deepfakes, waaronder gezichtswisselingen en degenen waarbij een imitator een digitale pop gebruikt. Het kon ook omgaan met artefacten in de bestanden die afkomstig zijn van het opnieuw comprimeren van een video, wat andere detectietechnieken kan verwarren. De onderzoekers zijn van plan de techniek te verbeteren door ook rekening te houden met kenmerken van iemands spraak. Het onderzoek, dat werd gepresenteerd op een computer vision conferentie in Californië deze week, werd gefinancierd door Google en DARPA, een onderzoeksafdeling van het Pentagon. DARPA financiert een programma om betere detectietechnieken te bedenken.
Het probleem waarmee wereldleiders (en alle anderen) worden geconfronteerd, is dat het belachelijk eenvoudig is geworden om met kunstmatige intelligentie videovervalsingen te genereren. Valse nieuwsberichten, nep-accounts op sociale media en gemanipuleerde video's hebben de politieke berichtgeving en het discours al ondermijnd. Politici zijn vooral bezorgd dat valse media zouden kunnen worden gebruikt om verkeerde informatie te zaaien tijdens de presidentsverkiezingen van 2020.
Sommige tools voor het vangen van deepfake-video's zijn al geproduceerd, maar vervalsers hebben zich snel aangepast. Zo was het een tijdje mogelijk om een deepfake te herkennen door de oogbewegingen van de spreker te volgen, wat bij deepfakes vaak onnatuurlijk was. Kort nadat deze methode was geïdentificeerd, werden deepfake-algoritmen echter aangepast om beter knipperen op te nemen.
We zijn getuige van een wapenwedloop tussen digitale manipulaties en het vermogen om die te detecteren, en de vooruitgang van op AI gebaseerde algoritmen katalyseren beide kanten, zegt Hao Li, een professor aan de University of Southern California en de CEO van Pinscreen die hielpen bij het ontwikkelen van de nieuwe techniek. Om deze reden heeft zijn team de code achter de methode nog niet vrijgegeven.
Li zegt dat het voor deepfake-makers bijzonder moeilijk zal zijn om zich aan de nieuwe techniek aan te passen, maar hij geeft toe dat ze dat uiteindelijk waarschijnlijk zullen doen. De volgende stap om deze vorm van detectie te omzeilen, zou zijn om bewegingen en gedrag te synthetiseren op basis van eerdere observaties van deze specifieke persoon, zegt hij.
Li zegt ook dat naarmate deepfakes gemakkelijker te gebruiken en krachtiger worden, het voor iedereen noodzakelijk kan worden om te overwegen zichzelf te beschermen. Beroemdheden en politieke figuren zijn tot nu toe de belangrijkste doelwitten geweest, zegt hij. Maar het zou me niet verbazen als over een jaar of twee kunstmatige mensen die niet van echt te onderscheiden lijken, door elke eindgebruiker kunnen worden gesynthetiseerd.