211service.com
Facebook heeft zojuist een database met 100.000 deepfakes vrijgegeven om AI te leren hoe ze te herkennen
Deepfakes hebben een gevoelige snaar geraakt bij het publiek en onderzoekers. Er is iets unieks aan deze AI-gegenereerde beelden van mensen die iets lijken te zeggen of doen wat ze niet deden.
Met tools voor het maken van deepfakes nu algemeen verkrijgbaar en relatief gemakkelijk te gebruiken, velen maken zich ook zorgen dat ze zullen worden gebruikt om gevaarlijke verkeerde informatie te verspreiden. Politici kunnen bijvoorbeeld andermans woorden in de mond krijgen of laten participeren in situaties waar ze zelf niet aan deelnamen.
Dat is tenminste de angst. Voor het menselijk oog is de waarheid dat deepfakes nog steeds relatief gemakkelijk te herkennen zijn. En volgens een rapport van cyberbeveiligingsbedrijf DeepTrace Labs in oktober 2019, nog steeds de meest uitgebreide tot nu toe, zijn ze niet gebruikt in een desinformatiecampagne. Maar uit hetzelfde rapport bleek ook dat het aantal online geplaatste deepfakes snel groeide, met ongeveer 15.000 in de afgelopen zeven maanden. Dat aantal zal nu veel groter zijn.
Social-mediabedrijven zijn bezorgd dat deepfakes binnenkort hun sites kunnen overspoelen. Maar ze automatisch detecteren is moeilijk. Om het probleem aan te pakken, wil Facebook AI gebruiken om terug te vechten tegen door AI gegenereerde vervalsingen. Om AI's te trainen om gemanipuleerde video's te herkennen, geeft het de grootste dataset ooit van deepfakes vrij: meer dan 100.000 clips geproduceerd met 3.426 acteurs en een reeks bestaande face-swapping-technieken.
Deepfakes zijn momenteel geen groot probleem, zegt Facebooks CTO Mike Schroepfer. Maar de les die ik de afgelopen jaren op de harde manier heb geleerd, is om niet met platte voeten te worden betrapt. Ik wil echt voorbereid zijn op een heleboel slechte dingen die nooit gebeuren in plaats van andersom.
Facebook heeft ook de winnaar bekend gemaakt van zijn Deepfake-detectie-uitdaging , waarbij 2.114 deelnemers ongeveer 35.000 modellen instuurden die op de dataset waren getraind. Het beste model, ontwikkeld door Selim Seferbekov, een machine learning-engineer bij het kaartenbedrijf Mapbox, kon detecteren of een video een deepfake was met een nauwkeurigheid van 65% toen het werd getest op een set van 10.000 niet eerder vertoonde clips, waaronder een mix van nieuwe video's gegenereerd door Facebook en bestaande die van internet zijn gehaald.
Om het nog moeilijker te maken, bevatten de trainingsset en testset video's waardoor een detectiesysteem in de war kan raken, zoals mensen die make-uptutorials geven, en video's die zijn aangepast door tekst en vormen over de gezichten van de sprekers te plakken, de resolutie of oriënteren en vertragen.
In plaats van forensische technieken te leren, zoals het zoeken naar digitale vingerafdrukken in de pixels van een video die is achtergelaten door het deepfake-generatieproces, lijken de top vijf inzendingen te hebben geleerd te herkennen wanneer iets er niet goed uitzag, zoals een mens zou doen.
Om dit te doen, gebruikten de winnaars allemaal een nieuw type convolutioneel neuraal netwerk (CNN) dat vorig jaar door Google-onderzoekers werd ontwikkeld, EfficientNets genaamd. CNN's worden vaak gebruikt om afbeeldingen te analyseren en zijn goed in het detecteren van gezichten of het herkennen van objecten. Het verbeteren van hun nauwkeurigheid tot voorbij een bepaald punt kan echter ad hoc fine-tuning vereisen. EfficientNets bieden een meer gestructureerde manier om af te stemmen, waardoor het gemakkelijker wordt om nauwkeurigere modellen te ontwikkelen. Maar wat het precies is waardoor ze beter presteren dan andere neurale netwerken bij deze taak, is niet duidelijk, zegt Seferbekov.
Facebook is niet van plan om een van de winnende modellen op zijn site te gebruiken. Om te beginnen is 65% nauwkeurigheid nog niet goed genoeg om bruikbaar te zijn. Sommige modellen bereikten een nauwkeurigheid van meer dan 80% met de trainingsgegevens, maar dit daalde wanneer ze werden geplaatst tegen onzichtbare clips. Generaliseren naar nieuwe video's, waarbij verschillende gezichten kunnen worden verwisseld met behulp van verschillende technieken, is het moeilijkste deel van de uitdaging, zegt Seferbekov.
Hij denkt dat een manier om de detectie te verbeteren, zou zijn om je te concentreren op de overgangen tussen videoframes en deze in de loop van de tijd te volgen. Zelfs deepfakes van zeer hoge kwaliteit hebben wat flikkering tussen frames, zegt Seferbekov. Mensen zijn goed in het herkennen van deze inconsistenties, vooral in beelden van gezichten. Maar om deze veelbetekenende gebreken automatisch op te sporen, zijn grotere en meer gevarieerde trainingsgegevens en veel meer rekenkracht nodig. Seferbekov probeerde deze frame-overgangen te volgen, maar dat lukte niet. CPU was daar een echte bottleneck, zegt hij.
Facebook suggereert dat deepfake-detectie ook kan worden verbeterd door technieken te gebruiken die verder gaan dan de analyse van een afbeelding of video zelf, zoals het beoordelen van de context of herkomst.
Sam Gregory, die Witness leidt, een project dat mensenrechtenactivisten ondersteunt bij het gebruik van videotechnologieën, verwelkomt de investering van sociale-mediaplatforms in deepfake-detectie. Witness is lid van Partnership on AI, dat Facebook adviseerde over zijn dataset. Gregory is het met Schroepfer eens dat het de moeite waard is om je op het ergste voor te bereiden. We hebben de deepfake-apocalyps niet gehad, maar deze tools zijn een zeer vervelende toevoeging aan gendergerelateerd geweld en verkeerde informatie, zegt hij. Zo ontdekte het DeepTrace Labs-rapport dat 96% van de deepfakes waren niet-consensuele pornografie, waarin de gezichten van andere mensen worden geplakt over die van artiesten in pornoclips.
Wanneer miljoenen mensen video's kunnen maken en delen, is vertrouwen op wat we zien belangrijker dan ooit. Nepnieuws verspreidt zich als een lopend vuurtje via Facebook, en alleen al de mogelijkheid van deepfakes zaait twijfel, waardoor we meer geneigd om echte beelden in twijfel te trekken evenals nep.
Bovendien is automatische detectie binnenkort wellicht onze enige optie. In de toekomst zullen we deepfakes zien die door mensen niet te onderscheiden zijn, zegt Seferbekov.