Google heeft een gigantische database met deepfakes vrijgegeven om deepfakes te bestrijden

Categorie: Kunstmatige intelligentie Geplaatst 25 sep

Het bevat 3.000 door AI gegenereerde video's die zijn gemaakt met behulp van verschillende openbaar beschikbare algoritmen.

De context: Het afgelopen jaar zijn generatieve algoritmen zo goed geworden in het synthetiseren van media dat wat ze produceren al snel niet meer van de realiteit te onderscheiden is. Experts haasten zich nu om betere methoden te vinden om deze zogenaamde deepfakes te detecteren, vooral nu de Amerikaanse presidentsverkiezingen van 2020 naderen.

Deepfake-drop: Op dinsdag, Google vrijgelaten een open-source database met 3.000 originele gemanipuleerde video's als onderdeel van zijn inspanningen om de ontwikkeling van deepfake-detectietools te versnellen. Het werkte met 28 acteurs om video's op te nemen waarin ze spreken, gemeenschappelijke uitdrukkingen maken en alledaagse taken uitvoeren. Vervolgens gebruikte het openbaar beschikbare deepfake-algoritmen om hun gezichten te veranderen.

Het nieuwste van het nieuwste: Eerder deze maand maakte Facebook bekend dat het tegen het einde van het jaar een vergelijkbare database zou uitbrengen. In januari creëerde een academisch team onder leiding van een onderzoeker van de Technische Universiteit van München er een genaamd FaceForensics++ door vier veelvoorkomende gezichtsmanipulatiemethoden uit te voeren op bijna 1.000 gecompileerde YouTube-video's. Met elk van deze datasets is het idee hetzelfde: een groot aantal voorbeelden creëren die kunnen helpen bij het trainen en testen van geautomatiseerde detectietools.

Kat-en-muisspel: Maar als er eenmaal een detectiemethode is ontwikkeld om een ​​fout in een bepaald generatiealgoritme uit te buiten, kan het algoritme eenvoudig worden bijgewerkt om ervoor te corrigeren. Als gevolg hiervan proberen sommige experts nu detectiemethoden te vinden die uitgaan van de perfectie van synthetische afbeeldingen. anderen ruzie maken dat het beteugelen van deepfakes niet alleen met technische middelen zal worden bereikt: in plaats daarvan zijn er ook sociale, politieke en juridische oplossingen nodig om de prikkels te veranderen die hun creatie aanmoedigen.

Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.