211service.com
Facebook maakt zijn eigen AI-deepfakes om een desinformatieramp te voorkomen
Side-by-side afbeeldingen van originele video en deepfake. Facebook
Facebook vreest dat AI-gegenereerde deepfake-video's de volgende grote bron van virale desinformatie zouden kunnen zijn - die zich onder zijn gebruikers verspreidt met mogelijk catastrofale gevolgen voor de volgende Amerikaanse presidentsverkiezingen.
Zijn oplossing? Zelf veel deepfakes maken, om onderzoekers te helpen bij het bouwen en verfijnen van detectietools.
Facebook heeft zijn team van AI-onderzoekers de opdracht gegeven om een aantal zeer realistische nepvideo's te maken waarin acteurs routinematige dingen doen en zeggen. Deze clips zullen dienen als een dataset voor het testen en benchmarken van deepfake-detectietools. De Facebook-deepfakes worden eind dit jaar op een grote AI-conferentie vrijgegeven.
De opkomst van deepfakes is gedreven door recente ontwikkelingen op het gebied van machine learning. Het is al lang mogelijk voor filmstudio's om afbeeldingen en video te manipuleren met software en computers, en algoritmen die de gelijkenis van een persoon kunnen vastleggen en opnieuw creëren, zijn al gebruikt om point-and-click-tools te maken waarmee het gezicht van een persoon op iemand anders kan worden geplakt .
Er bestaan methoden om vervalste media op te sporen, maar deze vereisen vaak nauwgezette deskundige analyse. Tools om deepfakes automatisch te vangen zijn nog maar net in opkomst.
Facebook's CTO, Mike Schroepfer, zegt dat deepfakes snel vorderen, dus het is van vitaal belang om veel betere manieren te bedenken om potentiële vervalsingen te markeren of te blokkeren.
We hebben dit op onze platforms nog niet als een enorm probleem gezien, maar mijn veronderstelling is dat als je de toegang vergroot - het goedkoper, gemakkelijker en sneller maakt om deze dingen te bouwen - dit duidelijk het risico vergroot dat mensen dit op een kwaadaardige manier zullen gebruiken, Schroepfer , die het initiatief leidt, zei gisteravond. Ik wil niet in een situatie komen waarin dit een enorm probleem is en we geen enorme bedragen in R&D hebben geïnvesteerd.
In vergelijking met de strijd tegen spam-e-mail, zei Schroepfer dat Facebook mogelijk niet in staat is om de meest geavanceerde vervalsingen op te vangen. We zullen de voor de hand liggende pakken, zei hij. Maar hij zei dat Facebook nog geen methoden gebruikt omdat de vervalsingen zo snel verbeteren.
Het sociale netwerk zal $ 10 miljoen uittrekken voor de financiering van de detectietechnologie door middel van subsidies en uitdagingsprijzen. Samen met Microsoft heeft de Partnerschap op AI , en academici van instellingen zoals MIT, UC Berkeley en Oxford University, lanceert het bedrijf de Deepfake-detectie-uitdaging , die niet-gespecificeerde geldbeloningen biedt voor de beste detectiemethoden.
Het maken van een deepfake vereist doorgaans twee videoclips. Algoritmen leren het uiterlijk van elk gezicht om het ene op het andere te plakken terwijl elke glimlach, knipperen en knikken behouden blijft. Verschillende AI-technieken kunnen ook worden gebruikt om de stem van een specifieke persoon opnieuw te creëren. De term deepfake is ontleend aan een Reddit-gebruiker die in 2017 zo'n tool uitbracht. Het verwijst naar deep learning, de gebruikte AI-techniek.
Een van de grote zorgen is dat deepfakes kunnen worden gebruikt om zeer besmettelijke verkeerde informatie te verspreiden tijdens de Amerikaanse verkiezingen van volgend jaar, en misschien zelfs de uitkomst te beïnvloeden. Verschillende Amerikaanse senatoren hebben alarm geslagen over de dreiging en Ben Sasse (R–Nebraska) heeft een wetsvoorstel ingediend om het maken of verspreiden van deepfakes met kwade bedoelingen illegaal te maken. Een recent rapport over verkeerde informatie over verkiezingen van NYU identificeert deepfakes als een van de belangrijkste uitdagingen voor de verkiezingen van 2020.
Gemanipuleerde video's verspreiden zich zelfs al op sociale platforms. Eerder dit jaar verspreidde een clip waarin Nancy Pelosi haar toespraak leek te onduidelijk (gemaakt door simpelweg de beelden te vertragen), zich snel over Facebook. Het bedrijf weigerde die post of een deepfake van Mark Zuckerberg te verwijderen, maar koos ervoor om de clips als nep te markeren bij factcheckers.
Het is logisch dat Facebook probeert de kwestie voor te blijven, vooral na de gevolgen van de laatste presidentsverkiezingen. Toen details van politieke desinformatiecampagnes naar voren kwamen, kreeg Facebook hevige kritiek te verduren omdat dergelijke propaganda zich had verspreid.
Het promoten van de deepfake-uitdaging kan echter onbedoelde gevolgen hebben. Henry Ajder, een analist bij Deeptrace, een Nederlands bedrijf dat werkt aan tools voor het opsporen van vervalste clips, merkt op dat het verhaal rond deepfakes een manier kan zijn voor politici om verantwoordelijkheid te ontwijken, door te beweren dat echte informatie is vervalst (zie Fake America weer geweldig ). Alleen al het idee van deepfakes zorgt al voor veel problemen, zegt Ajder. Het is een virus in de politieke sfeer dat de hoofden van politici en burgers heeft besmet.
Bovendien betwijfelt Ajder, die deepfakes in het wild volgt, ondanks het alarm dat de technologie nog enige tijd zal worden ingezet voor politieke doeleinden. Hij gelooft dat het directer een krachtig instrument zal worden voor cyberstalking en pesten.
Er bestaan al enkele methoden om deepfakes te detecteren. Eenvoudige technieken omvatten het analyseren van de gegevens in een videobestand of het zoeken naar veelbetekenende mondbewegingen en knipperen, wat moeilijker is voor een algoritme om vast te leggen en opnieuw te creëren.
Een onlangs door een groep vooraanstaande experts ontwikkelde methode omvat het trainen van een diepgaand lerend algoritme om de specifieke manier waarop iemands hoofd beweegt te herkennen, aangezien dit niet iets is dat algoritmen doorgaans leren.
Deze aanpak kwam tot stand door een andere poging om detectietools te ontwikkelen, die wordt gefinancierd door het Defense Advanced Research Projects Agency (DARPA).
Veel experts zijn verrast en gealarmeerd door de snelheid waarmee AI-vervalsingen vorderen. Deze week zorgde een Chinese app genaamd Zao voor een debat door deepfake-video's te plaatsen die zogenaamd waren gemaakt van een stilstaand beeld. Hao Li , een visuele effectenkunstenaar en een universitair hoofddocent aan de Universiteit van Zuid-Californië, heeft gewaarschuwd dat het binnenkort mogelijk zal zijn om niet-detecteerbare deepfakes in massa te produceren (zie De beste deepfake-artiest ter wereld worstelt met het monster dat hij heeft gemaakt).