Het Amerikaanse leger financiert een poging om deepfakes en andere AI-trucs te vangen

Denk je dat AI zal helpen een einde te maken aan nepnieuws? Het Amerikaanse leger is daar niet zo zeker van.

Het ministerie van Defensie financiert een project dat zal proberen vast te stellen of de steeds realistischer wordende nepvideo en -audio die wordt gegenereerd door kunstmatige intelligentie binnenkort misschien niet meer van echt te onderscheiden is, zelfs niet voor een ander AI-systeem.

Deze zomer, in het kader van een project gefinancierd door de Defense Advanced Research Projects Agency (DARPA) , zullen 's werelds toonaangevende digitale forensische experts samenkomen voor een AI-fakery-wedstrijd. Ze zullen wedijveren om de meest overtuigende door AI gegenereerde nepvideo, -afbeeldingen en -audio te genereren - en ze zullen ook proberen tools te ontwikkelen die deze vervalsingen automatisch kunnen detecteren.

De wedstrijd omvat zogenaamde deepfakes, video's waarin het gezicht van een persoon op het lichaam van een ander wordt genaaid. Het is nogal voorspelbaar dat de technologie al is gebruikt om een ​​aantal nagemaakte pornovideo's van beroemdheden te genereren. Maar de methode kan ook worden gebruikt om een ​​clip te maken van een politicus die iets schandaligs zegt of doet.

De technologen van DARPA maken zich vooral zorgen over een relatief nieuwe AI-techniek waardoor AI-fakery bijna onmogelijk automatisch te herkennen is. Met behulp van zogenaamde generatieve adversariële netwerken of GAN's, is het mogelijk verbluffend realistische kunstmatige beelden te genereren.

Als je een GAN alle technieken geeft die we kennen om het te detecteren, zou het theoretisch gezien al die technieken kunnen doorstaan, zegt David Gunning, de DARPA-programmamanager die verantwoordelijk is voor het project. We weten niet of er een limiet is. Het is onduidelijk.

Een GAN bestaat uit twee componenten. De eerste, de acteur, probeert de statistische patronen in een dataset, zoals een set afbeeldingen of video's, te leren en vervolgens overtuigende synthetische stukjes data te genereren. De tweede, de criticus genaamd, probeert onderscheid te maken tussen echte en nepvoorbeelden. Feedback van de criticus stelt de acteur in staat om steeds realistischere voorbeelden te produceren. En omdat GAN's zijn ontworpen om al een AI-systeem te slim af te zijn, is het onduidelijk of een geautomatiseerd systeem ze zou kunnen vangen.

GAN's zijn relatief nieuw, maar ze hebben de machine learning-scene stormenderhand veroverd (zie The GANfather: The man who's give machines the gift of verbeelding). Ze kunnen al worden gebruikt om zeer realistische denkbeeldige beroemdheden te bedenken of om afbeeldingen overtuigend aan te passen door een frons veranderen in een glimlach of de nacht in dag veranderen.

Het opsporen van een digitale vervalsing omvat doorgaans drie stappen. De eerste is om het digitale bestand te onderzoeken op tekenen dat twee afbeeldingen of video's aan elkaar zijn gesplitst. De tweede is om te kijken naar de verlichting en andere fysieke eigenschappen van de beelden voor tekenen dat er iets mis is. De derde - die automatisch het moeilijkst te doen is en waarschijnlijk het moeilijkst te verslaan - is om logische inconsistenties in overweging te nemen, zoals het verkeerde weer voor de veronderstelde datum of een onjuiste achtergrond voor de veronderstelde locatie.

Walter Scheirer , een digitale forensisch expert aan de Universiteit van Notre Dame die betrokken is bij het DARPA-project, zegt dat de technologie een verrassend lange weg heeft afgelegd sinds het initiatief een paar jaar geleden werd gelanceerd. We zijn absoluut in een wapenwedloop, zegt hij.

Hoewel het voor een ervaren grafische expert al lang mogelijk is om overtuigend ogende vervalsingen te produceren, zal AI de technologie veel toegankelijker maken. Het is gegaan van door de staat gesponsorde acteurs en Hollywood naar iemand op Reddit, zegt Hany Farid , een professor aan Dartmouth die gespecialiseerd is in digitaal forensisch onderzoek. De urgentie die we nu voelen, ligt in het beschermen van de democratie.

Deepfakes gebruiken een populaire machine learning-techniek die bekend staat als deep learning om automatisch een nieuw gezicht in een bestaande video op te nemen. Wanneer grote hoeveelheden data in een zeer groot of diep gesimuleerd neuraal netwerk worden ingevoerd, kan een computer allerlei nuttige taken leren uitvoeren, zoals zeer nauwkeurige gezichtsherkenning. Maar dezelfde aanpak maakt het manipuleren van kwaadaardige video's ook gemakkelijker. Met een online vrijgegeven tool kan iedereen met een bescheiden technische expertise nieuwe deepfakes genereren. En de maker van die tool vertelde Moederbord dat er aan een nog gebruiksvriendelijkere versie wordt gewerkt.

Het probleem gaat natuurlijk veel verder dan face-swapping. Experts zeggen steeds vaker dat het binnenkort veel moeilijker kan zijn om te weten of een foto, video of audioclip door een machine is gegenereerd. Google heeft zelfs een tool ontwikkeld genaamd Duplex die AI gebruikt om een ​​telefoontje te faken.

aviv ovadya , hoofdtechnoloog aan het Center for Social Media Responsibility van de University of Michigan, vreest dat de AI-technologieën die nu worden ontwikkeld, kunnen worden gebruikt om iemands reputatie te schaden, een verkiezing te beïnvloeden, of erger. Deze technologieën kunnen op geweldige manieren worden gebruikt voor entertainment, en ook op veel zeer angstaanjagende manieren, zei Ovadya op 15 mei. evenement georganiseerd door Bloomberg . Je hebt al aangepaste afbeeldingen die worden gebruikt om echt geweld te veroorzaken in de derde wereld, zei hij. Dat is een reëel en aanwezig gevaar.

Als technologie niet kan worden gebruikt om vervalsing en verkeerde informatie op te vangen, kan er een druk zijn om in plaats daarvan de wet te gebruiken. In feite heeft Maleisië in april wetten ingevoerd tegen nepnieuws. Dartmouth's Farid zegt echter dat dit op zichzelf problematisch kan zijn, omdat de waarheid zelf een glibberig onderwerp is. Hoe definieer je nepnieuws? Het is niet zo eenvoudig als je zou denken, zegt hij. Ik kan een afbeelding bijsnijden en een afbeelding fundamenteel veranderen. En wat doe je met de Ui ?

zich verstoppen