211service.com
Deepfakes hebben het Congres in paniek gebracht. Dit is wat het moet doen.
Een foto-illustratie van president Trump, de ene helft in zwart-wit en de andere helft erg verzadigd mevrouw Tech; Originele foto door WIN MCNAMEE; GETTY IMAGES
De recente snelle verspreiding van een gemanipuleerde video van Nancy Pelosi heeft wetgevers in Washington bang gemaakt. De video - die is bewerkt om haar dronken te laten lijken - is slechts een van de vele voorbeelden van het afgelopen jaar waarin gemanipuleerde media een plaats kregen in het reguliere publieke discours. In januari een andere gemanipuleerde video gericht op president Donald Trump werd uiteindelijk uitgezonden op de televisie in Seattle. Deze week werd een door AI gegenereerde video van Mark Zuckerberg geüpload naar Instagram. (Facebook heeft beloofd het niet te verwijderen.)
Nu de Amerikaanse verkiezingen van 2020 in aantocht zijn, maakt het Amerikaanse Congres zich steeds meer zorgen dat het snelle en gemakkelijke vermogen om media te vervalsen verkiezingscampagnes kwetsbaar kan maken voor targeting door buitenlandse agenten en het vertrouwen van de kiezers in gevaar kan brengen.
Als reactie hierop houdt het Huis van Afgevaardigden morgen zijn eerste speciale hoorzitting over deepfakes, de klasse van synthetische media die door AI worden gegenereerd. Tegelijkertijd zal vertegenwoordiger Yvette Clarke een wetsvoorstel over hetzelfde onderwerp indienen. Een nieuw onderzoeksrapport dat deze week door een non-profitorganisatie is uitgebracht, belicht ook een strategie om het hoofd te bieden wanneer deepfakes en andere gemanipuleerde media zich verspreiden.
Het is niet de eerste keer dat Amerikaanse beleidsmakers actie willen ondernemen op dit gebied. In december 2018 introduceerde senator Ben Sasse een andere rekening proberen kwaadaardige deepfakes te verbieden. Senator Marco Rubio heeft ook herhaaldelijk sloeg alarm over de techniek door de jaren heen. Maar het is de eerste keer dat we zo'n gezamenlijke inspanning van Amerikaanse wetgevers hebben gezien.
De deepfake-rekening
Het conceptwetsvoorstel, het resultaat van enkele maanden discussie met computerwetenschappers, desinformatie-experts en mensenrechtenverdedigers, zal drie bepalingen bevatten. De eerste zou vereisen dat bedrijven en onderzoekers die tools maken die kunnen worden gebruikt om deepfakes te maken, automatisch watermerken toevoegen aan vervalste creaties.
De tweede zou vereisen dat sociale-mediabedrijven een betere detectie van manipulatie rechtstreeks in hun platforms inbouwen. Ten slotte zou de derde bepaling sancties opleggen, zoals boetes of zelfs gevangenisstraf, om overtreders te straffen voor het maken van kwaadaardige deepfakes die individuen schaden of de nationale veiligheid bedreigen. Het zou met name proberen een nieuw mechanisme voor rechtsmiddelen in te voeren als de reputatie van mensen wordt geschaad door synthetische media.
Deze kwestie raakt niet alleen politici, zegt Mutale Nkonde, fellow bij het Data & Society Research Institute en adviseur van het wetsvoorstel. Deepfake-video's worden veel vaker ingezet tegen vrouwen, minderheden, mensen uit de LHBT-gemeenschap, arme mensen. En die mensen zullen niet de middelen hebben om terug te vechten tegen reputatierisico's.
Het doel van de invoering van het wetsvoorstel is niet om het door het Congres te laten gaan zoals het is, zegt Nkonde. In plaats daarvan is het bedoeld om een meer genuanceerd gesprek op gang te brengen over hoe om te gaan met de kwestie in de wet door specifieke aanbevelingen voor te stellen die kunnen worden bekritiseerd en verfijnd. Wat we echt willen doen, is het congresverslag invoeren dat het idee van audiovisuele manipulatie onaanvaardbaar is, zegt ze.
De huidige staat van deepfakes
Toevallig heeft de non-profitorganisatie voor mensenrechten een nieuw onderzoeksrapport deze week de huidige staat van deepfake-technologie documenteren. Deepfakes zijn momenteel niet mainstream: ze vereisen nog steeds gespecialiseerde vaardigheden om te produceren, en ze laten vaak artefacten in de video achter, zoals glitches en pixelvorming, die de vervalsing duidelijk maken.
Maar de technologie is in een snel tempo vooruitgegaan en de hoeveelheid gegevens die nodig is om een video te vervalsen, is drastisch gedaald. Twee weken geleden, Samsung gedemonstreerd dat het mogelijk was om van een enkele foto een hele video te maken; deze week universitaire en industriële onderzoekers een nieuwe tool gedemonstreerd waarmee gebruikers iemands woorden kunnen bewerken door te typen wat ze willen dat het onderwerp zegt.
Het is dus slechts een kwestie van tijd voordat deepfakes zich verspreiden, zegt Sam Gregory, programmadirecteur van Witness. Veel van de manieren waarop mensen zouden overwegen om deepfakes te gebruiken - om journalisten aan te vallen, om corruptie door politici te impliceren, om bewijsmateriaal te manipuleren - zijn duidelijk evoluties van bestaande problemen, dus we mogen verwachten dat mensen de nieuwste manieren proberen om die effectief te doen, zegt hij .
Het rapport schetst een strategie voor de voorbereiding op een dergelijke naderende toekomst. Veel van de aanbevelingen en veel van het ondersteunende bewijs komen ook overeen met de voorstellen die in het wetsvoorstel zullen verschijnen.
Uit het rapport bleek dat de huidige investeringen van onderzoekers en technologiebedrijven in het genereren van deepfake veel groter zijn dan die in deepfake-detectie. Adobe heeft bijvoorbeeld veel tools gemaakt om het wijzigen van media gemakkelijker te maken, waaronder een recente functie voor het verwijderen van objecten in video's; het heeft hen echter geen folie verschaft.
Het resultaat is een mismatch tussen de real-world aard van mediamanipulatie en de beschikbare tools om het te bestrijden. Als je een hulpmiddel voor synthese of vervalsing maakt dat naadloos aansluit op het menselijk oog of het menselijk oor, moet je hulpmiddelen maken die speciaal zijn ontworpen om die vervalsing te detecteren, zegt Gregory. De vraag is hoe gereedschapmakers die onbalans kunnen herstellen.
Net als het wetsvoorstel van het Huis beveelt het rapport ook aan dat sociale-media- en zoekbedrijven beter hun best doen om manipulatiedetectiemogelijkheden in hun platforms te integreren. Facebook zou kunnen investeren in detectie van objectverwijdering, bijvoorbeeld om de functie van Adobe en andere frauduleuze bewerkingstechnieken tegen te gaan.
Vervolgens moet het video's en afbeeldingen in de nieuwsfeeds van gebruikers duidelijk labelen om aan te geven wanneer ze zijn bewerkt op manieren die onzichtbaar zijn voor het menselijk oog. Google zou als een ander voorbeeld moeten investeren in omgekeerd zoeken naar video's om journalisten en kijkers te helpen snel de oorspronkelijke bron van een clip te vinden.
Voorbij het congres
Ondanks de nauwe afstemming van het rapport op het conceptwetsvoorstel, waarschuwt Gregory dat het Amerikaanse Congres op korte termijn twee keer moet nadenken over het aannemen van wetten op deepfakes. Het is vroeg om deepfakes en synthetische media te reguleren, zegt hij, hoewel hij uitzonderingen maakt voor zeer beperkte toepassingen, zoals het gebruik ervan voor het produceren van niet-consensuele seksuele beelden. Ik denk niet dat we goed genoeg weten hoe samenlevingen en platforms omgaan met deepfakes en synthetische media om regels op te stellen, voegt hij eraan toe.
Gregory maakt zich zorgen dat de huidige discussie in Washington kan leiden tot beslissingen die later negatieve gevolgen zullen hebben. Amerikaanse regelgeving zou bijvoorbeeld sterk kunnen bepalen wat andere landen doen. En het is gemakkelijk in te zien hoe in landen met meer autoritaire regeringen regelgeving ter bescherming van politici kan worden gebruikt om de verwijdering te rechtvaardigen van inhoud die controversieel is of politieke leiders bekritiseert.
Nkonde is het ermee eens dat het Congres een weloverwogen en doordachte benadering van de kwestie moet volgen, en niet alleen de impact ervan op de politiek moet overwegen. Ik hoop echt dat ze [tijdens de hoorzitting] zullen praten over hoeveel mensen deze technologie beïnvloedt, zegt ze, en de psychologische impact van het niet kunnen geloven wat je kunt zien en horen.