211service.com
Drie bedreigingen van deepfakes die technologie niet kan oplossen
Screencapture van Poetin deepfake video MIT Technology Review
Stel je voor: er bestaat eindelijk een perfect nauwkeurige deepfake-detector. Het voegt onmiddellijk een groot rood DEEPFAKE-label toe aan elke video die met AI is gemanipuleerd, hoe naadloos realistisch de video er ook uitziet.
Dat klinkt misschien als precies wat we nodig hebben om deepfakes te bestrijden, waar mensen zich zorgen over kunnen maken het einde van de waarheid en de dood van de democratie . Perfect echte gemanipuleerde video's kunnen hier binnen zes maanden zijn , wat suggereert dat de campagne voor de Amerikaanse presidentsverkiezingen van 2020 een slagveld van nepvideo's zou kunnen worden: Donald Trump die toegeeft corrupte deals met Rusland te hebben, Elizabeth Warren die pleit voor een totaal verbod op wapens, Kamala Harris die blanke mensen minacht.
Technologen hebben gereageerd met meer technologie. De Amerikaanse regering heeft een project gefinancierd over media forensisch onderzoek. Facebook en Microsoft hebben onlangs aangekondigd dat deepfake-detectie-uitdaging, en Google heeft een gigantische database met deepfakes uitgebracht om deepfakes te bestrijden. Maar hoewel de techniek om deepfakes te maken nieuw is, is veel van de werkelijke schade die ze vertegenwoordigen - desinformatie en intimidatie - niet, volgens Britt Paris, een informatiewetenschapper aan de Rutgers University en co-auteur van een recent Data & Society-rapport op deepfakes. Een perfect nauwkeurige deepfake-detector kan die schade niet aanpakken. Dit is waarom.
1) Probleem: Deepfake-detectoren kunnen ons niet vertellen wat wel en niet moet worden verwijderd
Herinner je je die vertraagde video van Nancy Pelosi nog? Dat was geen deepfake. Het verspreidde nog steeds onwaarheden en Facebook besloot het niet te verwijderen. Een deepfake-detector zou niet hebben geholpen met dat oordeel. Hoe meer je in de richting van geautomatiseerd gebruik gaat, hoe groter de kans dat je onnauwkeurigheden of censuur krijgt, zegt Kate Klonick, een professor aan de St. John's University en een expert op het gebied van platformbeheer. Het definiëren van satire, het definiëren van nepnieuws, het definiëren van fictie - dit zijn allemaal enorme filosofische vragen.
Idee: betere moderatie
De samenleving moet deze problemen oplossen. Tot die tijd zou een oplossing kunnen zijn om meer macht te geven aan degenen die in staat zijn om te oordelen: moderators van menselijke inhoud. Daartoe zouden moderators meer betaald kunnen worden, beter opgeleid en gewaardeerd worden als een belangrijk onderdeel van het handhaven van een veilig internet, zegt Sarah T. Roberts, een informatiewetenschapper aan de UCLA. Gespecialiseerde teams van doorgelichte moderators kunnen de context van een video beoordelen, deze op feiten controleren en beslissen of deze op een platform moet blijven. Ze hebben misschien niet het perfecte antwoord voor die Pelosi-video, maar ze zouden nog steeds een idee hebben van de sociale en politieke impact van een verscheidenheid aan deepfakes en hun doelen. Dat konden ze vertellen parodie deepfakes van Nicolas Cage zijn in orde en nep porno is niet.
Iemand anders die gekwalificeerd zou kunnen zijn om een oordeel te vellen over een deepfake? Het slachtoffer van een. Bedrijven moeten het gemakkelijker maken om deepfake-intimidatie te melden, zegt Danielle Citron, een cyberlaw-expert aan de Boston University. Alle gebruikers moeten worden geïnformeerd over hun rechten, en de stappen voor rapportage moeten duidelijk en toegankelijk zijn, niet begraven in een privacybeleid.
2) Probleem: Deepfake-busting-technologie helpt misschien niet de mensen die bescherming het meest nodig hebben
De geschiedenis heeft aangetoond dat nieuwe technologie wordt gebruikt tegen gemarginaliseerde groepen – zoals vrouwen, mensen van kleur, LGBT-mensen en activisten – voordat het een algemene bedreiging wordt, zegt Paris. In de jaren negentig waren er bijvoorbeeld al ruwe gephotoshopte afbeeldingen van vrouwenhoofden op de lichamen van volwassen filmactrices. De machthebbers gaven er niet genoeg om om er iets aan te doen. Als we toen aandacht hadden besteed aan het probleem van seksuele uitbuiting van vrouwen zonder hun toestemming, zouden we nu veel beter in staat zijn geweest om het sociaal, juridisch en cultureel aan te pakken, zegt Mary Anne Franks, jurist aan de universiteit van Miami.
De geschiedenis herhaalt zich. Onderzoekers zeggen dat het grootste risico van deepfakes niet is dat ze een verkiezing slingeren, maar dat ze zijn gewend om te pesten particulieren.
Idee: bouw niets zonder de meest getroffenen te raadplegen
Praat met de mensen die het meest kwetsbaar zijn voor deepfakes, zegt Sam Gregory, programmadirecteur bij Witness, een non-profitorganisatie die synthetische media bestudeert. Zelfs als het doel is om een deepfake-detector te maken, zijn er tal van maatschappelijke vragen. Zal het beschikbaar zijn voor mensen in andere landen? Zal het worden getraind om politieke vervalsingen of gender- en seksueel geweld te herkennen? Als de infrastructuur eenmaal is ingesteld, zijn het echt gemarginaliseerde mensen en bevolkingsgroepen die worden uitgesloten, omdat ze niet het agentschap hebben om die infrastructuur te veranderen, zegt Gregory.
3) Probleem: Deepfake-detectie is te laat om slachtoffers te helpen
Met deepfakes is er weinig echte toevlucht nadat die video of audio uit is, zegt Franks, de geleerde van de Universiteit van Miami.
De bestaande wetten zijn ontoereikend. Wetten die het delen van legitieme privé-informatie, zoals medische dossiers, bestraffen, zijn niet van toepassing op valse maar schadelijke video's. Wetten tegen nabootsing van identiteit zijn vreemd genoeg beperkt, zegt Franks - ze zijn erop gericht het illegaal te maken om zich voor te doen als een arts of overheidsfunctionaris. Lasterwetten pakken alleen valse voorstellingen aan die het onderwerp negatief afschilderen, maar Franks zegt dat we ons zorgen moeten maken over deepfakes die mensen ook ten onrechte in een positief daglicht stellen.
Idee: nieuwe wetten
Texas onlangs een wetsvoorstel aangenomen om deepfakes te verbieden . NAAR Californische deepfake rekening doorgegeven in beide huizen en wacht nu op de handtekening van gouverneur Gavin Newsom. Ondertussen heeft afgevaardigde Yvette Clarke, een Amerikaans congreslid uit New York, onlangs federale wetgeving ingevoerd, de DEEPFAKES Verantwoordingswet . Het zou sociale-mediabedrijven dwingen betere detectietools in hun platforms te bouwen en het mogelijk maken om mensen die kwaadaardige deepfakes posten te straffen of op te sluiten.
Van hun kant werken Franks en Citron aan een federaal wetsvoorstel om kwaadaardige deepfakes, die ze digitale vervalsingen noemen, strafbaar te stellen. Volgens hen is een digitale vervalsing iets waarvan een redelijk persoon zou denken dat het echt is. Het moet ook waarschijnlijk zijn dat het een bepaalde persoon of de openbare orde schade berokkent, bijvoorbeeld als een video ten onrechte een moslim toont die een misdaad begaat.
Als een dergelijke wet in de VS zou werken, zou het idealiter op federaal niveau zijn, niet op staatsniveau. Vanwege een wet genaamd Sectie 230 zijn platformbedrijven niet wettelijk verantwoordelijk voor het hosten van schadelijke inhoud van derden, tenzij dit in strijd is met het federale strafrecht. Als het plaatsen van schadelijke video's een misdaad zou worden, zou dat niet alleen mensen ervan weerhouden ze te plaatsen; platforms zoals Facebook zouden harder moeten werken om ze af te weren. Deze bedrijven zouden Sectie 230 niet ter verdediging kunnen opwerpen, zegt Franks. Ze zouden een willekeurig aantal verdedigingen hebben, maar die specifieke weg naar hen zou worden geblokkeerd.