211service.com
Deepfakes zijn oplosbaar, maar vergeet niet dat oppervlakkige vervalsingen al alomtegenwoordig zijn
Jeremy Portje
Volgens mensenrechtenactivist Sam Gregory heeft de technologie-industrie een unieke kans om deepfakes aan te pakken – het probleem van nep-audio en video gemaakt met behulp van kunstmatige intelligentie – voordat ze een wijdverbreid probleem worden.
Maar, waarschuwt hij, grote bedrijven zijn nog ver verwijderd van het aanpakken van de alomtegenwoordige en schadelijker kwestie van grovere oppervlakkige valse desinformatie.
Gregory is programmamanager bij Getuige , dat zich richt op het gebruik van video voor mensenrechten, hetzij door activisten en slachtoffers om misstanden aan de kaak te stellen, hetzij door autoritaire regimes om afwijkende meningen te onderdrukken. Maandag sprak hij voor een publiek op EmTech Digital, een evenement georganiseerd door MIT Technology Review, hij zei dat de deepfakes die we momenteel zien de stilte voor de storm zijn.
Schadelijke synthetische media zijn nog niet wijdverbreid in gebruik, tools zijn nog niet mobiel geworden - ze zijn nog niet geproduceerd, zei Gregory. Dit moment, suggereerde hij, biedt een ongebruikelijke kans voor de makers van deepfakes om manieren te vinden om ze te bestrijden voordat slechte acteurs de technologie op grote schaal kunnen inzetten.
We kunnen proactief en pragmatisch zijn in het aanpakken van deze bedreiging voor de publieke sfeer en ons informatie-ecosysteem, zei hij. We kunnen ons voorbereiden, geen paniek.
Hoewel deepfakes de mainstream misschien een beetje voor zijn, is er al een problematische stroom van verkeerde informatie die nog niet is opgelost. Valse informatie maakt tegenwoordig over het algemeen geen gebruik van AI of complexe technologie. Simpele trucs zoals het verkeerd labelen van inhoud om activisten in diskrediet te brengen of het verspreiden van valse informatie kunnen verwoestend effectief zijn, soms zelfs resulterend in dodelijk geweld, zoals gebeurde in Myanmar.
Met deze 'shallowfakes' bedoel ik de tienduizenden video's die momenteel wereldwijd met kwade bedoelingen circuleren - niet gemaakt met geavanceerde AI, maar vaak eenvoudig opnieuw gelabeld en opnieuw geüpload, waarbij wordt beweerd dat een evenement op de ene plaats net op een andere plaats is gebeurd, zei Gregory .
Hij zei bijvoorbeeld dat een video van een persoon die levend wordt verbrand, is hergebruikt en opnieuw is toegeschreven aan acteurs in Ivoorkust, Zuid-Soedan, Kenia en Birma, die telkens aanzetten tot geweld.
Een andere bedreiging was het toenemende idee dat we niets kunnen vertrouwen wat we zien, wat in de meeste gevallen gewoon niet waar is, zei Gregory. De verspreiding van dit idee is een zegen voor autoritairen en totalitairen over de hele wereld.
Een alarmistisch verhaal versterkt alleen de echte gevaren waarmee we worden geconfronteerd: plausibele ontkenning en de ineenstorting van vertrouwen, voegde hij eraan toe.
Mark Latonero, mensenrechtenleider bij Gegevens & Maatschappij , een non-profitorganisatie die zich toelegt op de toepassingen van data, was het ermee eens dat technologiebedrijven meer zouden moeten doen om dergelijke problemen aan te pakken. Hoewel Microsoft, Google, Twitter en anderen werknemers hebben die zich richten op mensenrechten, zei hij, was er zoveel meer dat ze zouden moeten doen voordat ze technologieën inzetten - niet daarna.
Dit is echt het moment voor bedrijven, onderzoekers en anderen om deze zeer sterke verbindingen met het maatschappelijk middenveld op te bouwen, en de verschillende landenkantoren waar uw producten kunnen worden gelanceerd, zei hij. Ga in gesprek met de mensen die het dichtst bij de problemen in deze landen staan. Bouw die allianties nu op. Als er iets misgaat - en dat zal ook gebeuren - kunnen we de basis leggen voor samenwerking en kennisuitwisseling.