Vergeet nepnieuws - bijna alle deepfakes worden gemaakt voor porno

Categorie: Technisch beleid Geplaatst 07 okt

Het internet is de thuisbasis van minstens 14.678 deepfakes, volgens a nieuw rapport van DeepTrace , een bedrijf dat tools bouwt om synthetische media te herkennen. Maar de meeste van hen zijn niet gemaakt om met verkiezingen te knoeien.

Terug naar het begin: Deepfakes arriveerden eind 2017 op het toneel. Het woord werd oorspronkelijk gebruikt om te beschrijven AI-gegenereerde nepporno , met de hoofden van actrices op de lichamen van volwassen filmsterren. Sindsdien is de betekenis van deepfakes uitgebreid om te verwijzen naar elke vorm van gemanipuleerde video, zoals een video waarin Mark Zuckerberg een neptoespraak over Facebook houdt. Dit heeft de angst aangewakkerd over het einde van de waarheid en het potentieel van deepfakes om verkiezingen te beïnvloeden.

Het internet is voor porno: Uit het rapport bleek dat de meeste video's niet gaan over het proberen de politiek te beïnvloeden. Maar liefst 96% van de deepfakes waren nog steeds gewoon oude nepporno. Deepfake-pornografie is een fenomeen dat zich uitsluitend richt op en schade toebrengt aan vrouwen, schrijven de auteurs. Alle nepporno bevatte vrouwen, meestal beroemde actrices en muzikanten. (De overige niet-pornografische deepfakes op YouTube waren voornamelijk mannen.) Het aantal zelf is niet zo hoog, maar het is zorgwekkend dat het zo snel groeit.

Terugvechten met de wet: De kwestie heeft de aandacht van wetgevers getrokken. In Californië, gouverneur Gavin Newsom net ondertekend in de wet twee rekeningen die beperken wat mensen kunnen doen met deepfakes. Eén wet maakt het illegaal om binnen twee maanden na een verkiezing een kwaadaardige deepfake van een politicus te maken en te verspreiden. (De ACLU en Electronic Frontier Foundation hebben al teruggeduwd en zeiden dat de wet is te breed en zal politieke spraak schaden .) De tweede deepfake wet komt dichter bij hoe de manipulaties werkelijk worden gebruikt. Het laat mensen aanklagen als hun foto wordt zonder toestemming gebruikt in deepfake-porno .