211service.com
Een AI-app die vrouwen uitkleedt, laat zien hoe deepfakes de meest kwetsbaren schaden
Een afbeelding van een vrouw met haar lichaam wazig Mevr. Tech/ Originele afbeelding: Getty
De aandacht rond deepfakes en synthetische media is de afgelopen maanden gegroeid. Maar hoewel het gesprek vooral ging over de mogelijke impact op de politiek, hebben verschillende deskundigen op het gebied van mensenrechten en technische ethiek gewaarschuwd dat er nog een ander potentieel kwaad over het hoofd is gezien: de mogelijk verwoestende gevolgen voor vrouwen en andere kwetsbare bevolkingsgroepen die het doelwit zijn van de technologie, maar niet kunnen zichzelf beschermen.
Nu speelt het nieuwste deepfake-experiment - een app genaamd DeepNude die foto's van vrouwen uitkleedde - die nachtmerries uit. Voor het eerst gemeld door Vice , het gebruikte generatieve vijandige netwerken, of GAN's, om de vrouwenkleren te ruilen voor zeer realistische naakte lichamen. Het artikel veroorzaakte al snel een virale reactie en de maker van de app sloot het af.
De DeepNude-app bewijst onze grootste angst over de unieke manier waarop audiovisuele hulpmiddelen tegen vrouwen kunnen worden gebruikt, zegt Mutale Nkonde, een fellow bij het Data & Society Research Institute, die een wetsvoorstel adviseerde dat in het Congres werd ingediend door vertegenwoordiger Yvette Clarke en dat mechanismen zou creëren voor slachtoffers van dergelijke kwaadaardige deepfakes om juridische middelen te zoeken voor reputatieschade.
De app was specifiek gericht op vrouwen. Vice ontdekte dat de software alleen afbeeldingen van het vrouwelijk lichaam genereerde, zelfs als er een foto van een man werd gegeven. De anonieme maker bevestigde dat hij het GAN-algoritme alleen had getraind op naaktfoto's van vrouwen - in dit geval meer dan 10.000 - omdat ze gemakkelijker online te vinden waren. Hij was echter ook van plan om op termijn een mannelijke versie te maken.
Hoewel de deepfakes niet de werkelijke lichamen van de vrouwen afbeeldden - ze zijn volledig gesynthetiseerd door het algoritme - hadden ze nog steeds het potentieel om aanzienlijke emotionele en reputatieschade te veroorzaken. De afbeeldingen kunnen gemakkelijk voor echt worden aangezien en worden gebruikt als wraakporno of een krachtig hulpmiddel om vrouwen het zwijgen op te leggen. In feite is dit eerder gebeurd: a vrouwelijke journalist in India had haar gezicht geënt op een pornovideo nadat ze corruptie bij de overheid begon bloot te leggen. Het ging meteen viraal en onderwerpde haar aan intense intimidatie en verkrachtingsbedreigingen, en ze moest enkele maanden offline gaan.
Deepfakes zijn geen nieuwe bedreiging; gemanipuleerde media bestonden al lang voor AI. Maar de technologie heeft bestaande trends versneld en verbreed, zegt Sam Gregory, programmadirecteur van de non-profitorganisatie voor mensenrechten, Witness. Algoritmen hebben het voor veel meer mensen veel gemakkelijker gemaakt om steeds overtuigender nepmedia te genereren. Dus alles waarvoor mensen in het verleden gemanipuleerde media gebruikten, zoals journalisten aanvallen, corruptie impliceren of bewijs versluieren, zal steeds gewoner worden en gevaarlijk moeilijk te detecteren.
De app is niet anders, zegt hij. Het op beelden gebaseerde seksuele misbruik van vrouwen bestond al als een probleem. Nu voegen deepfakes brandstof toe aan de vlammen.
Volgens dezelfde logica maakt Nkonde zich zorgen dat vrouwen niet de enige kwetsbare doelen van deepfakes zullen zijn. Minderheden, LHBTQ-mensen en andere groepen die vaak het slachtoffer zijn van de meest ernstige online intimidatie, zullen waarschijnlijk ook het slachtoffer worden, hoewel misschien op verschillende manieren. Tijdens de Amerikaanse presidentiële campagne van 2016, bijvoorbeeld, hebben Russische agenten gebruikte nep-Afrikaans-Amerikaanse persona's en gerelateerde afbeeldingen als onderdeel van een Facebook-desinformatiecampagne om de raciale spanningen tussen Amerikanen te vergroten.
Dit was een nieuwe manier om kiezers te onderdrukken, en het was door de identiteit van mensen online te verduisteren, zegt Nkonde. Deepfake-technologie zou een ander natuurlijk hulpmiddel zijn voor kwaadwillende actoren die zich voordoen als mensen die ze niet zijn om gemeenschappen te verstoren en anderszins schade aan te richten.
Dus waar gaan we heen vanaf hier? Zowel Nkonde als Gregory hebben in het verleden soortgelijke aanbevelingen met MIT Technology Review gedeeld: bedrijven en onderzoekers die tools voor deepfakes produceren, moeten ook investeren in tegenmaatregelen, en sociale-media- en zoekbedrijven moeten die tegenmaatregelen rechtstreeks in hun platforms integreren. Nkonde dringt er bij toezichthouders ook op aan snel te handelen. Tenzij de overheid een manier vindt om de rechten van consumenten te beschermen, zullen dit soort apps zich snel verspreiden, zegt ze.
Technologie is niet neutraal, zegt Gregory. Deze [DeepNude]-app is niet voor tweeërlei gebruik. Het is voor eenmalig gebruik voor een kwaadaardig doel en het wordt amoreel gecreëerd.
We moeten ons echt concentreren op de ethiek van het creëren en delen van generatieve mediatools, voegt hij eraan toe. We zouden dit herhaaldelijk moeten aankaarten.