Een AI-app die je in een filmster verandert, heeft de privacy van miljoenen in gevaar gebracht

Categorie: Kunstmatige intelligentie Geplaatst 04 september

ZAO, een virale Chinese app die AI gebruikt om gebruikers en beroemde acteurs van gezicht te wisselen, is nu verwikkeld in een grote privacycontroverse.

Het nieuws: Op vrijdag ging een nieuwe app, uitgebracht door Momo, een ontwikkelaar van sociale media, onmiddellijk viraal op Chinese sociale media. Hiermee kunnen gebruikers een enkel portret uploaden en binnen enkele seconden hun gezicht over elkaar heen zien op acteurs in iconische filmscènes. Tegen zondag was het word de meest gedownloade gratis entertainment-app in de Chinese Apple Store.

AI-fake: Het is de nieuwste - en misschien wel meest indrukwekkende - toepassing van generatieve vijandige netwerken, of GAN's, de AI-algoritmen achter deepfakes. Hoewel GAN's eerder zijn gebruikt voor gezichtsbewerking en gezichtswisseling (steeds vaker in Hollywood-films), laat ZAO's gebruik van een enkele foto, in combinatie met de snelheid en naadloosheid van de wissel, zien hoe ver de stand van de techniek op het gebied van media-fake is gevorderd.

De controverse: Binnen enkele uren na de release begon ZAO privacyzorgen te wekken, met name over een clausule in de gebruikersovereenkomst die ontwikkelaars het recht gaf om alle geüploade foto's voor altijd gratis te gebruiken. Het stelde hen ook in staat om dat recht over te dragen aan een derde partij zonder toestemming van de gebruiker. Juridische experts in China zeiden dat dat niet legaal was en tegen zaterdag had de ontwikkelaar van de app onder druk gezwicht en de clausule verwijderd. WeChat, China's beste app voor sociale netwerken, verbood ook het delen van beeldmateriaal of foto's van ZAO.

Al gezien: De aflevering herhaalde een soortgelijke controverse over FaceApp, een app voor het bewerken van foto's die in juli viraal ging. De app gebruikte ook GAN's om de portretten van mensen te retoucheren en had sinds de lancering meer dan 150 miljoen foto's van gezichten verzameld. ZAO kreeg een veel snellere en scherpere reactie, maar het was waarschijnlijk ook al door miljoenen gebruikers gebruikt tegen de tijd dat het zijn beleid herzag. Aan de ene kant laat de frequentie van dergelijke incidenten zien hoe gemakkelijk de persoonlijke gegevens van een gebruiker nu kunnen worden gecoöpteerd en hergebruikt buiten zijn of haar controle. Aan de andere kant laat het zien dat mensen ook gevoeliger zijn geworden voor privacy en minder bereid zijn om het zonder slag of stoot op te geven.

Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.