211service.com
Het maken van deepfake-tools hoeft niet onverantwoord te zijn. Hier is hoe.
Een door Facebook verspreid voorbeeld van twee vrouwen die koffie zetten: de ene is een deepfake. Facebook
Synthetische mediatechnologieën - in de volksmond bekend als deepfakes - hebben een reëel potentieel voor een positieve impact. Met stemsynthese kunnen we bijvoorbeeld met onze eigen stem in honderden talen spreken. Videosynthese kan ons helpen ongevallen met zelfrijdende auto's te simuleren om fouten in de toekomst te voorkomen. En tekstsynthese kan ons vermogen om zowel programma's als proza te schrijven versnellen.
Maar deze vooruitgang kan gigantische kosten met zich meebrengen als we niet oppassen: dezelfde onderliggende technologieën kunnen ook misleiding met wereldwijde gevolgen mogelijk maken.
Gelukkig kunnen we zowel de belofte van de technologie mogelijk maken als het gevaar ervan verkleinen. Het zal alleen wat moeite kosten.
Wat ik hier beargumenteer, is bedoeld als een oproep tot actie om dat werk te doen - en een gids om degenen onder ons te ondersteunen bij het maken van dergelijke technologie, of we nu baanbrekend onderzoek doen, nieuwe producten ontwikkelen of gewoon open- bronsystemen voor de lol. Dit geldt ook voor degenen die investeren in of financieren van dergelijk werk, de journalisten die ervoor kunnen zorgen dat technologiemakers hun impact serieus nemen, en de vrienden of familie van degenen die deze technologie hebben gemaakt.
We kunnen onze verantwoordelijkheid langer ontlopen door te zeggen dat we niets kunnen doen als mensen onze tools misbruiken. Omdat er dingen zijn die we kunnen doen; het is gewoon dat we ons er vaak niet druk om maken. Een ander argument, deze technologie zal toch gemaakt worden, is niet helemaal onjuist, maar het hoe en wanneer is belangrijk en kan veranderen als gevolg van onze keuzes. (Voor meer informatie hierover, inclusief wat modellering van bedreigingen, bekijk onze vol papier , met name sectie 2 over wat tot schade leidt.) Ten slotte kunnen we ons niet verschuilen achter de banale erkenning dat er altijd sprake is geweest van bedrog, terwijl we de significante verschillen in mate en impact negeren.
De kosten van deepfake-technologie zijn niet alleen theoretisch. Synthetische face-swap video's journalisten lastig vallen tot zwijgen ; synthetische stemmen worden gebruikt voor grote frauduleuze transacties , en synthetische gezichten hebben naar verluidt gesteunde spionage . Dat alles ondanks de huidige uitdagingen van het gebruik van gehackte software van bètakwaliteit. De obstakels voor het gebruik van synthetische media zijn nog steeds te groot om de technologie aantrekkelijk te maken voor de meeste kwaadwillende actoren, maar nu het van buggy-bèta's overgaat in de handen van miljarden mensen, hebben we de verantwoordelijkheid om te voorkomen dat het slechtste geval scenario's door het zo moeilijk mogelijk te maken om deepfakes voor het kwaad te gebruiken. Hoe?
Aanpak 1: Beperken wie een tool kan gebruiken ... en hoe
Er zijn verschillende dingen die we kunnen doen die kwaadaardig gebruik veel minder waarschijnlijk maken. Een voor de hand liggende, eenvoudige en effectieve aanpak is om: zorgvuldig doorlichten degenen die een hulpmiddel kunnen gebruiken. Dit vinden bedrijven leuk Synthesie doen – in wezen alleen werken met doorgelichte zakelijke klanten.
Een alternatief is om gebruik beperken : om te beperken wat gebruikers kunnen synthetiseren of manipuleren. Zo is het mogelijk om tools te bouwen die ervoor zorgen dat alleen bepaalde vooraf gekozen stemmen of gezichten gemanipuleerd kunnen worden. Dit is wat Humen , bijvoorbeeld doet: een beperkte reeks bewegingen bieden die de persoon in een gegenereerde video kan maken.
Deze zijn echter voor veel systemen misschien geen optie. Dus wat kan men nog meer doen?
Benadering 2: kwaadwillig gebruik ontmoedigen
Voor tools voor synthetische media die algemeen zijn en mogelijk algemeen beschikbaar worden gesteld, zijn er nog steeds veel manieren om kwaadwillend gebruik te verminderen. Hier zijn enkele voorbeelden.
- Duidelijke openbaarmaking: Verzoek dat gesynthetiseerde media duidelijk als zodanig worden aangegeven, met name materiaal dat kan worden gebruikt om te misleiden. Tools kunnen dit mogelijk ondersteunen door duidelijke visuele of hoorbare mededelingen in uitvoerbestanden op te nemen, zoals zichtbare waarschuwingen of gesproken mededelingen. Metadata moeten minimaal aangeven hoe media zijn gesynthetiseerd of gemanipuleerd.
- Toestemmingsbescherming: De toestemming vereisen van degenen die worden nagebootst. De tool voor het klonen van stemmen Liervogel vereist dat gebruikers bepaalde zinnen uitspreken om hun stem te modelleren. Dit maakt het moeilijker om iemand te imiteren zonder toestemming, wat heel goed mogelijk zou zijn als het gewoon stemmen zou genereren met behulp van een verstrekte dataset. Dit is natuurlijk alleen van toepassing op tools die imitatie mogelijk maken.
- Detectie vriendelijkheid: Zorg ervoor dat de gesynthetiseerde media niet buitengewoon moeilijk te detecteren zijn; detectietools up-to-date houden; samenwerken met degenen die aan detectie werken om hen op de hoogte te houden van nieuwe ontwikkelingen.
- Verborgen watermerken: Integreer context over synthese - of zelfs de originele media - door middel van robuuste watermerken, zowel met methoden die toegankelijk zijn voor iedereen met de juiste tools, als met benaderingen die geheim en moeilijk te verwijderen zijn. (Bijvoorbeeld, moduleren.ai watermerken audio die het genereert, terwijl producten zoals Imatag en hun open-source equivalenten maken watermerken voor afbeeldingen mogelijk.)
- Gebruikslogboeken: Bewaar informatie over gebruik en media-output op een manier waartoe onderzoekers en journalisten toegang hebben om te zien of bijvoorbeeld een video waarschijnlijk is gesynthetiseerd met een bepaalde tool. Dit kan het opslaan van tijdstempels van synthese met een robuuste hash of media-inbedding inhouden.
- Gebruiksbeperkingen: Bied en handhaaf contractuele gebruiksvoorwaarden die ongewenste acties verbieden en bestraffen, zoals pogingen om openbaarmakingen of watermerken te verwijderen, of het schenden van de toestemming van andere mensen. Een sterkere versie van deze benadering houdt in dat het toegestane gebruik van de technologie of de resulterende output expliciet wordt uitgewerkt.
Niet al deze strategieën zijn toepasbaar op elk systeem. Sommige hebben hun risico's, en geen enkele is perfect - of voldoende op zichzelf. Ze maken allemaal deel uit van een verdediging in de diepte, waar meer meer is. Zelfs als we controles of beperkingen hebben, maken deze benaderingen nog steeds een systeem robuuster tegen tegenstanders. En hoewel het volgen van deze regels misschien het beste werkt voor software-as-a-service-systemen, die worden geleverd zonder enige broncode te onthullen, kunnen ze toch enige waarde bieden voor open source-tools en -modellen: veel slechte actoren hebben niet de technische mogelijkheid om rond deze beschermende maatregelen. ( De volledige krant onderzoekt wanneer de broncode in de eerste plaats moet worden gepubliceerd).
Ondersteuning van ethische deepfake-tools
Extra werk doen om mensen te beschermen tegen schade kan in de huidige concurrerende zakelijke omgeving moeilijk te rechtvaardigen zijn - totdat er een onomkeerbare catastrofe plaatsvindt. Dus hoe zorgen we ervoor dat deze benaderingen worden geïmplementeerd voordat het te laat is? Hier zijn vier dingen die financiers, regeringen, journalisten en het publiek nu kunnen doen om degenen te ondersteunen die ethische synthetische media-instrumenten maken.
Maak het gemakkelijk om het juiste te doen
Dat betekent dat we moeten investeren in onderzoek naar al deze gebieden, zodat we breed beschikbare, goed gefinancierde, open source-tools hebben om deze benaderingen te implementeren. De geschiedenis van informatiebeveiliging laat zien dat wanneer gebruiksvriendelijke open source-tools kunnen worden gebruikt om dingen veilig te houden, er veel meer dingen veilig worden. Dezelfde logica is hier van toepassing: we moeten het op zijn minst dringend gemakkelijk maken om gestandaardiseerde metadata voor openbaarmakingen, watermerken en logging te verstrekken. We hebben ook onderzoek nodig om te onderzoeken of het haalbaar is om detecteerbaarheid in getrainde modellen te bakken voordat ze worden verspreid. Zonder dit soort infrastructuur en onderzoek zullen we zien dat veel goedbedoelde nieuwe tools op gruwelijke manieren worden gebruikt.
Expertise bevorderen in het verminderen van misbruik
Net als bij privacy en beveiliging, moeten we gemeenschappen ondersteunen die gericht zijn op het versterken van systemen en het aanpakken van slechte actoren, en bedrijven moeten mensen betalen om dit werk te doen, hetzij als adviseurs of in-house.
Vermijd het financieren, bouwen en distribueren van onverantwoordelijke tools
Als een bedrijf of tool niet op zijn minst probeert de kans op misbruik te verkleinen, zouden financiers en ontwikkelaars het niet moeten ondersteunen. Toolmakers die de hierboven genoemde best practices niet implementeren, moeten zeer goede redenen hebben, en app-winkels zouden ze standaard moeten eisen.
Creëer normen door mensen verantwoordelijk te houden
Als ze nalatig zijn, zouden we ze moeten waarschuwen, zelfs als ze onze deelnemingen, collega's, vrienden of familie zijn. We kunnen ethische normen creëren door degenen die het juiste doen te prijzen en degenen die dat niet doen te stimuleren het beter te doen.
Organisaties die deepfake-technologie bevorderen, zoals Nvidia, Adobe, Facebook en Google, zouden zwaar moeten investeren in al het bovenstaande. Durfkapitalisten en stichtingen moeten ook hun steentje bijdragen om dit werk te ondersteunen en voorzichtig te zijn met wie ze steunen.
Dit is slechts een deel van een veel bredere reeks inspanningen die nodig zijn, en in veel gevallen kunnen ze ons slechts een beetje meer tijd opleveren. Dat betekent dat het absoluut noodzakelijk is ervoor te zorgen dat platforms en beleidsmakers die tijd verstandig gebruiken om ons informatie-ecosysteem veerkrachtiger te maken.
Ons verleden is bezaaid met mensen die wensten dat ze hun uitvindingen zorgvuldiger hadden geïntroduceerd - en we hebben maar één toekomst. Laten we het niet verknoeien.
—Aviv Ovadya is de oprichter van de Doordacht technologieproject en een niet-ingezeten fellow bij de Alliance for Securing Democracy van het German Marshall Fund. Zie het volledige artikel over het verminderen van negatieve effecten van onderzoek naar synthetische media, co-auteur met Jess Whittlestone, hier .