Hier zijn vijf manieren waarop deepfake-busting-technologie averechts kan werken

Categorie: Verkiezingen 2020 Geplaatst 16 december

Deepfakes zijn een symbool geworden voor het einde van de waarheid en voor sommigen een potentieel hulpmiddel om verkiezingen te beïnvloeden. (Het maakt niet uit dat de meeste deepfakes nog steeds nepporno zijn.) Iedereen, van de Amerikaanse overheid tot technische giganten tot startups, probeert deepfake-busting-technologie te ontwikkelen. Maar een nieuw rapport vandaag uit van Witness , een non-profitorganisatie die synthetische media bestudeert, wijst erop hoe deze tools fout kunnen gaan.

De technieken: Gemanipuleerde video is geen nieuw probleem en er zijn tal van sociale problemen die zelfs de beste deepfake-detector niet kan oplossen. (Als we bijvoorbeeld weten dat een video is bewerkt, wordt niet automatisch de vraag beantwoord of deze verwijderd moet worden. Wat als het satire is?) Dat weerhoudt bedrijven als Amber Video, Truepic en eWitness er niet van om geverifieerde- at-capture of controlled-capture-technologieën. Deze gebruiken verschillende technieken om een ​​afbeelding of video te ondertekenen, geotags en tijdstempels te geven wanneer deze wordt gemaakt. In theorie maakt dit het gemakkelijker om te zien of er met de media is geknoeid.

Wat is het probleem? Het Witness-rapport beschrijft 14 verschillende manieren waarop deze technologieën uiteindelijk schadelijk kunnen worden. Enkele van de belangrijkste:

—De tools die worden gebouwd, kunnen worden gebruikt om mensen te surveilleren
—Technische beperkingen kunnen ervoor zorgen dat deze tools niet werken op plaatsen waar ze het meest nodig zijn (en degenen die oude hardware gebruiken, kunnen achterblijven)
—Gejailbreakte apparaten kunnen geen verifieerbaar materiaal vastleggen
—Bedrijven kunnen de gegevens verwijderen of individuen er geen controle over geven
—Meer verificatie vereisen voor media in de rechtbank kan het juridische proces langer en duurder maken

Dus wat kan er gedaan worden? Er is geen gemakkelijke oplossing voor deze problemen, zegt Sam Gregory, programmadirecteur van Witness. De bedrijven die deze technologieën bouwen, moeten deze vragen aanpakken en nadenken over de mensen die het meest waarschijnlijk schade zullen oplopen, voegt hij eraan toe. Het is ook mogelijk om op een meer ethische manier zelf synthetische mediatools te bouwen. Technologie-expert Aviv Ovadya heeft bijvoorbeeld ideeën voor het maken van verantwoorde deepfake-tools. Bedrijven kunnen hun best doen om na te gaan welke klanten hun tools mogen gebruiken en expliciet straffen voor degenen die hun normen overtreden. Allerlei soorten synthetische media zullen steeds gebruikelijker worden. Er zijn veel verschillende tactieken nodig om ons allemaal veilig te houden.