Het jaar waarin deepfakes mainstream werden

mevrouw Tech

In 2018 zei Sam Cole, een verslaggever bij Motherboard, ontdekt een nieuwe en verontrustende hoek van het internet. Een Reddit-gebruiker met de naam deepfakes plaatste nep-pornovideo's zonder wederzijds goedvinden met behulp van een AI-algoritme om de gezichten van beroemdheden om te zetten in echte porno. Cole sloeg alarm over het fenomeen, net toen de technologie op het punt stond te exploderen. Een jaar later was deepfake-porno tot ver buiten Reddit verspreid, met gemakkelijk toegankelijke apps die elke gefotografeerde vrouw zou kunnen uitkleden.

Sindsdien hebben deepfakes een slechte rap gehad, en terecht. De overgrote meerderheid van hen wordt nog steeds gebruikt voor neppornografie . Een vrouwelijke onderzoeksjournalist was ernstig lastiggevallen en tijdelijk het zwijgen opgelegd door dergelijke activiteit, en meer recentelijk, een vrouwelijke dichter en romanschrijver was bang en schaamde zich. Er is ook het risico dat politieke deepfakes overtuigend nepnieuws genereren dat grote schade kan aanrichten in onstabiele politieke omgevingen.

Maar naarmate de algoritmen voor het manipuleren en synthetiseren van media krachtiger zijn geworden, hebben ze ook aanleiding gegeven tot positieve toepassingen, evenals enkele die humoristisch of alledaags zijn. Hier is een overzicht van enkele van onze favorieten in een ruwe chronologische volgorde, en waarom we denken dat ze een teken zijn van wat komen gaat.

Klokkenluider afscherming

UW MEDIA

In juni, Welkom in Tsjetsjenië , een onderzoeksfilm over de vervolging van LGBTQ-personen in de Russische republiek, werd de eerste documentaire die deepfakes gebruikt om de identiteit van zijn onderdanen te beschermen. De activisten die tegen de vervolging vochten, die de hoofdpersonen van het verhaal waren, leefden ondergedoken om te voorkomen dat ze werden gemarteld of gedood. Na vele methoden te hebben onderzocht om hun identiteit te verbergen, besloot regisseur David France om hen deepfake-covers te geven. Hij vroeg andere LGBTQ-activisten van over de hele wereld om hun gezichten te lenen, die vervolgens werden geënt op de gezichten van de mensen in zijn film. Dankzij deze techniek kon Frankrijk de integriteit van de gezichtsuitdrukkingen van zijn proefpersonen behouden en daarmee hun pijn, angst en menselijkheid. In totaal beschermde de film 23 personen, waarmee een nieuwe vorm van klokkenluidersbescherming werd ontwikkeld.

Revisionistische geschiedenis

PANETTA EN BOURGONDI

In juli hebben twee MIT-onderzoekers, Francesca Panetta en Halsey Burgund, een project uitgebracht om een ​​alternatieve geschiedenis van de Apollo-maanlanding in 1969 te creëren. Genaamd In het geval van een maanramp , het maakt gebruik van de toespraak die president Richard Nixon zou hebben gehouden als de gedenkwaardige gelegenheid niet volgens plan was verlopen. De onderzoekers werkten samen met twee afzonderlijke bedrijven voor deepfake audio en video, en huurden een acteur in om de basisprestaties te leveren. Vervolgens lieten ze zijn stem en gezicht door de twee soorten software gaan en plakten ze aan elkaar tot een laatste deepfake Nixon.

Terwijl dit project laat zien hoe deepfakes krachtige alternatieve geschiedenissen kunnen creëren, laat een ander zien hoe deepfakes de echte geschiedenis tot leven kunnen brengen. In februari, Time magazine opnieuw gemaakt Martin Luther King Jr.'s March on Washington voor virtual reality om kijkers onder te dompelen in de scene. Het project maakte geen gebruik van deepfake-technologie, maar later van de Chinese techgigant Tencent citeerde het in een witboek over zijn plannen voor AI, waarin hij zegt dat deepfakes in de toekomst voor soortgelijke doeleinden kunnen worden gebruikt.

memes

MS TECH | NEURIPS (TRAININGSSET); HAO (met dank)

In de nazomer kreeg de memersphere eenvoudig te maken deepfakes en ontketende de resultaten in het digitale universum. Eén virale meme in het bijzonder, Baka Mitai genaamd (hierboven afgebeeld), schoot snel omhoog toen mensen leerden de technologie te gebruiken om hun eigen versies te maken. Het specifieke algoritme dat de waanzin aandrijft, kwam van: een onderzoekspaper uit 2019 waarmee een gebruiker een foto van het gezicht van een persoon kan animeren met een video van dat van iemand anders. Het effect is in geen enkel opzicht van hoge kwaliteit, maar het levert zeker kwaliteitsplezier op. Het fenomeen is niet geheel verrassend; spelen en parodiëren zijn een drijvende kracht geweest in de popularisering van deepfakes en andere mediamanipulatietools. Daarom benadrukken sommige experts de noodzaak van vangrails om te voorkomen dat satire overgaat in misbruik .

Sportadvertenties

Drukke schema's maken het moeilijk om beroemde sportsterren op de beste tijden in dezelfde kamer te krijgen. Midden in een lockdown is dat onmogelijk. Dus als je een commercial in LA moet filmen met mensen in quarantainebubbels in het hele land, is de enige optie om het te faken. In augustus plaatste de streamingsite Hulu een advertentie om de terugkeer van sport naar zijn service te promoten, met in de hoofdrol NBA-speler Damian Lillard, WNBA-speler Skylar Diggins-Smith en de Canadese hockeyspeler Sidney Crosby. We zien deze sterren hun zuurdesembakken opgeven en terugkeren naar hun sport, met basketballen en hockeysticks. Behalve dat we dat niet doen: de gezichten van die sterren werden met behulp van deepfake-technologie op body doubles geplaatst. Het algoritme is getraind op beelden van de spelers die via Zoom zijn vastgelegd. Computertrucs worden al jaren gebruikt om dit soort dingen te faken, maar deepfakes maken het makkelijker en goedkoper dan ooit, en dit jaar van remote alles heeft de tech een boost gegeven. Hulu was niet de enige. Andere adverteerders, waaronder ESPN , experimenteerde ook met deepfakes.

politieke campagnes

In september, tijdens de aanloop naar de Amerikaanse presidentsverkiezingen, bracht de onpartijdige belangengroep RepresentUs een paar deepfake-advertenties . Ze bevatten nepversies van de Russische president Vladimir Poetin en de Noord-Koreaanse leider Kim Jong-un die dezelfde boodschap afleverden: dat geen van beide zich met de Amerikaanse verkiezingen hoefde te bemoeien, omdat Amerika zelf zijn democratie zou ruïneren. Dit was niet het eerste gebruik van deepfakes tijdens een politieke campagne. In februari heeft de Indiase politicus Manoj Tiwari gebruikte deepfakes in een campagnevideo om het te laten lijken alsof hij Haryanvi sprak, het Hindi-dialect dat door zijn doelkiezers wordt gesproken. Maar RepresentUs draaide met name het script om op het typische verhaal rond politieke deepfakes. Terwijl experts zich vaak zorgen maken over het vermogen van de technologie om verwarring te zaaien en verkiezingen te verstoren, probeerde de groep precies het tegenovergestelde te doen: bewustmaking van kiezersonderdrukking om het stemrecht te beschermen en de opkomst te verhogen.

tv shows

Als deepfake-commercials en eenmalige stunts bekend beginnen te worden, vertrouw dan op de makers van South Park tot het uiterste te gaan. In oktober debuteerden Trey Parker en Matt Stone hun nieuwe creatie, Sassy Justitie , de eerste deepfake tv-show . De wekelijkse satirische show draait om het personage Sassy Justice, een lokale nieuwsverslaggever met een diep vervalst Trump-gezicht. Sassy interviewt deepfake figuren zoals Jared Kushner (met Kushners gezicht bovenop een kind) en Al Gore. Met Sassy Justitie , zijn deepfakes verder gegaan dan marketinggimmick of kwaadaardige misleiding om de culturele mainstream te raken. Niet alleen wordt de technologie gebruikt om de personages te creëren, maar het is ook het onderwerp van satire zelf. In de eerste aflevering onderzoekt Sassy Trump Justice, als consumentenadvocaat, de waarheid achter deepfake-nieuws.

zich verstoppen