211service.com
Memers maken deepfakes en dingen worden raar
Rechtsonder: ik ben het. mevrouw Tech | NeurIPS (trainingsset); Ha (beleefdheid)
Grace Windheim had al eerder van deepfakes gehoord. Maar ze had er nooit over nagedacht hoe ze er een moest maken. Het was een virale meme die de technologie gebruikte die haar ertoe bracht de mogelijkheid te onderzoeken - en ontdekte dat het supergemakkelijk en volledig gratis was.
Binnen een dag had ze gemaakt een stapsgewijze YouTube-tutorial anderen door het proces te leiden. Het maken van zo'n deepfakes en overlappende audio is niet zo ingewikkeld als je misschien denkt, zegt ze in de video, die op 4 augustus werd gepubliceerd. Het is sindsdien meer dan 360.000 keer bekeken.
Windheim maakt deel uit van een nieuwe groep online makers die met deepfakes spelen terwijl de technologie steeds toegankelijker wordt en in de internetcultuur sijpelt. Het fenomeen is niet verrassend; tools voor mediamanipulatie hebben vaak grip gekregen door: spelen en parodiëren . Maar het roept ook nieuwe zorgen op over het potentieel voor misbruik.
Deepfakes zijn al gebruikt om vrouwen lastig te vallen door hun gezichten zonder wederzijds goedvinden om te wisselen in pornovideo's. Geleerden maken zich ook zorgen over hun vermogen om verkiezingen te verstoren. Hoewel de deepfakes die voor memes zijn gemaakt nog steeds duidelijk nep en relatief ongevaarlijk zijn, zullen ze misschien niet lang zo blijven.
Er is een dunne lijn tussen het gebruik van deepfakes voor entertainment en memes, en het gebruik ervan voor schade, zegt Windheim. In deze tutorial zeg ik: 'Dit is hoe je deze specifieke deepfake maakt.' Maar het enge aan het script is dat het gewoon kan worden toegepast om elk type deepfake te maken dat je wilt.
Ik ben een dwaas geweest
Windheim, een recent afgestudeerde, werkt als contentmaker bij de in San Francisco gevestigde startup Kapwing. Het bedrijf, dat begon als meme-maker, biedt een gratis suite met browsergebaseerde softwaretools voor videobewerking. Als onderdeel van haar werk runt Windheim het YouTube-kanaal en produceert ze contentmarketingvideo's om de mogelijkheden van de producten te laten zien.
Begin augustus stuitte ze op een bijzonder virale zoekterm op Google Trends. Drie van de vijf meest gestelde vragen gingen over een Baka Mitai deepfake meme. Ik zie een vraag bijna nooit zo vaak voorkomen, zegt ze.
De meme, zo blijkt, was gebaseerd op: een video van een YouTuber die lipsynchroniseert naar een Japans videogamenummer genaamd Baka Mitai (vertaling: I've Been a Fool). Verschillende internetgebruikers hadden de video gebruikt om waardeloze deepfakes te maken van iedereen van Barack Obama naar Thanos het zingen van het lied. Ondanks zijn populariteit ontdekte Windheim echter dat er weinig was geschreven over hoe het daadwerkelijk te maken. Ze zag een kans.
Het specifieke deepfake-algoritme dat mensen gebruikten, komt van a onderzoekspaper uit 2019 gepresenteerd op NeurIPS, de grootste jaarlijkse AI-onderzoeksconferentie. In tegenstelling tot andere, complexere algoritmen, kan een gebruiker elke video van het gezicht van een persoon maken en deze gebruiken om een foto van het gezicht van iemand anders te animeren met slechts een paar regels code.
Windheim vond het open-source algoritme in een YouTube-tutorial en porteerde het naar een Google Colab-notebook, een gratis service voor het uitvoeren van code in de cloud. Na een paar pogingen, geholpen door de vaardigheden die ze had opgedaan in de af en toe een codeerles op de universiteit, kreeg ze het script om een deepfake-video uit te spugen. Vervolgens synchroniseerde ze het nummer met de video met de tools van Kapwing en creëerde zo een nieuwe versie van de meme.
Sinds ze gepost heeft haar tutorial op het YouTube-kanaal van Kapwing hebben een aantal andere YouTubers ook tutorials gemaakt met hetzelfde kopieer-en-plak-algoritme. Het verschil: velen van hen leren hun publiek hoe ze moeten maken ieder een soort deepfake-meme. Men leert zelfs mensen hoe maak je ze op mobiel .
Deze memes verschijnen nu overal op sociale media: op Twitter, Instagram en vooral TikTok. De korte video's van het platform, die vaak een pittige choreografie bevatten op aanstekelijke muziek, zijn vooral bevorderlijk voor deepfak met een betoverend effect. De hashtag #deepfake in de app is al meer dan 120 miljoen keer bekeken.
@lemonjezus
@helltaker03
De gezichten in de video's die met dit algoritme zijn gemaakt, hebben een veelbetekenende wankelheid, waardoor het handwerk ervan gemakkelijk te herkennen is; dat hoort bij de humor van de deepfakes. Deze onvolkomenheden - en de surrealistische kwaliteit van de memes - zal voorkomen dat ze verward worden met de realiteit. Op dit moment zijn meer hyperrealistische deepfakes veel technisch uitdagender en rekenkundig duurder om te maken.
Maar met het tempo waarin de technologie vordert, liggen er waarschijnlijk gemakkelijk te maken deepfakes die bijna niet van de realiteit te onderscheiden zijn om de hoek. Sommige bedrijven, zoals de Chinese technologiegigant Tencent, eigenaar van WeChat, hebben publiekelijk aangekondigd van plan te zijn meer middelen te investeren in de stand van de techniek voor commerciële toepassingen .
Deepfakes zijn niet per se slecht. De technologie is al gebruikt door kunstenaars, onderwijzers en anderen als een krachtig nieuw hulpmiddel voor creatieve expressie. In februari gebruikte het tijdschrift Time bijvoorbeeld deepfakes om de ervaring van Martin Luther King Jr. het houden van zijn I Have a Dream-speech in virtuele realiteit. Uiteindelijk moeten regelgevers bepalen wat gepast gebruik is en wat tot schade kan leiden.
Voorlopig vertrouwt Windheim op haar eigen oordeel om die beslissing te nemen. Voordat ze haar video plaatste, las ze over de implicaties van deepfakes en had ze een gesprek met haar collega's. We zijn nooit van plan om met onze producten gebruikers te helpen verkeerde informatie te verspreiden, zegt ze, dus we wilden onszelf gewoon eens goed nakijken.
Uiteindelijk besloten ze tot enkele basisregels: ze zouden hun tutorials richten op het maken van specifieke memes, nooit op het maken van deepfakes buiten die context. Zolang het entertainment is en binnen de meme-cultuur, zegt ze, zitten we in de duidelijke zone.