Mensen verhuren hun gezicht om deepfake-achtige marketingklonen te worden

Uur één

Zoals veel studenten heeft Liri verschillende deeltijdbanen gehad. Als 23-jarige in Israël doet ze serveersters en bartending-optredens in Tel Aviv, waar ze naar de universiteit gaat.

Ze verkoopt ook auto's, werkt in de detailhandel en voert sollicitatiegesprekken en onboarding-sessies voor nieuwe medewerkers als HR-vertegenwoordiger voor bedrijven. In Duitsland.

Verwant verhaal

Het jaar waarin deepfakes mainstream werden In 2020 begonnen AI-synthetische media zich te verwijderen van de donkere hoeken van het internet.

Liri kan met zoveel banen jongleren, in meerdere landen, omdat ze haar gezicht heeft verhuurd aan Hour One, een startup die de gelijkenissen van mensen gebruikt om AI-stempersonages te creëren die vervolgens verschijnen in marketing- en educatieve video's voor organisaties over de hele wereld. Het maakt deel uit van een golf van bedrijven herziening van de manier waarop digitale inhoud wordt geproduceerd . En het heeft grote gevolgen voor de menselijke arbeidskrachten .

Liri doet haar serveerster- en barwerk persoonlijk, maar ze heeft geen idee wat haar digitale klonen van plan zijn. Het is absoluut een beetje vreemd om te denken dat mijn gezicht kan verschijnen in video's of advertenties voor verschillende bedrijven, zegt ze.

Hour One is niet het enige bedrijf deepfake tech mainstream nemen , gebruiken om mash-ups van echt beeldmateriaal en AI-gegenereerde video te produceren. Sommigen hebben professionele acteurs gebruikt om leven toevoegen aan deepfake persona's . Maar Hour One vraagt ​​niet om bepaalde vaardigheden. Je moet alleen bereid zijn om de rechten op je gezicht te overhandigen.

Karakter gedreven

Hour One bouwt een pool op van wat het personages noemt. Het zegt dat er tot nu toe ongeveer 100 in zijn boeken staan, en er komen er elke week meer bij. We hebben een rij van mensen die dolgraag deze karakters willen worden, zegt Natalie Monbiot, hoofd strategie van het bedrijf.

Iedereen kan zich aanmelden om een ​​personage te worden. Net als een modellenbureau filtert Hour One door sollicitanten en selecteert de kandidaten die het wil in zijn boeken. Het bedrijf streeft naar een brede steekproef van personages die de leeftijden, geslachten en raciale achtergronden van mensen in de echte wereld weerspiegelen, zegt Monbiot. (Momenteel is ongeveer 80% van de personages jonger dan 50 jaar, 70% is vrouwelijk en 25% is wit.)

Om een ​​personage te creëren, gebruikt Hour One een 4K-camera met hoge resolutie om een ​​persoon te filmen die praat en verschillende gezichtsuitdrukkingen maakt voor een groen scherm. En dat is het dan voor het menselijke deel van de voorstelling. Door de resulterende gegevens in AI-software te steken die op dezelfde manier werkt als deepfake-technologie, kan Hour One een eindeloze hoeveelheid beeldmateriaal genereren van die persoon die zegt wat hij wil, in elke taal.

Het AI-personage dat Hour One heeft gemaakt met Liri's gezicht

De klanten van Hour One betalen het bedrijf om zijn personages te gebruiken in promotionele of commerciële video's. Ze selecteren een gezicht, uploaden de tekst die ze willen en krijgen een video terug van wat eruitziet als een echte persoon die dat script aan een camera levert. De snelste service maakt gebruik van tekst-naar-spraaksoftware om synthetische stemmen te genereren, die worden gesynchroniseerd met de mondbewegingen en gezichtsuitdrukkingen van de personages. Hour One biedt ook een premium service waarbij de audio wordt opgenomen door professionele stemacteurs. Deze stemmen worden weer aangepast aan de bewegingen van het personage in de video. Hour One zegt dat het meer dan 40 klanten heeft, waaronder vastgoed-, e-commerce-, digitale gezondheids- en entertainmentbedrijven. Een belangrijke klant is Berlitz, een internationale talenschool die door docenten geleide videocursussen voor tientallen talen aanbiedt.

Volgens Monbiot wilde Berlitz het aantal aangeboden video's vergroten, maar worstelde om dit te doen met behulp van echte menselijke acteurs. Ze moesten productieploegen hebben die steeds weer dezelfde opstelling maakten met dezelfde acteur, zegt ze: Ze vonden het echt onhoudbaar. We hebben het over duizenden video's.

Berlitz werkt nu met Hour One om binnen enkele minuten honderden video's te genereren. We vervangen de studio, zegt Monbiot. Een mens hoeft zijn tijd niet te verdoen met filmen.

Verwant verhaal

Deepfake-porno verpest het leven van vrouwen. Nu kan de wet het eindelijk verbieden.

Na jaren van activisten die vechten om de slachtoffers van op afbeeldingen gebaseerd seksueel geweld te beschermen, dwingen deepfakes de wetgevers eindelijk om op te letten.

Een ander vroeg voorbeeld van de technologie in actie is: Alice receptioniste , een bedrijf dat bedrijven een avatar op een scherm biedt om vragen van bezoekers af te handelen, ter vervanging van de rol van een menselijke receptioniste op een aantal fysieke locaties in de VS. Hour One werkt samen met Alice Receptionist om de videobeelden van menselijke acteurs bij te werken, zodat de digitale receptionisten verschillende dingen in verschillende talen kunnen zeggen zonder uren aan video opnieuw te hoeven opnemen.

Liri ontvangt, net als iedereen in de boeken van Hour One, een microbetaling elke keer dat een klant een licentie geeft voor een video waarin haar gezicht wordt gebruikt. Monbiot wil niet precies zeggen hoe groot deze betalingen zijn, behalve dat het dollars zijn, geen centen. Ik kan niet zeggen dat iemand hier tegenwoordig de kost mee verdient, zegt ze. Maar we denken dat als alles goed gaat, het een haalbare manier zal zijn om een ​​inkomen te verdienen.

Door de noodzaak voor filmploegen, studiotechnici en - op een paar minuten na - acteurs weg te nemen, is de technologie van Hour One een zegen voor bedrijven die videoproductie willen opschalen, ook al biedt het een beetje gemakkelijk geld aan een handvol van mensen zoals Liri. Maar sommigen maken zich zorgen over de implicaties voor de toekomst van werk.

Rollen veranderen

Dit lijkt een vrij extreem geval van technologie die de rol van de mens in een bepaald werkproces terugschroeft, zegt Jessie Hammerling van het Center for Labor Research and Education aan de University of California, Berkeley, die de impact van nieuwe technologieën op werk bestudeert. Automatisering elimineert menselijke rollen niet altijd volledig, maar het verandert die rollen wel op manieren die van invloed zijn op het vermogen van mensen om een ​​eerlijk loon te verdienen of van een baan een langetermijncarrière te maken, zegt ze.

Hammerling merkt op dat het toestaan ​​van bedrijven om eenmalige beelden van acteurs te hergebruiken voor meerdere videoprojecten, de beschikbaarheid van dit soort acteerwerk zal verminderen. Volgens SAG-AFTRA, een vakbond voor Amerikaanse film-, televisie- en radioartiesten, doen veel acteurs promotie- en marketingwerk voor klanten zoals degenen die nu met Hour One werken.

SAG-AFTRA zegt dat het belangrijk is dat mensen die hun beeltenis verhuren aan bedrijven als Hour One, controle kunnen houden over hoe die beeltenis wordt gebruikt.

Voor veel talent zijn hun beeltenissen waardevolle bezittingen die een goede bescherming en vergoeding voor hun gebruik rechtvaardigen, zegt een vakbondswoordvoerder. Het risico bestaat dat ze in inhoud worden geplaatst waar ze bezwaar tegen hebben of die in strijd is met ander werk.

Hour One lijkt dit goed te doen. Het bedrijf laat mensen niet inspraak hebben in hoe hun beeltenis zal worden gebruikt of welke woorden ze in de mond zullen worden gestopt, maar het heeft een ethisch beleid dat specificeert dat het niet zal werken met bepaalde industrieën. We zijn behoorlijk conservatief over het soort bedrijven waarmee we werken, zegt Monbiot. Dat betekent geen gokken, geen seks en geen politiek.

Liri maakt zich niet al te veel zorgen. Ze zegt dat ze erop vertrouwt dat uur één haar gezicht niet gebruikt voor iets waardoor ze zich ongemakkelijk zou kunnen voelen. Ze raadde het optreden zelfs aan bij haar vrienden. Ik heb vrienden gehad die me video's stuurden waarin ze mijn gezicht hadden gezien, wat heel vreemd aanvoelde, zegt ze. Plots realiseerde ik me dat dit ding echt is.

zich verstoppen