Deepfake Amazon-medewerkers zaaien verwarring op Twitter. Dat is niet het probleem.

In een Amazon-magazijn in Bessemer, Alabama, wordt een spandoek getoond dat arbeiders aanmoedigt om te stemmen bij de arbeidsstemming. AP

Het nieuws: Voorafgaand aan een historische stemming die zou kunnen leiden tot de oprichting van de allereerste vakbond in een in de VS gevestigd Amazon-magazijn, verschenen er nieuwe Twitter-accounts die beweerden Amazon-werknemers te zijn. De profielen gebruikten deepfake-foto's als profielfoto's en twitterden een aantal behoorlijk lachwekkende, overdreven verdedigingen van de werkmethoden van Amazon. Ze leken niet echt, maar leidden toch tot verwarring bij het publiek. Stond Amazon echt achter hen? Was dit een of andere verschrikkelijke nieuwe social media-strategie tegen vakbonden? Het antwoord is vrijwel zeker niet, maar het gebruik van deepfakes in deze context wijst op een algemenere trend.

Het achtergrondverhaal: Er is een reden waarom deze nieuwe deepfake-profielen bekend leken. In 2018 begon Amazon een heel echt programma om het publiek ervan te overtuigen dat het zijn magazijnmedewerkers prima behandelde. Het zette computerstations op in die magazijnen en creëerde Twitter-accounts voor een kleine groep werknemers, bekend als Amazon FC Ambassadors, die tijdens betaalde uren konden tweeten over hoeveel ze van hun werk hielden. Het plan mislukte en leidde tot de oprichting van talrijke parodie ambassadeursaccounts op Twitter. Amazon heeft het programma kort daarna teruggeschroefd en veel van de oorspronkelijke echte accounts werden opgeschort of afgesloten, zegt Aric Toler, het hoofd van de opleidings- en onderzoeksinspanningen voor de onderzoeksjournalistieksite Bellingcat.

De laatste: Op maandag dook de nieuwe reeks ambassadeursaccounts op - althans, zo leek het. Maar toen mensen begonnen te onderzoeken, waren veel wees uit dat sommigen profielfoto's hadden met de veelbetekenende tekens van deepfake-gezichten, zoals kromgetrokken oorbellen en wazige achtergronden. Dat is wanneer dingen verwarrend werden.

Mensen begrepen snel het idee dat Amazon zelf achter de nieuwe deepfake-accounts zat als onderdeel van een anti-vakbondscampagne op sociale media. Het bedrijf vertelde later New York Times-verslaggever Karen Wise dat het niet zo was. Toler, die de originele accounts heeft gevolgd, gelooft dat Amazon de waarheid spreekt. De originele ambassadeursaccounts waren allemaal geregistreerd onder Amazon-e-mailadressen en gepost met Sprinklr. De nieuwe deepfake-accounts, die inmiddels zijn opgeschort, waren: geregistreerd met Gmail en geplaatst via de Twitter-webapp. Bovendien was de inhoud van de tweets duidelijk humoristisch bedoeld. Deze accounts waren waarschijnlijk gewoon meer parodieën gemaakt om Amazon te bespotten.

Maakt dit uit? In dit specifieke geval waarschijnlijk niet. Het is natuurlijk vrij ongevaarlijk, zegt Toler. Het is Amazon. Het gaat prima met ze. Maar het onthult een meer zorgwekkend probleem: dat deepfake-accounts op een gecoördineerde manier op sociale media of elders kunnen worden ingezet voor veel sinistere doeleinden. De meest kwaadaardige versie hiervan zouden statelijke actoren zijn, waarschuwt Toler.

Verwant verhaal

De strijd van twee jaar om te voorkomen dat Amazon gezichtsherkenning aan de politie verkoopt De verhuizingen van deze week van Amazon, Microsoft en IBM markeren een belangrijke mijlpaal voor onderzoekers en voorvechters van burgerrechten in een lange en voortdurende strijd over gezichtsherkenning bij wetshandhaving.

In feite zijn er al verschillende spraakmakende gevallen geweest waarin deepfake-foto's zijn gebruikt in schadelijke desinformatiecampagnes. In december 2019 identificeerde en haalde Facebook een netwerk van meer dan 900 pagina's, groepen en accounts , waaronder sommige met deepfaked profielfoto's, geassocieerd met de extreemrechtse outlet de Epoch Times, waarvan bekend is dat deze zich bezighoudt met desinformatietactieken. In oktober 2020 werd ook een nep-inlichtingendocument dat werd verspreid onder de kringen van president Trump en dat de basis werd voor tal van complottheorieën rond Hunter Biden, geschreven door een nep-beveiligingsanalist. met een deepfake profielafbeelding .

Toler zegt dat deepfake-gezichten een trend zijn geworden in zijn werk als open source-onderzoeker naar verdachte online activiteiten, vooral sinds de lancering van ThisPersonDoesNotExist.com, een website die bij elke vernieuwing een nieuw AI-gegenereerd gezicht biedt. Er is altijd een mentale checklist die je doorloopt als je iets vindt, zegt hij. De eerste vraag is 'Is deze persoon echt of niet?' Een vraag die we vijf jaar geleden niet echt hadden.

Hoe groot is dit gevaar? Op dit moment heeft het gebruik van deepfake-gezichten volgens Toler geen grote impact op zijn werk. Het is nog steeds relatief eenvoudig voor hem om te identificeren wanneer een profielafbeelding een deepfake is, net zoals het is wanneer de foto een stockfoto is. Het moeilijkste scenario is wanneer de afbeelding een echte persoon is die is opgehaald van een privé-account voor sociale media dat niet is geïndexeerd op zoekmachines voor afbeeldingen.

Een groeiend bewustzijn van deepfakes heeft mensen er ook toe aangezet om de media die ze zien nauwkeuriger te onderzoeken, zegt Toler, zoals blijkt uit hoe snel mensen de vervalsing van de Amazon-accounts ontdekten.

Maar Sam Gregory, de programmadirecteur van de mensenrechtenorganisatie Witness, zegt dat dit ons niet in een vals gevoel van veiligheid mag sussen. Deepfakes worden steeds beter, zegt hij: ik denk dat mensen een beetje te veel vertrouwen hebben dat het altijd mogelijk zal zijn om ze te detecteren.

Een hyperbewustzijn van deepfakes kan er ook toe leiden dat mensen stop met geloven in echte media , die even ernstige gevolgen kunnen hebben, zoals het ondermijnen van de documentatie van mensenrechtenschendingen.

Wat moeten we doen? Gregory moedigt gebruikers van sociale media aan om zich niet te fixeren op het feit of een afbeelding een deepfake is of niet. Vaak is dat maar een klein deel van de puzzel, zegt hij. De weggeefactie is niet dat je op de een of andere manier de afbeelding hebt ondervraagd. Het is dat je naar het account kijkt en het is een week geleden gemaakt, of het is een journalist die beweert een journalist te zijn, maar ze hebben nooit iets anders geschreven dat je kon vinden op een Google-zoekopdracht.

Deze onderzoekstactieken zijn veel robuuster voor de vooruitgang in deepfake-technologie. Het advies geldt ook voor de Amazon-zaak. Het was door het controleren van de e-mails van de accounts en tweetdetails dat Toler uiteindelijk vaststelde dat ze nep waren - niet door de profielafbeeldingen te onderzoeken.

zich verstoppen