Deepfake-brekende apps kunnen zelfs een enkele pixel op zijn plaats zien

Met dank aan Serelay





Het vervalsen van foto's en video's kostte vroeger veel werk. Of je gebruikte CGI om helemaal opnieuw fotorealistische afbeeldingen te maken (zowel uitdagend als duur) of je had wat beheersing van Photoshop nodig - en veel tijd - om bestaande afbeeldingen overtuigend aan te passen.

Nu heeft de komst van AI-gegenereerde beelden het voor iedereen gemakkelijker gemaakt om een ​​afbeelding of video aan te passen met verwarrend realistische resultaten. Eerder dit jaar, MIT Technology Review senior AI-redacteur Will Knight gebruikte kant-en-klare software om zijn eigen nepvideo van de Amerikaanse senator Ted Cruz te vervalsen. De video is een beetje glitchy, maar het zal niet lang duren.

Diezelfde technologie creëert een groeiende klasse van beeldmateriaal en foto's, deepfakes genaamd, die de potentie hebben om de waarheid te ondermijnen, kijkers te verwarren en onenigheid te zaaien op een veel grotere schaal dan we al hebben gezien met op tekst gebaseerd nepnieuws.



Dit zijn de mogelijkheden die Hany Farid, een professor in computerwetenschappen aan het Dartmouth College, storen die al 20 jaar valse beelden ontmaskert. Ik denk dat we er nog niet klaar voor zijn, waarschuwt hij. Maar hij hoopt dat een groeiend bewustzijn van het probleem en nieuwe technologische ontwikkelingen mensen beter kunnen voorbereiden om echte beelden te onderscheiden van gemanipuleerde creaties.

Een originele afbeelding van het Brasenose College van de Universiteit van Oxford. Met dank aan Serelay

Een voorbeeld van hoe de originele afbeelding kan worden bewerkt om de LGBTQ-regenboogvlag op het dak te verwijderen. Met dank aan Serelay



Er zijn twee manieren om de uitdaging van het verifiëren van afbeeldingen aan te pakken, legt Farid uit. De eerste is om te zoeken naar wijzigingen in een afbeelding. Forensische experts op het gebied van afbeeldingen gebruiken rekentechnieken om te bepalen of pixels of metadata gewijzigd lijken te zijn. Ze kunnen bijvoorbeeld zoeken naar schaduwen of reflecties die de wetten van de fysica niet volgen, of controleren hoe vaak een afbeeldingsbestand is gecomprimeerd om te bepalen of het meerdere keren is opgeslagen.

De tweede en nieuwere methode is om de integriteit van een afbeelding te verifiëren op het moment dat deze wordt gemaakt. Dit omvat het uitvoeren van tientallen controles om er zeker van te zijn dat de fotograaf de locatiegegevens en tijdstempel van het apparaat niet probeert te vervalsen. Bevestigen de coördinaten, tijdzone en hoogte van de camera en nabijgelegen wifi-netwerken elkaar allemaal? Breekt het licht in het beeld zoals bij een driedimensionale scène? Of maakt iemand een foto van een andere tweedimensionale foto?

Vooral deze tweede benadering is volgens Farid veelbelovend. Gezien de twee miljard foto's die dagelijks naar het web worden geüpload, denkt hij dat het kan helpen om afbeeldingen op grote schaal te verifiëren.



Met Serelay kunnen gebruikers verdachte foto's uploaden om te controleren of ze zijn gemanipuleerd. Het systeem voert een reeks controles uit om te bepalen waar eventuele wijzigingen zijn aangebracht. Met dank aan Serelay

Twee startups, het in de VS gevestigde Truepic (waar Farid voor raadpleegt) en het in het VK gevestigde Serelay, werken nu aan het commercialiseren van dit idee. Ze hebben vergelijkbare benaderingen gevolgd: elk heeft gratis camera-apps voor iOS en Android die eigen algoritmen gebruiken om automatisch foto's te verifiëren wanneer ze worden gemaakt. Als een afbeelding viraal gaat, kan deze worden vergeleken met het origineel om te controleren of deze zijn integriteit heeft behouden.

Terwijl Truepic de afbeeldingen van zijn gebruikers uploadt en op zijn servers opslaat, slaat Serelay een soort digitale vingerafdruk op door ongeveer honderd wiskundige waarden van elke afbeelding te berekenen. (Het bedrijf beweert dat deze waarden voldoende zijn om zelfs een bewerking van één pixel te detecteren en ongeveer te bepalen welk gedeelte van de afbeelding is gewijzigd.) Truepic zegt dat ze ervoor kiezen om de volledige afbeeldingen op te slaan voor het geval gebruikers om veiligheidsredenen gevoelige foto's willen verwijderen. (In sommige gevallen moeten Truepic-gebruikers die in scenario's met hoge dreiging werken, zoals een oorlogsgebied, de app onmiddellijk verwijderen nadat ze scènes hebben gedocumenteerd.) Serelay daarentegen is van mening dat het niet opslaan van de foto's gebruikers meer privacy biedt.



Serelay kan de ontbrekende vlag op de foto vangen en markeren. Met dank aan Serelay

Als een extra laag van vertrouwen en bescherming slaat Truepic ook alle foto's en metadata op met behulp van een blockchain - de technologie achter Bitcoin die cryptografie en gedistribueerde netwerken combineert om informatie veilig op te slaan en te volgen.

Het is niet kogelvrij, geeft Farid toe, en hij zegt dat er enkele nadelen zijn. Gebruikers moeten bijvoorbeeld de verificatiesoftware gebruiken in plaats van de camera-app op hun telefoon. Hij merkt ook op dat bedrijven die dit soort technologie proberen te commercialiseren, mogelijk voorrang geven aan het genereren van inkomsten boven beveiliging. Er is enig vertrouwen dat we stellen in de bedrijven die deze apps bouwen, zegt hij.

Maar er zijn ook mitigerende strategieën. Truepic en Serelay bieden beide softwareontwikkelingskits om hun technologie toegankelijk te maken voor platforms van derden. Hun idee is om op een dag van hun verificatietechnologie een industriestandaard te maken voor digitale camera's, waaronder die van Facebook, Snapchat of zelfs de eigen camera-app van Apple. In dat scenario zou een ongewijzigde afbeelding die op sociale media is gepost automatisch een vinkje kunnen krijgen, zoals een Twitter-verificatiebadge, om aan te geven dat deze overeenkomt met een afbeelding in hun database - een teken waarvan Serelay hoopt dat het de betrouwbaarheid zou vestigen.

De overgrote meerderheid van de inhoud die we online zien, is gemaakt met mobiele apparaten, zegt Farid. Er zijn eigenlijk een handvol camera's die dit soort technologie in hun systeem kunnen opnemen, en ik denk dat je een redelijk goede oplossing hebt.

Elke startup is nu in vroege gesprekken met socialemediabedrijven om de mogelijkheid van een partnerschap te onderzoeken, en Serelay maakt ook deel uit van een nieuw Facebook-acceleratorprogramma genaamd LDN_LAB.

Hoewel de technologie nog niet gangbaar is, moedigt Farid mensen aan om het standaard te gebruiken bij het documenteren van scenario's met hoge inzetten, of dat nu politieke campagnetoespraken zijn, mensenrechtenschendingen of bewijsstukken op een plaats delict. Truepic heeft al gezien dat burgers zijn app gebruiken om crises in Syrië te documenteren. Al Jazeera gebruikte vervolgens de geverifieerde beelden om te produceren meerdere videos . Beide bedrijven hebben hun technologie ook in de verzekeringssector op de markt gebracht als een geverifieerde manier om schade te documenteren.

Farid zegt dat het belangrijk is dat bedrijven die dit werk doen transparant zijn over hun processen en samenwerken met vertrouwde partners. Dat kan helpen het vertrouwen van de gebruiker te behouden en slechte acteurs weg te houden.

We hebben nog een weg te gaan om volledig voorbereid te zijn op de verspreiding van deepfakes, zegt hij. Maar hij is hoopvol. De technologie van het Truepic-type en de technologie van het Serelay-type zijn in goede staat, zegt hij. Ik denk dat we ons klaarmaken.

zich verstoppen