Google heeft een tool uitgebracht om vervalste en bewerkte afbeeldingen te herkennen

Categorie: Kunstmatige intelligentie Geplaatst 05 februari

Jigsaw, een technologie-incubator bij Google, heeft vrijgegeven een experimenteel platform genaamd Assembler om journalisten en eerstelijns factcheckers te helpen snel afbeeldingen te verifiëren.

Hoe het werkt: Assembler combineert meerdere bestaande technieken in de academische wereld voor het detecteren van veelgebruikte manipulatietechnieken, waaronder het wijzigen van de helderheid van het beeld en het ergens anders plakken van gekopieerde pixels om iets te verdoezelen met behoud van dezelfde visuele textuur. Het bevat ook een detector die deepfakes detecteert van het type dat is gemaakt met StyleGAN, een algoritme dat realistische denkbeeldige gezichten kan genereren. Deze detectietechnieken worden verwerkt in een hoofdmodel dat gebruikers vertelt hoe waarschijnlijk het is dat een afbeelding is gemanipuleerd.

Waarom het uitmaakt: Valse afbeeldingen zijn een van de moeilijkere dingen om te verifiëren, vooral met de opkomst van manipulatie door kunstmatige intelligentie. De kans voor journalisten en factcheckers om te reageren wordt ook snel kleiner, aangezien desinformatie zich snel en op grote schaal verspreidt.

Geen wondermiddel: Assembler is een goede stap in het bestrijden van gemanipuleerde media, maar het dekt niet veel andere bestaande manipulatietechnieken, inclusief die voor video, die het team moet toevoegen en bijwerken naarmate het ecosysteem zich blijft ontwikkelen. Het bestaat ook nog steeds als een apart platform van de kanalen waar gemanipuleerde afbeeldingen gewoonlijk worden verspreid. Experts hebben aanbevolen dat technische giganten zoals Facebook en Google dit soort detectiefuncties rechtstreeks in hun platforms opnemen. Op die manier kunnen dergelijke controles bijna in realtime worden uitgevoerd terwijl foto's en video's worden geüpload en gedeeld.

Er zijn ook andere benaderingen om te overwegen. Sommige startups streven bijvoorbeeld naar verificatietechnologie, die de posities van pixels in een foto onthoudt op het moment dat ze worden vastgelegd, maar dit brengt ook uitdagingen met zich mee.

Voorbij technologie: Uiteindelijk zullen technische oplossingen niet voldoende zijn. Een van de lastigste aspecten van digitale fakery zijn niet de nepafbeeldingen zelf. Het is eerder het idee dat ze bestaan, dat gemakkelijk kan worden ingeroepen om te twijfelen aan de waarheidsgetrouwheid van echte media. Dit is het soort uitdaging dat ook sociale en beleidsoplossingen vereist.