Hoe u zich kunt verbergen voor de AI-bewakingsstatus met een kleurenafdruk

Categorie: Kunstmatige intelligentie Geplaatst 23 april

AI-aangedreven videotechnologie wordt alomtegenwoordig en volgt onze gezichten en lichamen via winkels, kantoren en openbare ruimtes. In sommige landen vormt de technologie een krachtige nieuwe laag van politie en overheidstoezicht.

Gelukkig, zoals sommige onderzoekers van de Belgische universiteit KU Leuven heb net laten zien , kunt u zich vaak verbergen voor een AI-videosysteem met behulp van een eenvoudige kleurenafdruk.

Wie zei dat? De onderzoekers toonden aan dat het beeld dat ze ontwierpen een hele persoon kan verbergen voor een AI-aangedreven computervisiesysteem. Ze demonstreerden het op een populair open-source objectherkenningssysteem genaamd YoLo(v2) .

Verstoppertje: De truc kan mogelijk oplichters laten verbergen voor beveiligingscamera's, of dissidenten een manier bieden om overheidstoezicht te ontwijken. Wat ons werk bewijst, is dat het mogelijk is om camerabewakingssystemen te omzeilen met behulp van vijandige patches, zegt Wiebe Van Ranst , een van de auteurs.

Verdwaald geraken: Van Ranst zegt dat het niet al te moeilijk moet zijn om de aanpak aan te passen aan kant-en-klare videobewakingssystemen. Op dit moment moeten we ook weten welke detector in gebruik is. Wat we in de toekomst zouden willen doen, is een patch genereren die op meerdere detectoren tegelijk werkt, vertelde hij aan MIT Technology Review. Als dit werkt, is de kans groot dat de patch ook werkt op de detector die in gebruik is in het bewakingssysteem.

Dwaze boodschap: De door het Belgische team gedemonstreerde misleiding maakt gebruik van wat bekend staat als vijandige machine learning. De meeste computervisie is gebaseerd op het trainen van een (convolutief) neuraal netwerk om verschillende dingen te herkennen door het voorbeelden te geven en de parameters aan te passen totdat het objecten correct classificeert. Door voorbeelden in een getraind diep neuraal netwerk te voeren en de output te monitoren, is het mogelijk om af te leiden welke soorten afbeeldingen het systeem verwarren of voor de gek houden.

Ogen overal: Het werk is belangrijk omdat AI steeds vaker wordt aangetroffen in alledaagse bewakingscamera's en software. Het wordt zelfs gebruikt om de noodzaak van een kassa in sommige experimentele winkels, waaronder die van Amazon, te voorkomen. En in China komt de technologie naar voren als een krachtig nieuw middel om criminelen te pakken en, nog verontrustender, het volgen van bepaalde etnische groepen .