De hack die gezichtsherkenning kan doen denken dat jij iemand anders bent

Michael Aleo / Unsplash

Onderzoekers hebben aangetoond dat ze een modern gezichtsherkenningssysteem voor de gek kunnen houden door iemand te zien die er niet is.

Een team van het cyberbeveiligingsbedrijf McAfee zette de aanval op tegen een gezichtsherkenningssysteem dat vergelijkbaar is met het systeem dat momenteel op luchthavens wordt gebruikt voor paspoortverificatie. Door machine learning te gebruiken, creëerden ze een afbeelding die voor het menselijk oog op één persoon leek, maar door het gezichtsherkenningsalgoritme als iemand anders werd geïdentificeerd - het equivalent van het misleiden van de machine om iemand toe te staan ​​​​aan boord te gaan, ondanks dat hij op een nee- vliegen lijst.

Als we voor een live camera gaan die gezichtsherkenning gebruikt om te identificeren en te interpreteren naar wie ze kijken en dat te vergelijken met een pasfoto, kunnen we dat soort gerichte misclassificatie realistisch en herhaaldelijk veroorzaken, zei de hoofdauteur van het onderzoek, Steve Povolny.

Hoe het werkt

Om het algoritme verkeerd te sturen, gebruikten de onderzoekers een algoritme voor beeldvertaling dat bekend staat als CycleGAN, dat uitblinkt in het veranderen van foto's van de ene stijl in de andere. Het kan bijvoorbeeld een foto van een haven laten lijken alsof deze door Monet is geschilderd, of een foto van bergen die in de zomer zijn genomen eruit laten zien alsof hij in de winter is genomen.

JUN-YAN ZHU EN TAESUNG-PARK ET AL.

Het McAfee-team gebruikte 1500 foto's van elk van de twee leads van het project en voerde de afbeeldingen in een CycleGAN in om ze in elkaar over te laten lopen. Tegelijkertijd gebruikten ze het gezichtsherkenningsalgoritme om de gegenereerde afbeeldingen van de CycleGAN te controleren om te zien wie het herkende. Na honderden afbeeldingen te hebben gegenereerd, creëerde de CycleGAN uiteindelijk een vervalst beeld dat met het blote oog op persoon A leek, maar de gezichtsherkenning voor de gek hield door te denken dat het persoon B was.

MCAFEE

Hoewel de studie duidelijke zorgen oproept over de veiligheid van gezichtsherkenningssystemen, zijn er enkele kanttekeningen. Ten eerste hadden de onderzoekers geen toegang tot het eigenlijke systeem dat luchthavens gebruiken om passagiers te identificeren en benaderden ze het in plaats daarvan met een state-of-the-art, open-source algoritme. Ik denk dat dat voor een aanvaller het moeilijkste zal zijn om te overwinnen, zegt Povolny, waar [ze] geen toegang hebben tot het doelsysteem. Desalniettemin, gezien de grote overeenkomsten tussen gezichtsherkenningsalgoritmen, denkt hij dat het waarschijnlijk is dat de aanval zelfs op het eigenlijke luchthavensysteem zou werken.

Hoe GAN's werken

• Generatieve vijandige netwerken zijn een klasse van algoritmen die neurale netwerken slim tegen elkaar uitzetten om betere resultaten te genereren.

  In een traditionele GAN zijn er maar twee netwerken: een generator die traint op een dataset, zeg maar zomerlandschap, om meer zomerlandschappen uit te spugen; en een discriminator die de gegenereerde landschappen vergelijkt met dezelfde dataset om te beslissen of ze echt of nep zijn.

  CycleGAN wijzigt dit proces door twee generatoren en twee discriminators te hebben. Er zijn ook twee afbeeldingensets, zoals zomerlandschappen en winterlandschappen, die de soorten foto's vertegenwoordigen waartussen u wilt vertalen.

  Deze keer traint de eerste generator op beelden van de zomerlandschappen met als doel winterlandschappen te genereren. De tweede generator traint ondertussen op afbeeldingen van de winterlandschappen om zomerse landschappen te genereren. Beide discriminators werken opnieuw hard om de vervalsing te vangen totdat de vervalste landschappen niet te onderscheiden zijn van de echte.

  
  
  

Ten tweede vereist zo'n aanval tegenwoordig veel tijd en middelen. CycleGAN's hebben krachtige computers en expertise nodig om te trainen en uit te voeren.

Maar gezichtsherkenningssystemen en geautomatiseerde paspoortcontrole worden in toenemende mate gebruikt voor de beveiliging van luchthavens over de hele wereld, een verschuiving die heeft plaatsgevonden versneld door de covid-19 pandemie en het verlangen naar contactloze systemen. De technologie wordt ook al veel gebruikt door overheden en bedrijven op gebieden zoals: politie , in dienst nemen , en evenement beveiliging - hoewel veel groepen hebben opgeroepen tot een moratorium op dergelijke ontwikkelingen , en sommige steden hebben de technologie verboden .

Er zijn andere technische pogingen om gezichtsherkenning te ondermijnen. Een team van de Universiteit van Chicago is onlangs vrijgegeven Fawkes , een tool bedoeld om gezichten te verhullen door uw foto's op sociale media enigszins te wijzigen om de AI-systemen voor de gek te houden die afhankelijk zijn van geschraapte databases van miljarden van dergelijke foto's. Onderzoekers van het AI-bedrijf Kneron ook liet zien hoe maskers de gezichtsherkenningssystemen die al over de hele wereld worden gebruikt, voor de gek kunnen houden.

De onderzoekers van McAfee zeggen dat hun doel uiteindelijk is om de inherente kwetsbaarheden in deze AI-systemen aan te tonen en duidelijk te maken dat mensen op de hoogte moeten blijven.

AI en gezichtsherkenning zijn ongelooflijk krachtige hulpmiddelen om te helpen bij het identificeren en autoriseren van mensen, zegt Povolny. Maar als je ze gewoon neemt en blindelings een bestaand systeem vervangt dat volledig op een mens vertrouwt zonder een soort secundaire controle, dan heb je ineens misschien een grotere zwakte geïntroduceerd dan je eerder had.

zich verstoppen