Computervisie-algoritmen zijn nog steeds veel te gemakkelijk te misleiden

Categorie: Kunstmatige intelligentie Geplaatst 20 dec

AI-beeldherkenning heeft een aantal verbluffende vorderingen gemaakt, maar zoals nieuw onderzoek aantoont, kunnen de systemen nog steeds worden overvallen door voorbeelden die iemand nooit voor de gek zouden houden.

Labsix, een groep MIT-studenten die onlangs een door Google ontwikkelde beeldclassificator hebben misleid om te denken 3D-geprinte schildpad was een geweer , vrijgegeven a krant op woensdag dat beschrijft een andere techniek die systemen nog sneller voor de gek kan houden. Deze keer slaagden ze er echter in een zwarte doos te misleiden, waar ze slechts gedeeltelijke informatie hadden over hoe het systeem beslissingen nam.

Het nieuwe algoritme van het team begint met een afbeelding die het wil gebruiken om een ​​ander systeem voor de gek te houden - in het voorbeeld van hun paper is het een hond - en begint dan pixels te veranderen om de afbeelding meer op de bronafbeelding te laten lijken; in dit geval skiërs. Terwijl het werkt, daagt het vijandige algoritme het beeldherkenningssysteem uit met versies van de afbeelding die snel het gebied betreden dat een mens zou herkennen als skiërs (bekijk het gif hierboven). Maar al die tijd handhaaft het algoritme precies de juiste combinatie van gesaboteerde pixels om het systeem te laten denken dat het naar een hond kijkt.

De onderzoekers testten hun methode op Google's Cloud Vision API - een goede testcase, deels omdat Google niets heeft gepubliceerd over hoe de computer vision-software werkt, of zelfs alle labels die het systeem gebruikt om afbeeldingen te classificeren. Het team zegt dat ze tot nu toe alleen hebben geprobeerd het systeem van Google te omzeilen, maar dat hun techniek ook zou moeten werken op andere beeldherkenningssystemen.

Er werken genoeg onderzoekers aan tegengaan vijandige voorbeelden zoals deze, maar voor veiligheidskritieke toepassingen, zoals: autonome voertuigen , zal kunstmatige intelligentie niet worden vertrouwd totdat vijandige aanvallen onmogelijk, of in ieder geval veel moeilijker, uit te voeren zijn.