Menselijke hersenen en AI's kunnen worden gehackt met deze rare geknepen foto's

Categorie: Kunstmatige intelligentie Geplaatst 01 maart

Computervisie-algoritmen zijn niet de enige vormen van intelligentie die kunnen worden misleid door gemanipuleerde foto's.

Oh Oh: Onderzoekers hebben een AI gebruikt om de eerste foto's te ontwerpen die zowel mensen als computervisie-algoritmen voor de gek houden, zoals het bovenstaande: een ongewijzigd beeld van een kat, aan de linkerkant, naast een versie die is aangepast om er vreemd uit te zien als een hond.

Voor de wetenschap! Het op deze manier vinden van menselijke zwakheden zou onze AI-systemen kunnen verbeteren. In de krant die deze gemanipuleerde foto's beschrijft - co-auteur van Ian Goodfellow, de maker van generatieve adversariële netwerken (GAN's) - wijzen de onderzoekers erop dat als we een bepaalde klasse van gewijzigde afbeeldingen vinden die de menselijke geest niet voor de gek kunnen houden, dit suggereert dat een soortgelijk mechanisme zou kunnen bestaan ​​in machine learning. De meeste AI-systemen zijn immers losjes gebaseerd op het menselijk brein.

Waarom het uitmaakt: Nu dat er zijn stickers die erop kunnen worden geplakt fysieke objecten om computervisiesystemen te verwarren, de zogenaamde vijandige voorbeelden zijn een reëel probleem. En als autonome voertuigen geen manier hebben om ervoor te zorgen dat hun systemen elk stopbord kunnen zien, zullen ze niet snel klaar zijn voor de weg.