Een nieuwe manier om AI-systemen te trainen, zou ze kunnen beschermen tegen hackers

Categorie: Kunstmatige intelligentie Geplaatst 10 juli

De context: Een van de grootste onopgeloste tekortkomingen van deep learning is de kwetsbaarheid voor zogenaamde vijandige aanvallen . Wanneer ze worden toegevoegd aan de input van een AI-systeem, kunnen deze verstoringen, schijnbaar willekeurig of niet waarneembaar voor het menselijk oog, ervoor zorgen dat dingen helemaal mis gaan. Stickers die strategisch op een stopbord zijn geplaatst, kunnen bijvoorbeeld een zelfrijdende auto misleiden om een ​​snelheidsbord van 75 mijl per uur te zien, terwijl stickers op een weg dat kunnen een Tesla verwarren in de verkeerde rijstrook terecht komen.

Cruciaal voor de veiligheid: Het meeste vijandige onderzoek richt zich op beeldherkenningssystemen, maar op op diep leren gebaseerde afbeeldingen wederopbouw systemen zijn ook kwetsbaar. Vooral in de zorg, waar deze laatsten vaak gewend zijn, is dit zorgwekkend medische beelden reconstrueren zoals CT- of MRI-scans van röntgengegevens. Een gerichte vijandige aanval zou ervoor kunnen zorgen dat een dergelijk systeem een ​​tumor reconstrueert in een scan waar er geen is.

Het onderzoek: Bo Li (genoemd als een van de MIT Technology Review Innovators Under 35 van dit jaar) en haar collega's van de University of Illinois in Urbana-Champaign stellen nu voor een nieuwe methode voor het trainen van dergelijke diepgaande leersystemen om beter bestand te zijn tegen storingen en dus betrouwbaarder te zijn in veiligheidskritieke scenario's. Ze zetten het neurale netwerk dat verantwoordelijk is voor beeldreconstructie tegenover een ander neuraal netwerk dat verantwoordelijk is voor het genereren van vijandige voorbeelden, in een stijl die lijkt op GAN-algoritmen . Door middel van iteratieve rondes probeert het vijandige netwerk het reconstructienetwerk voor de gek te houden door dingen te produceren die geen deel uitmaken van de oorspronkelijke gegevens of grondwaarheid. Het reconstructienetwerk past zichzelf voortdurend aan om te voorkomen dat het voor de gek gehouden wordt, waardoor het veiliger is om in de echte wereld te implementeren.

De resultaten: Toen de onderzoekers hun vijandig getrainde neurale netwerk testten op twee populaire beelddatasets, was het in staat om de grondwaarheid beter te reconstrueren dan andere neurale netwerken die faalbestendig waren met verschillende methoden. De resultaten zijn echter nog steeds niet perfect, wat aantoont dat de methode nog moet worden verfijnd. Het werk wordt volgende week gepresenteerd op de Internationale conferentie over machinaal leren . (Lees het algoritme van deze week voor tips over hoe ik door AI-conferenties zoals deze navigeer.)