211service.com
AI Fight Club kan ons helpen redden van een toekomst van superslimme cyberaanvallen
John Malta
Een nieuwe competitie luidt wat waarschijnlijk de toekomst van cyberbeveiliging en cyberoorlogsvoering zal worden, waarbij offensieve en defensieve AI-algoritmen de strijd aangaan.
De wedstrijd , die zich de komende vijf maanden zal afspelen, wordt gerund door Kaggle , een platform voor datawetenschapswedstrijden. Het zal de algoritmen van onderzoekers tegen elkaar uitzetten in pogingen om elkaar te verwarren en voor de gek te houden, in de hoop dat deze strijd inzichten zal opleveren in hoe machine learning-systemen kunnen worden gehard tegen toekomstige aanvallen.
Het is een briljant idee om onderzoek te katalyseren naar zowel het voor de gek houden van diepe neurale netwerken als het ontwerpen van diepe neurale netwerken die niet voor de gek gehouden kunnen worden, zegt Jeff Clune , een assistent-professor aan de Universiteit van Wyoming die de grenzen van machine learning bestudeert.
De wedstrijd zal uit drie onderdelen bestaan. Een uitdaging is simpelweg proberen een machine-learningsysteem te verwarren, zodat het niet goed werkt. Een andere manier is proberen een systeem te dwingen iets verkeerd te classificeren. En een derde zal betrekking hebben op het ontwikkelen van de meest robuuste verdedigingen. De resultaten worden later dit jaar gepresenteerd op een grote AI-conferentie.
Machine learning, en in het bijzonder deep learning, wordt in veel industrieën snel een onmisbaar hulpmiddel. De technologie omvat het invoeren van gegevens in een speciaal soort computerprogramma, het specificeren van een bepaald resultaat en het laten ontwikkelen van een eigen algoritme door een machine om het resultaat te bereiken. Deep learning doet dit door de parameters van een enorm, onderling verbonden web van wiskundig gesimuleerde neuronen aan te passen.
Het is al lang bekend dat machine learning-systemen kunnen worden misleid. Spammers kunnen bijvoorbeeld moderne spamfilters omzeilen door uit te zoeken welke patronen het algoritme van het filter is getraind om te identificeren.
De afgelopen jaren hebben onderzoekers echter aangetoond dat zelfs de slimste algoritmen soms op verrassende manieren kunnen worden misleid. Bijvoorbeeld diepgaande algoritmen met bijna menselijke vaardigheden om objecten in afbeeldingen te herkennen kan voor de gek gehouden worden door schijnbaar abstracte of willekeurige afbeeldingen die gebruikmaken van de patronen op laag niveau waarnaar deze algoritmen zoeken (zie The Dark Secret at the Heart of AI ).
Tegenstrijdige machine learning is moeilijker te bestuderen dan conventionele machine learning - het is moeilijk te zeggen of je aanval sterk is of dat je verdediging eigenlijk zwak is, zegt Ian Goodfellow, een onderzoeker bij Google Brein , een afdeling van Google die zich toelegt op het onderzoeken en toepassen van machine learning, die de wedstrijd organiseerde.
Naarmate machine learning alomtegenwoordig wordt, bestaat de angst dat dergelijke aanvallen kunnen worden gebruikt voor winst of puur kattenkwaad. Hackers kunnen mogelijk beveiligingsmaatregelen omzeilen om bijvoorbeeld malware te installeren.
Computerbeveiliging gaat zeker in de richting van machine learning, zegt Goodfellow. De slechteriken zullen machine learning gebruiken om hun aanvallen te automatiseren, en wij zullen machine learning gebruiken om te verdedigen.
In theorie zouden criminelen ook spraak- en gezichtsherkenningssystemen kunnen bedriegen, of zelfs posters ophangen om de zichtsystemen in zelfrijdende auto's voor de gek te houden, waardoor ze crashen.
Kaggle is een broedplaats van onschatbare waarde geworden voor de ontwikkeling van algoritmen en een broeinest voor getalenteerde datawetenschappers. Het bedrijf werd in maart overgenomen door Google en maakt nu onderdeel uit van het Google Cloud-platform. Goodfellow en een andere Google Brain-onderzoeker, Alexey Kurakin, dienden het idee voor de uitdaging in vóór de overname.
Benjamin Hamner, medeoprichter en CTO van Kaggle, zegt te hopen dat de wedstrijd de aandacht zal vestigen op een dreigend probleem. Naarmate machine learning op grotere schaal wordt gebruikt, wordt het begrijpen van de problemen en risico's van adversarial learning steeds belangrijker, zegt hij.
De voordelen van de open wedstrijd wegen zwaarder dan de risico's die gepaard gaan met het publiceren van nieuwe soorten aanvallen, voegt hij eraan toe: Wij zijn van mening dat dit onderzoek het beste openlijk kan worden opgezet en gedeeld, in plaats van achter gesloten deuren.
Clune zegt ondertussen dat hij graag wil dat de wedstrijd algoritmen test die zogenaamd aanvallen kunnen weerstaan. Mijn geld staat op de netwerken die de komende tijd voor de gek blijven worden gehouden, zegt hij.