211service.com
AI voor cyberbeveiliging is een hot item - en een gevaarlijke gok
Afbeelding van code als overlay op een foto van handen op het toetsenbord van een laptop Unsplash
Toen ik deze week over de beursvloer liep tijdens de massale Black Hat cybersecurity-conferentie in Las Vegas, werd ik getroffen door het aantal bedrijven dat opschepte over hoe ze machine learning en kunstmatige intelligentie gebruiken om de wereld veiliger te maken.
Maar sommige experts maken zich zorgen dat leveranciers niet genoeg aandacht besteden aan de risico's die gepaard gaan met het sterk vertrouwen op deze technologieën. Wat er gebeurt, is een beetje zorgwekkend en in sommige gevallen zelfs gevaarlijk, waarschuwt Raffael Marty van beveiligingsbedrijf Forcepoint.
De honger van de beveiligingsindustrie naar algoritmen is begrijpelijk. Het wordt geconfronteerd met een tsunami van cyberaanvallen, net op het moment dat het aantal apparaten dat is aangesloten op internet explodeert. Tegelijkertijd is er een enorm tekort aan geschoolde cyberwerkers (zie Cybersecurity's verraderlijke nieuwe dreiging: stress op het personeel).
Het gebruik van machine learning en AI om de detectie en reactie van bedreigingen te automatiseren, kan de last voor werknemers verlichten en mogelijk helpen om bedreigingen efficiënter te identificeren dan andere softwaregestuurde benaderingen.
Gegevens gevaren
Maar Marty en enkele anderen die op Black Hat spreken, zeggen dat veel bedrijven nu op machine learning gebaseerde producten uitrollen omdat ze vinden dat ze dat moeten doen om een publiek te trekken met klanten die hebben gekocht in de AI-hypecyclus. En het gevaar bestaat dat ze manieren over het hoofd zien waarop de machine learning-algoritmen een vals gevoel van veiligheid kunnen creëren.
Veel producten die worden uitgerold, hebben betrekking op leren onder toezicht, waarbij bedrijven datasets moeten kiezen en labelen waarop algoritmen zijn getraind, bijvoorbeeld door code te taggen die malware is en code die schoon is.
Marty zegt dat een van de risico's is dat bedrijven zich haasten om hun producten op de markt te brengen en trainingsinformatie gebruiken die niet grondig is verwijderd van afwijkende datapunten. Dat zou ertoe kunnen leiden dat het algoritme enkele aanvallen mist. Een andere is dat hackers die toegang krijgen tot de systemen van een beveiligingsbedrijf, gegevens kunnen beschadigen door van label te wisselen, zodat sommige malwarevoorbeelden als schone code worden getagd.
De slechteriken hoeven niet eens met de gegevens te knoeien; in plaats daarvan zouden ze de kenmerken van code kunnen uitwerken die een model gebruikt om malware te markeren en deze vervolgens uit hun eigen kwaadaardige code te verwijderen, zodat het algoritme het niet opmerkt.
Eén versus velen
In een sessie op de conferentie wezen Holly Stewart en Jugal Parikh van Microsoft op het risico van overmatig vertrouwen op één enkel hoofdalgoritme om een beveiligingssysteem aan te sturen. Het gevaar is dat als dat algoritme wordt gecompromitteerd, er geen ander signaal is dat er een probleem mee zou kunnen signaleren.
Om u hiertegen te beschermen, biedt Microsoft's Windows Defender-service voor bedreigingsbescherming maakt gebruik van een diverse reeks algoritmen met verschillende trainingsdatasets en functies. Dus als een algoritme wordt gehackt, zullen de resultaten van de andere - ervan uitgaande dat ook hun integriteit niet is aangetast - de anomalie in het eerste model benadrukken.
Buiten deze problemen. Marty van Forcepoint merkt op dat het met sommige zeer complexe algoritmen erg moeilijk kan zijn om erachter te komen waarom ze bepaalde antwoorden uitspugen. Dit probleem met de verklaarbaarheid kan het moeilijk maken om te beoordelen wat de oorzaak is van eventuele anomalieën die opduiken (zie Het duistere geheim in het hart van AI).
Dit alles betekent niet dat AI en machine learning geen belangrijke rol zouden moeten spelen in een defensief arsenaal. De boodschap van Marty en anderen is dat het voor beveiligingsbedrijven - en hun klanten - erg belangrijk is om de risico's van algoritmische modellen te bewaken en te minimaliseren.
Dat is geen kleine uitdaging, aangezien mensen met de ideale combinatie van diepgaande expertise in cyberbeveiliging en datawetenschap nog steeds zo zeldzaam zijn als een koele dag in een zomer in Las Vegas.