211service.com
Hackers vormen het echte obstakel voor zelfrijdende voertuigen
Espen Friberg
Voordat autonome vrachtwagens en taxi's de weg op gaan, moeten fabrikanten problemen oplossen die veel complexer zijn dan het vermijden van botsingen en navigatie (zie 10 Breakthrough Technologies 2017: Self-Driving Trucks).
Deze voertuigen zullen moeten anticiperen op en zich moeten verdedigen tegen een volledig spectrum van kwaadwillende aanvallers die zowel traditionele cyberaanvallen als een nieuwe generatie aanvallen uitvoeren op basis van zogenaamde adversarial machine learning (zie AI Fight Club kan ons helpen redden van een toekomst van superslimme cyberaanvallen ). Naarmate de consensus groeit dat autonome voertuigen nog maar een paar jaar verwijderd zijn van hun inzet in steden als robottaxi's, en op snelwegen om de geestdodende verveling van langeafstandsvrachtvervoer te verlichten, is dit aanvalsrisico grotendeels verdwenen uit de ademloze berichtgeving.
Het doet me denken aan talloze artikelen waarin e-mail werd gepromoot in het begin van de jaren negentig, voordat de nieuwe wereld van elektronische communicatie overspoeld werd met ongewenste spam. Destijds werd de belofte van machine learning gezien als een oplossing voor de spamproblemen van de wereld. En inderdaad, het spamprobleem is tegenwoordig grotendeels opgelost, maar het heeft tientallen jaren geduurd voordat we zover waren.
Er zijn tot nu toe geen meldingen geweest van vijandige hackers die zich richten op zelfrijdende voertuigen. Ironisch genoeg is dat echter een probleem. Er waren ook geen kwaadwillende aanvallers toen de dotcom-startups in de jaren negentig de eerste e-commerceplatforms ontwikkelden. Na de eerste grote ronde van e-commerce hacks, Bill Gates schreef een memo aan Microsoft waarin werd geëist dat het bedrijf beveiliging serieus zou nemen . Het resultaat: tegenwoordig is Windows een van de veiligste besturingssystemen, en Microsoft besteedt jaarlijks meer dan een miljard dollar aan cyberbeveiliging . Desondanks blijven hackers problemen vinden met Windows-besturingssystemen, webbrowsers en applicaties.
Autobedrijven zullen waarschijnlijk een vergelijkbare ontwikkeling doormaken. Nadat ze zich in grote mate in verlegenheid hadden gebracht door het feit dat ze helemaal geen aandacht hadden besteed aan beveiliging - de CAN-bus, ontworpen in de jaren tachtig, heeft geen concept van authenticatie - lijken ze nu op te letten. Toen hackers aantoonden dat voertuigen op de weg kwetsbaar waren voor verschillende specifieke beveiligingsrisico's, reageerden autofabrikanten door de firmware van miljoenen auto's terug te roepen en te upgraden. Afgelopen juli zei GM-CEO Mary Barra dat het beschermen van auto's tegen een cyberbeveiligingsincident een kwestie van openbare veiligheid is.
Maar de inspanningen die tot nu toe worden geleverd, missen mogelijk de volgende beveiligingstrend. De computervisie- en botsingsvermijdingssystemen die in ontwikkeling zijn voor autonome voertuigen, zijn afhankelijk van complexe algoritmen voor machine learning die niet goed worden begrepen, zelfs niet door de bedrijven die erop vertrouwen (zie The Dark Secret at the Heart of AI).
Vorig jaar onderzoekers bij CMU aangetoond dat state-of-the-art gezichtsherkenningsalgoritmen kunnen worden verslagen door een heldere bril te dragen met een funky patroon op hun frame. Iets aan het patroon tipte het algoritme precies op de juiste manier, en het dacht dat het zag wat er niet was. We hebben laten zien dat aanvallers geavanceerde gezichtsherkenningsalgoritmen kunnen ontwijken die zijn gebaseerd op neurale netwerken met als doel zich voor te doen als een doelwit, of simpelweg onjuist geïdentificeerd te worden, schreef hoofdonderzoeker Mahmood Sharif in een e-mail.
Ook vorig jaar hebben onderzoekers van de University of South Carolina, de Chinese Zhejiang University en het Chinese beveiligingsbedrijf Qihoo 360 aangetoond dat ze kunnen verschillende sensoren op een Tesla S blokkeren, waardoor objecten onzichtbaar worden voor het navigatiesysteem.
Veel recente artikelen over autonoom rijden bagatelliseren of negeren zelfs het idee dat er actieve, adaptieve en kwaadwillende tegenstanders zijn die proberen de voertuigen te laten crashen. In een interview met MIT Technology Review , zei de voorzitter van de National Transportation Safety Board, Christopher Hart, dat hij erg optimistisch was dat zelfrijdende auto's het aantal ongevallen op de nationale wegen zouden verminderen. Bij het bespreken van veiligheidskwesties concentreerde Hart zich op de noodzaak om voertuigen te programmeren om ethische beslissingen te nemen, bijvoorbeeld wanneer een vrachtwagen van 80.000 pond plotseling de weg van een auto blokkeert.
Waarom zou iemand een zelfrijdende auto willen hacken, wetende dat dit de dood tot gevolg kan hebben? Een van de redenen is dat de wijdverbreide inzet van autonome voertuigen zal resulteren in veel werklozen, en sommigen van hen zullen boos worden.
In augustus 2016, Ford CEO Mark Fields zei dat hij was van plan om tegen 2021 volledig autonome voertuigen te hebben die als stadstaxi's gaan fungeren. Google, Nissan en anderen waren van plan om al in 2020 soortgelijke autonome auto's op de weg te hebben. -power laserpointer door een werkloze Teamster, een voormalige Uber-chauffeur die nog autobetalingen moet doen, of gewoon een stel verveelde tieners.
Gevraagd naar zijn plannen om de dreiging van vijandig machine learning aan te pakken, antwoordde Sarah Abboud, een woordvoerder van Uber: Ons team van beveiligingsexperts onderzoekt voortdurend nieuwe verdedigingsmechanismen voor de toekomst van autonome voertuigen, waaronder gegevensintegriteit en detectie van misbruik. Naarmate autonome technologie evolueert, verandert ook het dreigingsmodel, wat betekent dat sommige van de huidige beveiligingsproblemen waarschijnlijk zullen verschillen van de problemen die worden aangepakt in een echt autonome omgeving.
Er zijn maar een paar ongelukken nodig om de inzet van zelfrijdende voertuigen te stoppen. Dit zal waarschijnlijk geen belemmering vormen voor geavanceerde stuurautomaatsystemen, maar het zal waarschijnlijk een aanzienlijk afschrikmiddel zijn voor de inzet van voertuigen die volledig autonoom zijn.
Simon Garfinkel is een wetenschappelijk schrijver die in Arlington, Virginia woont. Hij werkt aan een nieuw boek over de geschiedenis van computers.