Hackers misleiden een Tesla om de verkeerde rijstrook in te slaan

Categorie: Kunstmatige intelligentie Geplaatst 01 april

Hackers hebben gedemonstreerd enkele zorgwekkende manieren om de verschillende systemen van een Tesla Model S te manipuleren en te verwarren. Hun meest dramatische prestatie: de auto de tegemoetkomende rijstrook op sturen door een reeks kleine stickers op de weg te plakken.

Aanvalsvector: Dit is een voorbeeld van een vijandige aanval, een manier om een ​​machine learning-model te manipuleren door een speciaal vervaardigde invoer in te voeren. Tegengestelde aanvallen kunnen vaker voorkomen naarmate machine learning op grotere schaal wordt gebruikt, vooral op gebieden zoals netwerkbeveiliging.

Vage lijnen: Tesla's Autopilot is kwetsbaar omdat het rijstroken herkent met behulp van computervisie. Met andere woorden, het systeem vertrouwt op cameragegevens, geanalyseerd door een neuraal netwerk, om het voertuig te vertellen hoe het gecentreerd moet blijven binnen zijn rijstrook.

Verkeersopstopping: Dit is niet de eerste vijandige aanval op een autonoom rijsysteem. Dawn Song, een professor aan UC Berkeley, heeft onschadelijke stickers gebruikt om een ​​zelfrijdende auto te laten denken dat een stopbord een maximumsnelheid van 45 mijl per uur was. Een ander studie , gepubliceerd in maart, toonde aan hoe medische systemen voor machinaal leren op dezelfde manier kunnen worden misleid om de verkeerde diagnoses te stellen.

Bugfixes: De onderzoekers achter de rijstrookherkenningshack, van de Keen Security Lab van de Chinese techgigant Tencent, gebruikte een soortgelijke aanval om de automatische ruitenwissers van het voertuig te verstoren. Ze kaapten ook het stuur van de auto op een andere manier. Een Tesla-woordvoerder vertelde Forbes dat de laatste kwetsbaarheid is verholpen in de meest recente software-update. De woordvoerder zei dat de vijandige aanval onrealistisch was, aangezien een bestuurder Autopilot op elk moment gemakkelijk kan negeren.