211service.com
Hackers kunnen een Tesla misleiden om met 80 kilometer per uur te versnellen
Tesla Model S rijdt in California Bay Area Tesla
Geloof de liegende ogen van uw auto niet.
Hackers hebben meerdere Tesla-auto's gemanipuleerd om 50 mijl per uur te versnellen. De onderzoekers hielden het Mobileye EyeQ3-camerasysteem van de auto voor de gek door een bord met de maximumsnelheid aan de kant van de weg subtiel te veranderen, op een manier die een voorbijrijdende persoon bijna nooit zou opmerken.
Deze demonstratie van het cyberbeveiligingsbedrijf McAfee is de nieuwste indicatie dat vijandige machine learning autonome rijsystemen mogelijk kan verwoesten, wat een beveiligingsuitdaging vormt voor degenen die de technologie willen commercialiseren.
Mobileye EyeQ3-camerasystemen lezen snelheidsborden en voeren die informatie in autonoom rijdende functies zoals Tesla's automatische cruisecontrol, aldus Steve Povolny en Shivangee Trivedi van McAfee's Advanced Threat Research-team.
De onderzoekers plakten een piepklein en bijna onmerkbaar stickertje op een snelheidsbord. De camera las het bord als 85 in plaats van 35, en tijdens het testen versnelden zowel de 2016 Tesla Model X als de Model S van dat jaar 80 mijl per uur.
Het gewijzigde snelheidslimietbord leest als 85 op het heads-up display van Tesla. Een woordvoerder van Mobileye bagatelliseerde het onderzoek door te suggereren dat dit teken een mens voor de gek zou houden om 85 ook te lezen. McAfee
Dit is het laatste nieuws in een steeds groter wordende berg onderzoeken die aantoont hoe machine learning-systemen kunnen worden aangevallen en voor de gek gehouden in levensbedreigende situaties.
In een 18 maanden durend onderzoeksproces repliceerden en breidden Trivedi en Povolny een groot aantal vijandige machine learning-aanvallen uit, waaronder een onderzoek van UC Berkeley-professor Dawn Song waarin stickers werden gebruikt om een zelfrijdende auto te laten geloven dat een stopbord was een bord met een maximumsnelheid van 45 mijl per uur. Vorig jaar hebben hackers een Tesla misleid om in het verkeer de verkeerde rijbaan in te slaan door stickers op de weg te plaatsen in een vijandige aanval die bedoeld was om de machine-learning-algoritmen van de auto te manipuleren.
Waarom we dit van tevoren bestuderen, is omdat je intelligente systemen hebt die op een bepaald moment in de toekomst taken gaan uitvoeren die nu door mensen worden afgehandeld, zei Povolny. Als we niet erg vooruitziend zijn over wat de aanvallen zijn en heel voorzichtig zijn met hoe de systemen zijn ontworpen, dan heb je een rollende vloot van onderling verbonden computers die een van de meest impactvolle en aanlokkelijke aanvalsoppervlakken zijn die er zijn.
Naarmate autonome systemen zich uitbreiden, strekt het probleem zich uit tot algoritmen voor machine learning tot ver buiten voertuigen: maart 2019 studie toonde aan dat medische machine-leersystemen voor de gek werden gehouden om slechte diagnoses te stellen.
Het McAfee-onderzoek werd vorig jaar bekendgemaakt aan zowel Tesla als Mobileye EyeQ3. Tesla reageerde niet op een verzoek om commentaar van MIT Technology Review, maar erkende de bevindingen van McAfee en zei dat de problemen niet zouden worden opgelost in die generatie hardware. Een woordvoerder van Mobileye bagatelliseerde het onderzoek door te suggereren dat het aangepaste bord zelfs een mens zou misleiden om 85 te lezen in plaats van 35. Het bedrijf beschouwt het misleiden van de camera niet als een aanval, en ondanks de rol die de camera speelt in Tesla's cruise control, het was niet ontworpen voor autonoom rijden.
Autonome voertuigtechnologie zal niet alleen afhankelijk zijn van detectie, maar zal ook worden ondersteund door verschillende andere technologieën en gegevens, zoals crowdsourced mapping, om de betrouwbaarheid van de informatie die wordt ontvangen van de camerasensoren te garanderen en robuustere redundanties en veiligheid te bieden, de woordvoerder van Mobileye zei in een verklaring.
Tesla is sindsdien overgestapt op eigen camera's op nieuwere modellen en Mobileye EyeQ3 heeft verschillende nieuwe versies van zijn camera's uitgebracht die in voorlopige tests niet gevoelig waren voor deze exacte aanval.
Er zijn nog steeds een aanzienlijk aantal Tesla-auto's die met de kwetsbare hardware werken, zei Povolny. Hij wees erop dat Tesla's met de eerste hardwareversie niet geüpgraded kunnen worden naar nieuwere hardware.
Wat we proberen te doen, is dat we echt proberen om zowel consumenten als verkopers bewust te maken van de soorten gebreken die mogelijk zijn, zei Povolny. We proberen geen angst te zaaien en te zeggen dat als je in deze auto rijdt, het zal accelereren door een barrière, of om het sensationeel te maken.