Hackere kan narre en Tesla til at accelerere med 50 miles i timen

Tesla Model S kører i California Bay Area Tesla

Tro ikke på din bils løgne øjne.

Hackere har manipuleret flere Tesla-biler til at accelerere med 50 miles i timen. Forskerne narre bilens Mobileye EyeQ3-kamerasystem ved subtilt at ændre et hastighedsbegrænsningsskilt i siden af ​​en vej på en måde, som en person, der kører forbi, næsten aldrig ville bemærke.

Det her demonstration fra cybersikkerhedsfirmaet McAfee er den seneste indikation af, at kontradiktorisk maskinlæring potentielt kan ødelægge autonome køresystemer, hvilket udgør en sikkerhedsudfordring for dem, der håber på at kommercialisere teknologien.

Mobileye EyeQ3-kamerasystemer læser hastighedsgrænseskilte og leverer denne information ind i autonome kørselsfunktioner som Teslas automatiske fartpilot, sagde Steve Povolny og Shivangee Trivedi fra McAfees Advanced Threat Research-team.

Forskerne satte et lillebitte og næsten umærkeligt klistermærke på et hastighedsbegrænsningsskilt. Kameraet læste skiltet som 85 i stedet for 35, og i test steg både 2016 Tesla Model X og det års Model S 50 miles i timen.

Det ændrede hastighedsgrænseskilt læser som 85 på Teslaens heads-up display. En talsmand for Mobileye nedtonede forskningen ved at foreslå, at dette tegn ville narre et menneske til også at læse 85. McAfee

Dette er det seneste i et stigende bjerg af forskning, der viser, hvordan maskinlæringssystemer kan angribes og narre i livstruende situationer.

I en 18 måneder lang forskningsproces gentog og udvidede Trivedi og Povolny et væld af modstridende maskinlæringsangreb, herunder en undersøgelse fra UC Berkeley professor Dawn Song, der brugte klistermærker til at narre en selvkørende bil til at tro, at et stopskilt var et 45-mile i timen hastighedsgrænseskilt. Sidste år narrede hackere en Tesla til at køre over i den forkerte vognbane i trafikken ved at placere klistermærker på vejen i et modstridende angreb, der skulle manipulere bilens maskinlæringsalgoritmer.

Hvorfor vi studerer dette på forhånd er, fordi du har intelligente systemer, der på et tidspunkt i fremtiden vil udføre opgaver, som nu håndteres af mennesker, sagde Povolny. Hvis vi ikke er meget forudseende med hensyn til, hvad angrebene er, og meget omhyggelige med, hvordan systemerne er designet, så har du en rullende flåde af sammenkoblede computere, som er en af ​​de mest virkningsfulde og lokkende angrebsflader derude.

Efterhånden som autonome systemer breder sig, strækker problemet sig til maskinlæringsalgoritmer langt ud over køretøjer: En marts 2019 undersøgelse viste medicinske maskinlæringssystemer narret til at give dårlige diagnoser.

McAfee-undersøgelsen blev afsløret til både Tesla og Mobileye EyeQ3 sidste år. Tesla svarede ikke på en anmodning om kommentar fra MIT Technology Review, men anerkendte McAfees resultater og sagde, at problemerne ikke ville blive løst i den generation af hardware. En talsmand for Mobileye nedtonede forskningen ved at antyde, at det modificerede skilt ville narre selv et menneske til at læse 85 i stedet for 35. Virksomheden anser ikke at snyde kameraet for at være et angreb, og på trods af den rolle kameraet spiller i Teslas fartpilot, den var ikke designet til autonom kørsel.

Autonom køretøjsteknologi vil ikke være afhængig af sansning alene, men vil også blive understøttet af forskellige andre teknologier og data, såsom crowdsourced kortlægning, for at sikre pålideligheden af ​​informationen modtaget fra kamerasensorerne og tilbyde mere robuste redundanser og sikkerhed, siger Mobileye-talspersonen sagde i en erklæring.

Tesla er sidenhen gået over til proprietære kameraer på nyere modeller, og Mobileye EyeQ3 har frigivet flere nye versioner af sine kameraer, som i foreløbige test ikke var modtagelige for netop dette angreb.

Der er stadig et betragteligt antal Tesla-biler, der kører med den sårbare hardware, sagde Povolny. Han påpegede, at Teslaer med den første version af hardware ikke kan opgraderes til nyere hardware.

Det, vi forsøger at gøre, er, at vi virkelig prøver at øge bevidstheden for både forbrugere og leverandører om de typer fejl, der er mulige, sagde Povolny, at vi ikke forsøger at sprede frygt og sige, at hvis du kører denne bil, vil den accelerere ind gennem en barriere, eller for at sensationalisere den.

skjule