Hackere narrer en Tesla til at køre over i den forkerte vognbane

Kategori: Kunstig intelligens Udsendt 01 apr

Hackere har demonstreret nogle bekymrende måder at manipulere og forvirre de forskellige systemer på en Tesla Model S. Deres mest dramatiske præstation: at sende bilen i bevægelse ind i den modkørende vognbane ved at placere en række små klistermærker på vejen.

Angrebsvektor: Dette er et eksempel på et modstridende angreb, en måde at manipulere en maskinlæringsmodel på ved at indlæse et specielt udformet input. Modstridende angreb kan blive mere almindelige, efterhånden som maskinlæring bruges mere udbredt, især inden for områder som netværkssikkerhed.

Slørede linjer: Teslas autopilot er sårbar, fordi den genkender baner ved hjælp af computersyn. Med andre ord er systemet afhængigt af kameradata, analyseret af et neuralt netværk, for at fortælle køretøjet, hvordan det skal holde sig centreret i sin vognbane.

Trafikprop: Dette er ikke det første modstridende angreb på et autonomt køresystem. Dawn Song, en professor ved UC Berkeley, har brugt ufarligt udseende klistermærker til at narre en selvkørende bil til at tro, at et stopskilt var en hastighedsgrænse for 45 miles i timen. En anden undersøgelse , udgivet i marts, demonstrerede, hvordan medicinske maskinlæringssystemer på samme måde kan snydes til at give de forkerte diagnoser.

Fejlrettelser: Forskerne bag banegenkendelseshacket fra Keen Security Lab af den kinesiske tech-gigant Tencent, brugte et lignende angreb til at forstyrre køretøjets automatiske vinduesviskere. De kaprede også bilens rat ved hjælp af en anden metode. En Tesla-talsmand fortalte Forbes at sidstnævnte sårbarhed er blevet rettet i sin seneste softwareopdatering. Talsmanden sagde, at det modstridende angreb var urealistisk, da en chauffør nemt kan tilsidesætte autopiloten til enhver tid.