AI til cybersikkerhed er en hot ny ting - og en farlig satsning

Billede af kode overlejret på et foto af hænder på en bærbar computers tastatur Unsplash

Da jeg gik rundt på udstillingsgulvet ved denne uges massive Black Hat-cybersikkerhedskonference i Las Vegas, blev jeg slået af antallet af virksomheder, der pralede af, hvordan de bruger maskinlæring og kunstig intelligens til at gøre verden til et mere sikkert sted.

Men nogle eksperter bekymrer sig om, at leverandører ikke er opmærksomme nok på de risici, der er forbundet med at stole stærkt på disse teknologier. Det, der sker, er lidt bekymrende og i nogle tilfælde endda farligt, advarer Raffael Marty fra sikkerhedsfirmaet Forcepoint.

Sikkerhedsindustriens sult efter algoritmer er forståelig. Det står over for en tsunami af cyberangreb, ligesom antallet af enheder, der er tilsluttet internettet, eksploderer. Samtidig er der en massiv mangel på dygtige cyberarbejdere (se Cybersikkerhedens lumske nye trussel: arbejdsstyrkestress).

Brug af maskinlæring og kunstig intelligens til at hjælpe med at automatisere trusselsdetektion og -respons kan lette byrden for medarbejderne og potentielt hjælpe med at identificere trusler mere effektivt end andre softwaredrevne tilgange.

Datafarer

Men Marty og nogle andre, der taler på Black Hat, siger, at mange virksomheder nu udruller maskinlæringsbaserede produkter, fordi de føler, de er nødt til det for at få et publikum med kunder, der har købt ind i AI-hype-cyklussen. Og der er en fare for, at de vil overse måder, hvorpå maskinlæringsalgoritmerne kan skabe en falsk følelse af sikkerhed.

Mange produkter, der udrulles, involverer overvåget læring, hvilket kræver, at virksomheder vælger og mærker datasæt, som algoritmerne er trænet i – for eksempel ved at tagge kode, der er malware og kode, der er ren.

Marty siger, at en risiko er, at virksomheder, når de skynder sig at få deres produkter på markedet, bruger træningsinformation, der ikke er blevet grundigt renset for unormale datapunkter. Det kan føre til, at algoritmen mangler nogle angreb. En anden er, at hackere, der får adgang til et sikkerhedsfirmas systemer, kan ødelægge data ved at skifte etiketter, så nogle malware-eksempler er tagget som ren kode.

De onde behøver ikke engang at pille ved dataene; i stedet kunne de finde ud af funktionerne i kode, som en model bruger til at markere malware og derefter fjerne disse fra deres egen ondsindede kode, så algoritmen ikke fanger den.

Én mod mange

I en session på konferencen markerede Holly Stewart og Jugal Parikh fra Microsoft risikoen for overdreven afhængighed af en enkelt masteralgoritme til at drive et sikkerhedssystem. Faren er, at hvis denne algoritme er kompromitteret, er der intet andet signal, der vil markere et problem med det.

For at hjælpe med at beskytte mod dette, Microsofts Windows Defender-trusselsbeskyttelsestjeneste bruger et mangfoldigt sæt af algoritmer med forskellige træningsdatasæt og funktioner. Så hvis en algoritme er hacket, vil resultaterne fra de andre – forudsat at deres integritet ikke også er blevet kompromitteret – fremhæve anomalien i den første model.

Ud over disse problemer. Forcepoints Marty bemærker, at med nogle meget komplekse algoritmer kan det være virkelig svært at finde ud af, hvorfor de rent faktisk spytter bestemte svar ud. Dette problem med forklaring kan gøre det svært at vurdere, hvad der driver eventuelle anomalier, der dukker op (se Den mørke hemmelighed i hjertet af AI).

Intet af dette betyder, at kunstig intelligens og maskinlæring ikke bør spille en vigtig rolle i et defensivt arsenal. Budskabet fra Marty og andre er, at det er virkelig vigtigt for sikkerhedsvirksomheder – og deres kunder – at overvåge og minimere de risici, der er forbundet med algoritmiske modeller.

Det er ikke en lille udfordring, da folk med den ideelle kombination af dyb ekspertise inden for cybersikkerhed og datavidenskab stadig er så sjældne som en kølig dag i en sommer i Las Vegas.

skjule