211service.com
AI Fight Club kunne hjælpe med at redde os fra en fremtid med super-smarte cyberangreb
John Malta
En ny konkurrence varsler, hvad der sandsynligvis bliver fremtiden for cybersikkerhed og cyberkrigsførelse, med offensive og defensive AI-algoritmer, der kæmper.
Det konkurrence , der udspilles i løbet af de næste fem måneder, drives af Kaggle , en platform for datavidenskabskonkurrencer. Det vil sætte forskernes algoritmer op mod hinanden i forsøg på at forvirre og narre hinanden, idet håbet er, at denne kamp vil give indsigt i, hvordan man hærder maskinlæringssystemer mod fremtidige angreb.
Det er en genial idé at katalysere forskning i både at narre dybe neurale netværk og designe dybe neurale netværk, der ikke kan narre, siger Jeff Clune , en assisterende professor ved University of Wyoming, der studerer grænserne for maskinlæring.
Konkurrencen vil have tre dele. En udfordring vil involvere blot at prøve at forvirre et maskinlæringssystem, så det ikke fungerer korrekt. En anden vil involvere at forsøge at tvinge et system til at klassificere noget forkert. Og en tredje vil involvere udvikling af de mest robuste forsvar. Resultaterne vil blive præsenteret på en større AI-konference senere på året.
Machine learning, og deep learning i særdeleshed, er hurtigt ved at blive et uundværligt værktøj i mange brancher. Teknologien går ud på at føde data ind i en speciel form for computerprogram, specificere et bestemt resultat og lade en maskine udvikle sin egen algoritme for at opnå resultatet. Deep learning gør dette ved at justere parametrene for et enormt, sammenkoblet net af matematisk simulerede neuroner.
Det har længe været kendt, at maskinlæringssystemer kan snydes. Spammere kan for eksempel undgå moderne spamfiltre ved at finde ud af, hvilke mønstre filterets algoritme er blevet trænet til at identificere.
I de senere år har forskere dog vist, at selv de smarteste algoritmer nogle gange kan blive vildledt på overraskende måder. For eksempel dyb-læringsalgoritmer med næsten menneskelige færdigheder til at genkende objekter i billeder kan snydes ved tilsyneladende abstrakte eller tilfældige billeder, der udnytter de lavniveaumønstre, disse algoritmer leder efter (se The Dark Secret at the Heart of AI).
Modstridende maskinlæring er sværere at studere end konventionel maskinlæring - det er svært at sige, om dit angreb er stærkt, eller om dit forsvar faktisk er svagt, siger Ian Goodfellow, en forsker ved Google hjerne , en afdeling af Google dedikeret til at forske i og anvende maskinlæring, som organiserede konkurrencen.
Efterhånden som maskinlæring bliver udbredt, er frygten, at sådanne angreb kan bruges til profit eller ren fortræd. Det kan være muligt for hackere at unddrage sig sikkerhedsforanstaltninger for for eksempel at installere malware.
Computersikkerhed bevæger sig bestemt mod maskinlæring, siger Goodfellow. De onde vil bruge maskinlæring til at automatisere deres angreb, og vi vil bruge maskinlæring til at forsvare.
I teorien kan kriminelle også forvirre stemme- og ansigtsgenkendelsessystemer eller endda sætte plakater op for at narre synssystemerne i selvkørende biler, hvilket får dem til at styrte.
Kaggle er blevet en uvurderlig grobund for algoritmeudvikling og et arnested for talentfulde dataforskere. Virksomheden blev opkøbt af Google i marts og er nu en del af Google Cloud-platformen. Goodfellow og en anden Google Brain-forsker, Alexey Kurakin, indsendte ideen til udfordringen før opkøbet.
Benjamin Hamner, Kaggles medstifter og CTO, siger, at han håber, at konkurrencen vil henlede opmærksomheden på et truende problem. Efterhånden som maskinlæring bliver mere udbredt, bliver forståelsen af problemerne og risiciene ved modstridende læring stadig vigtigere, siger han.
Fordelene ved den åbne konkurrence opvejer enhver risiko forbundet med at offentliggøre nye former for angreb, tilføjer han: Vi mener, at denne forskning bedst skabes og deles åbent i stedet for bag lukkede døre.
Clune siger i mellemtiden, at han er opsat på, at konkurrencen skal teste algoritmer, der angiveligt kan modstå angreb. Mine penge er på, at netværkene bliver ved med at blive snydt i en overskuelig fremtid, siger han.