En ny måde at træne AI-systemer på kunne holde dem mere sikre mod hackere

Kategori: Kunstig intelligens Udsendt 10 jul

Konteksten: En af de største uløste fejl ved dyb læring er dens sårbarhed over for såkaldte modstridende angreb . Når de føjes til input fra et AI-system, kan disse forstyrrelser, tilsyneladende tilfældige eller uopdagelige for det menneskelige øje, få tingene til at gå helt skævt. Klistermærker, der er strategisk placeret på et stopskilt, kan for eksempel snyde en selvkørende bil til at se et hastighedsbegrænsningsskilt til 45 miles i timen, mens klistermærker på en vej kan forvirre en Tesla til at køre over i den forkerte vognbane.

Sikkerhedskritisk: Det meste modstridende forskning fokuserer på billedgenkendelsessystemer, men deep-learning-baserede billeder rekonstruktion systemer er også sårbare. Dette er især bekymrende i sundhedsvæsenet, hvor sidstnævnte ofte er vant til rekonstruere medicinske billeder som CT- eller MR-scanninger fra røntgendata. Et målrettet modstridende angreb kan få et sådant system til at rekonstruere en tumor i en scanning, hvor der ikke er en.

Forskningen: Bo Li (udnævnt til en af ​​dette års MIT Technology Review Innovators Under 35) og hendes kolleger ved University of Illinois i Urbana-Champaign foreslår nu en ny metode for at træne sådanne deep-learning-systemer til at være mere fejlsikre og dermed troværdige i sikkerhedskritiske scenarier. De sætter det neurale netværk, der er ansvarligt for billedrekonstruktion, mod et andet neuralt netværk, der er ansvarligt for at generere modstridende eksempler, i en stil svarende til GAN algoritmer . Gennem iterative runder forsøger det kontradiktoriske netværk at narre genopbygningsnetværket til at producere ting, der ikke er en del af de originale data eller grundsandheden. Genopbygningsnetværket justerer løbende sig selv for at undgå at blive snydt, hvilket gør det mere sikkert at implementere i den virkelige verden.

Resultaterne: Da forskerne testede deres modstridende trænede neurale netværk på to populære billeddatasæt, var det i stand til at rekonstruere grundsandheden bedre end andre neurale netværk, der var blevet fejlsikret med forskellige metoder. Resultaterne er dog stadig ikke perfekte, hvilket viser, at metoden stadig trænger til forfining. Værket præsenteres i næste uge kl International konference om maskinlæring . (Læs denne uges algoritme for tips om, hvordan jeg navigerer i AI-konferencer som denne.)