Smart software kan lokkes til at se, hvad der ikke er der

En teknik kaldet deep learning har gjort det muligt for Google og andre virksomheder at skabe gennembrud i at få computere til at forstå indholdet af billeder. Nu har forskere ved Cornell University og University of Wyoming vist, hvordan man laver billeder, der snyder sådan software til at se ting, der ikke er der .

Billeder som disse blev skabt for at narre maskinlæringsalgoritmer. Softwaren ser hvert mønster som et af cifrene 1 til 5.

Forskerne kan skabe billeder, der for et menneske fremstår som forvrænget nonsens eller simple geometriske mønstre, men som af softwaren identificeres som et hverdagsobjekt såsom en skolebus. Trickbillederne giver ny indsigt i forskellene mellem, hvordan rigtige hjerner og de simple simulerede neuroner, der bruges i billeder af dyb indlæringsproces.

Forskere træner typisk deep learning-software til at genkende noget af interesse - for eksempel en guitar - ved at vise den millioner af billeder af guitarer, hver gang de fortæller computeren, at det er en guitar. Efter et stykke tid kan softwaren identificere guitarer på billeder, den aldrig har set før, og tildele dens svar en tillidsvurdering. Det kan give en guitar vist alene på en hvid baggrund en høj tillidsvurdering, og en guitar set i baggrunden af ​​et kornet rodet billede en lavere tillidsvurdering (se 10 Breakthrough Technologies 2013: Deep Learning).

Denne tilgang har værdifulde applikationer såsom ansigtsgenkendelse eller brug af software til at behandle sikkerheds- eller trafikkameraoptagelser, for eksempel til at måle trafikstrømme eller spotte mistænkelig aktivitet.

Men selvom de matematiske funktioner, der bruges til at skabe et kunstigt neuralt netværk, forstås individuelt, er det ukendt, hvordan de arbejder sammen om at dechifrere billeder. Vi forstår, at de virker, bare ikke hvordan de fungerer, siger Jeff Clune , en assisterende professor i datalogi ved University of Wyoming. De kan lære at gøre ting, som vi ikke engang kan lære at gøre selv.

Disse billeder ser abstrakte ud for mennesker, men ses af den billedgenkendelsesalgoritme, som de var designet til at narre som objekterne beskrevet i etiketterne.

For at kaste nyt lys over, hvordan disse netværk fungerer, brugte Clunes gruppe et neuralt netværk kaldet AlexNet, der har opnået imponerende resultater inden for billedgenkendelse. De betjente det omvendt og bad en version af softwaren uden kendskab til guitarer til skab et billede af en, ved at generere tilfældige pixels på tværs af et billede.

Forskerne bad en anden version af netværket, der var blevet trænet til at spotte guitarer, om at vurdere billederne lavet af det første netværk. Denne tillidsvurdering blev brugt af det første netværk til at forfine sit næste forsøg på at skabe et guitarbillede. Efter tusindvis af runder af dette mellem de to stykker software, kunne det første netværk lave et billede, som det andet netværk genkendte som en guitar med 99 procents tillid.

Men for et menneske lignede disse guitarbilleder farvede tv-statiske eller simple mønstre. Clune siger, at dette viser, at softwaren ikke er interesseret i at sammensætte strukturelle detaljer som strenge eller et gribebræt, som et menneske, der forsøger at identificere noget, kan være. I stedet ser softwaren ud til at se på specifikke afstande eller farveforhold mellem pixels eller overordnet farve og tekstur.

Det giver ny indsigt i, hvordan kunstige neurale netværk virkelig fungerer, siger Clune, selvom der er behov for mere forskning.

Ryan Adams , en assisterende professor i datalogi ved Harvard, siger, at resultaterne ikke er helt overraskende. Det faktum, at store områder af trickbillederne ligner hav af statisk elektricitet, skyldes sandsynligvis den måde, netværk fodres med træningsbilleder på. Objektet af interesse er normalt kun en lille del af billedet, og resten er ligegyldigt.

Adams påpeger også, at Clunes forskning viser, at mennesker og kunstige neurale netværk har nogle ting til fælles. Mennesker har troet, at de ser hverdagsgenstande i tilfældige mønstre - såsom stjernerne - i årtusinder.

Clune siger, at det ville være muligt at bruge hans teknik til at narre billedgenkendelsesalgoritmer, når de sættes til at fungere i webtjenester og andre produkter. Det ville dog være meget svært at trække sig fra. For eksempel har Google algoritmer, der filtrerer pornografi fra resultaterne af deres billedsøgningstjeneste. Men for at skabe billeder, der kunne snyde det, ville en spøgefugl have brug for at kende væsentlige detaljer om, hvordan Googles software blev designet.

skjule