Hvordan forvandler man en hund til en bil? Skift en enkelt pixel.

Kategori: Ikke kategoriseret Udsendt 30. okt

Tak en ny tilgang til spoofing af billedgenkendelse AI'er, udviklet af et team fra Kyushu University i Japan, for den joke.

At prøve at fange AI'er er et populært tidsfordriv for mange forskere, og vi har tidligere rapporteret maskinlærings-forfalskninger. Den generelle tilgang er at tilføje funktioner til billeder, der vil udløse et neuralt netværk forkert og få det til at identificere, hvad det ser som noget helt andet.

Den nye forskning, offentliggjort på arXiv , beskriver en algoritme, der effektivt kan identificere de bedste pixels at ændre for at forvirre en AI til at fejlmærke et billede. Ved kun at ændre én pixel i et 1.024-pixel billede, kan softwaren snyde en AI omkring 74 procent af tiden. Det tal stiger til omkring 87 procent, hvis fem pixels justeres.

Du kan se nogle eksempler ovenfor, som blandt andet spoofede en AI til at kalde et fly for en hund, en frø for en lastbil og en hest for en bil.

Som det Tilmeld påpeger , 1.024-pixel billeder er temmelig små, hvilket betyder, at større billeder ville have brug for hundredvis af pixels tweaked. Men presset på at få AI'er til at falde om ved at bruge det mindste antal mulige ændringer er interessant og bekymrende i lige så høj grad. Som vi tidligere har forklaret, er det ret svært at finde en måde at beskytte AI'er mod denne slags tricks, fordi vi stadig ikke rigtig forstår den indre funktion af dybe neurale netværk.

Indtil vi gør det, vil sådanne hacks være svære at undgå.