Computer Vision Algoritmer er stadig alt for nemme at narre

Kategori: Kunstig intelligens Udsendt 20. dec

AI-billedgenkendelse har gjort nogle fantastiske fremskridt, men som ny forskning viser, kan systemerne stadig blive snublet op af eksempler, der aldrig ville narre en person.

Labsix, en gruppe MIT-studerende, der for nylig narrede en billedklassificeringsanordning udviklet af Google til at tænke en 3-D-printet skildpadde var en riffel , udgivet en papir onsdag der beskriver en anden teknik, der kunne narre systemer endnu hurtigere. Denne gang lykkedes det dog at snyde en sort boks, hvor de kun havde delvise oplysninger om, hvordan systemet traf beslutninger.

Holdets nye algoritme starter med et billede, det vil bruge til at narre et andet system – i eksemplet fra deres papir er det en hund – og begynder derefter at ændre pixels for at få billedet til at ligne kildebilledet; i dette tilfælde skiløbere. Mens den fungerer, udfordrer den kontradiktoriske algoritme billedgenkendelsessystemet med versioner af billedet, der hurtigt bevæger sig ind i det territorium, ethvert menneske ville genkende som skiløbere (tjek gif'en ovenfor). Men hele tiden opretholder algoritmen den helt rigtige kombination af saboterede pixels for at få systemet til at tro, at det kigger på en hund.

Forskerne testede deres metode på Googles Cloud Vision API - en god testcase, delvis fordi Google ikke har offentliggjort noget om, hvordan computervisionssoftwaren fungerer, eller endda alle de etiketter, systemet bruger til at klassificere billeder. Holdet siger, at de kun har prøvet at forpurre Googles system indtil videre, men at deres teknik også burde fungere på andre billedgenkendelsessystemer.

Der er masser af forskere, der arbejder på modarbejde modstridende eksempler som denne, men til sikkerhedskritiske anvendelser, som f.eks autonome køretøjer , vil man ikke stole på kunstig intelligens, før modstridende angreb er umulige eller i det mindste meget sværere at gennemføre.