Sådan gemmer du dig fra AI-overvågningstilstanden med en farveudskrift

Kategori: Kunstig intelligens Udsendt 23. apr

AI-drevet videoteknologi bliver allestedsnærværende og sporer vores ansigter og kroppe gennem butikker, kontorer og offentlige rum. I nogle lande udgør teknologien et stærkt nyt lag af politi og regeringsovervågning.

Heldigvis, som nogle forskere fra det belgiske universitet KU Leuven lige har vist , kan du ofte skjule fra et AI-videosystem ved hjælp af en simpel farveudskrift.

Hvem sagde det? Forskerne viste, at det billede, de designede, kan skjule en hel person fra et AI-drevet computer-vision-system. De demonstrerede det på et populært open source-objektgenkendelsessystem kaldet YoLo(v2) .

Gemmeleg: Tricket kunne tænkes at lade skurke skjule sig fra sikkerhedskameraer eller tilbyde dissidenter en måde at undvige regeringens kontrol. Hvad vores arbejde beviser er, at det er muligt at omgå kameraovervågningssystemer ved hjælp af modstridende patches, siger Wiebe Van Ranst , en af ​​forfatterne.

Skrub af: Van Ranst siger, at det ikke burde være for svært at tilpasse tilgangen til standard videoovervågningssystemer. I øjeblikket skal vi også vide, hvilken detektor der er i brug. Det, vi gerne vil gøre i fremtiden, er at generere en patch, der virker på flere detektorer på samme tid, fortalte han MIT Technology Review. Hvis dette virker, er chancerne store for, at plasteret også virker på den detektor, der er i brug i overvågningssystemet.

Narres ærinde: Bedraget demonstreret af det belgiske hold udnytter det, der er kendt som modstridende maskinlæring. Det meste computersyn er afhængigt af at træne et (foldet) neuralt netværk til at genkende forskellige ting ved at give det eksempler og justere dets parametre, indtil det klassificerer objekter korrekt. Ved at føre eksempler ind i et trænet dybt neuralt net og overvåge outputtet, er det muligt at udlede, hvilke typer billeder der forvirrer eller narre systemet.

Øjne overalt: Arbejdet er betydeligt, fordi AI i stigende grad findes i hverdagens overvågningskameraer og software. Det bliver endda brugt til at undgå behovet for en kasselinje i nogle eksperimentelle butikker, inklusive dem, der drives af Amazon. Og i Kina dukker teknologien op som et kraftfuldt nyt middel til at fange kriminelle såvel som, mere bekymrende, sporing af visse etniske grupper .