Der er en krise med ansigtsgenkendelse og politiarbejde i USA

Fru Tech | Unsplash

Da nyheden kom om, at en fejlagtig kamp fra et ansigtsgenkendelsessystem havde fået Detroit-politiet til at arrestere Robert Williams for en forbrydelse, han ikke begik, var det sidst i juni, og landet var allerede i opbrud over George Floyds død en måned tidligere. . Kort efter kom det frem, at endnu en sort mand, Michael Oliver, blev arresteret under lignende omstændigheder som Williams. Mens store dele af USA fortsætter med at råbe efter racemæssig retfærdighed, tager en mere stille samtale form om ansigtsgenkendelsesteknologi og politiet. Vi gør klogt i at lytte.

Da Jennifer Strong og jeg begyndte at rapportere om politiets brug af ansigtsgenkendelsesteknologi til vores nye podcast, I maskiner, vi stoler på , vi vidste, at disse AI-drevne systemer blev vedtaget af betjente over hele USA og i andre lande. Men vi anede ikke, hvor meget der foregik uden for offentligheden.

For det første ved vi ikke, hvor ofte politiafdelinger i USA bruger ansigtsgenkendelse af den simple grund, at de i de fleste jurisdiktioner ikke behøver at rapportere, når de bruger det til at identificere en mistænkt for en forbrydelse. Det seneste tal er spekulative og fra 2016 , men de foreslår, at på det tidspunkt havde mindst halvdelen af ​​amerikanerne billeder i et ansigtsgenkendelsessystem. Et amt i Florida gennemførte 8.000 søgninger hver måned.

Vi ved heller ikke, hvilke politiafdelinger der har ansigtsgenkendelsesteknologi, fordi det er almindeligt, at politiet slører deres indkøbsproces. Der er for eksempel beviser på, at mange afdelinger køber deres teknologi ved hjælp af føderale tilskud eller nonprofit-gaver, som er undtaget fra visse love om offentliggørelse. I andre tilfælde tilbyder virksomheder politiets prøveperioder for deres software, der tillader betjente at bruge systemer uden nogen officiel godkendelse eller tilsyn. Dette giver virksomheder, der laver ansigtsgenkendelsessystemer, mulighed for at hævde, at deres produkter er i bred brug - og giver det ydre indtryk, at de er både populære og pålidelige værktøjer til kriminalitet.

Beskyttede algoritmer, der ikke fungerer

Men hvis ansigtsgenkendelse er kendt for noget, er det, hvor upålidelig den er. Som vi rapporterer i showet, i januar Londons Metropolitan Police debuterede et live ansigtsgenkendelsessystem at i test havde en nøjagtighed på mindre end 20 % . I New York City er Metro Transit Authority afprøvede et system på større færdselsårer med en rapporteret hastighed på 0 % nøjagtighed. Systemerne er ofte også raceorienterede - en undersøgelse viste, at i nogle kommercielle systemer, selv under laboratorieforhold fejlprocenter ved identifikation af mørkere hudede kvinder var omkring 35 pct. Mens vi rapporterede til showet, fandt vi ud af, at det ikke er ualmindeligt, at politiet ændrer billeder for at forbedre deres chancer for at finde et match. Nogle forsvarede endda praksis som afgørende for at udføre godt politiarbejde.

To af de mest kontroversielle og avancerede virksomheder på området, ClearviewAI og NTechLabs, hævder at have løst bias-problemet og nået næsten perfekt nøjagtighed. ClearviewAI hævder, at det bruges af omkring 600 politiafdelinger i USA (nogle eksperter, vi talte med, var skeptiske over for det tal). NTechLabs, der er baseret i Rusland, har skrevet under på live video ansigtsgenkendelse i hele byen Moskva.

Men der er næsten ingen måde at uafhængigt verificere deres påstande. Begge virksomheder har algoritmer, der sidder på databaser med milliarder af offentlige billeder. National Institute of Standards and Technology (NIST) tilbyder i mellemtiden en af ​​de få uafhængige revisioner af ansigtsgenkendelsesteknologi. NIST Vendor Test bruger et meget mindre datasæt, som sammen med kvaliteten og mangfoldigheden af ​​billederne i databasen begrænser dets magt som revisionsværktøj. ClearviewAI har ikke taget NISTs seneste test. NTechLabs har taget den statiske billedtest og klaret sig godt, men der er ingen i øjeblikket brugt test til live video ansigtsgenkendelse. Der er heller ingen uafhængig test specifikt for bias.

Anerkendelse i gaderne

Den seneste bølge af Black Lives Matter-protester, udløst af Floyds død, har sat spørgsmålstegn ved meget af det, vi har accepteret om moderne politi, herunder deres brug af teknologi. Den mørke ironi er, at når folk går på gaden for at protestere mod racisme i politiet, har noget politi brugt banebrydende værktøjer med en kendt racemæssig skævhed mod de forsamlede. Det ved vi for eksempel Baltimore politiafdeling brugte ansigts-id på demonstranter efter Freddie Grays død i 2015. Og vi ved, at en håndfuld afdelinger har udsendt offentlige opfordringer til optagelser af dette års protester. Det er blevet dokumenteret, at politiet i Minneapolis har adgang til en række teknologier, herunder ClearviewAIs tjenester . Ifølge Jameson Spivack fra Center for Privatliv og Teknologi ved Georgetown University, som vi interviewer i showet, er det specifikt målrettet mod og afskrækkende sorts politiske tale, hvis ansigtsgenkendelse bruges til BLM-protester.

Efter flere års kamp for regulering, af mest sorte og brunledede organisationer , vi har aldrig været i et bedre tidspunkt til virkelig at ændre os. Microsoft, Amazon og IBM har alle annonceret afbrydelser eller moratorier for deres ansigtsgenkendelsesprodukter. I de seneste måneder har en håndfuld amerikanske storbyer annonceret forbud eller moratorier for teknologien. På den anden side bevæger teknologien sig hurtigt. Systemernes muligheder – såvel som potentiale for misbrug og misbrug – vil fortsætte med at vokse med stormskridt. Vi er allerede begyndt at se politiafdelinger og teknologiudbydere bevæge sig ud over statiske, retrospektive ansigtsgenkendelsessystemer til live videoanalyse, der er integreret med andre typer datastrømme, såsom lydovervågningssystemer.

Nogle af de politibetjente, vi talte med, sagde, at de ikke skulle efterlades med arkaiske værktøjer til at bekæmpe kriminalitet i det 21. århundrede. Og det er rigtigt, at teknologi i nogle tilfælde kan gøre politiarbejdet mindre voldeligt og mindre udsat for menneskelige skævheder.

Men efter måneder med rapportering om vores lyd-miniserie, sad jeg tilbage med en følelse af anelse. Indsatsen vokser dag for dag, og indtil videre er offentligheden blevet efterladt langt bagud i sin forståelse af, hvad der foregår. Det er ikke klart, hvordan det vil ændre sig, medmindre alle mennesker på alle sider af dette spørgsmål kan blive enige om, at alle har ret til at blive informeret.

skjule