211service.com
Er ansigtsgenkendelsessystemer nøjagtige? Afhænger af din race.
Alt, hvad vi ved om de ansigtsgenkendelsessystemer, som FBI og politiet bruger, tyder på, at softwaren har en indbygget racemæssig bias. Det er ikke med vilje - det er en artefakt af, hvordan systemerne er designet, og de data, de er trænet på. Men det er problematisk. Retshåndhævende myndigheder er mere og mere afhængige af sådanne værktøjer til at hjælpe med kriminelle efterforskninger, hvilket øger risikoen for, at noget kan gå galt.
Retshåndhævende myndigheder har ikke givet mange detaljer om, hvordan de bruger ansigtsgenkendelsessystemer, men i juni udsendte Government Accountability Office en rapport, der sagde, at FBI ikke korrekt har testet nøjagtigheden af deres ansigtsmatchningssystem eller det massive netværk af ansigtsmatchende databaser på statsniveau, den kan få adgang til.
Og mens avancerede ansigtsmatchningssystemer kan være næsten 95 procent nøjagtige på mugshot-databaser, er disse billeder taget under kontrollerede forhold med generelt samarbejdsvillige motiver. Billeder taget under mindre end ideelle omstændigheder, såsom dårlig belysning, eller som fanger usædvanlige positurer og ansigtsudtryk, kan føre til fejl.
Illustration af Sophia Foster-Dimino
Algoritmerne kan også være skæve på grund af den måde, de trænes på, siger Anil Jain , leder af forskningsgruppen for biometri ved Michigan State University. For at fungere skal software til ansigtsmatchning først lære at genkende ansigter ved hjælp af træningsdata, et sæt billeder, der giver softwaren information om, hvordan ansigter adskiller sig. Hvis et køn, en aldersgruppe eller en race er underrepræsenteret i træningsdataene, vil det afspejle sig i algoritmens ydeevne, siger Jain.
I 2012 brugte Jain og flere kolleger et sæt mugshots fra Pinellas County Sheriff's Office i Florida til at undersøge ydeevnen af adskillige kommercielt tilgængelige ansigtsgenkendelsessystemer, inklusive dem fra leverandører, der leverer retshåndhævende myndigheder. Algoritmerne var konsekvent mindre præcise på kvinder, afroamerikanere og yngre mennesker. Tilsyneladende blev de trænet på data, der ikke var repræsentative nok for de grupper, siger Jain.
Hvis dit træningssæt er stærkt forudindtaget mod et bestemt løb, vil din algoritme bedre genkende det løb, siger Alice O’Toole , leder af forskningslaboratoriet for ansigtsopfattelse ved University of Texas i Dallas. O'Toole og flere kolleger fundet i 2011 at en algoritme udviklet i vestlige lande var bedre til at genkende kaukasiske ansigter, end den var til at genkende østasiatiske ansigter. Ligeledes klarede østasiatiske algoritmer sig bedre på østasiatiske ansigter end på kaukasiske.
I de mange år, der er gået siden disse undersøgelser, er nøjagtigheden af kommercielle algoritmer forbedret betydeligt på mange områder, og Jain siger, at ydeevneforskellene mellem forskellige køn og racer kan være blevet mindre. Men så lidt testinformation er tilgængelig, er det svært at vide. Nyere tilgange til ansigtsgenkendelse, såsom de deep learning-systemer Google og Facebook har udviklet, kan begå den samme slags fejl, hvis træningsdataene er ubalancerede, siger han.
Jonathon Phillips, en elektronisk ingeniør ved National Institute of Standards and Technology, udfører ydeevnetest af kommercielle algoritmer. Han siger, at det er muligt at designe en test til at måle racemæssig skævhed i ansigtsmatchningssystemer. Det har privatlivseksperter faktisk efterlyste gøre sådanne tests til et krav.
FBI og MorphoTrust, leverandøren, der leverer bureauets ansigtsgenkendelsessoftware, besvarede ikke e-mailede spørgsmål fra MIT Technology Review om de tester deres algoritmers ydeevne efter race, køn eller alder.
Arrangementerne mellem leverandører og de mange statslige retshåndhævende myndigheder, der bruger ansigtsgenkendelse, er heller ikke klare. Men Pete Langenfeld, leder af digital analyse og identifikation for Michigan State Police, siger, at hans organisation ikke tester for gruppespecifik nøjagtighed. Han sagde, at han ikke ved, om leverandøren, der leverede teknologien, heller udfører sådanne tests, men tilføjede, at det er proprietær information, og virksomheden er ikke forpligtet til at frigive disse oplysninger.