Den nye retssag, der viser ansigtsgenkendelse, er officielt et spørgsmål om borgerrettigheder

ACLU

Den 9. januar 2020 kørte Detroit-politiet til forstaden Farmington Hill og arresterede Robert Williams i hans indkørsel, mens hans kone og unge døtre så til. Williams, en sort mand, blev anklaget for at stjæle ure fra Shinola, en luksusbutik. Han blev holdt natten over i fængsel.

Under afhøring viste en betjent Williams et billede af en mistænkt. Hans svar, som han fortalte ACLU , skulle afvise kravet. Det er ikke mig, sagde han til betjenten. Jeg håber, at I ikke synes, at alle sorte ser ens ud. Han siger, at betjenten svarede: Computeren siger, det er dig.

Relateret historie

Hvad sker der, når en algoritme tager fejl

Det mærkelige ved Robert Williams' falske anholdelse var ikke, at politiet brugte ansigtsgenkendelse til at identificere ham. Det er, at de fortalte ham om det.

Williams uretmæssige anholdelse, som først blev rapporteret af New York Times i august 2020 , var baseret på et dårligt match fra Detroit Police Departments ansigtsgenkendelsessystem. To mere tilfælde af falske anholdelser er siden blevet offentliggjort. Begge er også sorte mænd, og begge har taget retslige skridt.

Nu følger Williams i deres vej og går videre - ikke kun ved at sagsøge afdelingen for hans uretmæssige anholdelse, men ved at forsøge at få teknologien forbudt.

På tirsdag, ACLU og University of Michigan Law School's Civil Rights Litigation Initiative anlagde sag på vegne af Williams med påstand om, at anholdelsen krænkede hans rettigheder til det fjerde ændringsforslag og var i strid med Michigans lov om borgerrettigheder.

Sagen anmoder om kompensation, større gennemsigtighed omkring brugen af ​​ansigtsgenkendelse og en ende på Detroit Police Departments brug af ansigtsgenkendelsesteknologi, uanset om det er direkte eller indirekte.

Hvad siger retssagen

Det dokumenter indleveret tirsdag lægge sagen op. I marts 2019 havde DPD kørt et kornet billede af en sort mand med en rød kasket fra Shinolas overvågningsvideo gennem sit ansigtsgenkendelsessystem, lavet af et firma kaldet DataWorks Plus. Systemet returnerede en kamp med et gammelt kørekortfoto af Williams. Efterforskningsofficerer inkluderede derefter Williams licensfoto som en del af en fotoopstilling og en Shinola-sikkerhedsentreprenør ( som faktisk ikke var til stede på tidspunktet for tyveriet) identificerede Williams som tyven. Betjentene opnåede en kendelse, som kræver flere sign-offs fra afdelingsledelsen, og Williams blev arresteret.

Klagen hævder, at den falske anholdelse af Williams var et direkte resultat af ansigtsgenkendelsessystemet, og at denne uretmæssige anholdelses- og fængselssag er et eksempel på den alvorlige skade forårsaget af misbrug af og afhængighed af ansigtsgenkendelsesteknologi.

Sagen indeholder fire forhold, hvoraf tre fokuserer på manglen på sandsynlig årsag til anholdelsen, mens et fokuserer på raceforskelle i virkningen af ​​ansigtsgenkendelse. Ved at anvende teknologi, der er empirisk bevist at fejlidentificere sorte mennesker med satser, der er langt højere end andre grupper af mennesker, hedder det, at DPD nægtede Mr. Williams den fulde og lige nydelse af Detroit Police Departments tjenester, privilegier og fordele på grund af hans race. eller farve.

Ansigtsgenkendelsesteknologiens vanskeligheder med at identificere personer med mørkere hud er veldokumenteret . Efter drabet på George Floyd i Minneapolis i 2020 annoncerede nogle byer og stater forbud og moratorier for politiets brug af ansigtsgenkendelse. Men mange andre, inklusive Detroit, fortsatte med at bruge det på trods af stigende bekymringer.

Stoler på underordnede billeder

Da MIT Technology review talte med Williams' ACLU-advokat, Phil Mayor, sidste år, understregede han, at problemer med racisme inden for amerikansk retshåndhævelse gjorde brugen af ​​ansigtsgenkendelse endnu mere bekymrende.

Dette er ikke en situation med én dårlig skuespiller, sagde borgmester. Dette er en situation, hvor vi har et strafferetssystem, der er ekstremt hurtigt at anklage og ekstremt langsomt til at beskytte folks rettigheder, især når vi taler om farvede mennesker.

Eric Williams, en ledende personaleadvokat hos Economic Equity Practice i Detroit, siger, at kameraer har mange teknologiske begrænsninger, ikke mindst at de er hårdkodede med farveintervaller til genkendelse af hudtone og ofte simpelthen ikke kan behandle mørkere hud.

'Jeg tror, ​​at enhver sort person i landet har haft oplevelsen af ​​at være på et billede, og billedet bliver enten lysere eller mørkere.'

Jeg tror, ​​at enhver sort person i landet har haft oplevelsen af ​​at være på et billede, og billedet bliver enten lysere eller mørkere, siger Williams, der er medlem af ACLU i Michigans advokatudvalg, men ikke arbejder på Robert Williams sag. Belysning er en af ​​de primære faktorer, når det kommer til kvaliteten af ​​et billede. Så den kendsgerning, at retshåndhævelsen til en vis grad … er afhængig af virkelig underordnede billeder, er problematisk.

Der har været tilfælde, der udfordrede forudindtaget algoritmer og kunstig intelligens-teknologier på basis af race. Facebook gennemgik f.eks en massiv borgerrettighedsrevision efter at dets målrettede reklamealgoritmer viste sig at vise annoncer på grundlag af race, køn og religion. YouTube blev sagsøgt et gruppesøgsmål fra Black-skabere som hævdede, at dets AI-systemer profilerer brugere og censurerer eller diskriminerer indhold på baggrund af race. YouTube blev også sagsøgt af LGBTQ+ skabere, der sagde, at indholdsmoderering systemer markeret ordene homoseksuel og lesbisk.

Nogle eksperter siger, at det kun var et spørgsmål om tid, før brugen af ​​forudindtaget teknologi af en større institution som politiet blev mødt med juridiske udfordringer.

Relateret historie

Hvorfor 2020 var et afgørende, selvmodsigende år for ansigtsgenkendelse Den racemæssige retfærdighedsbevægelse skubbede problemer med teknologien ind i den offentlige bevidsthed - men på trods af skandaler og forbud aftager dens vækst ikke.

Regeringens brug af ansigtsgenkendelse har tydeligvis en forskellig indvirkning på farvede mennesker, siger Adam Schwartz, senior advokat ved Electronic Frontier Foundation. Undersøgelse efter undersøgelse viser, at denne farlige teknologi har langt højere forekomster af falske positiver for farvede mennesker sammenlignet med hvide. Regeringens brug af denne teknologi overtræder således love, der forbyder myndighederne at indføre praksis, der forårsager forskellig indvirkning.

Men borgmester, Williams advokat, har ventet en hård kamp. Han fortalte MIT Technology Review sidste år, at han forventede, at Detroit Police Department ville fortsætte med at argumentere for, at ansigtsgenkendelse er et fantastisk efterforskningsværktøj.

Williams-sagen beviser, at det ikke er det. Det er det slet ikke, sagde han. Og faktisk kan det skade folk, når man bruger det som et efterforskningsredskab.

Under mikroskopet

I en erklæring sagde Lawrence Garcia, advokaten for City of Detroit, at byen havde til formål at 'opnå en løsning' i sagen, men sagde, at ansigtsgenkendelse ikke var skyld i situationen.

'Som politichefen har forklaret, var anholdelsen et resultat af sjusket efterforskning - ikke defekt teknologi,' sagde Garcia. 'Detroit Police Department har gennemført en intern undersøgelse og har modtaget sigtelser om forseelse i forhold til flere medlemmer af afdelingen. Nye protokoller er blevet indført af DPD for at forhindre lignende problemer i at opstå.'

Men Williams-dragten kommer på et kritisk tidspunkt for race og politi i USA. Det blev indgivet, da forsvarsadvokater begyndte at argumentere i retssagen mod Derek Chauvin, den betjent, der er anklaget for at have myrdet George Floyd i Minneapolis i maj sidste år - og på den tredje dag af protester som reaktion på skyderiet af Daunte Wright i det nærliggende Brooklyn Center, Minnesota. Wright, en 20-årig sort mand, blev stoppet for at stoppe i trafikken og anholdt i henhold til en kendelse, før betjent Kim Potter skød og dræbte ham, angiveligt at forveksle hendes pistol for en taser.

Eric Williams siger, at det er vigtigt at forstå ansigtsgenkendelse i denne bredere sammenhæng med politifejl:

Da DPD besluttede at købe teknologien ... var det kendt, at ansigtsgenkendelsesteknologi var tilbøjelig til at fejlidentificere, mørkere i huden, før Mr. Williams blev taget i varetægt, ikke? På trods af dette, i en by, der er over 80 % sort, valgte de at bruge denne teknologi.

Du lægger tydeligvis mindre værdi på sorte menneskers liv og levebrød og borgerlige frihedsrettigheder, end du er på hvide mennesker. Det er bare for almindeligt i det nuværende USA.

Denne historie er blevet opdateret til at omfatte en erklæring fra City of Detroit. Jennifer Strong bidrog med rapportering til denne historie.

skjule