Hvorfor 2020 var et afgørende, selvmodsigende år for ansigtsgenkendelse

Alexander Farnsworth | Getty

Amerikas første bekræftede uretmæssige anholdelse med ansigtsgenkendelsesteknologi skete i januar 2020. Robert Williams, en sort mand, blev anholdt i sin indkørsel lige uden for Detroit, mens hans kone og lille datter så på. Han tilbragte natten i fængsel. Dagen efter i spørgerummet sled en detektiv et billede hen over bordet til Williams af en anden sort mand, der var blevet fanget på video i at stjæle ure fra butikken Shinola.

Er det dig? spurgte han .

Nej, det er ikke mig. svarede Williams.

Detektiven passerede et andet billede. Det er vel heller ikke dig?

Williams holdt billedet ved siden af ​​sit ansigt. Det var tydeligvis ikke ham. Williams sagde: Det er ikke mig. Jeg håber ikke, at du synes, at alle sorte ligner hinanden.

Computeren siger, det er dig, svarede detektiven.

Den nye ting om anholdelse af Robert Williams var ikke, at det skete, eller at det var en fejl. Ansigtsgenkendelse er kendt for at være mindre præcis for personer med mørk hud. Og teknologien er meget brugt af politiafdelinger i USA, selvom der ikke er gode data om, hvor udbredt den er. Den usædvanlige del af Williams historie er, at politiet indrømmede at have brugt ansigtsgenkendelse i hans anholdelse.

Nyheden om sagen blev offentliggjort i begyndelsen af ​​august, og - efter en sommer med protester med fokus på den måde, sorte samfund er betjent på i Amerika - blev den mødt med landsdækkende forargelse. Et par uger senere kom endnu en uretmæssig anholdelse af en sort mand i Detroit på grund af ansigtsgenkendelsesteknologi frem.

Allerede før dette havde aktivister krævet en ende på Project Greenlight, det bydækkende offentlig-private initiativ, der bruger ansigtsgenkendelse i et forsøg på at reducere kriminalitet. Og alligevel kører projektet ikke kun: I slutningen af ​​september stemte byrådet for at forlænge kontrakten mellem Detroit Police Department og dets ansigtsgenkendelsesudbyder, DataWorks Plus.

Et år med modsætninger

Begivenhederne i Detroit eksemplificerer vores komplicerede forhold til ansigtsgenkendelse lige nu. Anvendelsen af ​​det vokser, og på nogle områder er teknologien blevet integreret. I andre, såsom detailhandel, begynder ansigtsgenkendelse at blive rullet ud med store forventninger til fremtiden. Mange teknologiudbydere satser på, at offentligheden vil blive mere og mere fortrolig med brugen af ​​biometri, og snart vil det være en organisk del af det digitale liv: Apple har satset stærkt på det, og nu bruger millioner af mennesker deres Face ID-system til at låse op for deres iPhones hver dag.

Men offentligheden har også fået en ny bevidsthed om de farer, ansigtsgenkendelse udgør, især inden for strafferetsplejen. Der er markant mere opmærksomhed, mere bekymring og mere samtale nu end nogensinde før, og i år har der været mere lovgivning om ansigtsgenkendelse end alle tidligere år tilsammen. Der var forbud eller moratorier i seks byer i hele USA i 2019, og det samme igen i år.

At forene disse love med væksten i industrien vil være svært. Men begivenhederne i 2020 giver nogle fingerpeg om, hvordan disse kompromiser kan udspille sig i løbet af det kommende år.

Små spillere, stor industri

I januar, New York Times offentliggjort en undersøgelse af ClearviewAI, et lille ansigtsgenkendelsesfirma, der kørte sin algoritme på en database med milliarder af billeder hentet fra sociale medier. Politiafdelinger, der brugte ClearviewAI's system, fik effektivt adgang til dine Facebook-billeder for at matche ofte slørede eller ufuldstændige politibilleder under efterforskningen.

Virksomheden blev stærkt kritiseret, og efterfølgende rapportering af BuzzFeed News viste, at systemet blev brugt af så mange som 2.200 retshåndhævende myndigheder i USA, samt af immigrations- og toldmyndigheder, justitsministeriet og detailhandlere inklusive Macy's og Walmart.

Clearview-historien skræmte virkelig mange mennesker - som den burde, siger Jameson Spivack, en politikmedarbejder ved Georgetown Universitys Center for Privatliv og Teknologi. Mange af bekymringerne fokuserer på, hvor fragmenteret feltet er. Mens store virksomheder som IBM og Microsoft er betydelige kræfter, er der også masser af mindre private virksomheder, som ClearviewAI og NtechLab, der opererer med lidt offentligt tilsyn. Rapporteringen afslørede også, hvor lidt offentligheden vidste om den udbredte regeringsbrug af teknologien.

Katalysatoren: Raceprotester

Disse historier øgede bevidstheden om problemerne, men Spivack siger, at Black Lives Matter-protesterne efter mordet på George Floyd var den største enkeltstående katalysator for lovgivning, der begrænsede brugen af ​​ansigtsgenkendelse i USA. Amerikanerne begyndte pludselig at revurdere politiarbejdet og dets værktøjer, politikker og kultur.

Bekymringen var begyndt at vokse, efter at forskerne Joy Buolamwini og Timnit Gebru opdagede og dokumenteret racemæssig skævhed i kommercielle ansigtsgenkendelsesprodukter i 2018, hvilket førte flere byer og stater til vedtage love der forhindrede politiet i at bruge ansigtsgenkendelse sammen med kropskameraer.

Men under den største protestbevægelse i amerikansk historie, aktivister var bekymrede at politiets overvågningsteknologier ville blive brugt til gengældelse. Det er siden blevet bekræftet, at i det mindste New York , Miami , og Washington, DC, politiafdeling s brugte ansigtsgenkendelse til at overvåge demonstranter.

Den 1. juni i Washington DC brugte politiet peberkugler og tåregas til at skubbe demonstranter tilbage på Lafayette Square, så præsident Trump kunne score en fotomulighed ved en nærliggende kirke. Midt i kaosset slog en demonstrant en politibetjent. Dage senere fandt betjentene et billede af manden på Twitter og kørte det gennem deres ansigtsgenkendelsessystem, fik en kamp og foretog en arrestation. Tilsvarende i Miami blev en kvinde anklaget for at have kastet sten mod politiet under en protest anholdt på baggrund af en ansigtsgenkendelseskamp.

Spivack så græsrodsaktivister mod ansigtsgenkendelse arbejde tæt sammen med politireformgrupper hele sommeren og efteråret, ledet af andre fortalergrupper som American Civil Liberties Union. I Portland, Oregon, oprettede en demonstrant endda et ansigtsgenkendelsessystem til identificere anonyme politibetjente .

Som 2020 gik, blev der foreslået lovgivning for at begrænse politiets brug af sådan teknologi på kommunalt, statsligt og endda føderalt niveau. I juni fremlagde demokratiske lovgivere et lovforslag, der ville forbyde brugen af ​​ansigtsgenkendelse af føderale retshåndhævere. I Vermont skabte en bekendtgørelse fra guvernøren et statsdækkende forbud mod regeringens brug af teknologien. I Massachusetts vedtog byerne Cambridge og Boston forbud mod teknologien denne sommer, og delstatsregeringen godkendte forbud mod ansigtsgenkendelse for offentlige myndigheder, som omfatter retshåndhævelse, i december; Guvernør Charlie Baker er pt nægter at underskrive regningen .

Californien startede sin egen debat om statsdækkende lovgivning i maj, og byerne San Francisco og Oakland har allerede forbudt brug af ansigtsgenkendelse af retshåndhævelse. I juli indførte New York City et moratorium for ansigtsgenkendelse i skoler indtil 2022. I Portland, Oregon, forbyder et nyt bydækkende forbud enhver offentlig eller privat gruppes brug af teknologien.

Men dette skifte sker ikke alle steder, som genforpligtelsen til overvågning i Detroit viser. Spivack spekulerer i, at racemæssig magtdynamik kan have indflydelse på den politiske kamp omkring politiovervågning. Hvis man ser på mange af de byer, der var nogle af de første til at forbyde ansigtsgenkendelse, var de typisk - ikke altid, men typisk - rigere, hvidere, meget progressive, måske med mere politisk kapital og evne til at påvirke lovgivere, mere så end mere marginaliserede samfund, siger han.

Et nationalt perspektiv?

Ikke alle reaktioner har dog taget form af lovgivning. I begyndelsen af ​​juni meddelte IBM, at de var stoppet med at sælge nogen af ​​sine ansigtsgenkendelsesprodukter. Amazon og Microsoft fulgte trop ved midlertidigt at afbryde deres kontrakter med politiafdelinger. Og i juli indgav ACLU en retssag mod ClearviewAI for manglende overholdelse af Illinois Biometric Information Privacy Act - den første fulde juridiske udfordring til virksomheden.

Microsoft, Amazon, IBM og industrigrupper som Security Industry Association forbereder sig på en kamp. De dramatisk øget mængden af ​​lobbyvirksomhed om ansigtsgenkendelse fra 2018 til 2019, og det forventes, at 2020 vil vise en endnu større stigning. Mange går ind for øget regulering, men ikke forbud. Amazons moratorium slutter i juni, og Microsofts er betinget af indførelsen af ​​en føderal lov.

I mellemtiden fortsætter ACLU med at udarbejde lovgivning, der søger at forbyde teknologien. En erklæring på deres hjemmeside lyder, at organisationen går til domstolene, gaderne, lovgiverne, byrådene og endda virksomhedernes bestyrelseslokaler for at forsvare vores rettigheder mod de voksende farer ved denne uregulerede overvågningsteknologi.

Den nye administrations prioriteter vil også præge reguleringen i 2021 og fremover. Som præsidentkandidat, Kamala Harris nævnte regulering af ansigtsgenkendelse i retshåndhævelse som en del af hendes politireformplan. Hvis administrationen presser på for føderal lovgivning, er det mere sandsynligt, at det bliver et nationalt spørgsmål, med det resultat, at færre ressourcer vil blive rettet til flere lokale tilsynskampagner. Men hvis ikke, vil kampen sandsynligvis fortsætte med at spille på delstats- og byniveau.

skjule