211service.com
NYPD brugte et kontroversielt ansigtsgenkendelsesværktøj. Her er hvad du behøver at vide.
Getty
Det har været en travl uge for Clearview AI, det kontroversielle ansigtsgenkendelsesfirma, der bruger 3 milliarder billeder skrabet fra nettet til at drive en søgemaskine til ansigter. Den 6. april offentliggjorde Buzzfeed News en database med over 1.800 enheder -herunder statsligt og lokalt politi og andre skatteyderfinansierede agenturer såsom sundhedssystemer og offentlige skoler - som den siger har brugt virksomhedens kontroversielle produkter. Mange af disse agenturer svarede på anklagerne ved at sige, at de kun havde prøvet teknologien og ikke havde nogen formel kontrakt med virksomheden.
Men dagen før blev definitionen af et forsøg med Clearview detaljeret, da det nonprofit-nyhedssite Muckrock udgivet e-mails mellem New York Police Department og virksomheden. Dokumenterne, der er opnået gennem anmodninger om informationsfrihed fra Legal Aid Society og journalisten Rachel Richards, sporer et venskabeligt toårigt forhold mellem afdelingen og teknologivirksomheden, hvor NYPD testede teknologien mange gange og brugte ansigtsgenkendelse i live-undersøgelser .
Relateret historie
Der er en krise med ansigtsgenkendelse og politiarbejde i USA Den dybt mangelfulde teknologi er i vid udstrækning, stort set ude af offentlighedens øjneNYPD har tidligere nedtonet sit forhold til Clearview AI og dets brug af virksomhedens teknologi. Men e-mails viser, at forholdet mellem dem var veludviklet, hvor et stort antal politibetjente gennemførte et stort antal søgninger med appen og brugte dem i reelle efterforskninger. Det har NYPD køre over 5.100 søgninger med Clearview AI.
Dette er især problematisk, fordi erklærede politikker begrænser NYPD fra at skabe et uovervåget lager af fotos, som ansigtsgenkendelsessystemer kan referere til, og begrænser brugen af ansigtsgenkendelsesteknologi til et specifikt team. Begge politikker ser ud til at være blevet omgået med Clearview AI. E-mails afslører, at NYPD gav mange betjente uden for ansigtsgenkendelsesteamet adgang til systemet, som er afhængigt af et enormt bibliotek af offentlige billeder fra sociale medier. E-mails viser også, hvordan NYPD-betjente downloadede appen til deres personlige enheder i strid med den erklærede politik og brugte den kraftfulde og forudindtaget teknologi på en afslappet måde.
Clearview AI driver et kraftfuldt neuralt netværk, der behandler fotografier af ansigter og sammenligner deres præcise måling og symmetri med en massiv database af billeder for at foreslå mulige matches. Det er uklart, hvor nøjagtig teknologien er, men den bruges i vid udstrækning af politiafdelinger og andre offentlige myndigheder. Clearview AI har været stærkt kritiseret for dets brug af personligt identificerbare oplysninger, dets beslutning om at krænke folks privatliv ved at skrabe fotografier fra internettet uden deres tilladelse og dets valg af klientel.
E-mails spænder over en periode fra oktober 2018 til februar 2020, begyndende hvornår Clearview AI CEO Hoan Ton-That blev introduceret til NYPD viceinspektør Chris Flanagan. Efter indledende møder indgik Clearview AI en leverandørkontrakt med NYPD i december 2018 på en prøvebasis, der varede indtil den følgende marts.
Dokumenterne viser, at mange personer hos NYPD havde adgang til Clearview under og efter denne tid, fra afdelingsledelse til juniorofficerer. Gennem udvekslingerne opfordrede Clearview AI til mere brug af sine tjenester. (Se, om du kan nå 100 søgninger, opfordrede dets onboarding-instruktioner til betjentene.) E-mails viser, at prøvekonti for NYPD blev oprettet så sent som i februar 2020, næsten et år efter, at prøveperioden skulle være slut.
Vi gennemgik e-mails og talte med topovervågning og juridiske eksperter om deres indhold. Her er hvad du behøver at vide.
NYPD løj om omfanget af sit forhold til Clearview AI og brugen af dets ansigtsgenkendelsesteknologi
Det fortalte NYPD BuzzFeed-nyheder og New York Post tidligere, at det ikke havde noget institutionelt forhold til Clearview AI, hverken formelt eller uformelt. Afdelingen afslørede, at den havde prøvet Clearview AI, men e-mails viser, at teknologien blev brugt over en længere periode af et stort antal mennesker, som gennemførte en stor mængde søgninger i rigtige undersøgelser.
I en udveksling sagde en detektiv, der arbejder i afdelingens ansigtsgenkendelsesenhed, at appen fungerer fantastisk. I en anden sag sagde en betjent fra NYPD's identitetstyverihold, at vi fortsat modtager positive resultater og er gået i gang med at foretage anholdelser. (Vi har fjernet fulde navne og e-mailadresser fra disse billeder; andre personlige oplysninger blev redigeret i de originale dokumenter.)
Albert Fox Cahn, administrerende direktør ved Surveillance Technology Oversight Project, en nonprofitorganisation, der går ind for afskaffelse af politiets brug af ansigtsgenkendelsesteknologi i New York City, siger, at optegnelserne klart modsiger NYPDs tidligere offentlige udtalelser om deres brug af Clearview AI.
Her har vi et mønster af, at betjente får Clearview-konti – ikke i uger eller måneder, men i løbet af år, siger han. Vi har beviser på møder med embedsmænd på højeste niveau i NYPD, inklusive ansigtsidentifikationssektionen. Det er ikke nogle få betjente, der beslutter sig for at gå ud og få en prøvekonto. Dette var en systematisk indførelse af Clearviews ansigtsgenkendelsesteknologi til at målrette New Yorkere.
Yderligere NYPD's beskrivelse af dets brug af ansigtsgenkendelse , som er påkrævet i henhold til en nyligt vedtaget lov, siger, at efterforskere sammenligner sondebilleder opnået under undersøgelser med en kontrolleret og begrænset gruppe fotografier, der allerede er i besiddelse af NYPD. Clearview AI er kendt for sin database over over 3 milliarder billeder skrabet fra nettet.
NYPD arbejder tæt sammen med immigrationshåndhævelse, og betjente henviste Clearview AI til ICE
Dokumenterne indeholder flere e-mails fra NYPD, der ser ud til at være henvisninger til at hjælpe Clearview med at sælge sin teknologi til Department of Homeland Security. To politibetjente havde både NYPD- og Homeland Security-tilknytninger i deres e-mail-signatur, mens en anden officer identificerede sig som medlem af en Homeland Security-taskforce.
Der ser bare ud til at være så meget kommunikation, måske datadeling og så meget ureguleret brug af teknologi.
New York er udpeget som en helligdomsby, hvilket betyder, at lokal retshåndhævelse begrænser deres samarbejde med føderale immigrationsagenturer. Faktisk NYPDs ansigtsgenkendelse politisk udsagn siger, at oplysninger ikke deles for at fremme håndhævelsen af immigration, og der vil ikke blive givet adgang til andre instanser med det formål at fremme håndhævelsen af immigration.
Jeg tror, at en af de store takeaways er, hvor lovløst og ureguleret interaktionerne og overvågningen og datadelingslandskabet er mellem lokalt politi, føderalt retshåndhævelse, immigrationshåndhævelse, siger Matthew Guariglia, analytiker ved Electronic Frontier Foundation. Der ser bare ud til at være så meget kommunikation, måske datadeling og så meget ureguleret brug af teknologi.
Cahn siger, at e-mails med det samme ringer alarmklokker, især da en stor del af retshåndhævelsesinformationen går gennem centrale systemer kendt som fusionscentre.
Du kan hævde, at du er en helligdomsby, alt hvad du vil, men så længe du fortsætter med at have disse DHS-taskforcer, så længe du fortsat har informationsfusionscentre, der tillader dataudveksling i realtid med DHS, gør du det løfte til en løgn.
Mange betjente bad om at bruge Clearview AI på deres personlige enheder eller via deres personlige e-mail-konti
Mindst fire betjente bad om adgang til Clearviews app på deres personlige enheder eller via personlige e-mails. Afdelingens enheder er nøje reguleret, og det kan være svært at downloade applikationer til officielle NYPD-mobiltelefoner. Nogle betjente valgte tydeligvis at bruge deres personlige enheder, når afdelingens telefoner var for restriktive.
Clearview svarede på denne e-mail, Hej William, du skulle snart have en opsætnings-e-mail i din indbakke.
Jonathan McCoy er en digital retsmedicinsk advokat hos Legal Aid Society og deltog i indgivelsen af anmodningen om informationsfrihed. Han fandt brugen af personlige enheder særligt besværlig: Min takeaway er, at de aktivt forsøgte at omgå NYPD's politikker og procedurer, der siger, at hvis du skal bruge ansigtsgenkendelsesteknologi, skal du gå gennem FIS (sektionen for ansigtsidentifikation) og de skal bruge den teknologi, der allerede er blevet godkendt af NYPD engros. NYPD har allerede et ansigtsgenkendelsessystem, leveret af et firma kaldet Dataworks.
Relateret historie
Aktivisten afmonterer racistiske politialgoritmer Hamid Khan vinder sin kamp for afskaffelsen af overvågningsteknologi, der bruges af LAPDGuariglia siger, at det peger på en holdning af skødesløshed fra både NYPD og Clearview AI. Jeg ville være forfærdet over at høre, at politibetjente brugte Clearview på deres personlige enheder til at identificere personer, der derefter bidrog til arrestationer eller officielle NYPD-undersøgelser, siger han.
De bekymringer, som disse e-mails rejser, er ikke kun teoretiske: De kan tillade politiet at blive anfægtet i retten og endda få sager omstødt på grund af manglende overholdelse af proceduren. McCoy siger, at Legal Aid Society planlægger at bruge beviserne fra e-mails til at forsvare klienter, der er blevet anholdt som et resultat af en undersøgelse, der brugte ansigtsgenkendelse.
Vi ville forhåbentlig have grundlag for at gå i retten og sige, at den dom, der blev opnået gennem brugen af softwaren, blev gjort på en måde, der ikke stod mål med NYPD's politikker og procedurer, siger han. Da Clearview er en uprøvet og upålidelig teknologi, kan vi argumentere for, at brugen af en sådan teknologi skadede vores klients rettigheder.