Aktivisten afmonterer racistiske politialgoritmer

Damon Casarez

Hamid Khan har været samfundsarrangør i Los Angeles i over 35 år med et konsekvent fokus på politivold og menneskerettigheder. Han talte med os den 3. april 2020 til en kommende podcast-episode om kunstig intelligens og politiarbejde. Da verden retter sin opmærksomhed mod politibrutalitet og institutionel racisme, tænkte vi, at vores samtale med ham om, hvordan han mener, at teknologien muliggør racisme i politiarbejdet skulle offentliggøres nu.

Khan er grundlæggeren af ​​Stop LAPD Spying Coalition, som har vundet mange skelsættende retssager på vegne af de minoritetssamfund, den kæmper for. Dets arbejde er måske bedst kendt for fortalervirksomhed mod prædiktiv politiarbejde. Den 21. april, et par uger efter dette interview, LAPD annonceret en ende på alle prædiktive politiprogrammer .

Khan er en kontroversiel figur som har afvist partnerskaber med grupper som Electronic Frontier Foundation (EFF) på grund af dens vægt på reform. Han tror ikke på, at reformen vil virke. Interviewet er redigeret for længde og klarhed.

Fortæl os om dit arbejde. Hvorfor bekymrer du dig om politiovervågning?

Det arbejde, vi udfører, især ved at se på Los Angeles Police Department, ser på, hvordan overvågning, informationsindsamling, lagring og deling historisk er blevet brugt til virkelig at forårsage skade, til at spore, spore, overvåge, forfølge bestemte samfund: samfund, der er fattige, som er sorte og brune, samfund, der ville blive betragtet som mistænkelige, og queer-trans-kroppe. Så på forskellige niveauer er overvågning en proces med social kontrol.

Tror du, at teknologien spiller en rolle i politiarbejdet?

Stop LAPD Spying Coalition har nogle få vejledende værdier. Den første er, at det, vi ser på, ikke er et øjeblik i tiden, men en fortsættelse af historien. Overvågning har været brugt i hundreder af år. Nogle af de tidligste overvågningsprocesser går tilbage til lanternelovene i New York City i begyndelsen af ​​1700-tallet. Hvis du var en slaveret person, en sort eller en indfødt person, og hvis du gik ud på det offentlige område uden din herre, var du nødt til at gå med en egentlig bogstavelig lanterne, med lysvægen og det hele, for grundlæggende at identificere dig selv dig selv som mistænkt, som den anden.

En anden vejledende værdi er, at der altid er en anden. Historisk set er der altid en trussel mod systemet. Der er altid en krop, et individ eller grupper af mennesker, der anses for at være farlige. De anses for mistænkte.

Den tredje værdi er, at vi altid søger at desensationalisere retorikken om national sikkerhed. For at holde det meget enkelt og ligetil [prøver vi at vise], hvordan miljøet for informationsindsamling og informationsdeling bevæger sig, og hvordan det er en proces med at holde øje med alle.

Algoritmer har ingen plads i politiet.

Og en af ​​vores sidste vejledende værdier er, at vores kamp er forankret i menneskerettigheder. Vi er en voldsom afskaffelsesgruppe, så vores mål er at afmontere systemet. Vi engagerer os ikke i reformistisk arbejde. Vi betragter også enhver politikudvikling omkring gennemsigtighed, ansvarlighed og tilsyn som en skabelon for missionskryb. Hver gang overvågning bliver legitimeret, så er den åben for at blive udvidet over tid. Lige nu kæmper vi for at holde dronerne jordet i Los Angeles, og vi var i stand til at holde dem på jorden i et par år. Og i slutningen af ​​marts meddelte Chula Vista-politiet i San Diego, at de vil udstyre deres droner med højttalere at overvåge bevægelsen af ​​uhusede personer.

Kan du forklare det arbejde, Stop LAPD Spying Coalition har udført med prædiktiv politiarbejde? Hvad er problemerne med det fra dit perspektiv?

PredPol var lokationsbaseret prædiktivt politiarbejde, hvor et 500 x 500 kvadratmeter stort sted blev identificeret som et hot spot. Det andet ledsagerprogram, Operation Laser, var personbaseret prædiktiv politiarbejde.

I 2010 så vi på de forskellige måder, hvorpå disse [LAPD-overvågning]-programmer blev indført. Prædiktiv politi var et nøgleprogram. Vi lancerede formelt en kampagne i 2016 for at forstå virkningen af ​​prædiktiv politiarbejde i Los Angeles med det mål at afvikle programmet, bringe denne information til samfundet og kæmpe tilbage.

Personbaseret prædiktiv politiarbejde hævdede, at for personer, der kaldes personer af interesse eller sædvanlige lovovertrædere, som måske har haft en historie i fortiden, kunne vi bruge et risikovurderingsværktøj til at fastslå, at de ville recidiverede. Så det var et talspil. Hvis de tidligere havde våbenbesiddelse, fik de fem point. Hvis de var på prøveløslatelse eller prøvetid, fik de fem point. Hvis de var bandetilknyttede, fik de tildelt fem point. Hvis de havde haft interaktioner med politiet som en stop-and-frisk, ville de blive tildelt et point. Og det blev her personer, der var på prøveløslatelse eller prøvetid eller passet deres egen virksomhed og genopbygget deres liv, derefter blev placeret i det, der blev kendt som et program for kroniske lovovertrædere, uden at mange mennesker vidste det.

Så lokation bliver kriminaliseret, folk bliver kriminaliseret, og det er kun et par sekunder væk, før pistolen kommer ud, og nogen bliver skudt og dræbt.

Så ud fra denne risikovurdering, hvor Palantir behandler alle data , oprettede LAPD en liste. De begyndte at udgive bulletiner, som var som en Most Wanted-plakat med disse personers billeder, adresser og historie, og satte dem i patruljevogne. [De] begyndte at implementere nummerpladelæsere, rokken, IMSI-Catcher, CCTV og forskellige andre teknologier for at spore deres bevægelser og derefter skabe betingelser på jorden for at stoppe og chikanere og intimidere dem. Vi byggede en masse græsrodskraft, og i april 2019 blev Operation Laser formelt demonteret. Den blev afbrudt.

Og lige nu går vi efter PredPol og kræver, at PredPol også bliver demonteret. [LAPD meddelte en ende på PredPol den 21. april 2020.] Vores mål for afskaffelsen og afviklingen af ​​dette program er ikke kun forankret i skrald ind, skrald ud; racistiske data ind og racistiske data ud. Vores arbejde er virkelig forankret i, at det i sidste ende tjener hele den ideologiske ramme af patriarkat og kapitalisme og hvid overherredømme og kolonialisme.

Vi udgav en rapport, Før kuglen rammer kroppen, i maj 2018 om prædiktiv politiarbejde i Los Angeles, hvilket førte til, at byen Los Angeles holdt offentlige høringer om datadrevet politiarbejde, som var det første af deres slags i landet. Vi krævede en retsmedicinsk revision af PredPol af generalinspektøren. I marts 2019 frigav generalinspektøren revisionen, og den sagde, at vi ikke engang kan revidere PredPol, fordi det bare ikke er muligt. Det er så, så kompliceret.

Algoritmer har ingen plads i politiet. Jeg tror, ​​det er afgørende, at vi forstår, at der er liv på spil. Dette sprog i lokationsbaseret politiarbejde er i sig selv en proxy for racisme. De er der ikke for at politie huller og træer. De er der for at politifolk på stedet. Så lokation bliver kriminaliseret, folk bliver kriminaliseret, og det er kun et par sekunder væk, før pistolen kommer ud, og nogen bliver skudt og dræbt.

Holdledere for Stop LAPD Spying Coalition Hamid Khan (til højre), Jamie Garcia (i midten) og Gen Dogon (venstre) i Skid Row-kvarteret i LA, hvor koalitionen har sit hovedkvarter.

DAMON CASAREZ

Hvordan sikrer man, at offentligheden forstår den slags politistrategier?

Offentlige registre er et rigtig godt værktøj til at få information. Hvad er oprindelsen af ​​dette program? Vi vil gerne vide: Hvad var visionen? Hvordan blev det formuleret? Hvad er formålet med finansieringen? Hvad er det ordforråd, de bruger? Hvad er de resultater, de præsenterer for finansieringsgiveren?

Jeg er et menneske, og jeg er ikke her, fordi du bare pakker mig ud og begynder at eksperimentere med mig og så pakker mig.

De [LAPD] ville betragte et område, en lejlighedsbygning, som hot spots og zoner. Og folk blev stoppet i et meget hurtigere tempo [der]. Hver gang du stopper nogen, går den information ind i en database. Det blev et stort dataindsamlingsprogram.

Vi krævede, at de frigav den hemmelige liste, de havde over disse personer. LAPD kæmpede tilbage, og vi vandt den offentlige retssag. Så nu har vi en hemmelig liste med 679 personer, som vi nu søger at nå ud til. Og disse er alle unge individer, overvejende omkring 90% til 95% sorte og brune.

Redlining af området skaber betingelser på jorden for mere udvikling, mere gentrificering, mere fraflytning, mere fordrivelse af mennesker. Så politiet blev beskyttere af privat ejendom og beskyttere af privilegier.

Hvad siger du til folk, der mener, at teknologi kan hjælpe med at afbøde nogle af disse problemer i politiarbejdet, såsom skævheder, fordi teknologi kan være objektiv?

Først og fremmest fungerer teknologien ikke af sig selv. Fra designet til produktionen til udrulningen til resultatet er der konstant bias indbygget. Det er ikke kun folks skævheder; det er den iboende skævhed inden for systemet .

Der er så mange indflydelsespunkter, at vores kamp helt ærligt ikke er for at rydde op i dataene. Vores kamp er ikke for en upartisk algoritme, for vi tror ikke, selv matematisk, at der overhovedet kunne være en upartisk algoritme til politiarbejde.

Hvad er menneskerettighedsovervejelserne, når det kommer til polititeknologi og overvågning?

Den første menneskeret ville være at stoppe med at blive eksperimenteret med. Jeg er et menneske, og jeg er ikke her, fordi du bare pakker mig ud og begynder at eksperimentere med mig og så pakker mig. Der er så meget datafikation af vores liv, der er sket. Fra plantagekapitalisme til racialiseret kapitalisme til nu også overvågningskapitalisme er vi underlagt at blive købt og solgt. Vores sind og vores tanker er blevet kommodificeret. Det har også en fordummende effekt på vores kreativitet som mennesker, som en del af et naturligt univers. Samtykke bliver fremstillet ud af os.

Med noget som coronavirus ser vi bestemt, at nogle mennesker er villige til at opgive nogle af deres data og noget af deres privatliv. Hvad synes du om valget eller afvejningen mellem nytte og privatliv?

Vi skal virkelig se på det gennem en meget bredere linse. Går tilbage til en af ​​vores vejledende værdier: ikke et øjeblik i tiden, men en fortsættelse af historien. Så vi er nødt til at se på kriser i fortiden, både reelle og opdigtede.

Lad os se på OL i 1984 i Los Angeles. Det førte til den mest massive udvidelse af politiets beføjelser og militarisering af Los Angeles Police Department og sheriffens afdeling under dække af offentlig sikkerhed. Sagen var godt, vi vil gerne holde alting sikkert. Men ikke kun [blev] det et permanent indslag og den nye normal, men taktik blev også udviklet. Fordi gaderne skulle ryddes op, blev mistænkte lig, uhusede mennesker, tvangsfjernet. Bandefejninger begyndte angiveligt at ske. Så unge sorte og brune unge blev arresteret i massevis. Det er ligesom 1983, der fører til 1984.

I 1986-1987 i Los Angeles blev bandepåbud et permanent indslag. Dette resulterede i massive bandedatabaser, og børn helt ned til ni måneder gamle gik ind i disse bandedatabaser. Det blev Operation Hammer, hvor de havde fået kampvogne og pansrede køretøjer, brugt af SWAT, til at levere narkotikaforseelser på lavt niveau og gå ned og nedbryde folks hjem.

Nu er vi igen på et øjeblik. Det er ikke kun den strukturelle udvidelse af politiets beføjelser; vi er nødt til at se på, at politiet nu i stigende grad påtager sig roller som socialrådgivere. Det er blevet bygget over de sidste 10 år. Der er også en masse sundheds- og menneskelige ydelser knyttet til det. For eksempel i Los Angeles, bykontrolløren kom ud med en revision omkring fem år siden, og de så på 100 millioner dollars til hjemløsetjenester, som byen leverer. Nå, gæt hvad? Ud af det gik $87 millioner til LAPD.

Kan du give et specifikt eksempel på, hvordan politiets brug af teknologi påvirker samfundets medlemmer?

Efterretningsstyret politi er et koncept, der kommer ud af England, ud af Kent Constabulary og startede for omkring 30 år siden i USA. Det centrale tema for efterretningsstyret politi er adfærdsovervågning. Folks adfærd skal overvåges og derefter behandles, og den information skal deles. Folk skal spores og spores.

Der er ikke sådan noget som venligere, blidere racisme, og disse programmer skal afvikles.

Et program kaldet Suspicious Activity Reporting kom ud af 9/11, hvor flere aktiviteter, der er fuldstændig forfatningssikret, er opført som potentielt mistænkelige. For eksempel at tage billeder offentligt, bruge videokameraer offentligt, gå ind i infrastruktur og spørge om timers drift. Det er observeret adfærd, der med rimelighed indikerer præoperativ planlægning af kriminel og/eller terroraktivitet. Så du observerer nogens adfærd, hvilket med rimelighed indikerer, at der ikke er nogen sandsynlig årsag. Det skaber ikke et faktum, men en bekymring. Det spekulative og fornemmelsesbaserede politiarbejde er reelt.

Vi var i stand til at få tal fra LAPDs See Something, Say Something-program. Og det, vi fandt, var, at der var en 3:1 forskellig indvirkning på det sorte samfund. Omkring 70 % af disse See Something, Say Something-rapporter kom fra overvejende hvide samfund i Los Angeles. Så nu bliver et program bevæbnet og bliver en licens til racemæssig profilering.

Målet er altid at opbygge magt mod afskaffelse af disse programmer, fordi du ikke kan reformere dem. Der er ikke sådan noget som venligere, blidere racisme, og disse programmer skal afvikles.

Så tror du virkelig, at reformen ikke vil tillade brug af disse teknologier i politiarbejdet?

Jeg kan kun tale om min egen historie med 35 års organisering i LA. Det er ikke et spørgsmål om at blive bedre, det er et spørgsmål om at blive værre. Og jeg tror, ​​teknologien fremmer det. Når man ser på reformhistorien, bliver vi ved med at slå hovedet mod muren, og det bliver bare ved med at vende tilbage til det samme gamle. Vi kan ikke rigtig operere under den antagelse, at hjerter og sind kan ændre sig, især når nogen har en licens til at dræbe.

Jeg er ikke teknolog. Vores forsigtighed er til teknologerne: du ved, bliv i din bane. Følg fællesskabet og følg deres vejledning.

skjule