Forudsigende politiarbejde er stadig racistisk – uanset hvilke data det bruger

David McNew/Getty Images

Det er ingen hemmelighed, at prædiktive politiværktøjer er racemæssigt partisk . En række undersøgelser har vist, at racistiske feedback-loops kan opstå, hvis algoritmer er det trænet i politiets data , såsom arrestationer. Men ny forskning viser, at træning af prædiktive værktøjer på en måde, der er beregnet til at mindske bias, har ringe effekt.

Anholdelsesdata skæmmer forudsigelsesværktøjer, fordi politiet er kendt for at arrestere flere mennesker i sorte og andre minoritetskvarterer, hvilket fører til algoritmer til at dirigere mere politiarbejde til disse områder, hvilket fører til flere anholdelser. Resultatet er, at forudsigelsesværktøjer fejlallokerer politipatruljer: nogle kvarterer er uretfærdigt udpeget som hot spots for kriminalitet, mens andre er underpoleret.

Relateret historie

Forudsigende politialgoritmer er racistiske. De skal skilles ad. Mangel på gennemsigtighed og partiske træningsdata betyder, at disse værktøjer ikke er egnede til formålet. Hvis vi ikke kan rette dem, bør vi droppe dem.

Til deres forsvar siger mange udviklere af prædiktive politiværktøjer, at de er begyndt at bruge ofrerapporter for at få et mere præcist billede af kriminalitetsraterne i forskellige kvarterer. I teorien burde ofrerapporter være mindre partiske, fordi de ikke er påvirket af politiets fordomme eller feedback-loops.

Men Nil-Jana Akpinar og Alexandra Chollechova ved Carnegie Mellon University og Maria De-Arteaga ved University of Texas i Austin viser, at den opfattelse, som offerrapporterne giver, er også skæv . Holdet byggede deres egen forudsigende algoritme ved hjælp af den samme model, der findes i flere populære værktøjer, inklusive PredPol, det mest udbredte system i USA. De trænede modellen for ofrerapporteringsdata for Bogotá, Colombia, en af ​​meget få byer, for hvilke der er tilgængelige uafhængige kriminalitetsrapporteringsdata på distrikt-for-distriktsniveau.

Da de sammenlignede deres værktøjs forudsigelser med faktiske kriminalitetsdata for hvert distrikt, fandt de ud af, at det lavede betydelige fejl. For eksempel, i et distrikt, hvor få forbrydelser blev rapporteret, forudsagde værktøjet omkring 20 % af de faktiske hot spots - steder med en høj kriminalitetsrate. På den anden side, i et distrikt med et højt antal rapporter, forudsagde værktøjet 20 % flere hot spots, end der i virkeligheden var.

For Rashida Richardson, en advokat og forsker, der studerer algoritmisk bias ved Rutgers Law School i New Jersey, styrker disse resultater eksisterende arbejde, der fremhæver problemer med datasæt, der bruges i prædiktiv politiarbejde. De fører til partiske resultater, der ikke forbedrer den offentlige sikkerhed, siger hun. Jeg tror, ​​at mange leverandører af prædiktiv politi som PredPol grundlæggende ikke forstår, hvordan strukturelle og sociale forhold skævvrider eller skævvrider mange former for kriminalitetsdata.

Så hvorfor tog algoritmen det så forkert? Problemet med ofrerapporter er, at sorte mennesker er mere tilbøjelige til at blive anmeldt for en forbrydelse end hvide. Rige hvide mennesker er mere tilbøjelige til at rapportere en fattigere sort person end omvendt. Og sorte mennesker er også mere tilbøjelige til at rapportere andre sorte mennesker. Som med arrestationsdata fører dette til, at sorte kvarterer oftere bliver markeret som hotspots for kriminalitet, end de burde være.

Andre faktorer forvrænger også billedet. Offerrapportering er også relateret til samfundets tillid eller mistillid til politiet, siger Richardson. Så hvis du er i et samfund med en historisk korrupt eller notorisk raceorienteret politiafdeling, vil det påvirke, hvordan og om folk anmelder kriminalitet. I dette tilfælde kan et forudsigelsesværktøj måske undervurdere niveauet af kriminalitet i et område, så det får ikke den politiarbejde, det har brug for.

Ingen quick fix

Værre, der er stadig ingen åbenlys teknisk rettelse. Akpinar og Chouldechova forsøgte at justere deres Bogotá-model for at tage højde for de skævheder, de observerede, men havde ikke nok data til at gøre den store forskel - på trods af at der er flere data på distriktsniveau for Bogotá end for nogen amerikansk by. I sidste ende er det uklart, om det er nemmere at afbøde skævheden i dette tilfælde end tidligere bestræbelser, der arbejdede på at ødelægge arrestationsdatabaserede systemer, siger Akpinar.

Hvad kan gøres? Richardson mener, at offentligt pres for at afmontere racistiske værktøjer og politikkerne bag dem er det eneste svar. Det er bare et spørgsmål om politisk vilje, siger hun. Hun bemærker, at de tidlige brugere af prædiktive politiværktøjer, som Santa Cruz, har annonceret, at de ikke længere vil bruge dem, og at der har været skarpe officielle rapporter om brugen af ​​prædiktiv politiarbejde fra LAPD og Chicago PD. Men svarene i hver by var forskellige, siger hun.

Chicago suspenderede brugen af ​​prædiktiv politiarbejde, men geninvesterede i en database for politibander, som Richardson siger har mange af de samme problemer.

Det er bekymrende, at selv når statslige undersøgelser og rapporter finder væsentlige problemer med disse teknologier, er det ikke nok for politikere og politifolk at sige, at det ikke skal bruges, siger hun.

skjule