Selvfølgelig viderefører teknologi racisme. Det var designet på den måde.

Kildefoto: Getty / Ms Tech

I dag smuldrer USA under vægten af ​​to pandemier: coronavirus og politibrutalitet.

Begge forårsager fysisk og psykisk vold. Begge dræber og svækker sorte og brune mennesker uforholdsmæssigt meget. Og begge er animeret af teknologi, som vi designer, genbruger og implementerer – uanset om det er kontaktsporing, ansigtsgenkendelse eller sociale medier.

Denne historie var en del af vores juli 2020-udgave

• Se resten af ​​problemet
• Abonner

Vi kalder ofte på teknologi for at hjælpe med at løse problemer. Men når samfundet definerer, rammer og repræsenterer farvede mennesker som problemet, gør disse løsninger ofte mere skade end gavn. Vi har designet ansigtsgenkendelsesteknologier der retter sig mod kriminelle mistænkte på baggrund af hudfarve. Vi har trænede automatiserede risikoprofileringssystemer der uforholdsmæssigt identificerer Latinx-folk som illegale immigranter. Vi har udtænkte kreditscoringsalgoritmer der uforholdsmæssigt identificerer sorte mennesker som risici og forhindrer dem i at købe boliger, få lån eller finde job.

Så spørgsmålet, vi er nødt til at konfrontere, er, om vi vil fortsætte med at designe og implementere værktøjer, der tjener racismens og hvide overherredømmes interesser,

Selvfølgelig er det slet ikke et nyt spørgsmål.

Uborgerlige rettigheder

I 1960 konfronterede Det Demokratiske Partis ledere deres eget problem: Hvordan kunne deres præsidentkandidat, John F. Kennedy, støtte aftagende støtte fra sorte mennesker og andre racemæssige minoriteter?

En driftig politolog ved MIT, Ithiel de Sola Pool , henvendte sig til dem med en løsning. Han ville indsamle vælgerdata fra tidligere præsidentvalg, føre dem ind i en ny digital behandlingsmaskine, udvikle en algoritme til at modellere stemmeadfærd, forudsige hvilke politiske holdninger der ville føre til de mest gunstige resultater og derefter rådgive Kennedy-kampagnen til at handle i overensstemmelse hermed. Pool startede et nyt firma, den Simulmatics Corporation og udførte sin plan. Det lykkedes, Kennedy blev valgt, og resultaterne viste kraften i denne nye metode til forudsigelig modellering.

Racespændinger eskalerede gennem 1960'erne. Så kom den lange, varme sommer 1967. Byer over hele nationen brændte, fra Birmingham, Alabama, til Rochester, New York, til Minneapolis, Minnesota og mange flere imellem. Sorte amerikanere protesterede mod den undertrykkelse og diskrimination, de stod over for i hænderne på USAs strafferetssystem. Men præsident Johnson kaldte det civil uorden og dannede Kerner-kommissionen for at forstå årsagerne til ghetto-optøjer. Kommissionen henvendte sig til Simulmatics.

Som en del af et DARPA-projekt, der havde til formål at vende bølgen af ​​Vietnamkrigen, havde Pools firma arbejdet hårdt på at forberede en massiv propaganda og psykologisk kampagne mod Vietcong. Præsident Johnson var ivrig efter at implementere Simulmatics' adfærdsmæssige indflydelsesteknologi for at dæmpe nationens indenlandske trussel, ikke kun dens udenlandske fjender. Under dække af, hvad de kaldte en medieundersøgelse, byggede Simulmatics et hold til, hvad der svarede til en storstilet overvågningskampagne i de urolighedsramte områder, der fangede nationens opmærksomhed den sommer 1967.

Tremandshold gik ind i områder, hvor der havde fundet optøjer sted den sommer. De identificerede og interviewede strategisk vigtige sorte mennesker. De fulgte op for at identificere og interviewe andre sorte beboere, på alle steder fra barbershops til kirker. De spurgte indbyggerne, hvad de syntes om nyhedsmediernes dækning af urolighederne. Men de indsamlede også data om så meget mere: Hvordan folk bevægede sig i og omkring byen under urolighederne, hvem de talte med før og under, og hvordan de forberedte sig på eftervirkningerne. De indsamlede data om brug af betalingsanlæg, salg af tankstationer og busruter. De fik adgang til disse samfund under påskud af at forsøge at forstå, hvordan nyhedsmedier angiveligt opildnede optøjer. Men Johnson og nationens politiske ledere forsøgte at løse et problem. De havde til formål at bruge den information, som Simulmatics indsamlede til at spore informationsstrømmen under protester for at identificere influencers og halshugge protesternes ledelse.

De opnåede ikke dette direkte. De myrdede ikke folk, satte folk i fængsel eller forsvandt dem i hemmelighed.

Men i slutningen af ​​1960'erne havde denne form for information været med til at skabe, hvad der blev kendt som strafferetlige informationssystemer. De spredte sig gennem årtierne og lagde grundlaget for raceprofilering, prædiktiv politiarbejde og racemålrettet overvågning. De efterlod en arv, der omfatter millioner af sorte og brune kvinder og fængslede mænd.

Reframing problemet

Sorthed og sorte mennesker. Begge består som vores nations – tør jeg sige selv vores verdens – problem. Da kontaktsporing først dukkede op i begyndelsen af ​​pandemien, var det let at se det som et nødvendigt, men godartet sundhedsovervågningsværktøj. Coronavirussen var vores problem, og vi begyndte at designe nye overvågningsteknologier i form af kontaktsporing, temperaturovervågning og trusselskortlægningsapplikationer for at hjælpe med at løse det.

Men noget både kuriøst og tragisk skete. Vi opdagede, at sorte mennesker, Latinx-folk og oprindelige befolkninger var uforholdsmæssigt inficeret og påvirket. Pludselig blev vi også et nationalt problem; vi truede uforholdsmæssigt med at sprede virussen. Det blev forstærket, da det tragiske mord på George Floyd af en hvid politibetjent sendte tusindvis af demonstranter på gaden. Da plyndringerne og optøjerne startede, blev vi - sorte - igen set som en trussel mod lov og orden, en trussel mod et system, der fastholder den hvide racemagt. Det får dig til at spekulere på, hvor lang tid det vil tage for retshåndhævelsen at implementere de teknologier, vi først designede til at bekæmpe covid-19 for at dæmpe den trussel, som sorte mennesker angiveligt udgør mod nationens sikkerhed.

Hvis vi ikke ønsker, at vores teknologi skal bruges til at fastholde racisme, så skal vi sørge for, at vi ikke blander sociale problemer som kriminalitet eller vold eller sygdom sammen med sorte og brune mennesker. Når vi gør det, risikerer vi at gøre disse mennesker til de problemer, som vi implementerer vores teknologi for at løse, den trussel, vi designer den til at udrydde.

Charlton McIlwain er professor i medier, kultur og kommunikation ved New York University og forfatter til Sort software: Internettet og racemæssig retfærdighed, fra AfroNet til sorte liv betyder noget

skjule