Storbritannien dropper en immigrationsalgoritme, som ifølge kritikere er racistisk

James Cridland / Flickr

Nyhederne: Det britiske indenrigsministerium har sagt, at det vil stoppe med at bruge en algoritme at behandle visumansøgninger, som kritikere hævder er racemæssigt forudindtaget. Modstandere af det argumentere at algoritmens brug af nationalitet til at afgøre, hvilke applikationer der bliver hurtigt sporet, har ført til et system, hvor folk fra rige hvide lande får Speedy Boarding; fattigere farvede bliver skubbet bagerst i køen.

Tid til et redesign: Indenrigsministeriet afviser, at dets system er racemæssigt forudindtaget, og retssager er stadig i gang. Alligevel har indenrigsministeriet indvilget i at droppe algoritmen og planlægger at relancere en redesignet version senere i år, efter at have gennemført en fuldstændig gennemgang, der vil lede efter ubevidst bias. I mellemtiden vil Storbritannien indføre et midlertidigt system, der ikke bruger nationalitet til at sortere ansøgninger.

Trafiksystem: Siden 2015 har Storbritannien filtreret visumansøgninger ved hjælp af et trafiklyssystem, der tildeler et rødt, gult eller grønt risikoniveau til hver ansøger. Folk, der blev tildelt et rødt risikoniveau, var mere tilbøjelige til at blive afvist.

Bredere tendens: Algoritmer er kendt for forankre institutionelle skævheder , især racistiske. Alligevel bliver de brugt mere og mere til at hjælpe med at træffe vigtige beslutninger, fra kredittjek til visumansøgninger til retsmøder og politiarbejde . Kritikere har klaget over, at det amerikanske immigrationssystem er racemæssigt partisk også. Men i de fleste tilfælde er det svært at udpakke præcis, hvordan disse algoritmer fungerer, og afsløre beviser for deres skævhed, fordi mange er proprietære, og deres brug har ringe offentligt tilsyn.

Men kritikken vokser. I USA suspenderer nogle politiafdelinger kontroversielle prædiktive algoritmer og teknologivirksomheder har holdt op med at levere forudindtaget ansigtsgenkendelsesteknologi . I februar afgjorde en hollandsk domstol at et system, der forudsagde, hvor sandsynligt en person var til at begå velfærds- eller skattesvig, var ulovligt, fordi det var uretfærdigt rettet mod minoriteter. Det britiske indenrigsministeriums beslutning om at gennemgå sit system uden at vente på en juridisk afgørelse kan vise sig at være en milepæl.

skjule