Vi kunne se føderal regulering af ansigtsgenkendelse allerede i næste uge

AP Foto/John Minchillo, Fil

Den 10. maj sendte 40 fortalergrupper et åbent brev kræver et permanent forbud om brugen af ​​Amazons ansigtsgenkendelsessoftware, Rekognition, af amerikansk politi. Brevet var stilet til Jeff Bezos og Andy Jassy, ​​virksomhedens nuværende og kommende administrerende direktører, og kom kun få uger før Amazons årelange moratorium om salg til ordensmagten var sat til at udløbe.

Brevet kontrasterede Bezos' og Jassy's vokale støtte til Black Lives Matter-forkæmpere under sidste sommers raceretfærdighedsprotester efter mordet på George Floyd med at rapportere, at andre Amazon-produkter er blevet brugt af retshåndhævelse til at identificere demonstranter .

Den 17. maj, Amazon annonceret det ville forlænge sit moratorium på ubestemt tid og slutte sig til konkurrenterne IBM og Microsoft i selvreguleret skærsild. Bevægelsen er et nik til den politiske magt hos de grupper, der kæmper for at bremse teknologien - og en anerkendelse af, at nye lovgivende kamppladser begynder at dukke op. Mange tror, ​​at væsentlig føderal lovgivning sandsynligvis snart kommer.

Folk er udmattede

Det seneste år har været afgørende for ansigtsgenkendelse , med afsløringer af teknologiens rolle i falske anholdelser , og forbud mod det indført af næsten to dusin byer og syv stater på tværs af USA. Men fremdriften har ændret sig i nogen tid.

I 2018 offentliggjorde AI-forskere et studie sammenligne nøjagtigheden af ​​kommerciel ansigtsgenkendelsessoftware fra IBM, Microsoft og Face++. Deres arbejde fandt ud af, at teknologien identificerede lysere mænd meget mere præcist end mørkere kvinder; IBMs system scorede dårligst med en forskel på 34,4 % i fejlprocent mellem de to grupper.

Også i 2018, ACLU testede Amazons anerkendelse og fandt ud af, at den fejlidentificerede 28 medlemmer af Kongressen som kriminelle - en fejl, der uforholdsmæssigt påvirker farvede mennesker. Organisationen skrev sit eget åbne brev til Amazon kræver, at virksomheden forbyder regeringens brug af teknologien, det samme gjorde Congressional Black Caucus - men Amazon lavede ingen ændringer.

(En talsmand for Amazon henviste MIT Technology Review til en gendrivelse offentliggjort i juli 2018, der beskriver problemer, som virksomheden havde med nøjagtigheden og metoderne til ACLU's test.)

'Hvis vi vil forpligte os til racelighed i det strafferetlige system ... er en af ​​de enkleste og klareste ting, du kan gøre, at stoppe brugen af ​​ansigtsgenkendelsesteknologi.'

Kate Ruane, ACLU

Under de racemæssige retfærdighedsbevægelser mod politibrutalitet sidste sommer overraskede Amazon imidlertid mange ved at annoncere, at det stoppede politiets brug af anerkendelse, med undtagelser for føderale retshåndhævere som ICE. Selskabets meddelelse sagde, at det håbede, at pausen kunne give kongressen tid nok til at indføre passende regler.

Evan Greer er direktør for Fight for the Future, en teknologifortalergruppe, der tror på afskaffelsen af ​​teknologi til ansigtsgenkendelse og siger, at der er voksende offentlig opbakning til, at den skal reguleres. Hun siger, at denne uges forlængelse af moratoriet viser, at Amazon reagerer på dette enorme pres, som de modtager, ikke kun omkring ansigtsgenkendelse, og tilføjer, at jeg virkelig giver en enorm kredit til de landsdækkende opstande for raceretfærdighed, der er sket i løbet af det sidste år. og en halv.

En politisk virkelighed

Selvom der er et pres, der bygger på store teknologiudbydere, er virkeligheden, at de fleste retshåndhævende og offentlige brugere ikke køber ansigtsgenkendelsessoftware fra virksomheder som Amazon. Så selvom moratorierne og forbuddene er velkomne til fortalergrupper, forhindrer de ikke nødvendigvis teknologierne i at blive brugt. Kongressen har i mellemtiden endnu ikke vedtaget nogen føderal lovgivning om ansigtsgenkendelse i retshåndhævelse, regering eller kommercielle omgivelser, der ville regulere mindre udbydere.

Nogle håber, at føderal lovgivning snart kommer, enten gennem direkte kongresaktion, en præsidentiel bekendtgørelse eller kommende lovforslag om bevillinger og politireform.

Jeg tror, ​​at det bedste scenario er, at Kongressen vedtager et moratorium for brugen af ​​det, siger Kate Ruane, senior lovgivende rådgiver ved ACLU. Hun mener, at nye anvendelser først skal tillades efter mere lovgivningsarbejde.

Adskillige føderale lovforslag er allerede blevet foreslået, som ville tøjle adgangen til ansigtsgenkendelse.

• Det Lov om ansigtsgenkendelse og moratorium for biometrisk teknologi opfordrer til at forbyde brugen af ​​softwaren af ​​føderale enheder og tilbageholde føderale tilskudspenge fra enhver stat og lokale myndigheder, der ikke vedtager deres eget moratorium. Det blev foreslået af fire demokratiske medlemmer af Kongressen og introduceret til Senatet sidste år.
• Det George Floyd Justice in Policing Act ville forhindre brugen af ​​ansigtsgenkendelse i kropskameraer. Lovforslaget er allerede vedtaget i Parlamentet og forventes at nå Senatet i den kommende uge. Præsident Biden har bedt om, at lovforslaget bliver vedtaget forud for årsdagen for George Floyds død den 25. maj.
• Det Fjerde ændring er ikke til salg-loven , et lovforslag, der blev indført af 18 senatorer, begrænser regeringen i at arbejde med teknologiudbydere, der bryder servicevilkårene. I praksis ville det i vid udstrækning forhindre offentlig adgang til systemer, der beskæftiger sig med web-skrabning, såsom Clearview AI .

Mutale Nkonde, den stiftende administrerende direktør for AI for the People, en nonprofitorganisation, der går ind for raceretfærdighed inden for teknologi, mener, at vi sandsynligvis vil se yderligere føderal lovgivning ved midtvejsvalget næste år.

Jeg tror, ​​at der vil blive indført føderal lovgivning, der vil styre alle algoritmiske systemer, inklusive ansigtsgenkendelse, siger Nkonde. Jeg tror, ​​det er en politisk realitet.

Nkonde siger, at konceptet med konsekvensanalyser, der evaluerer teknologiske systemer på grundlag af borgerrettigheder, vinder indpas i politiske kredse på begge sider af gangen.

ACLU lobbyer Biden-administrationen for en bekendtgørelse, og det for nylig udgivet et brev med 40 andre grupper anmoder om et øjeblikkeligt forbud mod regeringens brug af teknologien.

Hvis vi vil forpligte os til racemæssig retfærdighed, hvis vi vil forpligte os til racelighed i det strafferetlige system, vil vi forpligte os til den slags reformer, en af ​​de enkleste og klareste ting, du kan gøre, er at afslutte brugen af ​​ansigtsgenkendelsesteknologi, siger Ruane.

Folk er bare mere radikale

I mellemtiden forventer Ruane, at selvregulering forbliver en af ​​de mest effektive metoder til at forhindre udvidet brug af ansigtsgenkendelse. Det er sandsynligt, at føderale agenturer som Department of Housing, Homeland Security og Education vil overveje at indføre regler, der forbyder brugen af ​​teknologien .

Nkonde er optimistisk over, at moratorierne vil udvide sig til forbud og mere permanent lovgivning: Jeg tror, ​​at moratorier så ud til at være det, der var muligt, før George Floyd blev dræbt. Derefter er folk bare mere radikale.

Men Greer advarer om, at trods alt momentum mod ansigtsgenkendelse, vil lovgivning, der fokuserer stærkt på systemernes racemæssige nøjagtighed, måske ikke løse dybere problemer. Jeg tror, ​​det ville være en fejl, hvis politikerne ser nøjagtighed som det eneste problem med ansigtsgenkendelse, der skal løses, siger hun. Industrien ville faktisk være meget glad for et lovforslag, der for eksempel siger noget i retning af 'Hvis du skal sælge et ansigtsgenkendelsessystem, skal det være 99% nøjagtigt på mennesker af alle forskellige racer og hudtoner.'

Selvom skævheden ikke er bagt ind i systemet, har du stadig et forudindtaget politisystem, der nu bliver accelereret og på en måde superladet med denne teknologi, tilføjer hun.

Denne historie er blevet opdateret til at inkludere Amazons tilbagevisning af ACLUs test af Amazons anerkendelsessystem i 2018.

skjule