Pandemien tester grænserne for ansigtsgenkendelse

Fru Tech | Pexels

Ved første øjekast ligner JB, en kunstner baseret i Los Angeles, måske ikke meget på billedet på deres kørekort. Dels er ID-billedet fra et par år siden. Hår, der engang var langt og mørkt, er nu surret og bleget. Og der er det faktum, at JB er transkønnet og har taget testosteron i over to år, hvilket har ført til ændrede ansigtstræk, tykkere øjenbryn og akne, som ikke var der før. (De bad kun om at blive identificeret med deres første initialer på grund af privatlivets fred.)

JB mistede et deltidsarbejde i detailhandlen, da nedlukningerne ramte marts sidste år, og som millioner af andre amerikanere forsøgte han at ansøge om arbejdsløshedsunderstøttelse - uden mistanke om, at deres skiftende udseende ville stå i vejen. Måneder efter at have indsendt papirer elektronisk og foretaget flere opkald til en hotline, der ikke gik nogen vegne, blev JB endelig inviteret til at bruge Californiens ansigtsgenkendelsessystem til at bekræfte deres identitet. Men selv efter flere forsøg, kunne systemet ikke matche JB's ansigt og ID-billede, hvilket lukkede dem ude af de fordele, de kvalificerede sig til. Til sidst holdt JB op med at prøve: processen var for frustrerende.

Relateret historie

Hvordan disse amerikanske skoler genåbnede uden at udløse et covid-udbrud

Skoler, der holdt sager lavt sidste år, på trods af det pandemiske kaos, delte et par strategier til fælles. Her er, hvad de kan lære os om at gøre det rigtigt.

Retshåndhævelse og private virksomheder har brugt ansigtsgenkendelse i årevis, men brugen af ​​teknologien til at distribuere statsstøtte er vokset hurtigt under pandemien. stater og føderale agenturer har vendt sig til ansigtsgenkendelse som en kontaktløs, automatiseret måde at verificere identiteten på personer, der søger om arbejdsløshed og andre offentlige ydelser.

Eksperter og aktivister bekymrer sig om, at fejl i denne teknologi kan forhindre folk i at få fordele, de har desperat brug for - og at det kan være endnu farligere, hvis det fungerer efter hensigten.

Brug dit ansigt til det verdslige

Pandemien fremskyndede brugen af ​​mange biometriske dataindsamlingsværktøjer - temperaturkontrol ved døre, termiske kameraer i skoler, ansigtsscanninger i lufthavne. Når det kommer til ydelser såsom arbejdsløshed, henvender statsregeringerne sig især til ansigtsgenkendelse for at verificere folks identitet, før de frigiver penge, de har ret til. Den anden bølge af amerikanske stimulusmidler, der blev vedtaget i december 2020, krævede, at stater bekræftede folk, der ansøgte om Pandemic Unemployment Assistance - en føderal pulje af penge.

Nu oplyser 27 arbejdsløshedsbureauer (Californien er blandt dem) arbejder med ID.me, en virksomhed, der tilbyder ansigtsgenkendelsesteknologi, siger CEO Blake Hall. Det amerikanske arbejdsministerium sørgede også for millioner i finansiering til stater at gennemføre foranstaltninger til forebyggelse af svig, som har pumpet flere dollars til ansigtsgenkendelse. I de seneste måneder har der været rapporter over hele landet af hændelser, hvor arbejdsløshedssystemer ikke kunne genkende ansøgeres ansigtsscanninger, hvilket satte folk som JB i usikre økonomiske situationer. Risikoen for fejlidentifikation er ikke ligeligt fordelt: ansigtsgenkendelse har vist sig at være mindre præcis for farvede mennesker end hvide mennesker, og mænd er mere tilbøjelige til at blive præcist identificeret end kvinder, ifølge en føderal undersøgelse offentliggjort i 2019. Resultaterne blev udforsket yderligere i en undersøgelse sidste år.

Hall siger i en stikprøve på 700 brugere, at ID.me ikke fandt en sammenhæng mellem hudfarve og sandsynligheden for at mislykkes med en-til-en-matchningstrinnet.

Ansigtsgenkendelsessoftware begyndte at blive mere almindelig år før pandemien, og dens potentielle fejl er veldokumenterede: journalister har afsløret, hvordan politiafdelinger i hele USA bruger store databaser af ansigter i undersøgelser med tvivlsom nøjagtighed. Virksomheder er stoppet eller begrænset brug af teknologien midt i beviser for, at den ikke virker så godt på farvede mennesker. Alligevel fortsætter det med at sprede sig: andre føderale agenturer plan på at udvide brugen, samtidig med at den også bliver brugt overalt fra indkøbscentre til koncertsteder. Macy's var sagsøgt sidste år over sin påståede brug af ansigtsgenkendelse på butikskunder. Men pandemi-relateret brug af teknologien til at screene for ting som ydelsesberettigelse har kritikere især bekymret.

Det, der holder mig vågen om natten, er, at med pandemien, der accelererer tingene, vil vi bare begynde at se det her dukke op overalt, siger Evan Greer, direktør for Fight for the Future, en gruppe med digitale rettigheder. Det vil være i butikkerne, og du har mulighed for at betale med dit ansigt. Det vil blive normaliseret på offentlig transport. Det vil blive brugt i jobsamtaler.

Relateret historie

Hvordan har den amerikanske pandemiske reaktion øget uligheden? Se på New Yorks neglesaloner.

Mens mange funktionærer blev hjemme for at undgå covid, stod salonmedarbejdere over for høje infektionsrater, umulige valg om at forblive sikker og lidt offentlig hjælp.

Mere og mere bliver det brugt i det, der præsenteres som interessen for folkesundheden. Australien for nylig udvidet et program bruge ansigtsgenkendelse til at håndhæve covid-19 sikkerhedsforanstaltninger. Personer, der er i karantæne, er underlagt tilfældige check-in, hvor de er forpligtet til at sende en selfie for at bekræfte, at de følger reglerne. Lokationsdata indsamles også ifølge Reuters.

Når det kommer til væsentlige ting som nødhjælp til at betale for bolig og mad, bør den første prioritet være at sikre, at alle har adgang til hjælp, siger Greer. At forebygge svindel er et rimeligt mål på overfladen, tilføjer hun, men det mest presserende mål må være at give folk de fordele, de har brug for.

Systemer skal bygges med menneskerettigheder og med sårbare menneskers behov for øje fra starten. Det kan ikke være eftertanker, siger Greer. De kan ikke være fejlrettelser, når det allerede går galt.

ID.me's Hall siger, at hans virksomheds tjenester er at foretrække frem for de eksisterende metoder til at verificere identitet og har hjulpet stater med at skære ned på massivt arbejdsløshedssvindel siden implementeringen af ​​ansigtsverifikationstjek. Han siger, at arbejdsløshedsansøgninger har omkring en 91 % sand beståelsesrate - enten på egen hånd eller gennem et videoopkald med en ID.me-repræsentant.

[Det] var vores mål at gå ind, siger han. Hvis vi kunne automatisere 91 % af dette væk, så kan de stater, der netop er overrumplede med hensyn til ressourcer, bruge disse ressourcer til at levere hvide handsker concierge-service til de 9 %.

Når brugere ikke er i stand til at komme igennem ansigtsgenkendelsesprocessen, mailer ID.me dem for at følge op, ifølge Hall.

Alt ved denne virksomhed handler om at hjælpe folk med at få adgang til ting, de er berettiget til, siger han.

Teknik i den virkelige verden

De måneder, JB overlevede uden indtægt, var svære. Den økonomiske bekymring var nok til at forårsage stress, og andre problemer som en ødelagt computer forstærkede angsten. Selv deres tidligere arbejdsgiver kunne eller ville ikke hjælpe med at skære igennem bureaukratiet.

Det er meget isolerende at sige: 'Ingen hjælper mig i nogen situation,' siger JB.

På regeringssiden siger eksperter, at det giver mening, at pandemien bragte ny teknologi på forkant, men sager som JB's viser, at teknologi i sig selv ikke er hele svaret. Anne L. Washington, assisterende professor i datapolitik ved New York University, siger, at det er fristende at betragte en ny regeringsteknologi som en succes, når den fungerer det meste af tiden i forskningsfasen, men fejler 5 % af tiden i den virkelige verden. Hun sammenligner resultatet med et spil musikalske stole, hvor fem i et lokale med 100 personer altid vil stå uden sæde.

Problemet er, at regeringer får en form for teknologi, og det virker 95 % af tiden - de tror, ​​det er løst, siger hun. I stedet bliver menneskelig indgriben vigtigere end nogensinde. Siger Washington: De har brug for et system til regelmæssigt at håndtere de fem personer, der står.

Der er et ekstra lag af risiko, når en privat virksomhed er involveret. Det største problem, der opstår i udrulningen af ​​en ny slags teknologi, er, hvor dataene opbevares, siger Washington. Uden en betroet enhed der har den juridiske pligt til at beskytte folks oplysninger, kan følsomme data ende i hænderne på andre. Hvordan ville vi f.eks. føle, hvis den føderale regering havde betroet en privat virksomhed vores CPR-numre, da de blev oprettet?

Problemet er, at regeringer får en form for teknologi, og det virker 95 % af tiden - de tror, ​​det er løst

Anne L. Washington, New York University

Udbredt og ukontrolleret brug af ansigtsgenkendelsesværktøjer har også potentiale til at påvirke allerede marginaliserede grupper mere end andre. Transkønnede, f.eks. har detaljeret , hyppige problemer med værktøjer som Google Fotos, som kan sætte spørgsmålstegn ved, om billeder før og efter overgangen viser den samme person. Det betyder, at man regner med softwaren igen og igen.

[Der er] unøjagtighed i teknologiens evne til at afspejle bredden af ​​den faktiske mangfoldighed og kantsager, der er i den virkelige verden, siger Daly Barnett, teknolog ved Electronic Frontier Foundation. Vi kan ikke stole på, at de præcist klassificerer og beregner og afspejler de smukke kantsager.

Værre end fiasko

Samtaler om ansigtsgenkendelse diskuterer typisk, hvordan teknologien kunne fejle eller diskriminere. Men Barnett opfordrer folk til at tænke ud over, om de biometriske værktøjer virker eller ej, eller om bias viser sig i teknologien. Hun skubber tanken om, at vi overhovedet har brug for dem tilbage. Faktisk, advarer aktivister som Greer, værktøjerne kan være endnu farligere, når de fungerer perfekt. Ansigtsgenkendelse er allerede blevet brugt til at identificere, straffe eller kvæle demonstranter, selvom folk kæmper imod. I Hong Kong bar demonstranter masker og beskyttelsesbriller til skjule deres ansigt s fra sådan politiovervågning. I USA, føderale anklagere frafaldet sigtelser mod en demonstrant identificeret ved hjælp af ansigtsgenkendelse, som var blevet anklaget for at overfalde politibetjente.

Relateret historie

De officielle arbejdsløsetal er forfærdelige. Den virkelige situation er endnu værre. De rekordhøje ledighedstal antyder kun den krise, som mange står over for uden arbejde.

Jeg synes, det er forståeligt, at vi fokuserer på disse fejl og skævheder, for denne teknologi bliver brugt lige nu, siger Greer. Men når du tager en teknologi … og lægger den oven på et samfund, der er dybt uretfærdigt, selvom teknologien i sig selv er 'neutral', eller den ikke har nogen form for bias indbygget i sig, vil det have effekten af ​​automatisering og forværre denne forskelsbehandling.

Fight for the Future og EFF støtter begge forbud mod regeringens brug af ansigtsgenkendelsesværktøjer. Og Barnett siger, at selv når teknologien bruges, bør statslige agenturer ikke stole på et enkelt system som gatekeeper til at få adgang til - især for at skaffe folk det væsentlige, de har brug for for at overleve.

Det er ikke langt at forestille sig, hvordan [disse teknologier], selvom de er velmente nu, kan blive våben mod mennesker til forskellige formål senere, siger hun.

For marginaliserede mennesker giver børster med ansigtsgenkendelse dog allerede problemer. Mere end et år efter, at JB første gang søgte arbejdsløshed, er detaljerne om den besværlige proces stadig brændt ind i deres hukommelse. Da det oprindelige krav udløb i foråret, var det en lettelse. De havde for nylig fået et nyt job, og tingene føltes endelig tilbage på sporet.

Det var som om, jeg endelig får mit liv sammen igen, siger de. Jeg er virkelig glad for, at jeg ikke skal forholde mig til det system. Og jeg håber virkelig, at jeg ikke skal beskæftige mig med det system nogensinde igen.

Denne historie er en del af Pandemic Technology Project, støttet af Rockefeller Foundation.

skjule