At gøre ansigtsgenkendelse mindre forudindtaget gør det ikke mindre skræmmende

Busà Photography/Getty

I de sidste par år har der været en dramatisk stigning i adoptionen af ​​ansigtsgenkendelse, detektion og analyseteknologi.

Du er nok mest bekendt med anerkendelse systemer, som Facebooks anbefaling af fototagging og Apples FaceID, som kan identificere specifikke personer. Opdagelse systemer på den anden side bestemmer, om et ansigt overhovedet er til stede; og analyse systemer forsøger at identificere aspekter som køn og race. Alle disse systemer bliver nu brugt til en række forskellige formål, fra ansættelse og detailhandel til sikkerhed og overvågning .

Mange mennesker tror, ​​at sådanne systemer er både meget nøjagtige og upartiske. Logikken går på, at lufthavnens sikkerhedspersonale kan blive trætte, og politiet kan fejlbedømme mistænkte, men et veltrænet AI-system bør konsekvent kunne identificere eller kategorisere ethvert billede af et ansigt.

Men i praksis har forskning gentagne gange vist, at disse systemer håndterer nogle demografiske grupper meget mere unøjagtigt end andre. Sidste år, Kønsnuancer , en banebrydende undersøgelse ledet af MIT Media Lab-forsker Joy Buolamwini, fandt ud af, at kønsklassifikationssystemer solgt af IBM, Microsoft og Face++ havde en fejlrate så meget som 34,4 procentpoint højere for mørkere kvinder end lysere mænd. ACLU i det nordlige Californien tilsvarende fundet at Amazons platform var mere tilbøjelig til at fejlidentificere ikke-hvide end hvide medlemmer af Kongressen.

Problemet er, at ansigtsgenkendelses- og analysesystemer ofte trænes på skæve datasæt: de fodres med langt færre billeder af kvinder og mennesker med mørk hud, end de er billeder af mænd og mennesker med lys hud. Og selvom mange af dem angiveligt er testet for retfærdighed, kontrollerer disse tests ikke ydeevnen på en bred nok række af ansigter - som Buolamwini fandt. Disse uligheder fastholder og befæster yderligere eksisterende uretfærdigheder og fører til konsekvenser, der kun forværres, efterhånden som indsatsen bliver højere.

Tre nye papirer udgivet i den seneste uge bringer nu tiltrængt opmærksomhed på dette problem. Her er en kort beskrivelse af hver af dem.

Papir #1. Sidste torsdag, Buolamwini frigivet en opdatering til Gender Shades ved at teste de systemer, hun tidligere havde undersøgt, og udvide sin anmeldelse til at omfatte Amazons anerkendelse og et nyt system fra et lille AI-firma kaldet Kairos. Der er nogle gode nyheder. Hun fandt ud af, at IBM, Face++ og Microsoft alle forbedrede deres kønsklassificeringsnøjagtighed for kvinder med mørkere hud, hvor Microsoft reducerede sin fejlrate til under 2 %. På den anden side havde Amazons og Kairos' platforme stadig nøjagtighedsforskelle på henholdsvis 31 og 23 procentpoint mellem lysere hanner og mørkere hunner. Buolamwini sagde undersøgelsen viser, at disse teknologier skal revideres eksternt for at holde dem teknisk ansvarlige.

Papir #2. På søndag, a undersøgelse fra MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) demonstrerede effektiviteten af ​​en ny algoritme til at afbøde skævheder i et ansigtsdetektionssystem, selv når det er trænet på stærkt forudindtaget data. Mens den træner, identificerer den også, hvilke eksempler i dataene, der er underrepræsenterede og bruger ekstra tid på at se på dem for at kompensere. Da forskerne testede systemet mod Buolamwinis Gender Shades-datasæt, fandt de ud af, at det hjalp med at lukke deres eget største nøjagtighedsgab mellem lysere og mørkere mænd sammenlignet med en standard træningsalgoritme (selvom det ikke eliminerede det fuldstændigt) .

Papir #3. Her til morgen udgav IBM Research en papir der identificerer snesevis af funktioner til måling af mangfoldighed ud over hudfarve og køn, inklusive hovedhøjde, ansigtsbredde, afstand mellem øjnene og alder. Resultaterne er baseret på tidligere forskning i menneskelige ansigter. Medmindre vi har mål for ansigtsdiversitet, siger John Smith, en af ​​avisens medforfattere, kan vi ikke vende tilbage og håndhæve dem, mens vi træner disse ansigtsgenkendelsessystemer. I forbindelse hermed udgav holdet et nyt datasæt med 1 million billeder af ansigter, kommenteret med disse nye foranstaltninger.

Forskellige mål for ansigtsdiversitet, præsenteret i IBM Researchs nye papir. IBM Research

Hver af disse undersøgelser har taget vigtige skridt i retning af at adressere bias i ansigtsgenkendelse – ved at holde virksomheder ansvarlige, ved at skabe nye algoritmer og ved at udvide vores forståelse af datadiversitet. Men at skabe mere retfærdige og mere præcise systemer er kun halvdelen af ​​kampen.

Selv de mest retfærdige og mest præcise systemer kan stadig bruges til at krænke folks borgerlige frihedsrettigheder. Sidste år, et Daily Beast efterforskning fandt ud af, at Amazon aktivt lancerede sin ansigtsovervågningsplatform til US Immigration and Customs Enforcement, bedre kendt som ICE, for at hjælpe med at slå ned på migrantsamfund. En aflytning efterforskning fandt også ud af, at IBM udviklede evnen til at identificere ansigters etnicitet som en del af et langsigtet partnerskab med New York Police Department. Denne teknologi blev derefter indsat i offentlige overvågningskameraer til test uden byens indbyggeres viden. Allerede nu bruger UK Metropolitan Police ansigtsgenkendelse til scanne offentlige folkemængder for folk på overvågningslister, og Kina bruger det til masse overvågning af alle beboere, til formål, herunder sporing af dissidenter.

Som reaktion på den hurtige udbredelse af disse systemer har et stigende antal borgerrettighedsaktivister og teknologer har opfordret til at blive reguleret; Google har endda suspenderet dets salg af sådanne systemer, indtil det har klare strategier for at forhindre misbrug af dem.

Uden algoritmisk retfærdighed kan algoritmisk nøjagtighed/teknisk retfærdighed skabe AI-værktøjer, der er bevæbnet, siger Buolamwini.

Denne historie dukkede oprindeligt op i vores AI-nyhedsbrev The Algorithm. For at få det leveret direkte til din indbakke, tilmeld dig her gratis.

skjule