Googles nye AI-smildetektor viser, hvordan omfavnelse af race og køn kan reducere bias

Kategori: Ikke kategoriseret Udsendt 04 dec

Computersyn bliver stadig bedre til at genkende forskellige ansigtsudtryk, men for visse grupper, der ikke er tilstrækkeligt repræsenteret i træningsdatasæt, såsom raceminoriteter eller kvinder med androgyne træk, kan algoritmer stadig underpræstere.

Et nyt papir offentliggjort i arXiv af Google-forskere har forbedret avancerede algoritmer til registrering af smil ved at inkludere og træne race- og kønsklassifikatorer i deres model. Raceklassificereren blev trænet i fire raceundergrupper og to for køn (forskerne navngav ikke racegrupperne, men billederne ser ud til at bestå af asiatiske, sorte, latinamerikanske og hvide mennesker).

Deres metode opnåede næsten 91 procent nøjagtighed til at detektere smil i Faces of the World (FotW) datasættet, et sæt på 13.000 billeder af ansigter indsamlet fra nettet, der nogle gange bruges som benchmark for sådanne algoritmer. Det er en fremgang på lidt over 1,5 procent i forhold til det tidligere mærke. Resultaterne viste en samlet forbedret nøjagtighed over hele linjen, hvilket viste, at opmærksomhed på race og køn kan give bedre resultater end at forsøge at bygge en algoritme, der er farveblind.

Mange forskere er tøvende med at inkludere klassifikatorer som denne under den antagelse, at det er lettere at være skyldig i bias (eller i det mindste blive anklaget for det), når dit system har eksplicitte race- eller kønskategorier. Google-teamets resultater beviser, at indsatsen for at uddanne race- eller kønsklassificerere faktisk kan reducere bias-problemet. Forskerne brugte også klassifikationer som køn 1 og køn 2 for at undgå at introducere ubevidst, samfundsmæssig skævhed, når det var muligt.

Selv med de lovende resultater og omhu for at være opmærksomme på bias i alle dens former, inkluderede forskerne dog en sektion i deres papir kaldet Ethical Considerations, hvor de gør sig umage med at bemærke, at deres arbejde ikke er beregnet til at motivere race og køn identifikation som et slutmål. De påpeger også, at der ikke er nogen guldstandard for at nedbryde racekategorier, og at køn måske bør betragtes som et spektrum i fremtidigt arbejde, snarere end en binær stat.