AI's white guy-problem forsvinder ikke

Eric Gay/AP

Tallene fortæller historien om AI-industriens dystre mangel på mangfoldighed. Kvinder tegner sig kun for 18 % af forfatterne på førende AI-konferencer, 20 % af AI-professorater og 15 % og 10 % af forskningspersonalet på henholdsvis Facebook og Google. Racediversiteten er endnu værre: Sorte arbejdere repræsenterer kun 2,5 % af Googles hele arbejdsstyrke og 4 % af Facebooks og Microsofts. Der er ingen tilgængelige data for transkønnede og andre kønsminoriteter - men det er usandsynligt, at tendensen heller ikke bliver modarbejdet der.

Dette er dybt bekymrende, når industriens indflydelse er vokset dramatisk til at påvirke alt fra ansættelse og bolig til strafferet og militæret. Undervejs har teknologien automatiseret sine skaberes skævheder til en alarmerende effekt: devaluering af kvinders cv'er , fastholdelse af beskæftigelses - og boligdiskrimination , og forankring af racistisk politipraksis og fængselsdomme .

Disse konsekvenser vil kun forværres uden en anden tilgang til at løse problemet, siger en ny rapport ud i denne uge fra forskningsinstituttet AI Now.

Problemet med mangel på mangfoldighed inden for teknologi [...] har nået et nyt og presserende vendepunkt, sagde Meredith Whittaker, instituttets medstifter, på et presseopkald, der fulgte med rapporten. Millioner af mennesker mærker virkningerne af disse værktøjer og er påvirket af enhver AI-bias, der bliver bagt ind i dem.

AI Now-teamet identificerer to hovedårsager til, at bestræbelserne på at imødegå en mangel på mangfoldighed har slået fejl. For det første er der stor vægt på at øge kvinder inden for teknologi og mindre på at forbedre mangfoldigheden af ​​race, køn og andre kvaliteter. For det andet er der et uforholdsmæssigt stort fokus på at rette pipelinen - ideen om at øge antallet af kandidater fra underrepræsenterede grupper, der strømmer fra skoler til industrien. Dette har en tendens til at undervurdere andre systemiske ulemper, der forhindrer kvinder og minoriteter i at blive i marken, såsom chikane, uretfærdig kompensation og magtubalancer.

Forskerne giver flere anbefalinger til at forbedre diversiteten på arbejdspladsen på en mere omfattende måde. Disse omfatter foranstaltninger, der sigter på at lukke løn- og mulighederskløften, øge diversiteten på ledelsesniveauer på tværs af afdelinger og ændre incitamentstrukturerne for virksomhedsledere til at ansætte og fastholde medarbejdere fra underrepræsenterede grupper.

Men problemet stikker også dybere end ansættelses- og kompensationspraksis, siger Jessie Daniels, forsker ved Data & Society, som studerer krydsfeltet mellem racisme og teknologi og ikke var involveret i rapporten. Tech-industrien var grundlæggende bygget på etosen om, at teknologi eksisterer uafhængigt af samfundet, siger hun: I begyndelsen af ​​90'erne var der denne idé om, at internettet skulle frigøre os fra ting som race og køn og svaghed; tanken om, at vi skulle til dette sted kaldet 'cyberspace', hvor vi ikke længere skulle tænke på legemliggørelse eller identitet.

Den idé er blevet hos branchen den dag i dag og er roden til både de gentagne fejl med at øge medarbejdernes mangfoldighed og de gentagne skandaler omkring AI-bias. Tech-virksomheder er bygget – og teknologiske produkter er designet – med en fantasitro på, at de eksisterer uafhængigt af sexisme, racisme og samfundsmæssig kontekst omkring dem.

Det er ikke en fejl, siger Daniels. Det er en funktion.

skjule