Er koncertøkonomien rigget?

Illustration af Matthew Hollister

Apps og websteder, der kan bruges til at ansætte folk til individuelle opgaver som at hente dagligvarer eller designe et nyt logo, har taget fart i de seneste år, hvilket lover en mere effektiv og mere retfærdig markedsplads for beskæftigelse. En ny undersøgelse fra Northeastern University i Boston tyder dog på, at race- og seksuel diskrimination kan være almindelig på to populære gig-økonomiske platforme.

Forskere ledet af Christo Wilson , en adjunkt ved Northeastern, og Ancsa Hannák , en ph.d.-studerende, undersøgte TaskRabbit, en platform til at ansætte folk til at udføre ærinder, og Fiverr, en markedsplads for kreative tjenester. På begge fandt de tegn på skævhed langs race- og kønslinjer.

Det er blot et eksempel på, hvordan skævhed kryber ind i online platforme og tjenester. Og det er bekymrende, fordi koncertøkonomien lovede ikke kun at være mere effektiv og fleksibel, men også mindre forudindtaget – da algoritmer gør arbejdet med at forbinde mennesker.

På Fiverr fandt forskerne bevis for, at sorte og asiatiske arbejdere fik lavere vurderinger end hvide. Og på TaskRabbit modtog kvinder færre anmeldelser end mænd, og sorte arbejdere fik lavere vurderinger end hvide. Måske mest bekymrende fandt forskerne også bevis for en sådan skævhed i anbefalingsalgoritmen på TaskRabbit. Forskningen præsenteres på en akademisk konference i New York i denne uge.

Det er umuligt at sige med sikkerhed, at sammenhængen identificeret af Wilson og Hannák skyldes race- og kønsbias fra lejernes side, i modsætning til en ukendt forvirrende faktor, men Wilson siger, at mønsteret er bekymrende. Vi får at vide, at dette er arbejdskraftens fremtid, siger han. Hvis du vil udrulle en algoritme, der vil blive brugt af millioner af mennesker, har du en form for ansvar over for offentligheden for at undersøge, hvad du implementerer, evaluere det og se, om det vil have nogen af ​​disse negative bivirkninger.

En talsmand for Fiverr hævder, at undersøgelsens metodologi var mangelfuld, idet den ignorerer faktorer som internationale grænser og sprogforskelle. Hun bemærker også, at brugerne ikke behøver at give nogen demografiske oplysninger for at bruge tjenesten, hvilket gør det nemt at undgå diskrimination. TaskRabbit reagerede ikke på en anmodning om kommentar.

Der er dog voksende beviser for, at bias kan påvirke alle former for digitale tjenester. I sidste måned, forskere fra MIT, Stanford og University of Washington opdagede det at Uber-chauffører i Boston aflyste ture oftere for kunder med afroamerikansk-klingende navne, og at sorte Uber-kunder i Seattle stod over for længere ventetider end deres hvide kolleger. I en undersøgelse offentliggjort sidste år, har forskere ved CMU fundet beviser at annoncer for højtlønnede job blev vist oftere til mænd end til kvinder.

I mange tilfælde afspejler den set skævhed blot, hvad der findes i den virkelige verden, såsom de bevidste og ubevidste fordomme, som arbejdsgivere kan medføre i forbindelse med ansættelsesbeslutninger. Så for anbefalingsmotorer eller maskinlæringssystemer er spørgsmålet, hvordan bias kan fjernes, enten fra de datasæt, der sendes til algoritmerne eller fra selve algoritmerne.

Folk har denne idé om, at fordi det er en computer, er det neutralt, tilføjer Wilson. Hvis du har data, der er forudindtaget, giver det mening, at du træner en algoritme, der er forudindtaget.

Don MacKenzie , en assisterende professor ved University of Washington og en af ​​forfatterne til den nylige Uber-undersøgelse, understreger, at undersøgelsen ikke beviser, at race- eller kønsbias er på spil. Men han siger, at det er vigtigt at overveje bias i gig-økonomien og underliggende algoritmer – og tilføjer, at problemet burde være overskueligt, hvis virksomhederne er forsigtige.

Dette er et område, der er på vej, og hvis der er et sæt bedste praksis, er jeg ikke klar over det, siger MacKenzie. Fra mit perspektiv bør virksomheder, udviklere og dataforskere være opmærksomme, lytte til feedback og ikke være bange for at prøve forskellige løsninger. Jeg tror, ​​at hvis alle nærmer sig disse spørgsmål i god tro, konstruktivt og med en vilje til at prøve forskellige ting, kan vi komme tættere på at eliminere skævhed i disse systemer.

skjule