Facebooks annoncealgoritmer udelukker stadig kvinder fra at se job

Fru Tech | Pexels

Facebook tilbageholder visse jobannoncer fra kvinder på grund af deres køn, ifølge den seneste revision af deres annoncetjeneste.

Revisionen , udført af uafhængige forskere ved University of Southern California (USC), afslører, at Facebooks annonceleveringssystem viser forskellige jobannoncer til kvinder og mænd, selvom jobbet kræver de samme kvalifikationer. Dette betragtes som kønsbaseret diskrimination i henhold til amerikansk lov om lige muligheder for beskæftigelse, som forbyder annoncemålretning baseret på beskyttede karakteristika. Resultaterne kommer på trods af mange års fortalervirksomhed og retssager og efter løfter fra Facebook om at revidere, hvordan det leverer annoncer.

Forskerne registrerede sig som annoncør på Facebook og købte par annoncer for job med identiske kvalifikationer, men forskellige demografiske forhold i den virkelige verden. De annoncerede for to leveringschaufførjob, for eksempel: en for Domino's (pizzaudbringning) og en for Instacart (købmandslevering). Der er i øjeblikket flere mænd end kvinder, der kører for Domino's, og omvendt for Instacart.

Selvom ingen målgruppe blev specificeret på grundlag af demografiske oplysninger, en funktion Facebook deaktiveret for bolig-, kredit- og jobannoncer i marts 2019 efter at have afgjort flere retssager, viste algoritmer stadig annoncerne til statistisk forskellige demografiske grupper. Domino's-annoncen blev vist til flere mænd end kvinder, og Instacart-annoncen blev vist til flere kvinder end mænd.

Forskerne fandt det samme mønster med annoncer for to andre par job: softwareingeniører for Nvidia (skæv mand) og Netflix (skæv kvinde) og salgsmedarbejdere for biler (skæv mand) og smykker (skæv kvinde).

Resultaterne tyder på, at Facebooks algoritmer på en eller anden måde samler op på den nuværende demografiske fordeling af disse job, som ofte er forskellige af historiske årsager. (Forskerne var ikke i stand til at gennemskue, hvorfor det er, fordi Facebook ikke vil sige, hvordan dets annonceleveringssystem fungerer.) Facebook gengiver disse skævheder, når det leverer annoncer, selvom der ikke er nogen kvalifikationsbegrundelse, siger Aleksandra Korolova, en adjunkt ved USC, som var medforfatter til undersøgelsen sammen med sin kollega John Heidemann og deres ph.d.-rådgiver Basileal Imana.

Relateret historie

Hvordan Facebook blev afhængig af at sprede misinformation

Virksomhedens AI-algoritmer gav det en umættelig vane til løgne og hadefulde ytringer. Nu kan manden, der byggede dem, ikke løse problemet.

Undersøgelsen leverer det seneste bevis på, at Facebook ikke har løst sine problemer med annoncediskrimination siden ProPublica første gang bragte spørgsmålet frem i oktober 2016 . På det tidspunkt afslørede ProPublica, at platformen tillod annoncører af job- og boligmuligheder at udelukke visse målgrupper karakteriseret ved karaktertræk som køn og race. Sådanne grupper modtager særlig beskyttelse i henhold til amerikansk lovgivning, hvilket gør denne praksis ulovlig. Det tog to et halvt år og flere juridiske træfninger for Facebook for endelig at fjerne denne funktion .

Men et par måneder senere rejste det amerikanske ministerium for bolig- og byudvikling (HUD) en ny retssag med påstand om, at Facebooks algoritmer for annoncelevering stadig udelukkede målgrupper for boligannoncer, uden at annoncøren specificerede eksklusionen. Et hold af uafhængige forskere, herunder Korolova, ledet af Northeastern Universitys Muhammad Ali og Piotr Sapieżyński, bekræftede disse påstande en uge senere . De fandt for eksempel, at huse til salg blev vist oftere til hvide brugere, og huse til leje blev vist oftere til minoritetsbrugere.

Korolova ønskede at tage spørgsmålet op igen med sin seneste revision, fordi bevisbyrden for jobdiskrimination er højere end for boligdiskrimination. Selvom enhver skævhed i visningen af ​​annoncer baseret på beskyttede egenskaber er ulovlig i tilfælde af boliger, anser amerikansk ansættelseslov det for forsvarligt, hvis skævheden skyldes legitime kvalifikationsforskelle. Den nye metode kontrollerer denne faktor.

Forsøgets design er meget rent, siger Sapieżyński, som ikke var involveret i den seneste undersøgelse. Mens nogle kunne hævde, at bil- og smykkesalgsmedarbejdere faktisk har forskellige kvalifikationer, siger han, er forskellene mellem at levere pizza og at levere dagligvarer ubetydelige. Disse kønsforskelle kan ikke bortforklares med kønsforskelle i kvalifikationer eller mangel på kvalifikationer, tilføjer han. Facebook kan ikke længere sige, at dette er forsvarligt ved lov.

Frigivelsen af ​​denne revision kommer midt i skærpet undersøgelse af Facebooks arbejde med AI-bias. I marts offentliggjorde MIT Technology Review resultaterne af en ni måneders undersøgelse ind i virksomhedens ansvarlige AI-team, som fandt ud af, at holdet, der først blev dannet i 2018, havde forsømt at arbejde med spørgsmål som algoritmisk forstærkning af misinformation og polarisering på grund af dets blinkende fokus på AI-bias. Virksomheden udgivet et blogindlæg kort efter, understreger vigtigheden af ​​dette arbejde og siger især, at Facebook søger bedre at forstå potentielle fejl, der kan påvirke vores annoncesystem, som en del af vores igangværende og bredere arbejde med at studere algoritmisk retfærdighed i annoncer.

'Vi har taget meningsfulde skridt for at løse problemer med diskrimination i annoncer og har teams, der arbejder på annonceretfærdighed i dag,' sagde Facebook-talsmand Joe Osborn i en erklæring. 'Vores system tager højde for mange signaler for at forsøge at vise folk annoncer, de vil være mest interesserede i, men vi forstår de bekymringer, der rejses i rapporten... Vi fortsætter med at arbejde tæt sammen med borgerrettighedssamfundet, regulatorer og akademikere om disse vigtige spørgsmål.

På trods af disse påstande siger Korolova, at hun ikke fandt nogen mærkbar ændring mellem revisionen i 2019 og denne i måden, Facebooks annonceleveringsalgoritmer fungerer på. Set fra det perspektiv er det faktisk rigtig skuffende, for det gjorde vi dem opmærksom på for to år siden, siger hun. Hun har også tilbudt at arbejde sammen med Facebook om at løse disse problemer, siger hun. 'Vi har ikke hørt tilbage. For mig er de i hvert fald ikke nået ud«.

I tidligere interviews sagde virksomheden, at det ikke var i stand til at diskutere detaljerne om, hvordan det arbejdede for at afbøde algoritmisk diskrimination i sin annoncetjeneste på grund af igangværende retssager. Annonceteamet sagde, at dets fremskridt har været begrænset af tekniske udfordringer.

Sapieżyński, som nu har gennemført tre revisioner af platformen, siger, at dette ikke har noget at gøre med problemet. Facebook har endnu ikke erkendt, at der er et problem, siger han. Mens teamet finder ud af de tekniske knæk, tilføjer han, er der også en nem midlertidig løsning: den kan deaktivere algoritmisk annoncemålretning specifikt for bolig-, beskæftigelses- og udlånsannoncer uden at påvirke resten af ​​deres service. Det er egentlig bare et spørgsmål om politisk vilje, siger han.

Christo Wilson, en anden forsker ved Northeastern, som studerer algoritmisk bias, men som ikke deltog i Korolovas eller Sapieżyńskis forskning, er enig: Hvor mange gange skal forskere og journalister finde disse problemer, før vi bare accepterer, at hele annoncemålretningssystemet er bankerot?

skjule