LinkedIns jobmatchende AI var forudindtaget. Virksomhedens løsning? Mere AI.

Fru Tech | Envato

For mange år siden opdagede LinkedIn, at de anbefalingsalgoritmer, det bruger til at matche jobkandidater med muligheder, producerede skæve resultater. Algoritmerne rangordnede kandidater delvist på grundlag af, hvor sandsynligt det var, at de ville søge en stilling eller svare på en rekrutterer. Systemet endte med at henvise flere mænd end kvinder til åbne roller, simpelthen fordi mænd ofte er mere aggressive til at opsøge nye muligheder.

LinkedIn opdagede problemet og byggede endnu et AI-program for at modvirke skævheden i resultaterne af det første. I mellemtiden tager nogle af verdens største jobsøgningssider – inklusive CareerBuilder, ZipRecruiter og Monster – meget forskellige tilgange til at adressere bias på deres egne platforme, som vi rapporterer i den nyeste episode af MIT Technology Review's podcast In Machines We Trust. Da disse platforme ikke afslører præcis, hvordan deres systemer fungerer, er det dog svært for jobsøgende at vide, hvor effektive nogen af ​​disse foranstaltninger er til faktisk at forhindre diskrimination.

Hvis du skulle begynde at søge et nyt job i dag, ville kunstig intelligens højst sandsynligt påvirke din søgning. AI kan bestemme, hvilke opslag du ser på jobsøgningsplatforme og beslutte, om du vil videregive dit CV til en virksomheds rekrutteringspersonale. Nogle virksomheder kan bede dig om at spille AI-drevne videospil der måler dine personlighedstræk og måler, om du vil passe godt til bestemte roller.

Relateret historie

Revisorer tester ansættelsesalgoritmer for bias, men der er ingen nem løsning

AI-revisioner kan overse visse typer bias, og de bekræfter ikke nødvendigvis, at et ansættelsesværktøj udvælger de bedste kandidater til et job.

Flere og flere virksomheder bruger AI til at rekruttere og ansætte nye medarbejdere, og AI kan tage højde for næsten alle stadier i ansættelsesprocessen . Covid-19 skabte ny efterspørgsel efter disse teknologier. Begge Nysgerrig ting og HireVue , virksomheder, der specialiserer sig i AI-drevne interviews, rapporterede en stigning i forretningen under pandemien.

De fleste jobjagter starter dog med en simpel søgning. Jobsøgende henvender sig til platforme som LinkedIn , Uhyre , eller ZipRecruiter , hvor de kan uploade deres cv'er, gennemse jobopslag og ansøge om ledige.

Målet med disse hjemmesider er at matche kvalificerede kandidater med ledige stillinger. For at organisere alle disse åbninger og kandidater anvender mange platforme AI-drevne anbefalingsalgoritmer. Algoritmerne, nogle gange omtalt som matchende motorer, behandler oplysninger fra både jobsøgeren og arbejdsgiveren for at sammensætte en liste med anbefalinger for hver.

Du hører typisk anekdoten om, at en rekrutterer bruger seks sekunder på at se på dit CV, ikke? siger Derek Kan, vicepræsident for produktstyring hos Monster. Når vi ser på den anbefalingsmotor, vi har bygget, kan du reducere den tid ned til millisekunder.

De fleste matchende motorer er optimeret til at generere applikationer, siger John Jersin , den tidligere vicepræsident for produktledelse hos LinkedIn. Disse systemer baserer deres anbefalinger på tre kategorier af data: information, som brugeren giver direkte til platformen; data tildelt til brugeren baseret på andre med lignende færdigheder, erfaringer og interesser; og adfærdsdata, såsom hvor ofte en bruger reagerer på beskeder eller interagerer med jobopslag.

I LinkedIns tilfælde udelukker disse algoritmer en persons navn, alder, køn og race, fordi at inkludere disse egenskaber kan bidrage til bias i automatiserede processer. Men Jersins team fandt ud af, at alligevel kunne tjenestens algoritmer stadig detektere adfærdsmønstre udvist af grupper med særlige kønsidentiteter.

For eksempel, mens mænd er mere tilbøjelige til at søge job, der kræver erhvervserfaring ud over deres kvalifikationer, har kvinder en tendens til kun at gå til job, hvor deres kvalifikationer matcher stillingens krav. Algoritmen fortolker denne variation i adfærd og justerer sine anbefalinger på en måde, der utilsigtet er til ulempe for kvinder.

Du kan for eksempel anbefale flere seniorjob til én gruppe mennesker end en anden, selvom de er kvalificerede på samme niveau, siger Jersin. Disse mennesker bliver måske ikke udsat for de samme muligheder. Og det er virkelig den effekt, vi taler om her.

Mænd inkluderer også flere færdigheder på deres cv'er med en lavere færdighedsgrad end kvinder, og de engagerer sig ofte mere aggressivt med rekrutterere på platformen.

For at løse sådanne problemer, Jersin og hans team på LinkedIn bygget en ny AI designet til at producere mere repræsentative resultater og implementerede det i 2018. Det var i det væsentlige en separat algoritme designet til at modvirke anbefalinger skævt til en bestemt gruppe. Den nye AI sikrer, at anbefalingssystemet, før de refererer de kampe, der er kurateret af den originale motor, inkluderer en repræsentativ fordeling af brugere på tværs af køn.

Kan siger, at Monster, som lister 5 til 6 millioner jobs på ethvert givet tidspunkt, også inkorporerer adfærdsdata i sine anbefalinger, men korrigerer ikke for bias på samme måde, som LinkedIn gør. I stedet fokuserer marketingteamet på at få brugere fra forskellige baggrunde tilmeldt tjenesten, og virksomheden er så afhængig af, at arbejdsgiverne rapporterer tilbage og fortæller Monster, om de har videregivet et repræsentativt sæt af kandidater.

Irina Novoselsky , CEO hos CareerBuilder, siger, at hun er fokuseret på at bruge data, som tjenesten indsamler, til at lære arbejdsgivere, hvordan man fjerner skævhed fra deres jobopslag. For eksempel, når en kandidat læser en jobbeskrivelse med ordet 'rockstar', er der væsentligt en lavere procentdel af kvinderne, der søger, siger hun.

Ian Seal , CEO og medstifter af ZipRecruiter, siger, at virksomhedens algoritmer ikke tager visse identificerende egenskaber såsom navne i betragtning, når de rangerer kandidater; i stedet klassificerer de personer på grundlag af 64 andre typer information, herunder geografiske data. Han siger, at virksomheden ikke diskuterer detaljerne i dets algoritmer med henvisning til intellektuelle ejendomsbekymringer, men tilføjer: Jeg tror, ​​vi er så tæt på en merit-baseret vurdering af mennesker, som det kan gøres i øjeblikket.

Med automatisering på hvert trin i ansættelsesprocessen skal jobsøgende nu lære at skille sig ud for både algoritmen og ansættelseslederne. Men uden klar information om, hvad disse algoritmer gør, står kandidater over for betydelige udfordringer.

Jeg tror, ​​folk undervurderer den indvirkning, algoritmer og anbefalingsmotorer har på job, siger Kan. Den måde, du præsenterer dig selv på, bliver højst sandsynligt læst af tusindvis af maskiner og servere først, før det overhovedet kommer til et menneskeligt øje.

Denne artikel blev opdateret 6/25/21 for at afspejle, at LinkedIns nye AI sikrer en repræsentativ fordeling af brugere (ikke en jævn fordeling) på tværs af køn anbefales til job.

skjule