Al automatiseret ansættelsessoftware er som standard tilbøjelig til bias

Kategori: Teknisk politik Udsendt 13. dec

TIL ny rapport Ud fra nonprofitorganisationen Upturn analyserede nogle af de mest fremtrædende ansættelsesalgoritmer på markedet og fandt ud af, at sådanne algoritmer som standard er tilbøjelige til bias.

Ansættelsestrinene: Algoritmer er blevet lavet til at automatisere fire primære faser af ansættelsesprocessen: sourcing, screening, interviews og udvælgelse. Analysen fandt ud af, at selvom forudsigelsesværktøjer sjældent blev anvendt til at træffe det endelige valg om, hvem der skulle ansættes, blev de almindeligvis brugt gennem disse stadier til at afvise folk.

Når bias kommer snigende: Hvis tidligere ansættelsesdata bruges, kan uddannelsesoplysningerne være partiske eller ikke-repræsentative, hvilket overfører disse skævheder til softwaren. Bare fjernelse af data om køn og race vil ikke holde bias ude af software. Andre oplysninger, såsom afstand fra kontoret, kan relatere stærkt til mere følsomme faktorer. Amazon så dette i en ansættelsesalgoritme, som det forsøgte at udvikle. Ansættelsesledere kan også være tilbøjelige til at give for meget tiltro til anbefalingerne fra ansættelsesalgoritmer.

Regulering af AI: Undersøgelsen fandt også, at de nuværende love ikke er udstyret til at håndtere problemet. De love, der er designet til at regulere beslutninger om ansættelse af mennesker, tillader ikke let efterforskning og håndhævelse, når man beskæftiger sig med maskinbaseret diskrimination.

Det positive: På den anden side kan forudsigende værktøjer hjælpe med at afdække tidligere menneskelige skævheder og antagelser, som tidligere var blevet overset. Dette vil give virksomhederne mulighed for at foretage positive ændringer i deres praksis. Flere leverandører tager skridt til ikke kun at revidere deres produkter for bias, men at indbygge egenkapitalfremmende funktioner i deres produkter, siger en af ​​rapportens forfattere, Miranda Bogen. Vi håber, at flere leverandører vil omfavne disse typer af indgreb, men der er stadig lang vej igen, før vi kan være sikre på, at forudsigende værktøjer ikke forårsager mere skade end gavn.

Løsning af problemet: For at gøre brugen af ​​at ansætte AI'er mere retfærdig anbefaler rapporten:

—tillader uafhængig revision af arbejdsgiver- og leverandørsoftware
— at få regeringer til at opdatere deres regler for at dække software til forudsigelig ansættelse
— at undersøge annonce- og jobplatforme mere detaljeret for at analysere deres voksende indflydelse på ansættelser

Fordi der er så mange forskellige punkter i den proces, hvor der kan opstå skævheder, bør arbejdsgivere bestemt gå frem med forsigtighed, siger Bogen. De bør være gennemsigtige om, hvilke forudsigelsesværktøjer de bruger og tage de skridt, de kan, for proaktivt at opdage og adressere skævheder, der opstår – og hvis de ikke kan gøre det med tillid, bør de trække stikket.

Denne artikel blev oprindeligt udgivet i vores fremtidige arbejdsnyhedsbrev, Clocking In. Du kan tilmelde dig her.