Amazon droppede AI-rekrutteringssoftware, fordi den var forudindtaget mod kvinder

Kategori: Silicon Valley Udsendt 10. okt

De data, som den kunstige intelligens-algoritme blev trænet på, skabte en præference for mandlige kandidater.

Nyhederne: Ifølge en rapport fra Reuters , begyndte Amazon at udvikle et automatiseret system i 2014 til at rangere jobsøgende med en til fem stjerner. Men sidste år skrottede virksomheden projektet efter at have set, at det havde udviklet en præference for mandlige kandidater i tekniske roller.

Hvorfor? AI-værktøjet blev trænet på 10 års CV'er, som virksomheden havde modtaget. Fordi tech er en mandsdomineret industri, kom størstedelen af ​​disse CV'er fra mænd.

Resultatet: Systemet blev utilsigtet trænet til at vælge mandlige kandidater frem for kvindelige kandidater. Det ville angiveligt straffe cv'er, der indeholder ordet kvinders eller navnene på visse skoler, der udelukkende består af kvinder. Selvom Amazon foretog ændringer for at gøre disse vilkår neutrale, mistede virksomheden tilliden til, at programmet faktisk var kønsneutralt på alle andre områder.

Hvorfor det er vigtigt: Vi kan ikke behandle kunstig intelligens som iboende upartisk. At træne systemerne på forudindtaget data betyder, at algoritmerne også bliver partiske. Hvis uretfærdige AI-ansættelsesprogrammer som dette ikke afsløres, før de implementeres, vil de fastholde mangeårige mangfoldighedsproblemer i erhvervslivet i stedet for at løse dem.

Vil du følge med i, hvordan teknologien ændrer fremtidens arbejdsplads? Tilmeld dig vores fremtidige arbejdsnyhedsbrev, Clocking In.