211service.com
Sådan udryddes skjulte skævheder i AI
Algoritmer træffer livsændrende beslutninger som at nægte prøveløsladelse eller yde lån. Cynthia Dwork, en datalog ved Harvard, er ved at udvikle måder til at sikre, at maskinerne fungerer retfærdigt. 24. oktober 2017
Miguel Porlan
Hvorfor er det svært for algoritmedesignere eller dataforskere at redegøre for skævhed og uretfærdighed?
Tag et arbejdsmiljø, der er fjendtligt over for kvinder. Antag, at du definerer succes som det faktum, at nogen har et job i to til tre år og får en forfremmelse. Så vil din forudsigelse – baseret på de historiske data – præcist forudsige, at det ikke er en god idé at ansætte kvinder. Det interessante her er, at vi ikke taler om historiske ansættelsesbeslutninger. Selv hvis ansættelsesbeslutningerne var fuldstændig upartiske, består virkeligheden – den reelle diskrimination i det fjendtlige miljø – ved. Det er dybere, mere strukturelt, mere indgroet og sværere at overkomme.
Denne historie var en del af vores november 2017-udgave
- Se resten af problemet
- Abonner
Jeg tror på, at den store brug for maskinlæring og AI vil være i forbindelse med virkelig kyndige mennesker, der kender historie og sociologi og psykologi for at finde ud af, hvem der skal behandles på samme måde som hvem.
Jeg siger ikke, at computere aldrig vil kunne gøre det, men jeg kan ikke se det nu. Hvordan ved du, hvornår du har den rigtige model, og hvornår den fanger, hvad der virkelig skete i samfundet? Du skal have en forståelse for, hvad du taler om. Der er det berømte ordsprog Alle modeller er forkerte, og nogle er nyttige.
— som fortalt til Will Knight