Apple Card er ved at blive undersøgt for påstande om, at det giver kvinder lavere kreditgrænser

Kategori: Kunstig intelligens Udsendt 11 nov

Algoritmen, der bestemmer kreditgrænsen for brugere af Apples nye kreditkort, som blev lanceret i USA i august, står over for en undersøgelse, fordi den ser ud til at give mænd højere grænser end kvinder.

Nyhederne: Den 7. november, web-iværksætter David Heinemeier Hansson udsendt et nu viralt tweet sagde, at Apple-kortet havde givet ham 20 gange kreditgrænsen for hans kone. Dette var på trods af, at de indgav fælles selvangivelser, og at hans kone efter undersøgelse havde en bedre kreditscore, end han havde. Apples medstifter Steve Wozniak svarede til tweetet og sagde, at han også havde fået 10 gange kreditgrænsen for sin kone, selvom de ikke har nogen separate aktiver eller bankkonti.

Resultat: Nu starter New Yorks afdeling for finansielle tjenester en undersøgelse af Goldman Sachs, som administrerer kortet. Dets superintendent, Linda Lacewell, sagde i et blogindlæg at vagthunden ville undersøge, om den algoritme, der blev brugt til at træffe disse kreditgrænsebeslutninger, overtræder statens love, der forbyder forskelsbehandling på grundlag af køn. Det har regulatoren allerede for nylig åbnet en undersøgelse ind i rapporter om, at en algoritme resulterede i, at sorte patienter fik mindre omfattende behandling end hvide patienter.

Bredere problem: Goldman Sachs udsendte en erklæring på Twitter i weekenden, hvori han sagde, at køn ikke tages i betragtning, når kreditværdigheden skal afgøres. Men den uforklarlige forskel i kortets kreditgrænser er endnu et eksempel på, hvordan algoritmisk skævhed kan skabes utilsigtet. Algoritmer af den slags, der bruges til at vurdere kreditværdighed, trænes på mange års historiske data, og bias kan glide ind i processen på en række forskellige måder.