211service.com
Bias findes allerede i søgemaskineresultater, og det bliver kun værre
Den måde, søgemaskiner fungerer på, er langt fra fordomsfri, hævder en ny bog. 26. februar 2018
NYU Book Press
Internettet kan virke som en lige vilkår, men det er det ikke. Safiya Umoja Noble stod ansigt til ansigt med den kendsgerning en dag, da hun brugte Googles søgemaskine til at lede efter emner, som hendes niecer kunne finde interessante. Hun gik ind i begrebet sorte piger og kom tilbage med sider domineret af pornografi.
Noble, en USC Annenberg-kommunikationsprofessor, var forfærdet, men ikke overrasket. I årevis har hun argumenteret for, at nettets værdier afspejler dets opbyggere – for det meste hvide, vestlige mænd – og ikke repræsenterer minoriteter og kvinder. Hendes seneste bog, Algoritmer for undertrykkelse , detaljerede undersøgelser, hun startede efter den skæbnesvangre Google-søgning, og den udforsker de skjulte strukturer, der former, hvordan vi får information via internettet.
Bogen, der udkommer i denne måned, hævder, at søgemaskinealgoritmer ikke er så neutrale, som Google gerne vil have dig til at tro. Algoritmer fremmer nogle resultater frem for andre, og selv et tilsyneladende neutralt stykke kode kan afspejle samfundets skævheder. Hvad mere er, uden nogen indsigt i, hvordan algoritmerne fungerer, eller hvad den bredere kontekst er, kan søgninger uretfærdigt forme diskussionen om et emne som sorte piger.
Noble talte med MIT Technology Review om problemerne i det nuværende system, hvordan Google kunne gøre det bedre, og hvordan kunstig intelligens kan gøre tingene værre.
TILLADELSE AF SAFIYA UMOJA NOBLE
Hvad tager folk galt med, hvordan søgemaskiner fungerer?
Hvis vi leder efter den nærmeste Starbucks, et specifikt citat eller noget meget smalt, der er let at forstå, fungerer det fint. Men når vi begynder at komme ind på mere komplicerede begreber omkring identitet, omkring viden, er det her, søgemaskiner begynder at svigte os. Dette ville ikke være så meget af et problem, bortset fra at offentligheden virkelig stoler på søgemaskiner for at give dem, hvad de tror vil være sandheden, eller noget undersøgt eller noget, der er troværdigt. Det er her, jeg tror, vi har den største misforståelse i offentligheden om, hvad søgemaskiner er.
For at imødegå bias undertrykker Google normalt visse resultater. Findes der en bedre tilgang?
Vi kunne tænke på at trække os tilbage på et så ambitiøst projekt med at organisere al verdens viden, eller vi kunne omformulere og sige: Dette er en teknologi, der er uperfekt. Det er manipulerbart. Vi skal vise dig, hvordan det bliver manipuleret. Vi vil gøre den slags dimensioner af vores produkt mere gennemsigtige, så du kender den dybt subjektive karakter af outputtet. I stedet er holdningen for mange virksomheder – ikke kun Google – at [de] leverer noget, du kan stole på, og som du kan regne med, og det er her, det bliver ret svært.
Hvordan kan maskinlæring fastholde noget af den racisme og sexisme, du skriver om?
Jeg har argumenteret for, at kunstig intelligens eller automatiserede beslutningstagningssystemer vil blive et menneskerettighedsspørgsmål i dette århundrede. Det tror jeg stærkt på, fordi maskinlæringsalgoritmer og -projekter bruger data, der allerede er forudindtaget, ufuldstændige, fejlbehæftede, og [vi lærer] maskiner, hvordan man træffer beslutninger baseret på den information. Vi ved, at [det] vil føre til en række forskellige udfald. Lad mig blot tilføje, at AI bliver sværere og sværere at gribe ind over for, fordi det bliver mindre klart, hvilke data der er blevet brugt til at informere om fremstillingen af den AI eller fremstillingen af disse systemer. Der er mange forskellige slags datasæt, for eksempel, der ikke er standardiserede, som samles for at træffe beslutninger.
Siden du første gang søgte efter sorte piger i 2010, har du så set tingene blive bedre eller værre?
Siden jeg begyndte at skrive om og tale offentligt om, at især sorte piger er forbundet med pornografi, har tingene ændret sig. Nu er pornografien og det hyperseksualiserede indhold ikke på den første side, så jeg synes, det var en stille forbedring, der ikke kom i stand med megen fanfare. Men andre samfund, som Latina og asiatiske piger, er stadig stærkt seksualiserede i søgeresultaterne.