Racisme er forgiftning af onlineannoncelevering, siger Harvard-professor

Er du nogensinde blevet anholdt? Forestil dig, at spørgsmålet ikke dukker op i dine tankers ensomhed, mens du læser dette papir, men dukker op eksplicit, når nogen spørger efter dit navn i en søgemaskine.

Skærmbillede af en Google-annonce.

Sådan begynder Latanya Sweeney ved Harvard University i et overbevisende papir, der hævder, at racediskrimination plager online annoncelevering.

Mange mennesker vil have erfaring med at google venner, kolleger og slægtninge for at finde ud af deres online tilstedeværelse – de websteder, de vises på, deres billeder, hobbyer og så videre.

Sweeneys interesse er i de annoncer, der vises ved siden af ​​disse resultater. Da hun indtastede sit navn i Google, dukkede en annonce op med ordlyden:

Latanya Sweeney, arresteret? 1) Indtast navn og tilstand 2) Få adgang til fuld baggrund. Tjekker med det samme. www.instantcheckmate.com

Dette er en suggestiv formulering. Det tyder på, at Latanya Sweeney har en straffeattest, hvis detaljer kan tilgås ved at klikke på annoncen. Men efter at have ramt linket og betalt det nødvendige abonnementsgebyr, siger Sweeney, at hun ikke fandt nogen registrering af arrestation.

Det interessante ved dette er, at Sweeneys fornavn også tyder på - at hun er sort. Spørgsmålet Sweeney stiller er, om en lignende søgning med et navn, der tyder på en hvid raceprofil, også viser annoncer, der nævner arrestationsregistre.

Svaret er et kraftfuldt wake up call. Sweeney siger, at hun har beviser for, at sorte identificerende navne er op til 25 procent mere tilbøjelige til at blive serveret med en anholdelsesrelateret annonce. Der er forskelsbehandling i leveringen af ​​disse annoncer, konkluderer hun.

Sweeney indsamlede disse beviser ved at indsamle over 2000 navne, der antydede race. For eksempel antyder fornavne som Trevon, Lakisha og Darnell, at ejeren er sort, mens navne som Laurie, Brendan og Katie antyder, at ejeren er hvid.

Hun indtastede derefter disse plus efternavne på Google.com og Reuters.com og undersøgte de annoncer, de returnerede. De fleste navne genererede annoncer til offentlige registre. Sort-identificerende navne viste sig dog at være meget mere tilbøjelige end hvide-identificerende navne til at generere annoncer, der inkluderer ordet arrest (60 procent mod 48 procent). Alle kom fra www.instantcheckmate.com .

Hun siger, at resultaterne er statistisk signifikante med en mindre end 0,1 procents chance for, at de er genereret ved en tilfældighed.

På Reuters.com var sorte identificerende navne 25 procent mere tilbøjelige til at blive vist med en anholdelsesrelateret annonce.

Det er et ekstraordinært resultat, som rejser flere spørgsmål, end det besvarer. Det største puslespil er selvfølgelig, hvad der får annoncerne til at blive vist i dette mønster. Her slører mysteriet om Googles Adsense-tjeneste tingene betydeligt.

Sweeney siger, at der grundlæggende er tre muligheder. Det ene er det www.instantcheckmate.com har oprettet de arrest-omtale annoncer, der skal vises op til sorte identificerende navne. En anden er, at Google på en eller anden måde har påvirket sin annoncevisningsmekanisme på denne måde.

En mere lumsk forklaring er, at samfundet som helhed har skylden. Hvis Googles Adsense-tjeneste finder ud af, hvilke annoncekombinationer der er mere effektive, vil den først vise de anholdelsesrelaterede annoncer til alle navne tilfældigt. Men dette ville ændre sig, hvis det opdagede, at klik-throughs er mere sandsynlige, når disse annoncer vises mod et sort-identificerende navn. Resultaterne afspejler med andre ord blot det diskriminerende mønster af klik fra almindelige mennesker.

Selvfølgelig kan vi ikke vide det uden større indsigt i den sorte boks, der er Google Adsense.

Det er klart, at Sweeney har opdaget et alvorligt problem her i betragtning af den indvirkning, online tilstedeværelse kan have en persons beskæftigelsesmuligheder.

Uanset årsagen, siger Sweeney, at teknologi kan tilbyde en form for løsning. Hvis algoritmerne bag Adsense kan ræsonnere om at maksimere indtægterne, siger hun, at de burde være i stand til at ræsonnere om de juridiske og sociale konsekvenser af visse mønstre af klik-throughs.

Det er en interessant idé, som Google, www.instantcheckmate.com og samfundet generelt burde overveje mere detaljeret.

Ref: http://arxiv.org/abs/1301.6822 Forskelsbehandling ved online annoncelevering

Opdatering 4. februar 2013 14:34 EST

Som svar på dette blogindlæg sender en Google-talsmand følgende kommentar:

AdWords udfører ingen raceprofilering. Vi har også en anti- og voldspolitik som siger, at vi ikke vil tillade annoncer, der taler imod en organisation, person eller gruppe af mennesker. Det er op til de enkelte annoncører at beslutte, hvilke søgeord de vil vælge for at udløse deres annoncer.

Opdatering 7. feb

Instantcheckmate.com sender følgende erklæring:

Som en kendsgerning vil Instant Checkmate gerne slå fast, at det aldrig har beskæftiget sig med raceprofilering i Google AdWords.
Vi har absolut ingen teknologi på plads til overhovedet at forbinde et navn med en race og har aldrig gjort noget forsøg på at gøre det. Selve ideen er i modstrid med vores virksomheds dybtliggende principper og værdier.

skjule