211service.com
Undersøg den mørke side af Googles annoncemålretningssystem
At Google og andre virksomheder sporer vores bevægelser rundt på nettet for at målrette os med annoncer er velkendt. Hvordan præcis den information bliver brugt, er ikke - men en forskningsartikel, der blev præsenteret i sidste uge, tyder på, at nogle af de algoritmiske vurderinger, der kommer fra Googles annoncesystem, kan virke ubehagelige for mange mennesker.
Forskere fra Carnegie Mellon University og International Computer Science Institute byggede et værktøj kaldet AdFisher til at undersøge målretningen af annoncer, der vises af Google på tredjepartswebsteder. De fandt ud af, at falske webbrugere, som Google anså for at være mandlige jobsøgende, var meget mere tilbøjelige end tilsvarende kvindelige jobsøgende til at blive vist et par annoncer for højtlønnede direktørjob, når de senere besøgte et nyhedswebsted.
AdFisher viste også, at en Google gennemsigtighedsværktøj kaldet annonceindstillinger, som lader dig se og redigere de interesser, virksomheden har udledt for dig, afspejler ikke altid potentielt følsomme oplysninger, der bruges til at målrette dig mod dig. Gennemsyn på websteder rettet mod personer med stofmisbrugsproblemer udløste for eksempel et udslæt af annoncer for genoptræningsprogrammer, men der var ingen ændring på Googles gennemsigtighedsside.
Hvad der præcist forårsagede disse specifikke mønstre er uklart, fordi Googles annoncevisningssystem er meget komplekst. Google bruger sine data til at målrette annoncer, men annoncekøbere kan træffe nogle beslutninger om demografiske interesser og kan også bruge deres egne datakilder om folks onlineaktivitet til at foretage yderligere målretning for bestemte typer annoncer. Eksemplerne overtræder heller ikke nogen specifikke regler for beskyttelse af personlige oplysninger – selvom Googles politik forbyder målretning på baggrund af helbredsmæssige forhold. Stadig, siger Anupam Datta , en lektor ved Carnegie Mellon University, som hjalp med at udvikle AdFisher, viser de behovet for værktøjer, der afslører, hvordan onlineannoncevirksomheder skelner mellem mennesker.
Jeg tror, vores resultater tyder på, at der er dele af annonceøkosystemet, hvor former for diskrimination begynder at dukke op, og der er mangel på gennemsigtighed, siger Datta. Det er bekymrende fra et samfundsmæssigt synspunkt. Annoncesystemer som Googles indflydelse på den information, folk udsættes for og potentielt endda de beslutninger, de træffer, så det er vigtigt at forstå, hvordan disse systemer bruger data om os, siger han.
Selv virksomheder, der kører onlineannoncenetværk, har ikke en god idé om, hvilke slutninger deres systemer trækker om mennesker, og hvordan disse slutninger bruges, siger Datta. Hans gruppe er begyndt at samarbejde med Microsoft om at udvikle en version af AdFisher til brug i virksomheden for at lede efter potentielt bekymrende mønstre i annoncemålretningen på Bing-søgemaskinen. Et papir af Datta og to kolleger— Michael Tschantz , fra International Computer Science Institute, og Amit Datta , også på Carnegie Mellon-blev præsenteret på Privacy Enhancing Technologies Symposium i Philadelphia sidste torsdag.
Google svarede ikke officielt, da forskerne kontaktede virksomheden om deres resultater i slutningen af sidste år, siger de. Men i juni bemærkede holdet, at Google havde tilføjet en ansvarsfraskrivelse til sin side med annonceindstillinger. De viste interessekategorier siges nu kun at kontrollere nogle af de Google-annoncer, du ser, og ikke dem, hvor tredjeparter har gjort brug af deres egne data. Datta siger, at det i høj grad begrænser anvendeligheden af Googles gennemsigtighedsværktøj, som sandsynligvis kunne bringes til at afsløre sådanne oplysninger, hvis virksomheden vælger det. De viser disse annoncer, og hvis de ville, kunne de afspejle disse interesser, siger han.
Annoncører kan vælge at målrette mod den målgruppe, de ønsker at nå ud til, og vi har politikker, der guider den type interessebaserede annoncer, der er tilladt, sagde Andrea Faville, en Google-talskvinde, i en e-mail. Vi giver brugerne gennemsigtighed med 'Hvorfor denne annonce'-meddelelser og annonceindstillinger samt muligheden for at fravælge interessebaserede annoncer. Google kigger på metoden for undersøgelsen for at forsøge at forstå dens resultater.
AdFisher-værktøjet fungerer ved at sende hundredvis eller tusindvis af automatiserede webbrowsere ud på omhyggeligt udvalgte stier på tværs af nettet på en sådan måde, at et annoncemålretningsnetværk vil udlede bestemte interesser eller aktiviteter. Softwaren registrerer derefter, hvilke annoncer der vises, når hver automatiseret browser besøger et nyhedswebsted, der bruger Googles annoncenetværk, samt eventuelle ændringer på siden med annonceindstillinger. I nogle eksperimenter er denne side redigeret for at se efter forskelle mellem de måder, annoncer målrettes mod f.eks. mænd og kvinder. AdFisher markerer automatisk alle statistisk signifikante forskelle i, hvordan annoncer er målrettet ved hjælp af de særlige interessekategorier eller demografi, som den undersøger.
Roxana Geambasu , en assisterende professor ved Columbia University, siger, at der er en betydelig værdi i den måde, AdFisher statistisk kan udtrække mønstre fra kompleksiteten af målrettede annoncer. Et værktøj kaldet XRay , som hendes egen forskningsgruppe udgav sidste år, kan omvendt konstruere forbindelsen mellem annoncer vist til Gmail-brugere og søgeord i deres beskeder. For eksempel kan annoncer for billån med lavt krav være målrettet mod dem, der bruger ord, der er forbundet med økonomiske vanskeligheder.
Geambasu siger dog, at resultaterne fra både XRay og AdFisher stadig kun er vejledende. Man kan ikke drage store konklusioner, for vi har ikke undersøgt det her særlig meget, og disse eksempler kan være sjældne undtagelser, siger hun. Det, vi har brug for nu, er infrastruktur og værktøjer til at studere disse systemer i meget større skala. At være i stand til at se, hvordan algoritmer målretter og sporer folk til at gøre ting som at vise annoncer eller justere prisen på forsikringer og andre produkter, vil sandsynligvis være afgørende, hvis borgerrettighedsgrupper og regulatorer skal holde trit med udviklingen i, hvordan virksomheder bruger data, siger hun .
En rapport fra Det Hvide Hus om virkningen af big data sidste år kom til lignende konklusioner. Dataanalyse har potentialet til at overskygge langvarig beskyttelse af borgerrettigheder i, hvordan personlige oplysninger bruges i boliger, kredit, beskæftigelse, sundhed, uddannelse og på markedet, hedder det.