Data dystopi

Dystopier i det 20. århundrede kom for det meste i to varianter: den imponerende overvågningstilstand, som afbildet i Orwells 1984 , og den bedøvende fornøjelseskuppel, som i Huxleys Fagre nye verden . Hvad hvis disse ikke var separate mareridt? Den virkelige trussel kunne være overvågning i forførelsens tjeneste frem for straf.

Facebook er så vellykket, fordi det hjælper os med at opfylde trangen til at forblive forbundet med hinanden. Den trang har fået omkring en milliard af os til at forsyne en enkelt virksomhed med aftryk af en betydelig del af vores sociale liv (se Hvad Facebook ved) .

Denne historie var en del af vores juli-udgave 2012

• Se resten af ​​problemet
• Abonner

Som samfundsforsker er jeg frygtelig begejstret for denne databank, fordi den er en fantastisk ressource til at studere menneskedyret. Nye store datakilder – Facebook er en af ​​de bedste – har potentialet til at bidrage til vores forståelse af samfundet. Men denne information har anvendelser, der går ud over målretning af annoncer. Selvom udsigten ikke ser ud til at forvirre Facebook-brugere indtil videre, kan den bruges til at målrette borgerlige, politiske og sociale beskeder på måder, der er usunde for demokratiet.

Politiske kampagner opfordrer for eksempel nu vælgere til at oprette forbindelse til deres Facebook-apps eller -sider, som kan få adgang til dybdegående data om ikke bare en person, men hans eller hendes sociale netværk og interaktioner. Dette skaber muligheder for profilering med hidtil uset præcision og skala. Jeg venter på den første bølge af ond negativ politisk kampagne på Facebook. (De fleste af os bemærker det måske ikke engang, da det kan være snævert målrettet mod en modtagelig niche eller endda til enkeltpersoner.)

Den måde, Facebook bruger sine indsamlede data på, kan påvirke vores sociale interaktioner. Facebooks nyhedsfeed viser ikke alle opdateringer, eller endda de seneste, men derimod hvad Facebook tror vil få dig til at klikke eller kommentere. Nyhedsfeed-algoritmer skaber spiraler af forstærkning for visse adfærd. Detaljerne er hemmelige, men reverse-engineering viser, at Facebook mener, at billeder genererer mere engagement end tekst; opdateringer med dem vises mere fremtrædende, hvilket fører til endnu mere engagement. Selv uden eksplicit instruktion vil folk utvivlsomt opfange disse signaler og begynde at poste flere billeder. På andre måder kan Facebook måske også vejlede, hvordan vi socialiserer. Måske bliver muntre indlæg mere fremtrædende. Måske vil vi en dag lære om et selvmord efter en kort, kryptisk statusopdatering, som ingen reagerede på, fordi Facebook nedgraderede den på folks nyhedsfeed efter at vurdere, at det ikke var den slags opslag, der genererer klik.

Jeg påstår ikke, at der er nemme svar på de spørgsmål, Facebook rejser. Enhver algoritme til nyhedsfeedet ville have sin ulempe. Men spørgsmålene er vigtige, fordi Facebook indtager en vigtig civil niche. Beslutninger om, hvordan den bruger sin skare af data, hvad den offentliggør, og hvor meget adgang den giver politiske og virksomhedskampagner, vil påvirke os alle. Vi skal ikke kun tale om potentialet i denne fantastiske databutik, men om den magt virksomheden har og den etik, den opretholder.

Zeynep Tufekci er assisterende professor ved University of North Carolina og stipendiat ved Berkman Center for Internet and Society ved Harvard.

skjule