Problemet med vores databesættelse

Bestræbelsen på at indsamle stadig mere information kan få os til at værdsætte de forkerte ting og blive oversikre på det, vi ved. Ved

• Brian Bergstein arkiv side

20. februar 2013

Et omstridt spørgsmål om stemmesedlen i Californien i 2008 inspirerede til en simpel onlineinnovation: et websted kaldet Eightmaps.com. Nummeret i navnet refererede til proposition 8, som opfordrede til at ændre statens forfatning for at forbyde homoseksuelle ægteskaber. I henhold til Californiens kampagnefinansieringslove blev alle donationer på mere end $100 til grupper, der går ind for eller imod Proposition 8, registreret i en offentligt tilgængelig database. Nogen (det er stadig ikke klart hvem) tog alle data om forslagets tilhængere - deres navne og postnumre og deres arbejdsgivere i nogle tilfælde - og plottede det på et Google-kort.

Efter at have fundet sig selv på kortet sagde flere tilhængere af forbuddet mod homoægteskaber, at de var chikaneret eller deres virksomheder blev boykottet. Dette foruroligede selv nogle modstandere af forslag 8; sikkert det ville ikke vare længe , sagde de, før f.eks. religiøse fundamentalister skabte et lignende værktøj til at kalde tilhængere af en foranstaltning for homoseksuelles rettigheder. Udvalget, der havde støttet Proposition 8, bad en føderal dommer om at slå loven om offentliggørelse ned eller hæve dens tærskel til over $100, så flere mennesker kunne give anonymt. Men han nægtede , og argumenterer for, at afstemningsforanstaltninger har brug for det solskin, som afsløring af donationer giver. Hans afgørelse var på linje med ideen om, at så mange data som muligt om den politiske proces skulle være afsløret .

Denne historie var en del af vores marts 2013-udgave

• Se resten af ​​problemet
• Abonner

Evgeny Morozov bekymrer os om, at vi for ofte foretager denne afvejning - vælger at offentliggøre flere oplysninger for at øge gennemsigtigheden, selvom det underminerer principper som privatliv eller borgerinddragelse. I sin skarpe nye bog, For at gemme alt klik her, Morozov, en forfatter til Skifer og Den Nye Republik, bruger Eightmaps-episoden til at understøtte hans påstand om, at internet-centrisme fordrejer vores syn på, hvad der virkelig er vigtigt.

Gennemsigtighed stiger på bekostning af andre værdier, foreslår Morozov, primært fordi det er så billigt og nemt at bruge internettet til at distribuere data, som en dag kan vise sig at være nyttige. Og fordi vi så ofte får at vide, at internettet har befriet os fra den kontrol, som gatekeepere havde på information, virker det retrograd at genoverveje tilgængeligheden af ​​information – og tendensen til åbenhed samler endnu mere kraft. (Bemærk, at Facebook siger, at dens mission er at gøre verden mere åben og gennemsigtig .)

Ting gennemgået

• For at redde alt, klik her: Den teknologiske løsnings dårskab

  Evgeny Morozov
  Public Affairs, 2013

  
  
  

• Mod gennemsigtighed

  Lawrence Lessig
  Den Nye Republik, 9. oktober 2009

• Den lukkede verden: computere og diskurspolitikken i den kolde krigs Amerika

  Paul N. Edwards
  MIT Press, 1996

Morozov er ikke alene om at frygte for meget gennemsigtighed. Harvard-professor Lawrence Lessig har veltalende beskrevet hvorfor det at have flere data om politikere er mere tilbøjeligt til at vildlede folk til kynisme end at gøre politik bedre. Men Lessig synes resigneret over for uundgåeligheden af ​​sådanne dataindsamlingsprojekter i internettets tidsalder. Han mener, at løsningen er at finansiere valg offentligt, så folk har mindre grund til at være kyniske over for deres lovgiveres motiver.

Det gør Morozov rasende, fordi han mener, at Lessig blot fremmer en misforståelse om, at internettet er som en naturkraft snarere end en menneskelig skabelse - at modstand er nyttesløst. Tværtimod, siger Morozov, kræves der modstand. Hans svar på det problem, Eightmaps rejste, er ikke blot at acceptere, at flere oplysninger vil være let søgbare og ændre loven i overensstemmelse hermed. I stedet bør vi kræve, at vores onlinesystemer respekterer værdier ud over ren gennemsigtighed. Kampagnedonationsdatabaser kunne for eksempel designes, så optegnelser ikke kan suges ud af dem i massevis. Ja, det ville hæmme nogle nemme dataopdagelser. Men det kunne styrke demokratiet i det lange løb ved at få folk til at føle sig friere til at støtte sager, der kan være upopulære i deres nabolag eller deres kontor.

Morozovs første bog, The Net Delusion: The Dark Side of Internet Freedom, søgte at punktere myten om, at sociale medier er et potent våben mod diktaturer. Tværtimod sagde han: kyndige regimer bruger nettet til at holde styr på dissidenter. Dette ser bestemt ud til at være sandt i Kina, Syrien og Iran. I sin nye bog forsøger han at deflatere en mere amorf idé: Solutionisme. Dette er hans ord for troen på, at med nok data om mange komplekse aspekter af livet – inklusive ikke kun politik, men også kriminalitet, trafik og sundhed – kan vi løse problemer med ineffektivitet. For eksempel analyserer forudsigelig software nu kriminalitetsstatistikker og hjælper politiet med at beslutte, hvor patruljer skal styrkes. Algoritmer sporer webstedsklik og rådgiver journalister om, hvilke slags historier de skal skrive. Morozov ser mange måder, hvorpå dette kan gå frygteligt galt. For det første er maksimal effektivitet ikke nødvendigvis en værdi at stræbe efter; ineffektivitet giver ofte sociale fordele. Ikke at vide præcis, hvor meget læserskare hver historie fik, førte sandsynligvis aviser til omfattende dækning af statens regering.

Teknologisk Hubris

Men det mest skræmmende potentielle problem er, at de data, vi bruger til at vejlede os selv, kan være ufuldstændige eller alt for reduktionistiske. Mange forbrydelser bliver urapporteret, hvilket kan narre prædiktiv politisoftware til at tro, at et kvarter er sikkert. Politiet på beatet kan dog måske se, hvornår tingene ikke ser helt rigtige ud, og holde øje. Morozov frygter en fremtid, hvor en sådan intuitiv viden om, hvordan man implementerer ressourcer, overstyres af algoritmer, der kun kan arbejde med hårde data og selvfølgelig ikke kan redegøre for de data, de ikke har. På samme måde kan online optegnelser over en persons kampagnedonationer virke detaljerede og derfor lærerige, men de vil altid i bedste fald give en delvis redegørelse for denne persons tro eller rolle i den politiske proces.

Dette koncept kan være Morozovs stærkeste pointe: at uanset hvor objektive data er, er fortolkning subjektiv, og det samme er vores valg om, hvilke data der skal registreres i første omgang. Selvom det kan virke indlysende, at data, uanset hvor store de er, ikke perfekt repræsenterer livet i al dets kompleksitet, producerer informationsteknologi så meget information, at det er let at glemme, hvor meget der mangler.

Dette er ikke et nyt problem; big datas vildledende eller endda blændende kvaliteter plagede de første superbrugere af computere. Under Vietnamkrigen ønskede det amerikanske militær at stoppe Nordvietnam i at bruge Ho Chi Minh Trail, et system af junglepassager gennem nabolandet Laos, til at sende forsyninger til det kommunistiske oprør i syd. Forsvarsminister Robert S. McNamara, der havde satset på kvantitative styringsmetoder, mens han kørte Ford Motor, gjorde det, der kom naturligt: ​​han søgte flere data om, hvad der skete på sporet. Således begyndte Operation Igloo White . Fra 1967 til 1972 fløj amerikanske fly over sporet og faldt 20.000 batteridrevne sensorer der lignede planter eller træ, men kunne registrere stemmer og andre lyde, kropsvarme, urin og de seismiske forstyrrelser, der er særligt for lastbiler. Disse sensorer sendte signaler til amerikanske fly, som videresendte dataene til en amerikansk kommando- og kontrolfacilitet i Thailand, hvor teknikere, der sad ved bredden af ​​terminaler, kunne se kort over Ho Chi Minh-stien. Når en sensor opdagede noget, lyste den del af stien op som en hvid orm. IBM 360/65-computere i midten beregnede, hvor hurtigt ormen bevægede sig; at oplysninger blev sendt til amerikanske bombefly så det pågældende område kunne angribes .

Fra kontrolcenteret kunne Igloo White have set ret godt ud. Orme dukkede op på skærmene og forsvandt derefter i bombeangreb. Dataene syntes at indikere, at amerikanerne havde ødelagt tusindvis af lastbiler og forstyrret ruter, der leverede betydelige mængder af forsyninger. Militæret var tilstrækkeligt glade for at bruge 1 milliard dollars om året på programmet.

Men kongressens efterforskere ville i sidste ende så tvivl om Pentagons antagelser om, hvor mange lastbiler der var blevet bombet. Kommunisterne blev i sidste ende ikke afskrækket fra at flytte forsyninger sydpå. De leverede endda kampvogne, der blev brugt i en kæmpe offensiv i syd i 1972. Det viste sig, at amerikanerne ikke var klar over, i hvilket omfang de og deres IBM-maskiner handlede på ufuldstændige og upålidelige data. For det første kunne de ikke fylde hele stien med sensorer. Og vietnameserne fandt ud af, hvordan de skulle spille systemet med poser med urin og båndoptagede lastbillyde.

Det kunne være fristende at afvise dette som endnu en besynderlig bommert i en krig fuld af dem. Men det ville mangle et afgørende punkt. Læren er ikke, at Igloo Whites dataindsamlingsteknologi var begrænset - selvom den var - men at de mennesker, der brugte dataene, ikke forstod dets begrænsninger. I bogen fra 1996 Den lukkede verden, historiker Paul N. Edwards beskriver Igloo White som et eksempel på teknologisk hybris. Militære planlæggere troede, at computere og realtidskommunikation ville lade dem skabe en kuppel af globalt teknologisk tilsyn, hvilket giver stadig større sikkerhed om, hvad der skete i verden. Men mange ting passer ikke pænt under kuplen; livet er rodet, og ikke alt kan abstraheres til data, som computere kan handle på.

Data ser anderledes ud i disse dage, men vores tro på værdien af ​​det - og impulsen til at skabe en information panoptikon — stædigt forblive. Google siger, at det ønsker at organisere verdens information og gøre det universelt tilgængeligt og nyttigt. Morozov har ret i at stille spørgsmålstegn ved, om det er et værdigt mål. Hvem ved, hvilke dataanalyseprojekter, der udføres nu, vil se lige så forsigtige ud om 40 år, som Igloo White gør i dag?

skjule