Det er tid til en Bill of Data Rights

Ms. Tech

Det er sommeren 2023, og Rachel er knust. Når hun sidder på en bar en aften og gennemser jobannoncer på sin telefon, får hun en sms. Forskere, der laver en undersøgelse af leverfunktion, har fået hendes navn fra barens loyalitetsprogram - hun havde tilmeldt sig for at få en happy-hour-rabat på nachos. De tilbyder $50 om ugen for adgang til hendes telefons sundhedsdatastrøm og hendes bar-fane i de næste tre måneder.

Først er Rachel irriteret over indtrængen. Men hun har brug for pengene. Så hun nikker til sin telefon – en subtil, men tydelig samstemmende gestus, der er lige så juridisk bindende som en underskrift – og går tilbage til sine nachos og sin jobsøgning.

Men som sommeren går på hæld, kan Rachel ikke lade være med at bemærke, at hun får afslag efter afslag fra arbejdsgiverne, mens hendes venner én efter én stiller job i kø. Uden at hun vidste det – fordi hun ikke læste det med småt – har nogle data fra forskningsundersøgelsen sammen med hendes spirituskøbshistorie nået et af de to vikarbureauer, der er kommet til at dominere markedet. Enhver arbejdsgiver, der screener hendes ansøgning hos bureauet, ser nu, at hun er blevet profileret som en deprimeret upålidelig. Ikke underligt, at hun ikke kan få arbejde. Men selvom hun kunne opdage, at hun er blevet profileret på denne måde, hvilken udvej har hun så?

En dag i livet

Hvis du læser dette, er chancerne for, at du ligesom Rachel har skabt en enorm mængde data i dag - ved at læse eller shoppe online, spore din træning eller bare gå et sted hen med din telefon i lommen. Nogle af disse data har du oprettet med vilje, men en stor del af dem blev skabt af dine handlinger uden din viden, endsige samtykke.

Udbredelsen af ​​data i de seneste årtier har ført nogle reformatorer til et stigende råb: Du ejer dine data! Eric Posner fra University of Chicago, Eric Weyl fra Microsoft Research og virtual reality-guruen Jaron Lanier argumenterer blandt andre for, at data skal behandles som en besiddelse. Mark Zuckerberg, grundlæggeren og lederen af ​​Facebook, siger det også. Facebook siger nu at du ejer alle de kontakter og oplysninger, du poster på Facebook, og kan kontrollere, hvordan de deles. Financial Times hævder det en vigtig del af svaret ligger i at give forbrugerne ejerskab til deres egne personlige data. I en seneste tale Tim Cook, Apples administrerende direktør, var enig og sagde, at virksomheder bør anerkende, at data tilhører brugerne.

Dataejerskab løser ikke kun eksisterende problemer; det skaber nye.

Dette essay argumenterer for, at dataejerskab er en mangelfuld, kontraproduktiv måde at tænke data på. Det løser ikke kun eksisterende problemer; det skaber nye. I stedet skal vi have rammer, der giver mennesker rettigheder til fastlægge, hvordan deres data bruges uden at kræve, at de selv tager ejerskab over dem. Dataomsorgsloven, en regning introduceret den 12. december af den amerikanske senator Brian Schatz, en demokrat fra Hawaii, er et godt indledende skridt i denne retning (afhængigt af hvordan det med småt udvikler sig). Som Doug Jones, en demokratisk senator fra Alabama, som er en af ​​lovforslagene, sagde: Retten til online privatliv og sikkerhed bør være en grundlæggende en.

Begrebet ejerskab er tiltalende, fordi det foreslår at give dig magt og kontrol over dine data. Men at eje og udleje data er en dårlig analogi. Kontrol over, hvordan bestemte bits af data bruges, er kun ét problem blandt mange. De virkelige spørgsmål er spørgsmål om, hvordan data former samfundet og individer. Rachels historie vil vise os, hvorfor datarettigheder er vigtige, og hvordan de kan arbejde for at beskytte ikke bare Rachel som individ, men samfundet som helhed.

Ingen kender i morgen

For at se, hvorfor dataejerskab er et mangelfuldt koncept, skal du først tænke over denne artikel, du læser. Selve handlingen med at åbne den på en elektronisk enhed skabte data - en indtastning i din browsers historie, cookies webstedet sendte til din browser, en indtastning i webstedets serverlog for at registrere et besøg fra din IP-adresse. Det er praktisk talt umuligt at gøre noget online – at læse, shoppe eller endda bare gå et sted hen med en internetforbundet telefon i lommen – uden at efterlade en digital skygge. Disse skygger kan ikke ejes – sådan som du f.eks. ejer en cykel – lige så lidt som de flygtige pletter af skygge, der følger dig rundt på solrige dage.

Dine data i sig selv er ikke særlig nyttige for en marketingmedarbejder eller et forsikringsselskab. Analyseret i forbindelse med lignende data fra tusindvis af andre mennesker, giver den dog algoritmer og sætter dig i spænd (f.eks. storryger med drikkevaner eller sund løber, altid til tiden). Hvis en algoritme er uretfærdig – hvis den for eksempel fejlagtigt klassificerer dig som en sundhedsrisiko, fordi den blev trænet på et skævt datasæt, eller simpelthen fordi du er en outlier – så vil det ikke gøre det retfærdigt at lade dig eje dine data. Den eneste måde at undgå at blive påvirket af algoritmen på ville være aldrig nogensinde at give nogen adgang til dine data. Men selvom du forsøgte at samle data, der vedrører dig, kunne virksomheder og regeringer med adgang til store mængder data om andre mennesker bruge disse data til at drage slutninger om dig. Data er ikke et neutralt indtryk af virkeligheden. Oprettelse og forbrug af data afspejler, hvordan magten er fordelt i samfundet.

Du kan selvfølgelig vælge at holde alle dine data private for at undgå, at de bliver brugt mod dig. Men hvis du følger den strategi, kan du ende med at gå glip af fordelene ved nogle gange at gøre dine data tilgængelige. Når du f.eks. kører og navigerer med smartphone-app, deler du anonymiseret information i realtid, som derefter omsættes til præcise trafikforhold (f.eks. vil det tage dig 26 minutter at køre på arbejde i morges, hvis du tager af sted kl. 8: 16.00). Disse data er individuelt private - fremmede kan ikke se, hvor du er - men kumulativt er det et kollektivt gode.

Oprettelse og forbrug af data afspejler, hvordan magten er fordelt i samfundet.

Dette eksempel viser, hvordan data i aggregatet kan være fundamentalt forskellige i karakter fra de enkelte bits og bytes, der udgør det. Selv velmenende argumenter om dataejerskab antager, at hvis du regulerer persondata godt, vil du få gode samfundsmæssige resultater. Og det er bare ikke sandt.

Derfor kan mange af problemerne med uretfærdig brug af data ikke løses ved at kontrollere, hvem der har adgang til dem. For eksempel bruger dommere i visse amerikanske jurisdiktioner en algoritmisk genereret risikoscore til at træffe kautions- og domsafsigelser. Disse software programmer forudsige sandsynligheden for, at en person vil begå fremtidige forbrydelser. Forestil dig, at en sådan algoritme siger, at du har 99 % chance for at begå en anden forbrydelse eller gå glip af en fremtidig kautionsaftale, fordi folk, der demografisk ligner dig, ofte er kriminelle eller kautionsspringere. Det kan være uretfærdigt i dit tilfælde, men du kan ikke eje din demografiske profil eller din straffeattest og nægte at lade retssystemet se det. Selvom du nægter samtykke til, at dine data bliver brugt, kan en organisation bruge data om andre mennesker til at foretage statistiske ekstrapolationer, der påvirker dig. Dette eksempel understreger pointen om, at data handler om magt - mennesker, der er anklaget for eller dømt for forbrydelser, har generelt mindre magt end dem, der træffer kaution og domsafsigelse.

Tilsvarende involverer eksisterende løsninger på uretfærdig brug af data ofte ikke at kontrollere, hvem der har adgang til data, men hvordan data bruges. Under US Affordable Care Act, for eksempel, kan sygeforsikringsselskaber ikke nægte eller opkræve mere for dækning, bare fordi nogen har en allerede eksisterende tilstand. Regeringen fortæller ikke virksomhederne, at de ikke kan opbevare de data om patienter; den siger bare, at de skal ignorere det. En person ejer ikke det faktum, at hun har diabetes - men hun kan have ret til ikke at blive diskrimineret på grund af det.

Samtykke nævnes ofte som et grundlæggende princip, der bør respekteres i forhold til brugen af ​​data. Men fraværende regeringsregulering for at forhindre sygeforsikringsselskaber i at bruge data om allerede eksisterende forhold, mangler individuelle forbrugere muligheden for at tilbageholde samtykke. Grunden til, at de mangler den evne, er, at forsikringsselskaberne har mere magt, end de har. Samtykke, for at sige det lige ud, virker ikke.

Datarettigheder bør beskytte privatlivets fred og bør tage højde for, at privatlivets fred ikke er en reaktiv ret til at skærme sig selv mod samfundet. Det handler om frihed til at udvikle sig selv væk fra handel og væk fra statslig kontrol. Men datarettigheder handler ikke kun om privatliv. Ligesom andre rettigheder – for eksempel til ytringsfrihed – handler datarettigheder grundlæggende om at sikre et rum for individuel frihed og handlefrihed, samtidig med at de deltager i det moderne samfund. Detaljerne bør følge af grundlæggende principper, som med USA's eksisterende Bill of Rights. For ofte forsøg på at udtale sådanne principper blive hængende i ukrudtet af ting som opt-in-samtykkemodeller, som hurtigt kan blive forældede.

Der er brug for klare, brede principper rundt om i verden på måder, der passer ind i de enkelte landes retssystem. I USA er eksisterende forfatningsbestemmelser – såsom lige beskyttelse under loven og forbud mod urimelige ransagninger og beslaglæggelser – utilstrækkelige. Det er for eksempel vanskeligt at argumentere for, at kontinuerlig, vedvarende sporing af en persons bevægelser i offentligheden er en søgning. Og alligevel kan en sådan overvågning i sine påtrængende virkninger sammenlignes med en urimelig eftersøgning. Det er ikke nok at håbe, at domstolene vil komme med gunstige fortolkninger af det 18. århundredes sprog anvendt på det 21. århundredes teknologier.

En Bill of Data Rights bør omfatte rettigheder som disse:

• Folkets ret til at være sikret mod urimelig overvågning må ikke krænkes.
• Ingen må have sin adfærd manipuleret i det skjulte.
• Ingen personer må uretfærdigt diskrimineres på grundlag af data.

Det er på ingen måde alle de bestemmelser, som et holdbart og effektivt lovforslag har brug for. Det er meningen, at de skal være en begyndelse, og eksempler på den slags klarhed og almenhed, et sådant dokument har brug for.

For at gøre en forskel for mennesker som Rachel, vil en Bill of Data Rights have brug for et nyt sæt institutioner og juridiske instrumenter til at beskytte de rettigheder, den fastlægger. Staten skal beskytte og afgrænse disse rettigheder, hvilket er, hvad den europæiske generelle databeskyttelsesforordning (GDPR) fra 2018 er begyndt at gøre. Den nye datarettighedsinfrastruktur bør gå videre og omfatte bestyrelser, datakooperativer (som vil muliggøre kollektiv handling og fortalere på vegne af brugere), etiske datacertificeringsordninger, specialiserede datarettighedsadvokater og revisorer og datarepræsentanter, der fungerer som tillidsmænd for medlemmer af den brede offentlighed, i stand til at analysere de komplekse indvirkninger, som data kan have på livet.

Med lidt hjælp fra mine venner

Relateret historie

Relateret historie

Hvordan ser fremtiden ud uden beskyttelse af datarettigheder? Lad os vende tilbage til Rachels frugtesløse jobsøgning. Hendes karakterisering som en deprimeret upålidelig kan være korrekt eller ej. Måske har algoritmen bare lavet en fejl: Rachel er perfekt sund og arbejdsdygtig. Men efterhånden som algoritmer bliver bedre og trækker på større datasæt, bliver det mindre og mindre sandsynligt, at de vil være unøjagtige. Men ville det gøre dem mere retfærdige?

Hvad hvis Rachel var lidt deprimeret? Et godt job kunne have hjulpet hende med at overvinde et anfald af depression. Men i stedet bliver hendes profil hurtigt en selvopfyldende profeti. Ude af stand til at få et job, bliver hun faktisk deprimeret og upålidelig.

Overvej nu Rachels dilemma i en verden med stærkere beskyttelse af datarettigheder. Hun accepterer leverfunktionsundersøgelsen, men mens hun scanner dets vilkår og betingelser, markerer en algoritmisk datarepræsentant problemet, lidt på samme måde som algoritmiske gatekeepere beskytter mod computervirus og spam. Efter at problemet er markeret, henvises det til et team af revisorer, som rapporterer til det lokale datarettighedsråd (i denne hypotetiske fremtid). Holdet undersøger den algoritme, som undersøgelsen brugte, og opdager linket til beskæftigelsesprofileringen. Bestyrelsen fastslår, at Rachel er blevet profileret, og at en sådan profilering, takket være en nyetableret fortolkning af ligestillingsloven og databeskyttelsesloven (vedtaget i 2022), klart er ulovlig. Rachel behøver ikke selv at handle - bestyrelsen sanktionerer forskerne for misbrug af datapraksis.

Kom sammen

En gradvis udhuling af privatlivets fred er svær at lægge mærke til og gør ingen skade på nogen – ligesom spormængder af kuldioxid næppe kan spores og ikke gør nogen miljøskade at tale om.

Som jeg har argumenteret for, er dataejerskab en kategorifejl med skadelige konsekvenser: du kan ikke rigtig eje de fleste af dine data, og selvom du kunne, ville det ofte ikke beskytte dig mod urimelig praksis. Hvorfor er idéen om dataejerskab så populær en løsning?

Svaret er, at politiske eksperter og teknologer alt for ofte stiltiende accepterer begrebet datakapitalisme. De ser data enten som en kapitalkilde (f.eks. bruger Facebook data om mig til at målrette annoncer) eller som et produkt af arbejdskraft (f.eks. skal jeg betales for de data, der produceres om mig). Det er ingen af ​​disse ting. At tænke på data, mens vi tænker på en cykel, olie eller penge, kan ikke fange, hvor dybt forholdet mellem borgere, staten og den private sektor har ændret sig i dataæraen. Et nyt paradigme for at forstå, hvad data er – og hvilke rettigheder der hører til dem – er et presserende behov, hvis vi skal skabe en retfærdig politik i det 21. århundrede.

Dette paradigme kan med fordel trække på miljøanalogier – at tænke på data som beslægtet med drivhusgasser eller andre eksternaliteter, hvor små stykker forurening, individuelt uskadelig, har katastrofale kollektive konsekvenser. De fleste mennesker værdsætter deres eget privatliv, ligesom de værdsætter evnen til at indånde ren luft. En gradvis udhuling af privatlivets fred er svær at lægge mærke til og gør ingen skade på nogen – ligesom spormængder af kuldioxid næppe kan spores og ikke gør nogen miljøskade at tale om. Men samlet set, ligesom store mængder drivhusgasser forårsager grundlæggende skader på miljøet, forårsager et massivt skift i privatlivets natur grundlæggende skade på det sociale væv.

For at forstå denne skade har vi brug for et nyt paradigme. Dette paradigme skal indfange de måder, hvorpå en omgivende dyne af data ændrer vores forhold til hinanden – som familie, som venner, som kollegaer, som forbrugere og som borgere. For at gøre det skal dette paradigme være funderet i en grundlæggende forståelse af, at mennesker har datarettigheder, og at regeringer skal beskytte disse rettigheder.

Der vil være udfordringer undervejs. Hverken den tekniske eller den juridiske infrastruktur omkring datarettigheder er ligetil. Det vil være svært at nå til enighed om, hvilke rettigheder der eksisterer. Det bliver endnu sværere at implementere ny lovgivning og regler for at beskytte disse rettigheder. Som i den aktuelle debat i den amerikanske kongres, interessegrupper og industriens lobbyister vil kæmpe om vigtige detaljer. Balancerne i forskellige lande vil være forskellige. Men uden en stærk og energisk infrastruktur for datarettigheder kan det åbne demokratiske samfund ikke overleve.

skjule