211service.com
Kollektive datarettigheder kan forhindre big tech i at udslette privatlivets fred
Franziska Barczyk
Hver person, der er engageret i den netværksverden, skaber konstant floder af data. Vi gør dette på måder, vi er opmærksomme på, og på måder, som vi ikke er. Virksomheder er ivrige efter at drage fordel.
Tag for eksempel NumberEight, en startup, der ifølge Kablet , hjælper apps med at udlede brugeraktivitet baseret på data fra en smartphones sensorer: uanset om de løber eller sidder, nær en park eller et museum, kører eller kører i tog. Nye tjenester baseret på en sådan teknologi vil kombinere, hvad de ved om en brugers aktivitet på deres egne apps med information om, hvad de laver fysisk på det tidspunkt. Med disse oplysninger kan en tjeneste i stedet for at opbygge en profil, der målretter mod f.eks. kvinder over 35 år, målrette annoncer mod 'early-ups'.
Sådanne ambitioner er udbredte. Som denne nylige Harvard Business Review-artikel sætter De fleste administrerende direktører erkender, at kunstig intelligens har potentialet til fuldstændig at ændre, hvordan organisationer fungerer. De kan forestille sig en fremtid, hvor for eksempel detailhandlere leverer individualiserede produkter, før kunder overhovedet efterspørger dem - måske på selvsamme dag, som disse produkter fremstilles. Efterhånden som virksomheder bruger kunstig intelligens i flere og mere adskilte domæner, forudsiger artiklen, at deres evner til kunstig intelligens hurtigt vil forstærkes, og de vil opdage, at den fremtid, de forestillede sig, faktisk er tættere på, end den så ud til engang.
Selv i dag, endsige i sådan en fremtid, kan teknologi fuldstændig udslette privatlivets fred. At komme med love og politikker for at forhindre det i at gøre det er en vigtig opgave for regeringer. Da Biden-administrationen og kongressen overvejer føderal lovgivning om privatlivets fred, må de ikke bukke under for en almindelig fejlslutning. Love, der beskytter privatlivets fred for folks data, handler ikke kun om at beskytte enkeltpersoner. De handler også om at beskytte vores rettigheder som medlemmer af grupper – som en del af samfundet som helhed.
Skaden på et enkelt individ i en gruppe, der skyldes en krænkelse af privatlivets fred, kan være relativt lille eller svær at fastslå, men skaden på gruppen som helhed kan være dyb. Lad os sige, at Amazon bruger sine data om forbrugeradfærd til at finde ud af, hvilke produkter der er værd at kopiere, og så underbyder producenterne af produkter, de sælger, som sko eller kameratasker . Selvom den umiddelbare skade er for skomageren eller kamerataskeproducenten, er den langsigtede – og i sidste ende mere varige – skade for forbrugerne, som i det lange løb bliver berøvet de valg, der kommer af at handle på en virkelig åben og retfærdig måde markedsplads. Og mens skomageren eller kamerataskeproducenten kan forsøge at tage retslige skridt, er det meget sværere for forbrugerne at vise, hvordan Amazons praksis skader dem.
Dette kan være et vanskeligt koncept at forstå. Gruppesøgsmål, hvor mange enkeltpersoner slutter sig sammen, selvom hver enkelt kun har lidt en lille skade, er en god begrebsmæssig analogi. Store teknologivirksomheder forstår de kommercielle fordele, de kan opnå ved at analysere data fra grupper, mens de beskytter enkeltpersoners data overfladisk gennem matematiske teknikker som differentieret privatliv. Men tilsynsmyndigheder fortsætter med at fokusere på at beskytte individer eller i bedste fald beskyttede klasser som mennesker af bestemte køn, alder, etnicitet eller seksuel orientering.
Hvis en algoritme diskriminerer mennesker ved at sortere dem i grupper, der ikke falder ind i disse beskyttede klasser, gælder antidiskrimineringslove ikke i USA. (Profileringsteknikker som dem, Facebook bruger til at hjælpe maskinlæringsmodeller med at sortere brugere, er sandsynligvis ulovlige i henhold til EU's databeskyttelseslovgivning, men dette er endnu ikke blevet anlagt.) Mange mennesker vil ikke engang vide, at de blev profileret eller diskrimineret, hvilket gør det er svært at anlægge sag. De føler ikke længere uretfærdigheden, uretfærdigheden på egen hånd – og det har historisk set været en forudsætning for at fremsætte et krav.
Relateret historie
Det er tid til en Bill of Data Rights Mens det amerikanske senat debatterer et nyt lovforslag, præsenterer en dataforvaltningsekspert en plan for at beskytte frihed og frihed i den digitale tidsalder.Enkeltpersoner bør ikke skulle kæmpe for deres databeskyttelsesrettigheder og være ansvarlige for enhver konsekvens af deres digitale handlinger. Overvej en analogi: folk har ret til sikkert drikkevand, men de bliver ikke opfordret til at udøve denne ret ved at kontrollere kvaliteten af vandet med en pipette, hver gang de har en drink ved hanen. I stedet handler tilsynsmyndigheder på alles vegne for at sikre, at alt vores vand er sikkert. Det samme skal gøres for digitalt privatliv: Det er ikke noget, den gennemsnitlige bruger er, eller bør forventes at være, personligt kompetent til at beskytte.
Der er to parallelle tilgange, der bør følges for at beskytte offentligheden.
Den ene er bedre brug af gruppe- eller gruppesøgsmål, også kendt som kollektive søgsmål. Historisk set har disse været begrænsede i Europa, men i november 2020 Europa-parlamentet bestået en foranstaltning det kræver, at alle 27 EU-medlemsstater gennemfører foranstaltninger, der muliggør kollektive klagesager i hele regionen. Sammenlignet med USA har EU stærkere love, der beskytter forbrugerdata og fremmer konkurrencen, så gruppe- eller gruppesøgsmål i Europa kan være et effektivt værktøj for advokater og aktivister til at tvinge store teknologivirksomheder til at ændre deres adfærd, selv i tilfælde, hvor de per- personskaden ville være meget lav.
Gruppesøgsmål er oftest blevet brugt i USA til at søge økonomisk erstatning, men de kan også bruges til at fremtvinge ændringer i politik og praksis. De kan arbejde hånd i hånd med kampagner for at ændre den offentlige mening, især i forbrugersager (f.eks. ved at tvinge Big Tobacco til at indrømme sammenhængen mellem rygning og kræft, eller ved at bane vejen for lov om bilseler). De er kraftfulde værktøjer, når der er tusindvis, hvis ikke millioner, af lignende individuelle skader, som lægger op til at bevise årsagssammenhæng. En del af problemet er at få de rigtige oplysninger til at sagsøge i første omgang. Regeringens indsats, som en retssag anlagt mod Facebook i december af Federal Trade Commission (FTC) og en gruppe på 46 stater , er afgørende. Som tech-journalisten Gilad Edelman udtrykker det: Ifølge retssagerne er udhulingen af brugernes privatliv over tid en form for forbrugerskade – et socialt netværk, der beskytter brugerdata mindre, er et ringere produkt – der tipper Facebook fra et blot monopol til et ulovlig en. I USA, som New York Times for nylig rapporteret , private retssager, herunder gruppesøgsmål, ofte læner sig op af beviser, som er afdækket af regeringens undersøgelser. I EU er det imidlertid omvendt: Private retssager kan åbne muligheden for reguleringsindgreb, som er begrænset af kløften mellem EU-dækkende love og nationale tilsynsmyndigheder.
Hvilket bringer os til den anden tilgang: en lidet kendt fransk lov fra 2016 kaldet Digital Republic Bill. Det Digital Republic Bill er en af de få moderne love, der fokuserer på automatiseret beslutningstagning. Loven gælder i øjeblikket kun for administrative beslutninger truffet af offentlige algoritmiske systemer. Men det giver en skitse for, hvordan fremtidige love kan se ud. Den siger, at kildekoden bag sådanne systemer skal gøres tilgængelig for offentligheden. Enhver kan anmode om den kode.
Vigtigt er det, at loven giver fortalervirksomheder mulighed for at anmode om oplysninger om funktionen af en algoritme og kildekoden bag den, selvom de ikke repræsenterer en specifik person eller sagsøger, der angiveligt er skadet. Behovet for at finde en perfekt sagsøger, der kan bevise skade for at anlægge sag gør det meget vanskeligt at tackle de systemiske problemer, der forårsager kollektiv dataskade. Laure Lucchesi, direktøren for Etalab, et fransk regeringskontor med ansvar for at føre tilsyn med lovforslaget, siger, at lovens fokus på algoritmisk ansvarlighed var forud for sin tid. Andre love, som den europæiske generelle databeskyttelsesforordning (GDPR), fokuserer for meget på individuelt samtykke og privatliv. Men både dataene og algoritmerne skal reguleres.
Behovet for at finde en perfekt sagsøger, der kan bevise skade for at anlægge sag gør det meget vanskeligt at tackle de systemiske problemer, der forårsager kollektiv dataskade.
Æble lover i én annonce: Lige nu er der flere private oplysninger på din telefon end i dit hjem. Dine placeringer, dine beskeder, din puls efter en løbetur. Det er private ting. Og de burde tilhøre dig. Apple forstærker denne individualists fejlslutning: Ved at undlade at nævne, at din telefon gemmer mere end blot dine personlige data, slører virksomheden det faktum, at de virkelig værdifulde data kommer fra dine interaktioner med dine tjenesteudbydere og andre. Forestillingen om, at din telefon er den digitale ækvivalent til dit arkivskab, er en praktisk illusion. Virksomheder bekymrer sig faktisk lidt om dine personlige data; derfor kan de lade som om de låser den inde i en kasse. Værdien ligger i de slutninger, der trækkes fra dine interaktioner, som også er gemt på din telefon - men de data tilhører ikke dig.
Googles opkøb af Fitbit er et andet eksempel. Google lover ikke at bruge Fitbit-data til annoncering, men de lukrative forudsigelser, Google har brug for, er ikke afhængige af individuelle data. Som en gruppe europæiske økonomer hævder d i et nyligt papir udgivet af Center for Economic Policy Research, en tænketank i London, er det nok for Google at korrelere aggregerede sundhedsresultater med ikke-sundhedsmæssige resultater for selv en undergruppe af Fitbit-brugere, der ikke har fravalgt nogle brug af at bruge deres data for derefter at forudsige sundhedsresultater (og dermed muligheder for annoncemålretning) for alle ikke-Fitbit-brugere (milliarder af dem). Google-Fitbit-aftalen er i bund og grund en gruppedataaftale. Det placerer Google på et nøglemarked for sundhedsdata, samtidig med at det gør det muligt at triangulere forskellige datasæt og tjene penge på de slutninger, som sundheds- og forsikringsmarkederne bruger.
Hvad politikerne skal gøre
Udkast til lovforslag har søgt at udfylde dette hul i USA. I 2019 introducerede senatorerne Cory Booker og Ron Wyden en Algorithmic Accountability Act , som efterfølgende gik i stå i kongressen. Loven ville have pålagt virksomheder at foretage algoritmiske konsekvensvurderinger i visse situationer for at kontrollere for skævhed eller diskrimination. Men i USA er dette afgørende spørgsmål mere tilbøjelige til at blive taget op først i love, der gælder for specifikke sektorer såsom sundhedspleje, hvor faren for algoritmisk skævhed er blevet forstørret af pandemiens forskellige indvirkninger på amerikanske befolkningsgrupper.
I slutningen af januar Loven om beskyttelse af personlige oplysninger i nødsituationer i folkesundheden blev genindført i Senatet og Repræsentanternes Hus af senatorerne Mark Warner og Richard Blumenthal. Denne lov vil sikre, at data indsamlet til folkesundhedsformål ikke bruges til andre formål. Det ville forbyde brugen af sundhedsdata til diskriminerende, ikke-relaterede eller påtrængende formål, herunder kommerciel reklame, e-handel eller bestræbelser på at kontrollere adgangen til beskæftigelse, finansiering, forsikring, bolig eller uddannelse. Dette ville være en god start. Hvis man går videre, bør en lov, der gælder for al algoritmisk beslutningstagning, inspireret af det franske eksempel, fokusere på hård ansvarlighed, stærkt regulatorisk tilsyn med datadrevet beslutningstagning og evnen til at revidere og inspicere algoritmiske beslutninger og deres indvirkning på samfundet.
Tre elementer er nødvendige for at sikre hård ansvarlighed: (1) klar gennemsigtighed om, hvor og hvornår automatiserede beslutninger finder sted, og hvordan de påvirker mennesker og grupper, (2) offentlighedens ret til at give meningsfulde input og opfordre myndighederne til at begrunde deres beslutninger , og (3) evnen til at håndhæve sanktioner. Det er afgørende, at politiske beslutningstagere skal beslutte, som det for nylig er blevet foreslået i EU, hvad der udgør en højrisikoalgoritme, der skal opfylde en højere kontrolstandard.
Klar gennemsigtighed
Fokus bør være på offentlig kontrol af automatiseret beslutningstagning og de typer af gennemsigtighed, der fører til ansvarlighed. Dette inkluderer at afsløre eksistensen af algoritmer, deres formål og træningsdataene bag dem, såvel som deres påvirkninger – om de har ført til forskellige resultater, og på hvilke grupper i så fald.
Offentlig deltagelse
Offentligheden har en grundlæggende ret til at opfordre magthaverne til at begrunde deres beslutninger. Denne ret til at kræve svar bør ikke begrænses til høringsdeltagelse, hvor folk bliver bedt om deres input, og embedsmænd går videre. Det bør omfatte bemyndiget deltagelse, hvor offentlig input er påbudt forud for udrulningen af højrisikoalgoritmer i både den offentlige og private sektor.
Sanktioner
Endelig er beføjelsen til at sanktionere nøglen til, at disse reformer kan lykkes, og for at der kan opnås ansvarlighed. Det bør være obligatorisk at etablere revisionskrav for datamålretning, -verifikation og -kurering, at udstyre revisorer med denne grundlæggende viden og at give tilsynsorganer beføjelse til at håndhæve sanktioner, ikke kun for at afhjælpe skader i efterhånden, men for at forhindre det.
Spørgsmålet om kollektive datadrevne skader påvirker alle. En folkesundhedslov om beskyttelse af personlige oplysninger i nødsituationer er et første skridt. Kongressen bør derefter bruge erfaringerne fra implementeringen af denne handling til at udvikle love, der fokuserer specifikt på kollektive datarettigheder. Kun gennem en sådan handling kan USA undgå situationer, hvor slutninger trukket fra de data, virksomhederne indsamler, forfølger folks evne til at få adgang til bolig, job, kredit og andre muligheder i de kommende år.