Hvordan demokratier kan kræve magt tilbage i den digitale verden

Fru Tech | Getty

Skal Twitter censurere løgne tweetet af den amerikanske præsident? Skal YouTube fjerne covid-19 misinformation? Bør Facebook gøre mere mod hadefulde ytringer? Sådanne spørgsmål, som dukker op dagligt i mediedækningen, kan få det til at se ud, som om den største teknologisk drevne risiko for demokratier er kuratorering af indhold af sociale medievirksomheder. Alligevel er disse kontroverser blot symptomer på en større trussel: dybden af ​​privatiseret magt over den digitale verden.

Ethvert demokratisk land i verden står over for den samme udfordring, men ingen kan løse den alene. Vi har brug for en global demokratisk alliance til at fastsætte normer, regler og retningslinjer for teknologivirksomheder og for at blive enige om protokoller for grænseoverskridende digitale aktiviteter, herunder valgindblanding, cyberkrig og onlinehandel. Borgerne er bedre repræsenteret, når en koalition af deres regeringer – i stedet for en håndfuld virksomhedsledere – definerer vilkårene for ledelse, og når kontrol-, balance- og tilsynsmekanismer er på plads.

Der er en lang liste over måder, hvorpå teknologivirksomheder styrer vores liv uden megen regulering. På områder fra at bygge kritisk infrastruktur og forsvare den - eller endda producere offensive cyberværktøjer - til at designe kunstige intelligenssystemer og regeringsdatabaser, sætter beslutninger truffet i erhvervslivets interesse normer og standarder for milliarder af mennesker.

I stigende grad overtager virksomheder statslige roller eller udvikler produkter, der påvirker grundlæggende rettigheder. For eksempel er ansigtsgenkendelsessystemer, der aldrig var ordentligt reguleret, før de blev udviklet og implementeret, nu så udbredt, at de berøver folk deres privatliv. På samme måde indsamler virksomheder systematisk private data, ofte uden samtykke – en branchenorm, som tilsynsmyndigheder har været langsomme til at håndtere.

Relateret historie

Hvorfor Kongressen bør se på Twitter og Facebook Hvis amerikanske politikere virkelig bekymrer sig om den skade, onlineplatforme kan gøre, bør de se på online konspirationsteorier – og hvordan de bliver værre af designet af sociale medier.

Da teknologier udvikler sig hurtigere end love, vokser uoverensstemmelser mellem privat bureau og offentligt tilsyn. Tag for eksempel smart city-virksomheder, som lover, at lokale myndigheder vil være i stand til at lette trængslen ved at overvåge biler i realtid og justere timingen af ​​trafiklys. I modsætning til for eksempel en vej bygget af et byggefirma, er denne digitale infrastruktur ikke nødvendigvis i det offentlige domæne. De virksomheder, der bygger det, opnår indsigt og værdi, som måske ikke strømmer tilbage til offentligheden.

Denne ulighed mellem den offentlige og den private sektor er ved at komme ud af kontrol. Der er et informationsgab, et talentgab og et beregningskløft. Tilsammen udgør disse et magt- og ansvarlighedsgab. Et helt lag af kontrol over vores dagligdag eksisterer således uden demokratisk legitimitet og med ringe overvågning.

Hvorfor skulle vi bekymre os? Fordi beslutninger, som virksomheder træffer om digitale systemer, muligvis ikke overholder væsentlige demokratiske principper såsom valgfrihed, fair konkurrence, ikke-diskriminering, retfærdighed og ansvarlighed. Utilsigtede konsekvenser af teknologiske processer, forkerte beslutninger eller forretningsdrevne design kan skabe alvorlige risici for den offentlige sikkerhed og den nationale sikkerhed. Og magt, der ikke er underlagt systematisk kontrol og balance, er i modstrid med de grundlæggende principper i de fleste demokratier.

I dag karakteriseres teknologiregulering ofte som en tre-vejs konkurrence mellem de statsledede systemer i Kina og Rusland, det markedsdrevne i USA og en værdibaseret vision i Europa. Virkeligheden er imidlertid, at der kun er to dominerende teknologistyringssystemer: det privatiserede beskrevet ovenfor, som gælder i hele den demokratiske verden, og et autoritært.

For at bringe verdensomspændende teknologivirksomheder i hælene, har vi brug for noget nyt: en global alliance, der sætter demokratiet først.

De demokratiske regeringers laissez-faire-tilgang og deres modvilje mod at tøjle private virksomheder derhjemme spiller også ud på den internationale scene. Mens demokratiske regeringer stort set har tilladt virksomheder at regere, har autoritære regeringer taget fat på at forme normer gennem internationale fora. Dette uheldige skift falder sammen med en tendens til demokratisk tilbagegang på verdensplan, da store demokratier som Indien, Tyrkiet og Brasilien er blevet mere autoritære. Uden bevidste og øjeblikkelige bestræbelser fra demokratiske regeringers side for at vinde agentur tilbage, vil virksomheders og autoritære styringsmodeller udhule demokratiet overalt.

Betyder det, at demokratiske regeringer bør bygge deres egne sociale medieplatforme, datacentre og mobiltelefoner i stedet? Nej. Men de er nødt til omgående at genvinde deres rolle i at skabe regler og restriktioner, der opretholder demokratiets kerneprincipper på teknologiområdet. Indtil nu er disse regeringer langsomt begyndt at gøre det med love på nationalt plan eller, i Europas tilfælde, på regionalt plan. Men for at bringe verdensomspændende teknologivirksomheder i hælene, har vi brug for noget nyt: en global alliance, der sætter demokratiet først.

At slå sig sammen

Globale institutioner født i kølvandet på Anden Verdenskrig, som De Forenede Nationer, Verdenshandelsorganisationen og Den Nordatlantiske Traktatorganisation, skabte en regelbaseret international orden. Men de undlader at tage den digitale verden fuldt ud i betragtning i deres mandater og dagsordener, selvom mange endelig begynder at fokusere på digitalt samarbejde, e-handel og cybersikkerhed. Og mens digital handel (som kræver dets egne regler, såsom regler for e-handel og kriterier for udveksling af data) er af stigende betydning, er WTO-medlemmerne ikke blevet enige om globale regler, der dækker tjenester til smart fremstilling, digitale forsyningskæder og andre digitalt aktiverede transaktioner.

Det, vi har brug for nu, er derfor en stor demokratisk koalition, der kan tilbyde et meningsfuldt alternativ til de to eksisterende modeller for teknologistyring, den privatiserede og den autoritære. Det bør være en global koalition, der byder lande velkommen, der opfylder demokratiske kriterier.

Community of Democracies, en koalition af stater, der blev oprettet i 2000 for at fremme demokratiet, men som aldrig havde den store indflydelse, kunne fornys og opgraderes til at omfatte et ambitiøst mandat til styring af teknologi. Alternativt kunne der etableres en D7 eller D20 - en koalition beslægtet med G7 eller G20, men sammensat af de største demokratier i verden.

En sådan gruppe ville blive enige om regler og standarder for teknologi i overensstemmelse med demokratiske kerneprincipper. Så ville hvert medlemsland implementere dem på sin egen måde, ligesom EU's medlemslande gør i dag med EU-direktiver.

Hvilke problemer ville en sådan koalition løse? Koalitionen kunne f.eks. vedtage en fælles definition af ytringsfrihed for sociale medievirksomheder at følge. Måske ville den definition svare til den bredt fælles europæiske tilgang, hvor ytring er frit, men der er klare undtagelser for hadefulde ytringer og tilskyndelse til vold.

Eller koalitionen måske begrænser praksis af mikromålretning af politiske annoncer på sociale medier: det kan for eksempel forbyde virksomheder at tillade annoncører at skræddersy og målrette annoncer på baggrund af en persons religion, etnicitet, seksuelle orientering eller indsamlede personlige data. I det mindste kunne koalitionen slå til lyd for mere gennemsigtighed om mikromålretning for at skabe en mere informeret debat om, hvilken praksis for dataindsamling, der bør være udelukket.

Den demokratiske koalition kunne også vedtage standarder og metoder for tilsyn for digital drift af valg og kampagner . Dette kan betyde, at man bliver enige om sikkerhedskrav til stemmemaskiner, plus anonymitetsstandarder, stresstests og verifikationsmetoder, såsom at kræve en papirbackup for hver stemme. Og hele koalitionen kunne blive enige om at indføre sanktioner mod ethvert land eller ikke-statslig aktør, der blander sig i et valg eller en folkeafstemning i et hvilket som helst af medlemslandene.

Relateret historie

Hvorfor Facebooks forbud mod politiske annoncer tager det forkerte problem Et moratorium for nye politiske annoncer lige før valgdagen tackler en slags udfordring forårsaget af sociale medier. Det er bare ikke den, der betyder noget.

En anden opgave, som koalitionen kan påtage sig, er at udvikle handelsregler for den digitale økonomi . For eksempel kunne medlemmer blive enige om aldrig at kræve, at virksomheder udleverer kildekoden til software til statslige myndigheder, som Kina gør. De kunne også blive enige om at vedtage fælles databeskyttelsesregler for grænseoverskridende transaktioner. Sådanne tiltag ville gøre det muligt for en slags digital frihandelszone at udvikle sig på tværs af ligesindede nationer.

Kina har allerede noget, der ligner dette i form af eWTP, en handelsplatform, der tillader global toldfri handel for transaktioner under en million dollars. Men eWTP, som blev startet af e-handelsgiganten Alibaba, drives af private virksomheder baseret i Kina. Den kinesiske regering er kendt for at have adgang til data gennem private virksomheder. Uden et offentligt, regelbaseret alternativ kunne eWTP blive den de facto globale platform for digital handel uden demokratisk mandat eller tilsyn.

Et andet spørgsmål, denne koalition kunne tage fat på, ville være sikkerhed i forsyningskæder til enheder som telefoner og bærbare computere. Mange lande har forbudt smartphones og telekommunikationsudstyr fra Huawei på grund af frygt for, at virksomhedens teknologi kan have indbyggede sårbarheder eller bagdøre, som den kinesiske regering kunne udnytte. Proaktiv udvikling af fælles standarder for at beskytte integriteten af ​​forsyningskæder og produkter ville skabe lige vilkår mellem koalitionens medlemmer og opbygge tillid til virksomheder, der accepterer at overholde dem.

Det næste område, der kan være koalitionens opmærksomhed værd, er cyberkrig og hybrid konflikt (hvor digital og fysisk aggression kombineres). I løbet af det sidste årti har et stigende antal lande identificeret hybrid konflikt som en national sikkerhedstrussel. Enhver nation med højt kvalificerede cyberoperationer kan skabe kaos på lande, der undlader at investere i forsvar mod dem. I mellemtiden har cyberangreb fra ikke-statslige aktører flyttet magtbalancen mellem stater.

Lige nu er der dog ingen internationale kriterier, der definerer, hvornår et cyberangreb tæller som en krigshandling. Dette tilskynder dårlige skuespillere til at slå til med mange små slag. Ud over deres umiddelbare økonomiske eller (geo)politiske effekt udhuler sådanne angreb tilliden til, at retfærdigheden vil blive opfyldt.

En demokratisk koalition kunne arbejde på at lukke denne ansvarlighedskløft og indlede en uafhængig domstol til at efterforske sådanne angreb, måske i lighed med Haags Permanente Voldgiftsdomstol, som afgør internationale tvister. Lederne af den demokratiske alliance kunne derefter på baggrund af domstolens kendelser beslutte, om økonomiske og politiske sanktioner skulle følge.

Dette er blot nogle af de måder, hvorpå en global demokratisk koalition kunne fremme regler, som i høj grad mangler i den digitale sfære. Koalitionens standarder kan effektivt blive globale, hvis medlemmerne repræsenterer en god del af verdens befolkning. EU’s generelle databeskyttelsesforordning giver et eksempel på, hvordan dette kunne fungere. Selvom GDPR kun gælder for Europa, skal globale teknologivirksomheder følge dens regler for deres europæiske brugere, og det gør det sværere at gøre indsigelse, da andre jurisdiktioner vedtager lignende love. På samme måde kan ikke-medlemmer af den demokratiske koalition ende med at følge mange af dens regler for at nyde fordelene.

Hvis demokratiske regeringer ikke påtager sig mere magt i teknologistyring, efterhånden som autoritære regeringer bliver mere magtfulde, vil den digitale verden – som er en del af vores hverdag – ikke være demokratisk. Uden et system med klar legitimitet for dem, der styrer – uden kontrol, balancer og mekanismer for uafhængigt tilsyn – er det umuligt at holde teknologivirksomheder ansvarlige. Kun ved at opbygge en global koalition for teknologistyring kan demokratiske regeringer igen sætte demokratiet først.

Marietje Schaake er international policy director ved Stanford Universitys Cyber ​​Policy Center og international policy fellow ved Stanfords Institute for Human-Centered Artificial Intelligence. Mellem 2009 og 2019 fungerede Marietje som medlem af Europa-Parlamentet for det hollandske liberale demokratiske parti.

skjule