Hvem har brug for demokrati, når man har data?

Her er, hvordan Kina styrer ved hjælp af data, kunstig intelligens og internetovervågning. Ved

• Christina Larsen arkiv side

20. august 2018

Foto af to overvågningskameraer ved siden af ​​et portræt af Mao Zedong.

I 1955 udgav science fiction-forfatteren Isaac Asimov en novelle om et eksperiment i elektronisk demokrati, hvor en enkelt borger, udvalgt til at repræsentere en hel befolkning, svarede på spørgsmål genereret af en computer ved navn Multivac. Maskinen tog disse data og beregnede resultaterne af et valg, som derfor aldrig behøvede at ske. Asimovs historie foregik i Bloomington, Indiana, men i dag bliver der bygget en tilnærmelse af Multivac i Kina.

For ethvert autoritært regime er der et grundlæggende problem for centrum med at finde ud af, hvad der foregår på lavere niveauer og på tværs af samfundet, siger Deborah Seligsohn, en politolog og Kina-ekspert ved Villanova University i Philadelphia. Hvordan styrer man effektivt et land, der er hjemsted for én ud af fem mennesker på planeten, med en stadig mere kompleks økonomi og samfund, hvis man ikke tillader offentlig debat, civil aktivisme og valgfeedback? Hvordan samler du nok information til rent faktisk at træffe beslutninger? Og hvordan kan en regering, der ikke inviterer sine borgere til at deltage, stadig skabe tillid og bøje offentlig adfærd uden at sætte politi på alle dørtrin?

Denne historie var en del af vores september 2018-udgave

• Se resten af ​​problemet
• Abonner

Hu Jintao, Kinas leder fra 2002 til 2012, havde forsøgt at løse disse problemer ved at tillade en beskeden demokratisk optøning, hvilket tillod muligheder for klager at nå den herskende klasse. Hans efterfølger, Xi Jinping, har vendt den tendens. I stedet er hans strategi for at forstå og reagere på, hvad der foregår i en nation på 1,4 milliarder, baseret på en kombination af overvågning, AI og big data til at overvåge folks liv og adfærd i små detaljer.

Det hjælper, at et par tumultariske år i verdens demokratier har fået den kinesiske politiske elite til at føle sig i stigende grad berettiget til at lukke vælgerne ude. Udviklinger som Donald Trumps valg, Brexit, fremkomsten af ​​højreekstremistiske partier i hele Europa og Rodrigo Dutertes terrorstyre i Filippinerne understreger, hvad mange kritikere ser som de problemer, der ligger i demokratiet, især populisme, ustabilitet og usikkert personlig lederskab.

Siden han blev generalsekretær for det kinesiske kommunistparti i 2012, har Xi lagt en række ambitiøse planer for landet, mange af dem rodfæstet i teknologi – inklusive et mål om at blive verdens førende inden for kunstig intelligens i 2030. Xi har efterlyst cybersuverænitet for at øge censur og hævde fuld kontrol over det indenlandske internet. I maj fortalte han et møde i det kinesiske videnskabsakademi, at teknologi var nøglen til at nå det store mål om at bygge en socialistisk og moderniseret nation. I januar, da han talte til nationen på tv, indeholdt bogreolerne på hver side af ham både klassiske titler som Das Kapital og et par nye tilføjelser, herunder to bøger om kunstig intelligens: Pedro Domingos's Mesteralgoritmen og Brett King's Augmented: Life in the Smart Lane .

Ingen regering har en mere ambitiøs og vidtrækkende plan for at udnytte kraften i data til at ændre den måde, den styrer på, end den kinesiske regering, siger Martin Chorzempa fra Peterson Institute for International Economics i Washington, DC. Selv nogle udenlandske observatører, der ser på langvejs fra, kan være fristet til at spekulere på, om en sådan datadrevet styring tilbyder et levedygtigt alternativ til den stadig mere dysfunktionelle valgmodel. Men overdreven tillid til teknologiens og dataens visdom indebærer sine egne risici.

Data i stedet for dialog

Kinesiske ledere har længe ønsket at udnytte offentlighedens følelser uden at åbne døren for heftig debat og kritik af myndighederne. I det meste af den kejserlige og moderne kinesiske historie har der været en tradition for utilfredse mennesker fra landskabet, der rejser til Beijing og arrangerer små demonstrationer som offentlige andragere. Tankegangen var, at hvis de lokale myndigheder ikke forstod eller bekymrede sig om deres klager, kunne kejseren udvise bedre dømmekraft.

Under Hu Jintao så nogle medlemmer af kommunistpartiet en begrænset åbenhed som en mulig måde at afsløre og løse visse slags problemer. Blogs, antikorruptionsjournalister, menneskerettighedsadvokater og onlinekritikere, der satte fokus på lokal korruption, drev offentlig debat mod slutningen af ​​Hus regeringstid. Tidligt i sin embedsperiode modtog Xi en daglig briefing af offentlige bekymringer og uroligheder skrabet fra sociale medier, ifølge en tidligere amerikansk embedsmand med viden om sagen. I de senere år er andragere kommet til hovedstaden for at gøre opmærksom på skandaler som f.eks. lokale myndigheders ulovlige jordbeslaglæggelser og forurenet mælkepulver.

Men politiet forhindrer i stigende grad andragere i at nå Beijing. Nu kræver togene nationale id'er for at købe billetter, hvilket gør det nemt for myndighederne at identificere potentielle 'ballademagere' som dem, der tidligere har protesteret mod regeringen, siger Maya Wang, senior Kina-forsker for Human Rights Watch. Adskillige andragere fortalte os, at de er blevet stoppet ved togperroner. Bloggerne, aktivisterne og advokaterne bliver også systematisk bragt til tavshed eller fængslet, som om data kan give regeringen den samme information uden nogen af ​​de besværlige problemer med frihed.

En Shanghai-startups demo af sit system til ansigtsgenkendelse.

Ideen om at bruge netværksteknologi som et styringsværktøj i Kina går tilbage til i det mindste midten af ​​1980'erne. Som Harvard-historikeren Julian Gewirtz forklarer, da den kinesiske regering så, at informationsteknologi blev en del af dagligdagen, indså den, at den ville have et kraftfuldt nyt værktøj til både at indsamle information og kontrollere kulturen, til at gøre kinesere mere 'moderne' og mere 'governable' - som har været mangeårige besættelser af ledelsen. Efterfølgende fremskridt, herunder fremskridt inden for kunstig intelligens og hurtigere processorer, har bragt denne vision tættere på.

Så vidt vi ved, er der ingen enkelt masterplan, der forbinder teknologi og styring i Kina. Men der er flere initiativer, der deler en fælles strategi om at høste data om mennesker og virksomheder for at informere beslutningstagning og skabe systemer med incitamenter og straffe til at påvirke adfærd. Disse initiativer omfatter statsrådets 2014 Social Credit System, 2016 Cybersecurity Law, forskellige eksperimenter på lokalt niveau og private virksomheder inden for social kredit, smarte byplaner og teknologidrevet politiarbejde i den vestlige region Xinjiang. Ofte involverer de partnerskaber mellem regeringen og Kinas teknologivirksomheder.

Det mest vidtrækkende er det sociale kreditsystem, selvom en bedre oversættelse til engelsk kan være tillids- eller omdømmesystemet. Regeringsplanen, som dækker både mennesker og virksomheder, opregner blandt sine mål konstruktionen af ​​oprigtighed i regeringsanliggender, kommerciel oprigtighed og retlig troværdighed. (Alle i Kina har en tante, der er blevet svindlet. Der er et legitimt behov for at løse et sammenbrud i offentlig tillid, siger Paul Triolo, leder af geoteknologipraksis hos konsulentfirmaet Eurasia Group.) Til dato er det et igangværende arbejde, men forskellige piloter viser, hvordan det kan fungere i 2020, når det formodes at være fuldt implementeret.

Algoritmen menes at fremhæve mistænkelig adfærd som at besøge en moske eller eje for mange bøger.

Sortlister er systemets første værktøj. I de sidste fem år har Kinas domstolssystem offentliggjort navnene på personer, der ikke har betalt bøder eller overholdt domme. I henhold til nye regler om social kredit deles denne liste med forskellige virksomheder og offentlige myndigheder. Folk på listen har fundet sig blokeret fra at låne penge, booke flyrejser og bo på luksushoteller. Kinas nationale transportselskaber har oprettet yderligere sortlister for at straffe ryttere for adfærd som at blokere togdøre eller vælge slagsmål under en rejse; lovovertrædere er udelukket fra fremtidige billetkøb i seks eller 12 måneder. Tidligere i år debuterede Beijing med en række sorte lister for at forbyde uærlige virksomheder i at blive tildelt fremtidige offentlige kontrakter eller jordtilskud.

Nogle få lokale regeringer har eksperimenteret med sociale kreditresultater, selvom det ikke er klart, om de vil være en del af den nationale plan. Den nordlige by Rongcheng, for eksempel, tildeler en score til hver af sine 740.000 indbyggere, rapporterede Foreign Policy. Alle begynder med 1.000 point. Hvis du donerer til en velgørende organisation eller vinder en regeringspris, får du point; hvis du overtræder en færdselslov, såsom ved at køre beruset eller køre for hurtigt gennem en fodgængerovergang, mister du point. Folk med gode resultater kan få rabat på vintervarmeforsyninger eller få bedre vilkår på realkreditlån; dem med dårlige resultater kan miste adgang til banklån eller forfremmelser i offentlige job. Rådhuset viser plakater af lokale rollemodeller, som har udvist dyd og opnået høje scores.

Ideen med social kredit er at overvåge og styre, hvordan mennesker og institutioner opfører sig, siger Samantha Hoffman fra Mercator Institute for China Studies i Berlin. Når først en overtrædelse er registreret i en del af systemet, kan den udløse svar i andre dele af systemet. Det er et koncept designet til at understøtte både økonomisk udvikling og social ledelse, og det er i sagens natur politisk. Nogle paralleller til dele af Kinas plan findes allerede i USA: En dårlig kreditvurdering kan forhindre dig i at optage et boliglån, mens en forbrydelse suspenderer eller annullerer for eksempel din stemmeret. Men de er ikke alle forbundet på samme måde - der er ingen overordnet plan, påpeger Hoffman.

En af de største bekymringer er, at fordi Kina mangler et uafhængigt retsvæsen, har borgerne ingen mulighed for at bestride falske eller unøjagtige påstande. Nogle har fundet deres navne tilføjet til rejsesortlister uden meddelelse efter en domstolsafgørelse. Andragere og undersøgende journalister overvåges i henhold til et andet system, og folk, der er gået ind på stofafvænning, overvåges af endnu et andet overvågningssystem. Teoretisk set skulle stofbrugerdatabaserne slette navne efter fem eller syv år, men jeg har set mange tilfælde, hvor det ikke skete, siger Wang fra Human Rights Watch. Det er uhyre svært nogensinde at fjerne dig selv fra nogen af ​​disse lister.

Lejlighedsvise raseriudbrud online peger på offentlig harme. Nyheder om, at en studerende var blevet afvist af et college på grund af hendes fars optagelse på en kreditsortliste, tændte for nylig en løbeild af online-vrede. Kollegiets beslutning var ikke blevet officielt sanktioneret eller beordret af regeringen. I stedet for, i deres entusiasme for at støtte de nye politikker, havde skoleadministratorer blot taget dem til det, de så som den logiske konklusion.

Systemets opacitet gør det vanskeligt at vurdere, hvor effektive eksperimenter som Rongchengs er. Partiet har presset næsten alle kritiske røster ud siden 2012, og risikoen for at udfordre systemet – selv på relativt små måder – er vokset. Hvilken information der er tilgængelig er dybt mangelfuld; systematisk forfalskning af data om alt fra BNP-vækst til vandkraftforbrug gennemsyrer kinesiske regeringsstatistikker. Australian National University-forsker Borge Bakken vurderer, at officielle kriminalitetstal, som regeringen har et klart incitament til at bagatellisere, kan repræsentere så lidt som 2,5 procent af al kriminel adfærd.

I teorien kunne datadrevet styring hjælpe med at løse disse problemer - ved at omgå forvrængninger for at tillade centralregeringen at indsamle information direkte. Det har for eksempel været tanken bag at introducere luftkvalitetsmonitorer, der sender data tilbage til centrale myndigheder i stedet for at stole på lokale embedsmænd, som kan være i lommen på forurenende industrier. Men mange aspekter af god regeringsførelse er for komplicerede til at tillade den slags direkte overvågning og i stedet stole på data indtastet af de samme lokale embedsmænd.

Den kinesiske regering udgiver dog sjældent ydeevnedata, som udenforstående kan bruge til at evaluere disse systemer. Tag de kameraer, der bruges til at identificere og skamme jaywalkers i nogle byer ved at projicere deres ansigter på offentlige reklametavler, samt til at spore muslimers bøn i det vestlige Kina. Deres nøjagtighed er stadig i tvivl: Især, hvor godt kan ansigtsgenkendelsessoftware trænet på han-kinesiske ansigter genkende medlemmer af eurasiske minoritetsgrupper? Desuden, selvom dataindsamlingen er nøjagtig, hvordan vil regeringen så bruge sådanne oplysninger til at styre eller modarbejde fremtidig adfærd? Politiets algoritmer, der forudsiger, hvem der sandsynligvis bliver kriminel, er ikke åbne for offentlig undersøgelse, og det er heller ikke statistikker, der viser, om kriminalitet eller terrorisme er vokset eller aftaget. (For eksempel viser de tilgængelige oplysninger i den vestlige region Xinjiang kun, at antallet af personer, der blev anholdt i politiets varetægt, er steget dramatisk og steg 731 procent fra 2016 til 2017.)

I byen Xiangyang projicerer kameraer, der er knyttet til teknologi til ansigtsgenkendelse, billeder af jaywalkers med navne og ID-numre på en billboard.

Det er ikke teknologien, der har skabt politikkerne, men teknologi udvider i høj grad den slags data, som den kinesiske regering kan indsamle om enkeltpersoner, siger Richard McGregor, senior fellow ved Lowy Institute og forfatter til Partiet: Kinas kommunistiske herskeres hemmelige verden . Internettet i Kina fungerer som en privatdrevet digital efterretningstjeneste i realtid.

Algoritmisk politiarbejde

Skrivning i Washington Post tidligere i år kaldte Xiao Qiang, en professor i kommunikation ved University of California, Berkeley, Kinas dataforstærkede regeringsførelse en digital totalitær stat. De dystopiske aspekter er mest åbenlyst udstillet i det vestlige Kina.

Xinjiang (New Territory) er det traditionelle hjem for en kinesisk muslimsk minoritet kendt som uighurer. Efterhånden som et stort antal han-kinesiske migranter har slået sig ned i - nogle siger koloniseret - regionen, er arbejdet og de religiøse muligheder, som den lokale uighuriske befolkning har fået, blevet mindre. Et resultat har været en stigning i vold, hvor både Han og Uighur er blevet ramt, herunder et optøjer i 2009 i hovedstaden Urumqi, hvor en rapporteret 200 mennesker døde. Regeringens svar på stigende spændinger har ikke været at holde offentlige fora for at indhente synspunkter eller politiske råd. I stedet bruger staten dataindsamling og algoritmer til at bestemme, hvem der sandsynligvis vil begå fremtidige voldshandlinger eller trods.

Xinjiang-regeringen ansatte en privat virksomhed til at designe de prædiktive algoritmer, der vurderer forskellige datastrømme. Der er ingen offentlig registrering eller ansvarlighed for, hvordan disse beregninger er bygget eller vægtet. De mennesker, der lever under dette system, ved generelt ikke engang, hvad reglerne er, siger Rian Thum, en antropolog ved Loyola University, som studerer Xinjiang, og som har set offentlige indkøbsmeddelelser, der blev udstedt i forbindelse med opbygningen af ​​systemet.

I den vestlige by Kashgar er mange af familiens boliger og butikker på hovedgaderne nu spærret op, og de offentlige pladser er tomme. Da jeg besøgte i 2013, var det klart, at Kashgar allerede var en adskilt by – Han- og Uighur-befolkningen boede og arbejdede i forskellige dele af byen. Men om aftenen var det også et livligt og ofte larmende sted, hvor lydene af bønindkaldelsen blandede sig med dansemusik fra lokale klubber og gamle mænds samtaler, der sad sent ude i plastikstole på terrasserne. I dag er byen uhyggeligt stille; nabolagets offentlige liv er næsten forsvundet. Emily Feng, journalist for Financial Times , besøgte Kashgar i juni og lagde billeder på Twitter af de nyligt ledige gader.

Årsagen er, at efter nogle skøn er mere end én ud af 10 uighuriske og kasakhiske voksne i Xinjiang blevet sendt til pigtrådsringede genopdragelseslejre - og de, der forbliver på fri fod, er bange.

I de sidste to år er tusindvis af kontrolposter blevet opstillet, hvor forbipasserende skal fremvise både deres ansigt og deres nationale ID-kort for at fortsætte på en motorvej, gå ind i en moské eller besøge et indkøbscenter. Uighurer er forpligtet til at installere regeringsdesignede sporingsapps på deres smartphones, som overvåger deres online kontakter og de websider, de har besøgt. Politibetjente besøger jævnligt lokale hjem for at indsamle yderligere data om ting som, hvor mange mennesker der bor i husstanden, hvordan deres forhold til deres naboer er, hvor mange gange folk beder dagligt, om de har rejst til udlandet, og hvilke bøger de har.

Alle disse datastrømme føres ind i Xinjiangs offentlige sikkerhedssystem sammen med andre optegnelser, der fanger information om alt fra bankhistorie til familieplanlægning. Computerprogrammet samler alle data fra disse forskellige kilder og markerer dem, der kan blive 'en trussel' mod myndighederne, siger Wang. Selvom den præcise algoritme er ukendt, menes det, at den kan fremhæve adfærd såsom at besøge en bestemt moske, eje en masse bøger, købe en stor mængde benzin eller modtage telefonopkald eller e-mails fra kontakter i udlandet. Folk, det flager, besøges af politiet, som kan tage dem i varetægt og sætte dem i fængsel eller i genopdragelseslejre uden nogen formelle sigtelser.

Besøgende på Den Himmelske Freds Plads i Beijing scanner deres id ved et checkpoint.

Adrian Zenz, politolog ved European School of Culture and Theology i Korntal, Tyskland, beregner, at interneringsraten for minoriteter i Xinjiang kan være så høj som 11,5 procent af den voksne befolkning. Disse lejre er designet til at indgyde patriotisme og få folk til at aflære religiøse overbevisninger. (Nye indkøbsmeddelelser til kremeringssikkerhedsvagter synes at indikere, at regeringen også forsøger at udrydde traditionel muslimsk begravelsespraksis i regionen.)

Mens Xinjiang repræsenterer en drakonisk yderlighed, er borgere andre steder i Kina begyndt at træde tilbage mod nogle former for overvågning. Et internetfirma, der streamede lukkede tv-optagelser online, lukkede ned for disse udsendelser efter et offentligt ramaskrig. Byen Shanghai udstedte for nylig regler for at tillade folk at bestride ukorrekte oplysninger, der bruges til at udarbejde sociale kreditregistre. Der er stigende krav om privatliv fra kinesiske internetbrugere, siger Samm Sacks, en senior fellow i Technology Policy Program ved CSIS i New York. Det er ikke helt det gratis for alle, som det er lavet til at være.

Christina Larson er en prisvindende udenrigskorrespondent og videnskabsjournalist, der mest skriver om Kina og Asien.

skjule