Er Kinas sociale kreditsystem så orwellsk, som det lyder?

Kategori: Kunstig intelligens Udsendt 26. feb

I den vestlige fantasi er Kinas berygtede sociale kreditsystem et AI-drevet overvågningsregime, der krænker menneskerettighederne. Vi hører ofte om eksempler på dets brug til at hævde politisk kontrol, såsom i sidste måned, hvor en mand blev frataget 950 ud af 1.000 point - efter at have fået 10 point hver gang han anmodede regeringen om hjælp med sin mors medicinske tvist. Men sjældent hører vi om den anden fortælling, hvor det er en styringsmekanisme, der hilses velkommen af ​​mange borgere, som er trætte af udbredt svindel, forfalskede produkter og folkesundhedssvigt.

Dette er den ikke-så-ligetil-virkelighed portrætteret af en historie fra South China Morning Post . (Selvom der for at være retfærdig er spørgsmål om netop hvor uafhængig SCMP er .) I landsbyen Jiakuang Majia i byen Rongcheng, et af et dusin steder, der er rost for dets succes med at afprøve programmet, siger indbyggerne, at ordningen for det meste har haft en positiv indflydelse - hvis overhovedet en indflydelse. Der er faktisk ingen AI eller anden teknologi involveret. Snarere spores point med papir og manuelt arbejde - og mange betragter systemet som et perifert bureaukrati, langt fra en drivkraft i deres daglige liv.

Kinas sociale kreditsystem er designet til at tilskynde til lovlighed og integritet. Borgere kan optjene point for gode gerninger som frivilligt arbejde, donere blod eller tiltrække investeringer til byen; de kan miste dem for lovovertrædelser som at bryde færdselsreglerne, unddrage sig skat eller forsømme at passe deres ældre forældre. Deres resultater påvirker derefter deres adgang til samfundets velfærdsprogrammer: Højscorere modtager fordele som gratis lægetjek og rabatter på varmeregninger; lavscorere mister statstilskud eller bliver udelukket fra offentlige job.

Men mens denne sidste detalje ofte karakteriseres i Vesten som et frihedskrænkende magtgreb af en autoritær regering, hævder mange forskere, at sociale kreditscore ikke vil have den omfattende kontrollerende effekt, der formodes. De data, ordningen indsamler, stemmer faktisk ikke overens med de data, som f.eks. en bank har brug for for at afgøre, om den skal yde dig et lån. Forskrifter har også været revideret i tilfælde af intens pushback: Suining County slap af med sine pointfradrag for uautoriserede andragender, for eksempel på grund af udbredt upopularitet. Derfor, siger disse lærde, fungerer systemet mere som et propagandaværktøj end et håndhævelsesværktøj. andre påpege at det blot er en forlængelse af kinesisk kulturs lange tradition for at fremme god moralsk adfærd, og at kinesiske borgere har et helt andet perspektiv på privatliv og frihed.

Denne historie dukkede oprindeligt op i vores AI-nyhedsbrev The Algorithm. For at få det leveret direkte til din indbakke, tilmeld dig her gratis.