Hvordan WeChat censurerer private samtaler, automatisk i realtid

Konceptuel illustration af WeChat-billedcensur Ms. Tech

WeChat er et vindue ind i fremtiden for internettet på mange forskellige måder.

Baseret i Kina og med over 1,1 milliard globale brugere, er det en af ​​verdens mest avancerede og populære apps. Det bemærkelsesværdige er den måde, det når ind i så mange hjørner af en kinesers liv: det er den måde, hvorpå meget af landet chatter, betaler, spiller, bevæger sig og meget mere. Mens Mark Zuckerberg overvejer Facebooks fremtid, er det i stigende grad WeChat, han forsøger at efterligne .

Der er mere til denne såkaldte super app end beskeder, mad, biler og betalinger. WeChats altomfattende ambition omfatter noget af det mest banebrydende, hurtigvirkende og vidtrækkende censurteknologi på jorden.

Ny forskning fra University of Torontos CitizenLab trækker gardinet tilbage for, hvordan WeChats automatiske censur af tekst og billeder i realtid bruges til at udøve kontrol over politisk diskussion om emner lige fra internationale spørgsmål som handelskrigen med USA til indenlandske skandaler som forsvinden af retsdokumenter i en tvist i 2018 mellem to kinesiske mineselskaber på flere milliarder dollar. Al diskussion er i sidste ende underlagt den kinesiske regerings godkendelse.

WeChats censorer står over for to typer udfordringer. Store offentlige opslag på WeChat Moments, en offentlig funktion, der ligner Facebooks tidslinje, bliver gransket og filtreret af algoritmer, der nogle gange kan tage over 10 sekunder at køre - et glacialt tempo på sociale medier. Men en-til-en-beskeder og gruppebeskeder er et helt andet problem, fordi de ofte er intime og øjeblikkelige samtaler. Det kræver realtidscensur.

Tekst er forholdsvis nem at søge og censurere. Billedfiltrering er sværere, især når du forsøger at undersøge og censurere billederne næsten øjeblikkeligt. For at udføre denne opgave fører WeChat et massivt og altid voksende indeks over MD5-hash, små kryptografiske datasignaturer, der er unikke for hver fil. Når et censureret billede sendes, bliver det fanget af hash-indekset og slettet. Hverken afsender eller modtager vil sandsynligvis nogensinde vide, at noget blev censureret.

Hvis billedet ikke øjeblikkeligt censureres, sendes det til automatisk analyse. Ved hjælp af optisk tegngenkendelse undersøges billedet for tekst (afsendelse af skærmbilleder af avisartikler var engang en nem vej forbi censorer). Billedet kontrolleres derefter for visuel lighed med andre censurerede billeder. Såkaldt skadeligt indhold – inklusive alt om international eller indenrigspolitik, som anses for uønsket af det kinesiske kommunistparti – vil blive opsnuset, fjernet fra samtalen og derefter føjet til det originale hash-indeks, som markerer det for øjeblikkelig censur fra det øjeblik og fremefter . Det er et selvforstærkende system, der vokser med hvert billede, der sendes. Sidstnævnte systemer bruges også på WeChats Moments til at tjekke og opbygge virksomhedens dynamiske sortliste.

Den kinesiske tech-gigant Tencent, som ejer WeChat, er under et stort pres fra Beijing for at implementere effektiv censurteknologi, siger Adam Segal, direktør for det digitale og cyberspace-politiske program i Council on Foreign Relations. De kinesiske firmaer er alle ansvarlige for indhold, og selvom de har været afhængige af titusindvis af menneskelige censorer, har de også udviklet nye [machine learning] tilgange til fjernelse af indhold. Inde i Kina er det en del af den større tendens under Xi Jinping med at stramme kontrollen på det kinesiske internet og samfundet mere bredt.

WeChat er så udbredt i Kina, at udsigten til at blive suspenderet eller forbudt kan forstyrre liv. Appen kombinerer funktionerne fra Facebook, Uber, GrubHub og mere. Du kan booke lægebesøg, betale forbrugsregninger, tale med professionelle kontakter eller ansætte offentlige tjenester.

Det her er virkelig blevet en mega-app, siger Sarah Cook, seniorforskningsanalytiker for Østasien hos den pro-demokratiske forskningsgruppe Freedom House. Det er virkelig svært at fungere i det moderne kinesiske samfund uden at bruge WeChat, og så den afkølende effekt er reel.

Under ledelse af Beijing er Tencents censorer behændigt lydhøre over for aktuelle anliggender. Ud over dødelige historiske begivenheder som protesterne på Den Himmelske Freds Plads og Kulturrevolutionen, tilføjes der hurtigt nye begivenheder.

Forskere fandt ud af, at nyhedsværdige begivenheder som anholdelsen af ​​en Huawei-direktør anklaget for bedrageri og CRISPR-baby-skandalen, hvor en kinesisk videnskabsmand annoncerede fødslen af ​​piger med redigerede genomer, udløste bølger af censur. Det samme gjorde en lang række andre problemer, såsom konflikt med USA og indenlandsk korruption eller andre problemer.

En begivenhed udløste endnu flere censurerede billeder: I december 2018 brød en skandale ud, da den kinesiske højesteret indrømmede forsvinden af ​​dokumenter i en milliard-dollar tvist mellem mineselskaber. Forskere fandt ud af, at snesevis af billeder relateret til det påståede tyveri af dokumenterne blev censureret.

I de sidste par år har du haft kombinationen af ​​at stramme censurrestriktioner og stramme kontrol, siger Cook. Der er mindre officiel tolerance for samtale, udtryk og netværk, som tidligere var blevet tolereret. Du har set især Tencent og WeChat blive ramt af bøder. Så nu forsøger de at anvende nye metoder til at fange såkaldt 'skadeligt indhold', som det kinesiske kommunistparti ønsker at stoppe. Det er her, automatiseret censur i realtid kommer ind.

skjule