211service.com
Hun risikerede alt for at afsløre Facebook. Nu fortæller hun sin historie.
Sophie Zhang, en tidligere dataforsker hos Facebook, afslørede, at det muliggør global politisk manipulation og har ikke gjort meget for at stoppe det.
Christie Der Klok
29. juli 2021Verden lærte første gang om Sophie Zhang i september 2020, da BuzzFeed-nyheder indhentet og offentliggjort højdepunkter fra en forkortet version af hendes næsten 8.000 ord lange exit-memo fra Facebook.
Før hun blev fyret, var Zhang officielt ansat som dataforsker på lavt niveau i virksomheden. Men hun var blevet opslugt af en opgave, hun anså for vigtigere: at finde og fjerne falske konti og likes, der blev brugt til at påvirke valg globalt.
Hendes notat afslørede, at hun havde identificeret snesevis af lande, herunder Indien, Mexico, Afghanistan og Sydkorea, hvor denne form for misbrug gjorde det muligt for politikere at vildlede offentligheden og få magt. Det afslørede også, hvor lidt virksomheden havde gjort for at afhjælpe problemet på trods af Zhangs gentagne bestræbelser på at bringe det til ledelsens opmærksomhed.
LYT TIL HISTORIEN HER
Jeg ved, at jeg nu har blod på mine hænder, skrev hun.
På tærsklen til sin afrejse diskuterede Zhang stadig, om hun overhovedet skulle skrive notatet. Det var måske hendes sidste chance for at skabe nok internt pres på ledelsen til at begynde at tage problemerne alvorligt. I forventning om at skrive det, havde hun afvist en fratrædelsespakke på næsten 64.000 USD, der ville have involveret underskrivelse af en ikke-nedsættende aftale. Hun ønskede at bevare friheden til at udtale sig kritisk om virksomheden.
Men det var kun to måneder før det amerikanske valg i 2020, og hun var foruroliget over tanken om, at notatet kunne udhule offentlighedens tillid til valgprocessen, hvis det blev udgivet til pressen for tidligt. Jeg var bange for på en eller anden måde at blive James Comey i 2020, siger hun med henvisning til den tidligere FBI-direktør, der dage før valget i 2016 fortalte kongressen, at agenturet havde genåbnet en undersøgelse af Hillary Clintons brug af en privat e-mail-server. Clinton fortsatte med at give Comey skylden for hendes tab.
Til Zhangs store lettelse skete det ikke. Og efter at valget var gået, fortsatte hun med sin oprindelige plan. I april trådte hun frem i to Værge artikler med hendes ansigt, hendes navn og endnu mere detaljeret dokumentation af den politiske manipulation, hun havde afsløret, og Facebooks uagtsomhed i håndteringen af den.
Hendes konto leverede konkrete beviser til støtte for, hvad kritikere længe havde sagt udadtil: at Facebook gør valgindblanding let, og at medmindre en sådan aktivitet skader virksomhedens forretningsinteresser, kan det ikke være ulejlighed at løse problemet.
I en erklæring afviste Joe Osborne, en Facebook-talsmand, på det kraftigste disse påstande. For de utallige presseinterviews, hun har lavet, siden hun forlod Facebook, har vi grundlæggende været uenige i fru Zhangs karakterisering af vores prioriteter og bestræbelser på at udrydde misbrug på vores platform, sagde han. Vi går aggressivt efter misbrug rundt om i verden og har specialiserede teams fokuseret på dette arbejde. Som et resultat har vi allerede fjernet mere end 150 netværk af koordineret uægte adfærd ... Bekæmpelse af koordineret uægte adfærd er vores prioritet.
Ved at gå offentligt ud og unddrage sig anonymitet risikerede Zhang juridiske skridt fra virksomheden, skade på hendes fremtidige karrieremuligheder og måske endda repressalier fra de politikere, hun afslørede i processen. Det, hun gjorde, er meget modigt, siger Julia Carrie Wong, Guardian-reporteren, der offentliggjorde sine afsløringer.
Efter næsten et år med at undgå personlige spørgsmål, er Zhang nu klar til at fortælle sin historie. Hun ønsker, at verden skal forstå, hvordan hun blev så involveret i forsøget på at beskytte demokratiet verden over, og hvorfor hun bekymrede sig så dybt. Hun er også træt af at være i skabet som en transkønnet kvinde, et kerneaspekt af hendes identitet, der informerede hendes handlinger på Facebook og efter hun forlod.
Hendes historie afslører, at det virkelig er rent held, at vi nu ved så meget om, hvordan Facebook muliggør valgindblanding globalt. Zhang var ikke kun den eneste person, der kæmpede mod denne form for politisk manipulation; det var ikke engang hendes job. Hun havde opdaget problemet på grund af et unikt sammenløb af færdigheder og lidenskab, og tog det på sig selv, drevet af en ekstraordinær følelse af moralsk ansvar.
For tilsynsmyndigheder over hele verden, der overvejer, hvordan de skal tøjle virksomheden, bør dette være et wake-up call.
Zhang har aldrig planlagt at være i denne position. Hun er dybt indadvendt og hader at være i rampelyset. Hun kom til Facebook i 2018, efter at den økonomiske belastning ved at leve på deltidskontraktarbejde i Bay Area havde slidt hende ned. Da hun modtog Facebooks tilbud, var hun klar over for sin rekrutterer: hun troede ikke, at virksomheden gjorde verden bedre, men hun ville være med for at hjælpe med at rette op på det.
De sagde til mig: 'Du ville blive overrasket over, hvor mange mennesker på Facebook der siger det,' husker hun.
Det var lettere sagt end gjort. Ligesom mange nyansatte var hun tiltrådt uden at blive tilknyttet et bestemt team. Hun ønskede at arbejde med valgintegritet, som leder efter måder at afbøde valgrelateret platformmisbrug, men hendes færdigheder matchede ikke deres åbninger. Hun nøjedes i stedet med et nyt hold, der tacklede falsk engagement.
Falsk engagement refererer til ting såsom likes, delinger og kommentarer, der er blevet købt eller på anden måde uægte genereret på platformen. Det nye team fokuserede mere snævert på såkaldt scriptet uægte aktivitet - falske likes og delinger produceret af automatiserede bots og brugt til at øge nogens popularitet.
I langt de fleste af sådanne tilfælde opnåede folk blot likes for forfængelighed. Men et halvt år inde forstod Zhang, at politikere kunne gøre de samme ting for at øge deres indflydelse og rækkevidde på platformen. Det tog ikke lang tid for hende at finde eksempler i Brasilien og Indien, som begge var ved at forberede sig til parlamentsvalg.
I processen med at søge efter scriptet aktivitet fandt hun også noget langt mere bekymrende. Administratoren for den honduranske præsidents Facebook-side, Juan Orlando Hernández, havde oprettet hundredvis af sider med falske navne og profilbilleder for at ligne brugere – og brugte dem til at oversvømme præsidentens opslag med likes, kommentarer og delinger. (Facebook forhindrer brugere i at lave flere profiler, men anvender ikke den samme begrænsning på sider, som normalt er beregnet til virksomheder og offentlige personer.)
Aktiviteten tæller ikke som scriptet, men effekten var den samme. Ikke alene kunne det vildlede den tilfældige observatør til at tro, at Hernández var mere vellidt og populær, end han var, men det øgede også hans indlæg højere oppe i folks nyhedsfeeds. For en politiker, hvis genvalgssejr i 2017 blev anset for at være svigagtig, var frækheden – og implikationerne – alarmerende.
Alle var enige om, at det var forfærdeligt. Ingen kunne blive enige om, hvem der skulle være ansvarlig, eller endda hvad der skulle gøres.
Men da Zhang rejste spørgsmålet, siger hun, fik hun en lunken modtagelse. Sidernes integritetsteam, som håndterer misbrug af og på Facebook-sider, ville ikke blokere for massefremstilling af sider for at ligne brugere. Newsfeed-integritetsteamet, som forsøger at forbedre kvaliteten af det, der vises i brugernes nyhedsfeeds, ville ikke fjerne de falske likes og kommentarer fra rangeringsalgoritmens overvejelser. Alle var enige om, at det var forfærdeligt, siger Zhang. Ingen kunne blive enige om, hvem der skulle være ansvarlig, eller endda hvad der skulle gøres.
Efter at Zhang havde lagt pres i et år, blev netværket af falske sider endelig fjernet. Et par måneder senere oprettede Facebook en ny uægte adfærdspolitik for at forbyde falske sider, der forklædte sig som brugere. Men denne politikændring adresserede ikke et mere grundlæggende problem: ingen blev bedt om at håndhæve den.
Så Zhang tog selv initiativet. Da hun ikke arbejdede på at skrubbe forfængeligheds-likes væk, finkæmmede hun flittigt datastrømme og søgte efter brugen af falske sider, falske konti og andre former for koordineret falsk aktivitet på politikernes sider. Hun fandt sager i snesevis af lande, mest voldsomt i Aserbajdsjan, hvor pages-teknikken blev brugt til at chikanere oppositionen.
Men at finde og markere nye sager var ikke nok. Zhang fandt ud af, at for at få fjernet ethvert netværk af falske sider eller konti, var hun nødt til vedvarende at lobbye de relevante teams. I lande, hvor en sådan aktivitet udgjorde ringe PR-risiko for virksomheden, håndhævelse kunne udskydes gentagne gange . (Facebook bestrider denne karakteristik.) Ansvaret tyngede hende tungt. Var det vigtigere at presse på for en sag i Bolivia, med en befolkning på 11,6 millioner, eller i Rajasthan, Indien, med en befolkning tæt på 70 millioner?
Så, i efteråret 2019, brød ugers dødbringende civil protest ud i Bolivia, efter at offentligheden anfægtede resultaterne af dets præsidentvalg. Kun et par uger tidligere havde Zhang så sandelig nedprioriteret landet for at tage sig af, hvad der virkede som mere presserende sager. Nyheden fortærede hende med skyldfølelse. Intellektuelt vidste hun, at der ikke var nogen måde at tegne en direkte forbindelse mellem hendes beslutning og begivenhederne. Den falske forlovelse havde været så lille, at effekten sandsynligvis var ubetydelig. Men psykologisk og følelsesmæssigt var det lige meget. Det var da, jeg begyndte at miste søvn, siger hun.
Hvorimod en anden kunne have valgt at forlade et så belastende job eller måske fritage sig selv for ansvar som et middel til at klare sig, lænede Zhang sig ind, med store personlige omkostninger, i et forsøg på egenhændigt at rette op på en fejl.
I løbet af året mellem begivenhederne i Bolivia og hendes fyring sendte anstrengelserne hendes helbred på et stærkt forfald. Hun led allerede af angst og depression, men det blev markant – og farligt – værre. Hun var altid en glubende læser af verdensnyheder og kunne ikke længere tage afstand fra den politiske uro i andre lande. Presset skubbede hende væk fra venner og kære. Hun blev mere og mere isoleret og slog op med sin kæreste. Hun øgede sin angst og antidepressiv medicin, indtil hendes dosis var seksdoblet.
Relateret historie
Hvordan Facebook blev afhængig af at sprede misinformation Virksomhedens AI-algoritmer gav det en umættelig vane til løgne og hadefulde ytringer. Nu kan manden, der byggede dem, ikke løse problemet.
For Zhang er forklaringen på, hvorfor hun bekymrede sig så meget, bundet i hendes identitet. Hun voksede op i Ann Arbor, Michigan, datter af forældre, der var immigreret fra det kinesiske fastland. Fra en tidlig alder blev hun holdt til høje akademiske standarder og viste sig at være en tidlig lærd. Klokken seks eller syv læste hun en indledende fysikbog og blev fascineret af universets byggesten. Hendes passion ville føre hende til at studere kosmologi ved University of Michigan, hvor hun udgav to forskningsartikler, den ene som en enkelt forfatter.
Hun var bragende smart. Hun er måske den klogeste studerende, jeg nogensinde har arbejdet med, husker Dragan Huterer, hendes bachelorrådgiver. Jeg vil sige, at hun var mere avanceret end en kandidatstuderende.
Men hendes barndom var også præget af alvorlige traumer. Allerede som fem år gammel begyndte hun at indse, at hun var anderledes. Hun læste en børnebog om en dreng, hvis venner fortalte ham, at hvis han kyssede sin albue, ville han blive en pige. Jeg brugte lang tid efter det på at prøve at kysse min albue, siger hun.
Hun gjorde sit bedste for at skjule det, idet hun forstod, at hendes forældre ville finde hendes transkønnede identitet utålelig. Men hun husker tydeligt det øjeblik, hendes far fandt ud af det. Det var foråret i ottende klasse. Det havde lige regnet. Og hun sad sammen på badeværelset og overvejede, om hun skulle springe ud af vinduet, mens han slog døren ned.
Til sidst valgte hun ikke at hoppe og lod ham slå hende, indtil hun var blodig, siger hun: I sidste ende besluttede jeg, at jeg var den person, der blev i ufuldkomne situationer for at prøve at rette dem. Dagen efter bar hun en langærmet skjorte for at dække over blå mærker og forberedte en undskyldning, hvis en lærer opdagede det. Det gjorde ingen, siger hun.
(Da hun blev nået via e-mail, nægtede hendes far beskyldningerne. Jeg er ked af, at hun påstår, at jeg slog hende som barn, efter at jeg opdagede hendes transkønnede identitet, som er fuldstændig falsk, skrev han. Men flere mennesker, der kendte Zhang fra gymnasiet til i dag har bekræftet hendes beretning om hendes fars voldelige adfærd.)
At opgive dem og opgive dem ville være et forræderi mod selve kernen af min identitet.
På college besluttede hun sig for at skifte, hvorefter hendes far nægtede hende. Men hun opdagede hurtigt, at det at blive opfattet korrekt som kvinde kom med sine egne konsekvenser. Jeg vidste præcis, hvordan folk behandlede mig, når de troede, at jeg var en fyr. Det var meget anderledes, siger hun.
Efter at være blevet optaget på alle de bedste ph.d.-programmer for fysik, valgte hun at gå på Princeton University. Under orienteringen udpegede den person, der gav en rundvisning i maskinværkstedet, hende gentagne gange foran gruppen med falske antagelser om, at hun var mindre end kompetent. Det var min officielle introduktion til Princeton, og en meget passende sådan, siger hun.
CHRISTIE DER ER ET URDerfra blev sexismen kun værre. Næsten øjeblikkeligt begyndte en mandlig studerende at forfølge og chikanere hende seksuelt. For at klare det valgte hun en specialevejleder i biofysikafdelingen, som gjorde det muligt for hende at undslippe sin chikane ved at udføre forskning i en anden bygning. Problemet var, at hun faktisk ikke var interesseret i biofysik. Og uanset om det var af denne eller andre grunde, opløste hendes interesse for fysik langsomt.
Tre år efter, dybt ulykkelig, besluttede hun sig for at forlade programmet, dog ikke uden endelig at rapportere chikanen til universitetet. De var sådan: ’Det er dit ord imod hans.’ Du kan sikkert gætte nu, hvorfor jeg i vid udstrækning dokumenterede alt, hvad jeg gav til Julia, siger hun og henviser til Julia Carrie Wong på Guardian. Jeg ønskede ikke at stå i en anden ’Han sagde/hun sagde’-situation.
(En talsmand for Princeton sagde, at han ikke var i stand til at kommentere individuelle situationer, men erklærede universitetets forpligtelse til at tilbyde et inkluderende og imødekommende uddannelses- og arbejdsmiljø. Princeton søger at støtte ethvert medlem af campussamfundet, der har oplevet seksuelle forseelser, herunder seksuel chikane, han sagde.)
Fælles for disse oplevelser er, at jeg gentagne gange har oplevet at falde igennem ansvarets sprækker, skrev Zhang i sit notat. Jeg modtog aldrig den støtte fra de autoritære personer, jeg havde brug for … I hvert enkelt tilfælde fuldførte de deres pligt, men svigtede ånden, og jeg betalte prisen for deres beslutninger.
Måske kan du så forstå, hvorfor dette var så personligt for mig selv lige fra starten, hvorfor jeg kæmpede så hårdt for at forhindre befolkningen i Honduras og Aserbajdsjan i at glide gennem disse sprækker, skrev hun. At opgive dem og opgive dem ville være et forræderi mod selve kernen af min identitet.
Det var under starten af hendes fysiske og mentale tilbagegang i efteråret 2019, at Zhang begyndte at tænke på, om hun skulle stå frem. Hun ønskede at give Facebooks officielle systemer en chance for at fungere. Men hun bekymrede sig om at være et enkelt punkt af fiasko. Hvad hvis jeg blev ramt af en bus næste dag? hun siger. Hun havde brug for, at en anden havde adgang til de samme oplysninger.
Ved et tilfælde fik hun en mail fra en journalist i sin indbakke. Wong, dengang en senior tech-reporter hos Guardian, havde sendt beskeder til Facebook-medarbejdere, der ville dyrke nye kilder. Zhang tog chancen og aftalte at mødes til en off-the-record samtale. Den dag afleverede hun sin virksomhedsudstedte telefon og computer hos en tidligere huskammerat som en sikkerhedsforanstaltning, vel vidende at Facebook havde mulighed for at spore hendes placering. Da hun kom tilbage, så hun en smule lettet ud, husker den tidligere huskammerat, Ness Io Kain: Man kunne mærke, at hun følte, at hun havde udrettet noget. Det er ret lydløst, men det er bestemt til at tage og føle på.
Et øjeblik syntes tingene på Facebook at gøre fremskridt. Hun så ændringen i politik og nedtagningen af den honduranske præsidents falske netværk som et fremadrettet momentum. Hun blev gentagne gange opfordret til at hjælpe med at håndtere nødsituationer og rost for sit arbejde, som hun fik at vide var værdsat og vigtigt.
Men på trods af hendes gentagne forsøg på at presse på for flere ressourcer, citerede ledelsen forskellige prioriteter. De afviste også Zhangs forslag til en mere bæredygtig løsning, såsom at suspendere eller på anden måde straffe politikere, der var gengangere. Det efterlod hende at stå over for en uendelig brandslange: De manipulationsnetværk, hun tog ned, kom hurtigt tilbage, ofte kun timer eller dage senere. Det føltes i stigende grad, som om jeg forsøgte at tømme havet med et dørslag, siger hun.
Jeg har aldrig hadet min autisme mere, end da jeg meldte mig ind på Facebook.
Så, i januar 2020, vendte udviklingen. Både hendes leder og leders leder sagde, at hun skulle stoppe sit politiske arbejde og holde fast i sit tildelte job. Hvis hun ikke gjorde det, ville der ikke længere være behov for hendes tjenester i virksomheden, husker hun, at sidstnævnte sagde. Men uden et team tildelt til at fortsætte hendes arbejde, blev Zhang ved med at gøre noget i hemmelighed.
Da presset steg og hendes helbred forværredes, indså Zhang, at hun i sidste ende ville være nødt til at tage afsted. Hun lavede en plan om at tage af sted efter det amerikanske valg, idet hun betragtede det som den sidste og vigtigste begivenhed, hun skulle håndtere. Men ledelsen havde andre planer. I august fik hun besked om, at hun ville blive fyret for dårlige præstationer.
På hendes sidste dag, få timer efter, at hun havde postet sit notat internt, slettede Facebook det (selvom de senere gendannede en redigeret version efter udbredt medarbejders vrede). Et par timer senere ringede en HR-person til hende og bad hende om også at fjerne en adgangskodebeskyttet kopi, hun havde lagt på sin personlige hjemmeside. Hun forsøgte at forhandle: hun ville gøre det, hvis de gendannede den interne version. Dagen efter modtog hun i stedet en besked fra sin hostingserver om, at den havde taget hele hendes hjemmeside ned efter en klage fra Facebook. Et par dage efter det tog det også hendes domæne ned.
Selv efter alt det, Facebook har udsat hende for, giver Zhang som regel sig selv skylden. I sit notat undskyldte hun over for kollegerne for eventuelle problemer, hun måtte have forårsaget dem, og for at forlade dem uden at opnå mere. I til Reddit AMA måneder senere undskyldte hun over for borgerne i forskellige lande for ikke at handle hurtigt nok og for ikke at nå frem til en langsigtet løsning.
For mig spekulerer Zhang, som er autist, højt over, hvad hun kunne have udrettet, hvis hun ikke var det. Jeg har intet talent for at overtale og overbevise, siger hun. Hvis jeg var en født med en sølvtunge, kunne jeg måske have lavet ændringer.
Jeg har aldrig hadet min autisme mere, end da jeg meldte mig ind på Facebook.
Som forberedelse til at blive offentlig, Zhang ofrede et sidste offer: at skjule sin transidentitet, ikke af frygt for chikane, men af frygt for, at det ville distrahere fra hendes budskab. I USA, hvor transkønnedes rettigheder er stærkt politiserede, ønskede hun ikke, at beskyttelsen af demokratiet skulle blive et partipolitisk spørgsmål. I udlandet, hvor nogle lande behandler det at være transkønnet som en forbrydelse, der kan straffes med fængsel eller endda døden, ønskede hun ikke, at folk holdt op med at lytte.
Det var i overensstemmelse med et offer, hun gentagne gange havde ydet, da hun politi indblanding i valg globalt. Hun behandlede alle politikere ens, selv når fjernelsen af den falske aktivitet af en i Aserbajdsjan uundgåeligt boostede en modstander, som fortaler for homofobi . Jeg gjorde mit bedste for at beskytte demokratiet og retsstaten globalt for folk, uanset om de troede på, at jeg var et menneske, siger hun med et dybt suk. Men jeg synes ikke, at nogen skal tage det valg.
Relateret historie
Anmeldelse: Hvorfor Facebook aldrig kan ordne sig selv I An Ugly Truth afslører journalisterne Sheera Frenkel og Cecilia Kang Facebooks grundlæggende fejl gennem en detaljeret beretning om årene mellem to amerikanske valg.
Den aften, hvor Guardian-artiklerne blev offentliggjort, ventede hun spændt på den offentlige reaktion, bekymret for, om hun ville være i stand til at håndtere medieopmærksomheden. Jeg tror faktisk, hun overraskede sig selv over, hvor god hun var i interviews, siger hendes kæreste, Lisa Danz, som Zhang blev sammen med efter at have forladt Facebook. Hun fandt ud af, at når der er materiale, som hun kender meget godt, og hun bare får stillet spørgsmål om det, kan hun svare.
Virkningen faldt i sidste ende til kort, hvad Zhang havde forestillet sig. S everal halvt udløb ts i USA gjorde opfølgende stykker, ligesom udenlandske forretninger fra lande, der var berørt af manipulationsaktiviteten. Men så vidt hun ved, opnåede den ikke det, hun havde håbet på: En stor nok PR-skandale til at Facebook endelig skulle prioritere det arbejde, hun efterlod.
Facebook bestrider endnu en gang denne karakteristik og siger, at det falske engagement-team har fortsat Zhangs arbejde. Men Zhang peger på andre beviser: Netværket af falske sider i Aserbajdsjan er der stadig. Det er tydeligt, at de ikke har haft succes, siger hun.
Ikke desto mindre fortryder Zhang ikke sin beslutning om at træde frem. Jeg var den eneste i denne ansvarsposition fra starten, siger hun, og nogen måtte tage ansvaret og gøre det yderste for at beskytte folk.
Uden at springe et slag over, rasler hun derefter de konsekvenser, som andre har stået over for for at gå op mod de magtfulde i mere fjendtlige lande: journalister bliver myrdet for at efterforske regeringens korruption, demonstranter bliver skudt ned for at registrere deres uenighed.
I forhold til dem er jeg små kartofler, siger hun.
Rettelse: En tidligere version af artiklen savnede et 'e' på Joe Osborne. Undskyld, Joe.