Masseskyderiet i New Zealand viser, hvor ødelagte sociale medier er

Kategori: Silicon Valley Udsendt 15. marts

En bevæbnet mand livestreamede mordet på snesevis af uskyldige i to moskeer i Christchurch, New Zealand, i fredags - og verden fik en frygtelig påmindelse om, hvor mangelfulde eksisterende sociale medier-politikker og algoritmer er til at politisere voldeligt og stødende indhold.

I dagene før skyderiet pralede gerningsmanden tilsyneladende af sine planer og lagde et online-manifest. Derefter sendte han den forfærdelige handling live på Facebook. Angrebet efterlod 49 mennesker døde og snesevis flere sårede.

Live stream: I løbet af de seneste 18 måneder, efter chikane og falske nyhedsskandaler, har sociale medievirksomheder investeret kraftigt i indholdsmoderatorer . Men dette gjorde ikke meget for at stoppe videoen af ​​skyderiet i at sprede sig. Ikke kun var livestreamen angiveligt oppe i 20 minutter, men den resulterende video blev derefter genudsendt på YouTube, med nogle klip forblev oppe i over en time.

Flere faktorer var ifølge eksperter med til at lade optagelserne slippe gennem filtrene.

Udfordring i realtid: Det er vigtigt at fange en video hurtigt, så den ikke spredes til andre platforme. Men moderation på sociale medier er simpelthen ikke rettet mod at fange indhold i realtid. Det er umuligt at automatisere processen effektivt, og at identificere livestreams, der skal lukkes manuelt, er som at finde en nål i høstakken af ​​data, der flyder over netværket hele tiden, siger Charles sæbe , professor ved NYU's School of Journalism. Han tilføjer, at Facebook kunne kræve, at brugerne opbygger et omdømme, før de lader dem livestreame indhold, for at reducere risiciene.

Whack-a-mole: Moderatorer er overvældet på de bedste tidspunkter. Video af skyderiet, der blev hostet på YouTube, spredte sig højst sandsynligt så hurtigt, at de mennesker, der var ansat til at tjekke for upassende indhold, ikke havde tid til at fange alt. Disse medarbejdere har typisk et par sekunder til at foretage et opkald. Processen kan delvist automatiseres, men de, der genpostede optagelserne, har tilsyneladende klippet det og indført forvrængninger for at undgå disse algoritmer.

Algoritmisk fejl: Sociale medievirksomheder bruger også algoritmiske tweaks til at deprioritere mistænkeligt indhold. Men Mike Ananny , en lektor ved University of Southern California, siger, at disse algoritmer sandsynligvis blev kastet af populariteten af ​​de stødende videoer.

Ikke vores problem: Disse faktorer afspejler det centrale systemiske problem: Facebook, YouTube og andre store sociale platforme ser ikke sig selv som dommere for indhold i første omgang. Forskning har vist at højreekstreme informationskilder kan overvåges mere proaktivt for at forhindre, at voldeligt eller hadefuldt materiale spredes. De har den her holdning at være post hoc, siger Ananny. Det er en dyb kulturel ting.