Selvfølgelig kunne du have set dette komme

Chris Kleponis/Sipa USA, via AP Images

Måske så du dette komme for næsten et årti siden, da #YourSlipIsShowing afslørede, hvordan racistiske Twitter-brugere efterlignede sorte kvinder på internettet. Måske, for dig, var det under Gamergate, online-misbrugskampagnen rettet mod kvinder i branchen. Eller måske var det masseskyderiet i Christchurch, New Zealand, da en bevæbnet mand gennemsyret af 8chan-kulturen livestreamede sig selv og myrde dusinvis af mennesker.

Måske var det, da du eller din ven eller dit samfund blev mål for en ekstremistisk online-mobbe, og du så online-vrede blive til fare og skade i den virkelige verden.

Eller måske kom det, der skete i onsdags, da en flok internet-drevne Trump-tilhængere invaderede Capitol, som en overraskelse.

I ugevis havde de planlagt deres handling i almindeligt syn på internettet - men de har vist dig, hvem de er i årevis. Niveauet af chok, du føler lige nu over magten og faren ved onlineekstremisme, afhænger af, om du var opmærksom.

Konsekvenserne af passivitet

Pøbelen, der forsøgte at blokere Kongressen i at bekræfte Joe Bidens præsidentsejr, viste, hvordan dumheden og faren ved det højreekstremistiske internet kunne komme ind i den virkelige verden igen, men denne gang ramte det i centrum af den amerikanske regering. Neo-nazistiske streamere var ikke kun inde i Capitol; de satte et show op for publikum på titusindvis af mennesker, som satte dem på i chatten. Pøbelen havde det sjovt med at lave memes i det amerikanske demokratis haller som kvinde - en Trump-tilhænger, hvis sociale mediehistorie viser hendes hengivenhed til QAnon -blev dræbt i et forsøg på at trænge ind i kongressens kontorer.

Relateret historie

Hvordan en internetløgn om Capitol-invasionen blev til en øjeblikkelig konspirationsteori Falske påstande om, at invasionen af ​​Kongressen blev iscenesat spredte sig i et hæsblæsende tempo - takket være aktivister, medierne og republikanske politikere.

Det seneste år, især siden pandemien, har været en kæmpe demonstration af konsekvenserne af passivitet: konsekvenserne af at ignorere de mange, mange mennesker, der har tigget sociale medievirksomheder om at tage de meme-skabende ekstremister og konspirationsteoretikere, der har trives med deres platforme seriøst.

Facebook og Twitter handlede for at bremse fremkomsten af ​​QAnon over sommeren , men først efter at pro-Trump-konspirationsteorien var i stand til det vokse relativt uindskrænket der i tre år . Kontoforbud og algoritmejusteringer har længe været for lidt, for sent til at håndtere racister, ekstremister og konspirationsteoretikere, og de har sjældent adresseret det faktum, at disse magtfulde systemer fungerede nøjagtigt efter hensigten.

Jeg talte med en lille håndfuld af de mennesker, der kunne have fortalt dig, at dette kom til en historie i oktober. Forskere, teknologer og aktivister fortalte mig, at store sociale medievirksomheder i hele deres historie har valgt ikke at gøre noget eller kun at handle efter deres platforme forårsager misbrug og skade.

Ariel Waldman forsøgte at få Twitter til meningsfuldt at adressere misbrug der i 2008. Forskere som Shafiqah Hudson, I'Nasah Crockett og Shireen Mitchell har sporet præcis, hvordan chikane fungerer og finder et publikum på disse platforme i årevis. Whitney Phillips talte om, hvordan hun er hjemsøgt af latter – ikke kun fra andre mennesker, men også fra hendes egne – tilbage i de tidligste dage af sin forskning i onlinekultur og trolling, hvor overvældende hvide forskere og personligheder behandlede ekstremisterne blandt dem som edgy kuriositeter.

Mange, mange mennesker har tigget sociale medievirksomheder om at tage de meme-skabende ekstremister og konspirationsteoretikere alvorligt.

Ellen Pao, der kortvarigt fungerede som administrerende direktør for Reddit i 2014 og trådte tilbage efter at have introduceret platformens første anti-chikane-politik, var forbløffet over, at Reddit først havde forbudt r/The_Donald i juni 2020, efter at der i årevis havde opbygget beviser for at vise, at den populære pro-Trump opslagstavle fungerede som et organiserende rum for ekstremister og en kanal for pøbelovergreb. Selvfølgelig, da det blev forbudt, var mange af dets brugere allerede migreret væk fra Reddit til TheDonald.win, et uafhængigt forum oprettet af de samme personer, som kørte den tidligere version. Dens sider var fyldt med snesevis af opfordringer til vold forud for onsdagens rally vendte et kupforsøg.

At forbyde Trump løser ikke problemet

Facebook, Twitter og YouTube skabte selvfølgelig ikke konspirationstænkning eller ekstremistiske ideologier. De opfandt heller ikke ideen om farlige personlighedskulter. Men disse platforme har – ved design – givet disse grupper mekanismerne til at nå ud til meget større publikum meget hurtigere og til at rekruttere og radikalisere nye konvertitter, selv på bekostning af de mennesker og samfund, som disse ideologier sigter mod misbrug. Og altafgørende, selv når det var klart, hvad der skete, valgte de den minimale mængde af forandringer - eller besluttede slet ikke at gribe ind.

I kølvandet på kupforsøget i Capitol-bygningen kigger folk igen på de store sociale medievirksomheder for at se, hvordan de reagerer. Fokus er på Trumps personlige beretninger , som han brugte til at opmuntre tilhængere til at komme ned på DC og derefter til at rose dem, når de gjorde det. Vil han blive bandlyst fra Twitter? Der er overbevisende argumenter for, hvorfor han skulle være det.

Men hvor tungt og konsekvensfuldt det end ville være, så er det også på andre måder … ikke. Misbrug, chikane, konspirationstænkning og racisme vil stadig kunne drage fordel af sociale medievirksomheder, der kun forbliver interesserede i at handle, når det er for sent, selv uden at Trump retweeter dem og ægger dem på.

Facebook har forbudt Trump på ubestemt tid, og det har også øget moderation af grupper, hvor en masse konspirationsdrevet aktivitet lever. Disse ændringer er gode, men igen, ikke nye: folk har fortalt Facebook om dette i årevis; Facebook medarbejdere har fortalt Facebook om dette i årevis. Grupper var medvirkende til at organisere Stop the Steal-protester i dagene efter valget, og før det i antimaskeprotester, og før det i at sprede falske nyheder, og før det som et centralt rum for anti-vaccine-misinformation. Intet af dette er nyt.

Der er kun så mange måder at sige, at flere burde have lyttet. Hvis du er opmærksom nu, vil du måske endelig begynde at høre, hvad de siger.

skjule