Reddits automoderator er fremtiden for internettet og dybt ufuldkommen

billede af mand ser på computerkode tre skærme automoderator automod modererende reddit Jefferson Santos via Unsplash

I de sidste fire år har Shagun Jhaver modereret adskillige subreddits, flittigt scrollet gennem sider og blokeret indlæg, der overtræder fællesskabets regler eller er direkte stødende.

En ph.d.-studerende ved Georgia Tech, hvis forskning fokuserer på indholdsmoderering, spekulerede Jhaver på, om en automatisk moderator kunne hjælpe ham med at spare ikke kun tid, men også den mentale belastning ved at gennemsøge psykologisk drænende indhold. Så sammen med tre kolleger satte han sig for at finde ud af, om en automatisk moderator – i dette tilfælde, AutoMod - virkede faktisk.

Holdet modererede personligt adskillige sider på Reddit og gennemførte derefter interviews med 16 andre moderatorer af nogle af de mest populære subreddits på webstedet – inklusive r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatisfying og r/politics, hver hvoraf har millioner af abonnenter. Alle er afhængige af AutoMod for at hjælpe dem med at moderere. Jhaver vil præsentere arbejde næste uge kl ACM-konference om computerstøttet samarbejde og social computing .

Sociale medieplatforme som Facebook, Instagram og YouTube har længe været afhængige af menneskelige moderatorer til manuelt at finkæmme indhold og fjerne voldeligt og stødende materiale, der spænder fra racistisk og sexistisk hadefuld tale til grafisk video af masseskyderier. Moderatorer, der ofte arbejder på kontrakt, til mindsteløn med få fordele, kan finde på at trække mange timer, mens de bliver plyndret med indhold, der tager alvorligt på deres mentale helbred .

Automoderatorer er et forsøg på at afbøde kedeligheden og de negative virkninger af sådant arbejde. Udviklet af Redditor Chad Birch som en måde at øge hans evne til at moderere r/gaming-kanalen, er AutoMod et regelbaseret værktøj til at identificere ord, der overtræder en bestemt sides opslagspolitikker. Det er siden blevet udbredt - Reddit adopterede det på hele webstedet i 2015, og de meget populære spilstreamingplatforme Twitch og Discord fulgte trop kort efter.

Hvorvidt AutoMod faktisk er en tidsbesparende er dog tvivlsomt. På den ene side er automoderatorer meget gode til, hvad de gør - hvis de er programmeret til at finde bandeord, vil de finde og blokere indlæg, der indeholder dem uden fejl. Det kan sende meddelelser til plakater om problematisk indhold, som Jhaver siger er lærerigt, idet forfattere kan lære, hvad der var galt med det, de postede.

Det er ikke en lille bedrift. Som Jhaver og hans kolleger bemærker, blev omkring 22 % af alle indsendelser på Reddit mellem marts og oktober 2018 fjernet. Det kommer ud til omkring 17,4 millioner indlæg i den periode.

Men lad os sige, at ordet er vigtigt for konteksten i indlægget - en diskussion i 2016 af den snart kommende præsident Donald Trumps berygtede kommentar om at få fat i en kvindes kønsdele , for eksempel. Sådanne indlæg ville blive markeret på grund af det stødende sprogbrug, selvom det er meningen med indlægget i første omgang at diskutere det sprog. Jhaver siger, at dette frustrerer brugere, som så må gå tilbage og bede moderatorer om at genindsætte indlægget.

Og i en social-medieverden, hvor bekymrende indhold i stigende grad består af stødende memes, livestreams af optagelser eller andet visuelt, tekstløst indhold, er AutoMods afhængighed af at finde søgeord en stor forpligtelse.

Robert Peck, en moderator for de store subreddits r/pics og r/aww, ved dette alt for godt. Hver af disse sider er billeddrevet, og hver har millioner af følgere, der sender langt mere indhold, end nogen med rimelighed kunne blive bedt om at gennemskue.

Alligevel siger han, at selvom den ikke kan analysere billeder, har AutoMod gjort hans arbejde lettere. Brugere tilføjer beskrivelser til billeder direkte, og vi kan tjekke disse titler, siger han. Vi leder efter kontoopfedning eller spam, der har konti, der automatiserer indlæg. De bruger ofte parenteser. Vi kan bede AutoMod om at lede efter disse mønstre.

Kan du lide det eller ej, AutoMod og dets lignende er fremtiden for moderering af sociale platforme. Det vil sandsynligvis altid være uperfekt, fordi maskiner stadig er langt fra virkelig at forstå menneskeligt sprog. Men det er det, automatisering formodes at handle om: at spare folk tid på kedelige eller stødende opgaver. At være i stand til at koncentrere sig om indlæg, der kræver en menneskelig berøring, gør en moderators job så meget mere værdifuldt, og giver både moderatorer og plakater mulighed for at fokusere på at have bedre samtaler.

Det løser ikke problemet med folk, der poster grimt, ondsindet eller på anden måde skadeligt indhold - det vil stadig være et af de sværeste problemer, der rammer det moderne internet. Men det gør en forskel. Peck siger, at han er taknemmelig for AutoMods evne til at hjælpe ham med at behandle indlæg. Det er et kraftfuldt stykke teknologi og ret brugervenligt - ikke i nærheden af ​​vanskeligheden ved at programmere en tilsvarende bot, siger han. [AutoMod] er mit mest kraftfulde værktøj, og jeg ville være tabt uden det.

skjule