211service.com
Hvordan en trolde-spotting-algoritme lærte sin anti-antisociale handel
Trolde er en svøbe for mange internetsider. Det er mennesker, der bevidst engagerer sig i antisocial adfærd ved at sende inflammatoriske eller off-topic beskeder. I bedste fald er de en frustrerende irritation; i værste fald kan de gøre folks liv til en elendighed.
Så en måde at spotte trolde tidligt i deres online karriere og forhindre deres værste udskejelser ville være et værdifuldt værktøj.
I dag siger Justin Cheng ved Stanford University i Californien og et par venner, at de har skabt netop sådan et værktøj ved at analysere troldes adfærd på flere kendte hjemmesider og skabe en algoritme, der præcist kan spotte dem efter så få som 10 indlæg. De siger, at deres teknik burde være af stor praktisk betydning for de mennesker, der opretholder online-fællesskaber.
Cheng og co studerer tre online nyhedsfællesskaber: den generelle nyhedsside CNN.com, den politiske nyhedsside Breitbart.com og computerspilsiden IGN.com.
På hver af disse sider har de en liste over brugere, der er blevet forbudt på grund af antisocial adfærd, over 10.000 af dem i alt. De har også alle de beskeder, som disse brugere har sendt i løbet af deres onlineaktivitet. Sådanne individer er klare eksempler på asociale brugere og udgør 'grundsandhed' i vores analyser, siger Cheng og co.
Disse fyre satte sig for at besvare tre forskellige spørgsmål om asociale brugere. For det første, om de er asociale gennem hele deres samfundsliv eller først mod slutningen. For det andet, om samfundets reaktion får deres adfærd til at blive værre. Og endelig, om antisociale brugere kan identificeres præcist tidligt.
Ved at sammenligne de beskeder, der er postet af brugere, der i sidste ende er forbudt, med meddelelser, der er indsendt af brugere, der aldrig er forbudt, opdager Cheng og co nogle klare forskelle. Et mål, de bruger, er læsbarheden af indlæg, bedømt ud fra en metrik kaldet Automated Readability Index.
Dette viser tydeligt, at brugere, der senere bliver forbudt, har tendens til at skrive indlæg af dårligere kvalitet til at starte med. Og ikke nok med det, kvaliteten af deres indlæg falder med tiden.
Og selvom fællesskaber i starten virker tilgivende og derfor er langsomme til at forbyde asociale brugere, bliver de mindre tolerante med tiden. Dette resulterer i en øget hastighed, hvormed [indlæg fra asociale brugere] slettes, siger de.
Interessant nok siger Cheng og co, at forskellene mellem beskeder postet af folk, der senere bliver forbudt, og dem, der ikke er, er så tydelige, at det er relativt ligetil at få øje på dem ved hjælp af en maskinlæringsalgoritme. Faktisk behøver vi kun at observere fem til 10 brugerindlæg, før en klassifikator er i stand til at lave en pålidelig forudsigelse, praler de.
Det kunne vise sig at være nyttigt. Antisocial adfærd er et stadig mere alvorligt problem, som kræver betydelig menneskelig input for at opdage og tackle. Denne proces betyder ofte, at asociale brugere får lov til at arbejde meget længere end nødvendigt. Vores metoder kan effektivt identificere antisociale brugere tidligt i deres samfundsliv og afhjælpe noget af denne byrde, siger Cheng og co.
Selvfølgelig skal der udvises forsigtighed med enhver automatiseret tilgang. En potentiel fare er unødvendigt at forbyde brugere, der ikke er asociale, men som er blevet identificeret som sådan af algoritmen. Denne falske positive rate skal undersøges mere omhyggeligt.
Ikke desto mindre kunne moderatorernes arbejde på websteder, der tillader beskeder, snart gøres betydeligt lettere takket være Cheng og cos tilgang.
Ref: arxiv.org/abs/1504.00680 : Antisocial adfærd i online-diskussionsfællesskaber