Hvordan DARPA tog Twitter-bot-truslen med en hånd bag ryggen

Et af de mere foruroligende fænomener på Twitter er spredningen af ​​bots, der genererer tweets automatisk i et forsøg på at sprede spam, for at tjene penge ulovligt gennem kliksvindel og, mest bekymrende, for at påvirke diskussionen om emner som terrorisme og politik.

Antallet af Twitter-konti involveret i denne form for aktivitet er ikke lille. I 2014 indrømmede Twitter, at mere end 8 procent af dets konti var automatiserede - det er omkring 23 millioner aktive Twitter-brugere.

Virksomheden påpegede, at mange af disse var helt legitime - mange af disse konti genposter åbent eller viser tweets fra andre brugere. Ikke desto mindre er et betydeligt antal tydeligvis ikke godt nok, og indflydelsesbots er et særligt problem.

For eksempel bruger gruppen, der kalder sig Islamisk Stat, online sociale medier til at overtale unge mennesker til at omfavne deres sag. Nogle iagttagere mener, at Rusland påbegyndte en større desinformationskampagne på sociale medier om annekteringen af ​​Krim. Andre siger, at bots spillede en væsentlig rolle i at påvirke resultatet af valget i Indien i 2014.

Så en måde at pålideligt spotte indflydelsesbots på Twitter ville være enormt nyttig. Sidste år satte Defence Advanced Research Projects Agency (DARPA) sig for at finde en sådan metode ved at køre en fire-ugers konkurrence, hvor hold blev bedt om at spotte bots i en strøm af indlæg om emnet vaccinationer. Et hold viste sig som en klar vinder, og resultaterne viste nogle væsentlige nye strategier til at identificere bots i den virkelige verden.

I dag får vi et unikt indblik i denne konkurrence og de strategier, holdene brugte takket være et papir af V.S. Subrahmanian ved University of Maryland i College Park og Sentimetrix og et par venner.

Konkurrencen var omtrent så realistisk, som DARPA kunne gøre den. Tweetsene var beskeder høstet fra Twitter-strømmen under en debat i 2014 om vaccinationer. I denne debat var der lavet en række bots som en del af en konkurrence for at se, hvordan de kunne påvirke diskussionerne. Så DARPA havde sandhedsviden om, hvilke beretninger der var kunstige, og hvilke der var ægte.

I alt indeholdt datasættet over fire millioner beskeder fra mere end 7.000 konti, hvoraf 39 var bots i enten pro- eller anti-vaccinationslobbyen. Hver besked indeholdt et unikt ID, en brugerprofil inklusive et billede, en url og et billede, hvor disse var inkluderet. Dataene inkluderede også et tids- og datostempel samt oplysninger om følgere, og hvornår en konto ikke fulgte en anden. Alt dette blev spillet for konkurrenterne i et syntetisk Twitter-miljø over fire uger i februar og marts.

Holdene skulle derefter analysere denne Twitter-stream og gætte, hvilke brugere der var bots. Hvert korrekt gæt gav dem et enkelt point, men et hold mistede 0,25 point for hvert forkert gæt. Et hold, der gættede alle bots d dage før slutningen af ​​udfordringen også fik d point, da DARPA er særligt interesseret i tidlig opdagelse af indflydelsesbots.

Vinderholdet var fra analytics-virksomheden Sentimetrix på sociale medier, som gættede alle bots 12 dage før deadline, mens de kun lavede ét forkert gæt. Det gav dem en score på 50,75 point. (Andenpladsens hold, fra University of Southern California, scorede 45 point og fandt alle bots seks dage før deadline uden forkerte gæt.)

De vindende strategier er afslørende. Holdene begyndte med at forsøge at identificere et indledende sæt af bots i dataene. Interessant nok var ingen af ​​holdene i stand til at automatisere dette trin og brugte de fleste væsentlige menneskelige input.

Sentimetrix brugte en forudtrænet algoritme til at søge efter bot-lignende adfærd. Holdet havde trænet denne algoritme på Twitter-data fra det indiske valg i 2014, som indeholdt mange bots. Den ledte efter usædvanlig grammatik, sproglighedens lighed med chatbots med naturligt sprog såsom Eliza og usædvanlig adfærd såsom længere perioder med tweeting uden pause, som et menneske ikke let kunne udføre.

Dette afslørede fire konti, der tydeligvis var bots, og Sentimetrix brugte derefter disse til at finde andre. En antagelse var, at bot-producenter har en tendens til at producere mange lignende bots og linke dem til hinanden for at øge deres popularitet. Så holdet var i stand til at bruge netværks- og klyngeanalyse til at finde andre sandsynlige bots, som de derefter sammenlignede med kendte bots.

Holdet brugte også funktioner såsom kontiernes tidsmæssige aktivitet ud fra den antagelse, at en automatiseret konto ville vise usædvanlige regelmæssigheder. Sentimetrix ledte også efter brugere, der ændrede troskab under debatten fra pro- til anti-vaccination (eller omvendt). Dette antog de kunne være en bot-strategi til at infiltrere den ene side af argumentet og derefter poste modsatrettede argumenter.

En nøglefunktion i Sentimetrix' succes var den måde, den visualiserede resultaterne af sit arbejde på et online dashboard, så en menneskelig bruger nemt kunne se analysestatus for hver bruger.

I denne anden fase identificerede Sentimetrix yderligere 25 bots. Det gav dem nok data til at træne en maskinlæringsalgoritme til at lede gennem dataene for andre bots. Og denne tilgang førte dem til de resterende 10 bots.

Holdene vidste ikke, hvor mange bots der var på arbejde, så et stort problem var at vide, hvornår de skulle stoppe med at søge. Sentimetrix stoppede for eksempel, da den ikke længere kunne finde konti, der lignede bots.

Det er imponerende arbejde, der kan have en vigtig indflydelse på bestræbelserne på at finde bots, der forsøger at påvirke online diskussioner på upassende måder. At offentliggøre strategierne som denne burde også hjælpe andre spillere med at udvikle anti-bot-taktikker.

Men det kan også have en negativ indvirkning. Kampen mellem bots og bot-jægere er en, der konstant udvikler sig. Med papirer som dette afslører bot-jægerne deres hånd på en måde, der giver bot-makere mulighed for at designe strategier til specifikt at besejre disse algoritmer. På en måde er det som at kæmpe med en hånd bundet bag ryggen.

Ikke desto mindre ville det være farligt at fremme fristelsen til at holde bot-jagtstrategier hemmelige. Denne form for åbenhed er en del af vores frie samfund og helt sikkert en af ​​de vigtigste grunde til, at det er værd at kæmpe for at bevare.

Uanset hvad, er denne kat-og-mus-kamp klar til at fortsætte.

Ref: DARPA Twitter Bot Challenge: arxiv.org/abs/1601.05140

skjule