Hvordan avancerede socialbots har infiltreret Twitter

Hvis du har en Twitter-konto, er chancerne for, at du har færre end 50 følgere, og at du selv følger færre end 50 personer. Du kender sikkert mange af disse mennesker godt, men der kan også være et par stykker på din liste, som du aldrig har mødt.

Så her er et interessant spørgsmål: hvordan ved du, at disse Twitter-brugere er rigtige mennesker og ikke automatiserede konti, kendt som bots, der giver dig links og beskeder designet til at påvirke dine meninger?

Du kan sige, at bots ikke er særlig sofistikerede og så nemme at få øje på. Og at Twitter overvåger Twittersfæren på udkig efter og fjerner alle automatiserede konti, som den finder. Det er derfor usandsynligt, at du ubevidst følger nogen automatiserede konti, ondsindede eller ej.

Hvis du har den holdning, er det en, som du måske vil revidere efter arbejdet fra Carlos Freitas ved det føderale universitet i Minas Gerais i Brasilien og et par venner, som har studeret, hvor nemt det er for socialbots at infiltrere Twitter.

Deres resultater vil overraske. De siger, at en betydelig del af de socialbots, de har oprettet, ikke kun infiltrerede sociale grupper på Twitter, men også blev indflydelsesrige blandt dem. Desuden har Freitas og co identificeret de egenskaber, der gør socialbots mest tilbøjelige til at lykkes.

Disse fyre begyndte med at oprette 120 sociale bots og slippe dem løs på Twitter. Botterne fik en profil, gjort til mandlige eller kvindelige og fik nogle få følgere til at starte med, hvoraf nogle var andre bots.

Botterne genererer tweets enten ved at genposte beskeder, som andre har postet, eller ved at skabe deres egne syntetiske tweets ved hjælp af et sæt regler til at udvælge almindelige ord om et bestemt emne og sætte dem sammen til en sætning.

Botterne fik også et aktivitetsniveau. Høj aktivitet svarer til at poste mindst en gang i timen og lav aktivitet svarer til at gøre det en gang hver anden time (selvom begge grupper er ret aktive sammenlignet med de fleste mennesker). Botterne sov også mellem kl. og kl. 9 stillehavstid for at simulere nedetiden for menneskelige brugere.

Til sidst blev de sat op til at følge en af ​​tre forskellige grupper af mennesker. Den første bestod af 200 personer tilfældigt udvalgt fra Twitter-strømmen, den anden var 200 personer, der regelmæssigt poster tweets om et specifikt emne i dette tilfælde softwareudvikling, og den sidste gruppe bestod af 200 softwareudviklere, som alle var socialt forbundet med hinanden på Twitter.

Efter at have sluppet socialbotterne løs, var det første spørgsmål, som Freitas og co ønskede at besvare, om deres anklager kunne unddrage sig de forsvarsværker, som Twitter havde oprettet for at forhindre automatiseret opslag. I løbet af de 30 dage, hvor eksperimentet blev udført, blev 38 ud af de 120 socialbots suspenderet, siger de. Med andre ord undslap 69 procent af de sociale bots at blive opdaget.

Det mere interessante spørgsmål var dog, om de sociale bots med succes kan infiltrere de sociale grupper, de blev oprettet til at følge. Og på den score er resultaterne overraskende. I løbet af eksperimentets varighed modtog de 120 socialbots i alt 4.999 følger fra 1.952 forskellige brugere. Og mere end 20 procent af dem fik over 100 følgere, hvilket er flere følgere end 46 procent af mennesker på Twitter.

Freitas og co overvågede også Klout-score for hver af deres sociale bots for at se, hvordan de klarede sig. (Klout er en onlinetjeneste, der måler indflydelsen af ​​Twitter-konti, hvilket giver dem en score mellem 0 og 100). Vi finder, at socialbots opnåede Klout-score af samme størrelsesorden (eller til tider endda højere end) adskillige kendte akademikere og sociale netværksforskere, siger de.

Holdet pirrede også dataene fra hinanden for at finde ud af, hvilke faktorer der bidrog til robotternes succes. Ikke overraskende er aktivitetsniveauet vigtigt, og de mere aktive bots opnåede større popularitet i deres sociale netværk. Det forventes, da mere aktive bots er mere tilbøjelige til at blive set af andre (selvom de også er mere tilbøjelige til at blive opdaget af Twitters forsvarsmekanismer).

Mere overraskende var det, at de socialbots, der genererede syntetiske tweets (i stedet for blot at genposte), også klarede sig bedre. Det tyder på, at Twitter-brugere ikke er i stand til at skelne mellem indlæg genereret af mennesker og af bots. Det skyldes muligvis, at en stor brøkdel af tweets på Twitter er skrevet i en uformel, grammatisk usammenhængende stil, så selv simple statistiske modeller kan producere tweets med kvalitet svarende til dem, mennesker har lagt ud på Twitter, foreslår Freitas og co.

De grupper, som socialbotterne blev oprettet til at følge, havde også en stor effekt. Gruppen af ​​socialt forbundne softwareudviklere producerede færrest følgere, mens gruppen af ​​tilfældigt udvalgte softwareudviklere genererede det højeste antal af dem.

Køn spillede også en rolle. Mens mandlige og kvindelige bots var lige effektive, når de betragtes som helhed, var kvindelige sociale bots meget mere effektive til at generere følgere blandt gruppen af ​​socialt forbundne softwareudviklere. Dette tyder på, at socialbotternes køn kan gøre en forskel, hvis målbrugerne er kønsorienterede, siger Freitas og venner.

Det er et interessant stykke arbejde. Det tyder på, at Twittersphere kan være mere sårbar over for automatiserede angreb end tidligere antaget.

Det er et fund, der kan have betydelige konsekvenser for visse typer grupper på Twitter. I de senere år er der opstået en række tjenester til at måle interesse og mening blandt Twitter-brugere om en bred vifte af emner, såsom stemmeintention, produktstemning, sygdomsudbrud, naturkatastrofer og så videre.

Bekymringen er, at automatiserede bots kan designes til at påvirke meningsindtrykket betydeligt på et eller flere af disse områder. For eksempel ville det være relativt ligetil at lave en bot, der spreder falske rygter om en politisk kandidat på en måde, der kan påvirke et valg.

Så Freitas og cos arbejde er et wake-up call for Twitter. Hvis den ønsker at forhindre disse former for angreb med succes, bliver den nødt til at forbedre sine forsvarsmekanismer markant. Og da dette arbejde afslører, hvad der gør bots succesrige, har Twitters forskerhold en fordel.

Tricket vil være at få øje på sociale bots og udelukke dem uden fejlagtigt at udelukke menneskelige brugere i processen. Det bliver ikke nogen nem opgave.

Men med anslået 20 millioner falske Twitter-konti allerede oprettet, har Twitters forskere masser af data at arbejde med.

Ref: arxiv.org/abs/1405.4927 : Reverse Engineering Socialbot Infiltration Strategies i Twitter

skjule