Denne AI vil lave tweets, som du aldrig vil vide, er spam

I sidste måned blev nogle mennesker, der tweetede om Pokémon Go, uvidende emner i et eksperiment, der kunne varsle en bekymrende ny form for onlineangreb.





Industriforskere trænede maskinlæringssoftware til at skrive tweets som et menneske for at svare på nogle mennesker ved hjælp af hashtagget #Pokemon, i en demonstration af, hvordan fremskridt inden for software, der forstår sprog, kunne bruges til at narre folk online. Omtrent en tredjedel af de personer, som softwaren var målrettet mod, klikkede på et godartet link, som softwaren sendte for at teste, hvor overbevisende det var.

Det er meget højere end den succesrate på 5 til 10 procent, der er typisk for automatiserede phishing-beskeder, der har til formål at narre folk til at klikke på links for at levere malware eller stjæle adgangskoder, siger John Seymour, en senior dataforsker hos sikkerhedsfirmaet ZeroFOX . Maskinlæringssystemet kommer tæt på den succesrate på omkring 40 procent af spearphishing-beskeder, der er håndlavet for at narre en bestemt person, siger han.

Spearphishing er meget manuel og tager ti minutter pr. mål, siger Seymour. Denne tilgang er næsten lige så nøjagtig og den er automatiseret, så den kan bruges i meget større skala. Tweetsene ser ikke alle meget polerede ud, men de er effektive, siger han. Nogle mennesker svarede og sagde, at linket var brudt og bad om at få det sendt igen.

Seymour præsenterede resultaterne af sine eksperimenter med kollega Phil Tully på Black Hat computersikkerhedskonferencen i Las Vegas torsdag. Parret siger, at deres arbejde viser, at maskinlæringsteknologi kan give kriminelle mulighed for dramatisk at øge deres succesrater.

Phishing og spearphishing er allerede betydelige problemer. Cisco rapporterede sidste år, at phishing-beskeder sendt via Facebook var den største årsag til uautoriseret adgang til virksomhedens netværk.



ZeroFOX-forskernes software, SNAP_R, kan fungere på to måder. Man bruger den samme kunstige intelligens-teknik, deep learning, som virksomheder som Google bruger til at lave systemer, der kan forstå og oversætte sprog. Den blev trænet på to millioner Twitter-beskeder, så den kunne generere sine egne realistiske tweets.

Systemets anden tilstand er mere målrettet. Den lærer at tweete ved at se på en persons seneste tweets og fører dem ind i en ældre teknik kaldet en Markov-kæde. Det kan derefter generere tweets, der ligner dem, der er skrevet af målet, som en person kan klikke på og tro, at en besked er skrevet af en person med lignende interesser.



SNAP_R kan også identificere og målrette mod de mest indflydelsesrige og aktive mennesker, der taler om specifikke emner eller bruger et specifikt hashtag. Den leder efter nøgleord som CEO i en persons profil og indikatorer som deres antal følgere. ZeroFOX udgiver en version af softwaren for at hjælpe forskere med at tænke over potentialet for denne slags angreb, og hvordan man forsvarer sig mod dem.

ZeroFox-software genererede disse tweets for at forsøge at narre folk på Twitter.

Mike Murray, vicepræsident for sikkerhedsforskning hos mobilsikkerhedsfirmaet Lookout, kalder udsigten til at bruge maskinlæring til at automatisere processen med at snyde folk online for skræmmende. Men han tror, ​​det vil tage noget tid, før den slags tilgang bliver brugt til at iscenesætte rigtige angreb.



På trods af de seneste fremskridt kræver de bedste maskinlæringsteknikker stadig specialiseret ekspertise og er langt fra perfekte til at generere sprog. Google er førende inden for maskinlæring og sprog. Men dens Inbox-app, der er i stand til at generere svar på e-mails, kan kun foreslå korte svar på én sætning, siger Murray. Hvis Google ikke kan generere mere end en sætning, kan jeg nok ikke generere en rigtig god phishing-e-mail.

ZeroFOXs Tully forudsiger heller ikke udbredt kriminel brug af automatiseret spearphishing i morgen. Men han argumenterer for, at maskinlæringsalgoritmer bliver nemmere at bruge, og at de ikke behøver at beherske sproget perfekt for at få succes på sociale medier. Folk, der bruger Twitter, forventer at interagere med fremmede og at se mindre end poleret syntaks, siger han. På Twitter er kulturen så eftergivende, og du behøver ikke at have perfekt engelsk eller grammatik.

skjule