Vi bekæmper fake news AI-bots ved at bruge mere AI. Det er en fejl.

Foto af bogomslaget

• Samuel Woolley er assisterende professor ved Moody School of Communication ved University of Texas-Austin. Dette er et tilpasset uddrag fra hans kommende bog Reality Game .

Hver gang du logger på Twitter og ser på et populært opslag, vil du sandsynligvis finde botkonti, der kan lide eller kommentere det. Hvis du klikker dig igennem, kan du se, at de har tweetet mange gange, ofte på kort tid. Nogle gange sælger deres indlæg skrammel eller spreder digitale vira. Andre konti, især de bots, der poster forvansket vitriol som svar på bestemte nyhedsartikler eller officielle udtalelser, er helt politiske.

Det er let at antage, at hele dette fænomen er drevet af avanceret datalogi. Faktisk har jeg talt med mange mennesker, der tror, ​​at maskinlæringsalgoritmer drevet af maskinlæring eller kunstig intelligens giver politiske bots mulighed for at lære af deres omgivelser og interagere med mennesker på en sofistikeret måde.

Under begivenheder, hvor forskere nu mener, at politiske bots og desinformation spillede en nøglerolle - Brexit-afstemningen, Trump-Clinton-konkurrencen i 2016, Krim-krisen - er der en udbredt tro på, at smarte AI-værktøjer tillod computere at posere som mennesker og hjælpe med at manipulere den offentlige samtale.

Pundits og journalister har givet næring til dette: Der har været ekstremt provokerende historier om fremkomsten af ​​en bevæbnet AI-propagandamaskine og historier hævder at kunstig intelligens erobrede demokratiet. Selv min egen forskning i, hvordan sociale medier bruges til at forme den offentlige mening, hacke sandhed og stille protester – det der er kendt som beregningsmæssig propaganda – er blevet citeret i artikler, der tyder på, at vores robotoverherrer allerede er her.

Virkeligheden er dog, at komplekse mekanismer som kunstig intelligens spillede ringe rolle i beregningspropagandakampagner til dato. Alle de beviser, jeg har set på Cambridge Analytica, tyder på, at firmaet aldrig lancerede de psykografiske marketingværktøjer, det hævdede at besidde under det amerikanske valg i 2016 - selvom det sagde, at det kunne målrette mod enkeltpersoner med specifikke beskeder baseret på personlighedsprofiler afledt af dens kontroversielle Facebook-database.

Da jeg var på Oxford Internet Institute, undersøgte vi i mellemtiden, hvordan og om Twitter-bots blev brugt under Brexit-debatten. Vi fandt ud af, at selvom mange var vant til at sprede budskaber om Leave-kampagnen, var langt størstedelen af ​​de automatiserede konti meget enkle. De blev lavet for at ændre online-samtaler med bots, der var blevet bygget blot for at øge likes og følgere, for at sprede links, til spiltendenser eller for at trolde modstand. Det blev spillet af små grupper af menneskelige brugere, der forstod magien ved memes og viralitet, ved at så konspirationer online og se dem vokse. Samtaler blev blokeret af grundlæggende bot-genereret spam og støj, målrettet knyttet til bestemte hashtags for at demobilisere online samtaler. Links til nyhedsartikler, der viste en politiker i et bestemt lys, blev hypet af falske konti eller proxy-konti lavet til at poste og genposte det samme skrammel igen og igen og igen. Disse kampagner blev brugt ganske ligeud: disse bots var ikke designet til at være funktionelt samtale. De udnyttede ikke AI.

Ikke dum mere

Der er dog signaler om, at AI-aktiveret computerpropaganda og desinformation begynder at blive brugt. Hackere og andre grupper er allerede begyndt at teste effektiviteten af ​​mere farlige AI-bots over sociale medier. Et 2017 stykke fra Gizmodo rapporterede, at to datavidenskabsmænd lærte en kunstig intelligens at designe sin egen phishing-kampagne: I test var den kunstige hacker væsentligt bedre end sine menneskelige konkurrenter, komponerede og distribuerede flere phishing-tweets end mennesker og med en væsentligt bedre konverteringsrate.

Problematisk indhold spredes ikke kun af maskinlæringsaktiverede politiske bots. Problematiske anvendelser eller design af teknologi bliver heller ikke kun genereret af sociale mediefirmaer. Forskere har påpeget, at maskinlæring kan være plettet af giftangreb - ondsindede aktører, der påvirker træningsdata for at ændre resultaterne af en given algoritme - før maskinen overhovedet bliver offentliggjort.

Kalev Leetaru, en senior fellow ved George Washington University, foreslår, at de første angreb drevet af AI-bots måske ikke er rettet mod sociale medier, men i stedet vil involvere det, der er kendt som et distribueret denial-of-service-angreb, som involverer nedlukning af målrettede webservere ved at oversvømme dem med trafik.

Forestil dig et øjeblik, at du overgav det botnet til styringen af ​​et dybt læringssystem og gav den AI-algoritme fuldstændig kontrol over hver eneste knap og drejeskive på det botnet, Leetaru skriver .

Disse bestræbelser er ikke rettet mod at hjælpe nyhedsorganisationer med at undersøge dyngerne af indhold. Tværtimod hjælper de en virksomhed på flere milliarder dollar med at holde sit eget hus rent.

Du giver den også live-feeds med global internetstatusinformation fra store cybersikkerheds- og overvågningsleverandører over hele verden, så den sekund for sekund kan observere, hvordan offeret og resten af ​​internettet generelt reagerer på angrebet. Måske kommer alt dette, efter at du har haft algoritmen til at bruge flere uger på at overvåge målet i udsøgte detaljer for at forstå helheden og nuancen af ​​dets trafikmønstre og adfærd og grave sig vej gennem dets ydre lag af forsvar.

Ud over forsvaret

I april 2018 dukkede Mark Zuckerberg op for Kongressen: han var under det politiske lup for forkert håndtering af brugeroplysninger under valget i 2016. I sit todelte vidneudsagn nævnte han kunstig intelligens mere end 30 gange, hvilket antydede, at kunstig intelligens ville være løsningen på problemet med digital desinformation ved at levere programmer, der ville bekæmpe den store mængde computerpropaganda. Han forudsagde, at AI i det næste årti ville være redningsmanden for de massive stordriftsproblemer, som Facebook og andre støder på, når de håndterer den globale spredning af uønsket indhold og manipulation.

Så er der en måde, vi kan bruge AI eller automatiseret bot-teknologi til at tackle manipulation af den offentlige mening online? Kan vi bruge AI til at bekæmpe AI?

Observatoriet for sociale medier ved Indiana University har bygget offentlige værktøjer der udnytter maskinlæring til at opdage bots ved at se på 1.200 funktioner for at afgøre, om det er mere sandsynligt, at det er et menneske eller en bot.

Og Facebook-produktchef Tessa Lyons sagde i en meddelelse fra 2018 at maskinlæring hjælper os med at identificere dubletter af debunkede historier. For eksempel afviste en faktatjekker i Frankrig påstanden om, at man kan redde en person, der får et slagtilfælde, ved at bruge en nål til at stikke fingeren og trække blod. Dette gjorde det muligt for os at identificere over 20 domæner og over 1.400 links, der spredte den samme påstand.

I sådanne tilfælde kan sociale mediefirmaer udnytte maskinlæring til at opfange og endda verificere faktatjek fra hele kloden og bruge disse evidensdrevne rettelser til at markere falsk indhold.

Der er dog en stor debat i det akademiske samfund om, hvorvidt passiv identificering af potentielt falsk information for brugere af sociale medier faktisk er effektiv. Nogle forskere tyder på, at faktatjek indsats både online og offline ikke fungerer særlig effektivt i deres nuværende form. I begyndelsen af ​​2019, faktatjek-webstedet Snopes, som havde indgået partnerskab med Facebook i sådanne korrigerende bestræbelser, afbrød forholdet . I en interview med Poynter Institute, sagde Snopes' vicepræsident for operationer Vinny Green: Det ser ikke ud til, at vi stræber efter at gøre tredjeparts faktatjek mere praktisk for udgivere - det ser ud til, at vi stræber efter at gøre det nemmere for Facebook.

Organisationer som Facebook er fortsat afhængige af små, normalt nonprofitorganisationer, til at behandle indhold. Potentielt falske artikler eller videoer sendes ofte til disse grupper uden baggrundsoplysninger om, hvordan eller hvorfor de blev markeret i første omgang.

Disse bestræbelser er ikke rettet mod at hjælpe nyhedsorganisationer med at undersøge de dynger af indhold eller kundeemner, de modtager hver dag, for at hjælpe journalister, der mangler ressourcer, med at udføre et bedre arbejde. Tværtimod hjælper de en multimilliard-dollar virksomhed med at holde sit eget hus rent på en post hoc-måde. Det er på tide, at Facebook tager ansvar internt for faktatjek, i stedet for at overlade opgaven med at verificere eller afvise nyhedsrapporter til andre grupper. Facebook og andre sociale medievirksomheder skal også stoppe med at stole på faktatjek efter kendsgerningen - det vil sige først efter, at en falsk artikel er gået viralt. Disse virksomheder er nødt til at generere en form for tidlig varslingssystem til beregningsmæssig propaganda.

Facebook, Google og andre som dem ansætter folk til at finde og fjerne indhold, der indeholder vold eller information fra terrorgrupper. De er dog meget mindre nidkære i deres bestræbelser på at slippe af med desinformation. Overfloden af ​​forskellige sammenhænge, ​​hvor falsk information flyder online – overalt fra et valg i Indien til en større sportsbegivenhed i Sydafrika – gør det vanskeligt for AI at operere på sin egen, fraværende menneskelige viden. Men i de kommende måneder og år vil det tage horder af mennesker over hele verden for effektivt at undersøge de enorme mængder indhold under de utallige omstændigheder, der vil opstå.

Der er simpelthen ingen nem løsning på problemet med beregningsmæssig propaganda på sociale medier. Det er dog virksomhedernes ansvar at finde en måde at løse det på. Indtil videre virker Facebook langt mere fokuseret på public relations end på at regulere strømmen af ​​computerpropaganda eller grafisk indhold. Ifølge The Verge , bruger virksomheden mere tid på at fejre sine bestræbelser på at slippe af med særlige stykker af vitriol eller vold end på systematisk at revidere sine moderationsprocesser.

Ud over faktatjek

Det vil være en kombination af menneskelig arbejdskraft og AI, der i sidste ende lykkes med at bekæmpe beregningsmæssig propaganda, men hvordan det vil ske, er simpelthen ikke klart. AI-forbedret faktatjek er kun én vej frem. Maskinlæring og dyb læring kan sammen med menneskelige arbejdere bekæmpe computerpropaganda, desinformation og politisk chikane på flere andre måder.

Jigsaw, den Google-baserede teknologiinkubator, hvor jeg tjente et år som forskningsstipendiat, designede og byggede et AI-baseret værktøj kaldet Perspective til at bekæmpe online trolling og hadefulde ytringer. Dette værktøj (som jeg ikke arbejdede på selv) er en API, der giver udviklere mulighed for automatisk at opdage giftigt sprog.

Det er kontroversielt, fordi det ikke kun risikerer falske positiver - flagende indlæg, der faktisk ikke indeholder trolling eller misbrug - men også modererer tale. Ifølge Kablet , værktøjet blev trænet ved hjælp af maskinlæring, men ethvert sådant værktøj trænes også ved hjælp af input fra mennesker, som har deres egne skævheder. Så kunne et værktøj bygget til at opdage racistisk eller hadefuldt sprog mislykkes på grund af mangelfuld træning?

I 2016 lancerede Facebook Deeptext, et kunstig intelligens-værktøj, der ligner Googles Perspective. Det siger firmaet det hjalp med at slette over 60.000 hadefulde indlæg om ugen. Facebook indrømmede dog, at værktøjet stadig var afhængig af en stor pulje af menneskelige moderatorer for rent faktisk at slippe af med skadeligt indhold. Twitter tog i mellemtiden endelig skridt i slutningen af ​​2017 for at arbejde mere omhyggeligt for at forbyde lignende truende eller voldelige indlæg. Men mens det er begyndt at dæmme op for dette problematiske materiale - og også sletter horder af politiske botkonti - har Twitter ikke givet nogen klare indikationer om, hvordan det opdager og sletter konti. Mine forskningssamarbejdspartnere og jeg fortsætter med at finde massive manipulerende botnets på Twitter næsten hver måned.

Ud over horisonten

Det er ikke overraskende, at en teknolog som Zuckerberg ville foreslå en teknologisk løsning, men AI er ikke perfekt i sig selv. Teknologiske lederes nærsynede fokus på computerbaserede løsninger afspejler den naivitet og arrogance, der fik Facebook og andre til at efterlade brugere sårbare i første omgang.

Der er endnu ikke hære af smarte AI-bots, der arbejder på at manipulere den offentlige mening under anfægtede valg. Vil der være i fremtiden? Måske. Men det er vigtigt at bemærke, at selv hære af smarte politiske bots ikke vil fungere på egen hånd: De vil stadig kræve menneskelig tilsyn for at manipulere og bedrage. Vi står ikke over for en onlineversion af The Terminator her. Lydstyrker fra områderne datalogi og kunstig intelligens, inklusive Turing-prisvinderen Ed Feigenbaum og Geoff Hinton, dyb lærings gudfader, har argumenteret kraftigt imod frygten for, at singulariteten – den ustoppelige tidsalder for smarte maskiner – kommer når som helst snart. I en undersøgelse blandt American Association of Artificial Intelligence-stipendiater sagde over 90%, at superintelligens er uden for den forudsigelige horisont. De fleste af disse eksperter var også enige om, at når og hvis supersmarte computere ankommer, vil de ikke være en trussel mod menneskeheden.

Stanford-forskere arbejder på at spore det nyeste inden for kunstig intelligens antyder at vores maskinoverherrer på nuværende tidspunkt stadig ikke kan udvise den sunde fornuft eller den generelle intelligens hos selv en 5-årig. Så hvordan vil disse værktøjer undergrave menneskets styre eller for eksempel løse overordentlig menneskelige sociale problemer som politisk polarisering og mangel på kritisk tænkning? Wall Street Journal sige det kort i 2017 : Uden mennesker er kunstig intelligens stadig ret dumt.

Grady Booch, en førende ekspert i AI-systemer, er også skeptisk over for fremkomsten af ​​supersmarte slyngelmaskiner, men af ​​en anden grund. I en TED talk i 2016 , sagde han, at det at bekymre sig nu om fremkomsten af ​​en superintelligens på mange måder er en farlig distraktion, fordi fremkomsten af ​​computere i sig selv bringer os en række menneskelige og samfundsmæssige problemer, som vi nu skal være opmærksomme på.

Endnu vigtigere, understregede Booch, kan nuværende AI-systemer gøre alle mulige fantastiske ting, lige fra at tale med mennesker i naturligt sprog til at genkende objekter - men disse ting bestemmes af mennesker og kodes med menneskelige værdier. De er ikke programmeret, men de bliver undervist i, hvordan de skal opføre sig.

I videnskabelige termer er det det, vi kalder jordsandhed, siger Booch, og her er den vigtige pointe: Når vi producerer disse maskiner, lærer vi dem derfor en følelse af vores værdier. Til det formål stoler jeg på en kunstig intelligens på samme måde, hvis ikke mere, som et menneske, der er veltrænet.

Jeg ville tage Boochs idé endnu længere. For at løse problemet med beregningsmæssig propaganda er vi nødt til at fokusere på folkene bag værktøjerne.

Ja, stadigt udviklende teknologi kan automatisere spredningen af ​​desinformation og trolling. Det kan lade gerningsmænd operere anonymt og uden frygt for opdagelse. Men denne suite af værktøjer som en måde for politisk kommunikation er i sidste ende fokuseret på at opnå det menneskelige mål med kontrol. Propaganda er en menneskelig opfindelse, og den er lige så gammel som samfundet. Som en ekspert i robotteknologi engang fortalte mig, skal vi ikke frygte maskiner, der er smarte som mennesker, så meget som mennesker, der ikke er smarte med, hvordan de bygger maskiner.

Uddrag fra The Reality Game: How the Next Wave of Technology Will Break the Truth, af Samuel Woolley. Copyright 2020. Tilgængelig fra PublicAffairs, et forlag fra Hachette Book Group, Inc.

skjule