Undervurder ikke det billige fake

Fru Tech | Unsplash

Den 30. november talsmand for det kinesiske udenrigsministerium, Lijian Zhao fastgjorde et billede til sin Twitter-profil. I den står en soldat på et australsk flag og griner manisk, mens han holder en blodig kniv for en drengs strube. Drengen, hvis ansigt er dækket af et halvgennemsigtigt slør, bærer et lam. Ved siden af ​​billedet tweetede Zhao, Chokeret over drab på afghanske civile og fanger af australske soldater. Vi fordømmer på det kraftigste sådanne handlinger, &call [sic] for at holde dem ansvarlige.

Tweetet er med henvisning til en nylig meddelelse af den australske forsvarsstyrke, som fandt troværdig information om, at 25 australske soldater var involveret i mordene på 39 afghanske civile og fanger mellem 2009 og 2013. Billedet foregiver at vise en australsk soldat ved at skære halsen over på et uskyldigt afghansk barn. Eksplosive ting.

Bortset fra, at billedet er falsk. Ved nærmere undersøgelse er det ikke engang særlig overbevisende. Det kunne have været sat sammen af ​​en Photoshop-novice. Dette billede er en såkaldt cheapfake, et stykke medie, der er blevet groft manipuleret, redigeret, forkert mærket eller ukorrekt kontekstualiseret for at sprede desinformation.

Den billige falske er nu kernen i en stor international hændelse. Australiens premierminister, Scott Morrison, sagde, at Kina burde skamme sig fuldstændig og krævede en undskyldning for modbydeligt billede . Beijing har afvist, i stedet beskyldt Australien for barbari og for forsøger at aflede offentlighedens opmærksomhed fra påståede krigsforbrydelser fra dets væbnede styrker i Afghanistan.

Der er to vigtige politiske lære at drage af denne hændelse. Den første er, at Beijing sanktionerede brugen af ​​en billig falsk af en af ​​sine topdiplomater til aktivt at sprede desinformation på vestlige onlineplatforme. Kina har traditionelt udvist forsigtighed i sådanne sager, med det formål at præsentere sig selv som en godartet og ansvarlig supermagt. Det her ny tilgang er en væsentlig afvigelse.

Den billige falske er nu kernen i en stor international hændelse.

Mere generelt viser denne træfning dog også den voksende betydning af visuel desinformation som et politisk værktøj. I løbet af det sidste årti har udbredelsen af ​​manipulerede medier omformet den politiske realitet. (Overvej for eksempel de billige forfalskninger, der katalyserede et folkedrab mod rohingya-muslimerne i Burma, eller hjalp med at sprede sig covid desinformation. ) Nu hvor globale supermagter åbenlyst deler billige forfalskninger på sociale medier, hvad skal forhindre dem (eller enhver anden aktør) i at implementere mere sofistikeret visuel desinformation, efterhånden som den dukker op?

I årevis har journalister og teknologer advaret om farerne ved deepfakes. Bredt, deepfake s er en type syntetiske medier, der er blevet manipuleret eller skabt af kunstig intelligens. De kan også forstås som den overlegne efterfølger til cheapfakes.

Teknologiske fremskridt forbedrer samtidig kvaliteten af ​​visuel desinformation og gør det lettere for alle at generere. Efterhånden som det bliver muligt at producere deepfakes gennem smartphone-apps, vil næsten enhver være i stand til at skabe sofistikeret visuel desinformation næsten uden omkostninger.

Falsk alarm

Deepfake-advarsler nåede et feberniveau forud for det amerikanske præsidentvalg i år. I månedsvis diskuterede politikere, journalister og akademikere, hvordan man kunne imødegå den opfattede trussel. I tiden op til afstemningen, delstatslovgivere i Texas og Californien endda forebyggende forbudt brugen af ​​deepfakes til at påvirke valg .

Relateret historie

En deepfake bot bliver brugt til at klæde mindreårige piger af

En teknologi, der ligner DeepNude, 2019-appen, der lukkede ned kort efter lanceringen, spredes nu uhindret på Telegram.

Set i bakspejlet var disse frygt overvurderet . Bortset fra et par interessante udviklinger, inklusive en tongue-in-cheek kreation af det russisk-statslige tv-selskab Russia Today (RT), hvor en besejret Donald Trump indrømmer at være den russiske præsident Vladimir Putins brik, var der lidt valgrelateret deepfakery at rapportere. Der skete bestemt ikke noget, som objektivt kunne siges at have påvirket resultatet. I stedet for at blive brugt til at sabotere eller udnytte politikere, bruges deepfakes stadig oftest til at skabe porno uden samtykke .

Selvom deepfakes endnu ikke er blevet massedisinformationens våben, som nogle forudsagde, er der ikke plads til selvtilfredshed. Den potentielle risiko afbødes indtil videre stort set af tekniske begrænsninger. Efterhånden som deepfake-skabelsesteknologier forbedres, åbnes sluserne.

Og selv før da, den blotte opmærksomhed af deepfakes allerede har en skadelig effekt. I den nærmeste fremtid vil dårlige skuespillere være i stand til at producere deepfakes om alting og simpelthen afvise ethvert autentisk medie som falsk. Denne dobbelte bonus for dårlige skuespillere er kendt som løgnerens udbytte. Selvom udtrykket var opfundet i et banebrydende papir fra 2018 om deepfakes, vedrører det ikke deepfakes alene. Konceptet omfatter al desinformation, inklusive billige forfalskninger.

Billige forfalskninger overalt

Siden dukkede den berygtede behandlede video af hustaler Nancy Pelosi op i 2019 er cheapfakes blevet en fast del af det politiske liv i USA. I år hjalp de med at opretholde en højprofileret desinformationsoperation fremført af præsidenten og hans nærmeste medarbejdere. Den falske påstand om, at valget var præget af udbredt vælgerbedrageri, blev konsekvent forstærket af billige forfalskninger.

Et eksempel er en viral video af den nyvalgte præsident Joe Biden, der siger, Vi har sammensat, tror jeg, den mest omfattende og inkluderende vælgersvindelorganisation i amerikansk politiks historie. Når de er korrekt kontekstualiseret, kan Bidens kommentarer forstås som en beskrivelse af et program til beskyttelse af vælgere i tilfælde af grundløse retssager vedrørende valgresultatet. Ikke desto mindre blev klippet delt af både Trump og pressesekretær Kayleigh McEnany og fremstillet som en indrømmelse af bedrageri.

Selvom stemmer stadig blev talt op, autentiske videoer af valgarbejdere transskribering af stemmer og indsamling af stemmesedler på en rutinemæssig måde blev delt af folk inklusive Trump selv som bevis på stemmedumping og manipulation. I mellemtiden viste en viral billig falsk, der viser en mand, der river stemmesedler op at være arbejdet en TikTok spøgefugl .

Beskyldningerne om udbredt vælgerbedrageri er grundløse, og domstole i hele Amerika afviser forsøg fra Trumps juridiske team på at bestride valgresultatet. Tidligere på måneden, justitsminister Bill Barr (der trækker sig den 23. december) endelig indrømmet at det amerikanske justitsministerium ikke har afsløret beviser for bedrageri.

Men billige forfalskninger ser ud til at have haft konsekvenser i den virkelige verden: i begyndelsen af ​​december, Gabriel Sterling, Georgiens implementeringsleder for afstemningssystem , citerede tilfælde af intimidering og dødstrusler mod valgmedarbejdere og bønfaldt: Det hele er gået for vidt! Det skal stoppe! En valgmedarbejder i Georgien måtte gå i skjul efter en 34-sekunders billig falsk falsk anklaget ham for at have smidt en fraværende stemmeseddel væk gik viralt.

Troen på fortællingen om det falske valg falder stærkt langs partipolitiske linjer. EN Politico/Morning Consult meningsmåling gennemført efter valget fandt ud af, at 70 % af de republikanske vælgere sagde, at de ikke mente, at det havde været frit og retfærdigt. Antallet af GOP-vælgere, der udtrykte lignende mistillid til processen før valget, var 35 %. Omvendt sagde kun halvdelen af ​​de demokratiske vælgere (52%), at de mente, at valget ville være frit og retfærdigt inden den 3. november. I meningsmålinger foretaget efter Bidens sejr steg tallet til 90%.

Hvad skal man tro?

Den voksende udbredelse af visuel desinformation ser ud til at påvirke politik på to forskellige måder. For det første nærer det spredningen af ​​alle former for desinformation. Dårlige skuespillere handler mere ustraffet, overbevist om, at de kan undgå kontrol og ansvarlighed. I skrivende stund var den billige falske delt af Lijian Zhao stadig fastgjort til hans Twitter-profil.

Nutidens cheapfakes tilbyder værdifulde lektioner om fremtidens deepfakes.

For det andet gør den voksende udbredelse af visuel desinformation os mere modtagelige for al desinformation. Efterhånden som offentligheden bliver mere opmærksom på de mange måder, hvorpå medier kan manipuleres, vil den blive mere skeptisk over for alle medier, inklusive autentiske medier.

Denne skepsis gør det lettere for dårlige skuespillere at afvise virkelige begivenheder som falske. Det kan også føre til stadig mere subjektive og partipolitiske fortolkninger af begivenheder fra offentlighedens side. Overvej for eksempel den udbredte tro blandt republikanske vælgere om, at valget i USA i 2020 ikke var frit og retfærdigt. Dette er beviseligt falsk, men som offentlighedens data antyder, er det ikke kun republikanernes vælgere, der har mistillid til valgprocessen. Indtil de vandt, var demokratiske vælgere også skeptisk. Hvis en republikansk kandidat vinder i 2024, vil den offentlige mening så vende tilbage efter partipolitiske linjer?

Mens de mest frygtelige forudsigelser om politisk motiverede deepfakes ikke blev realiseret i 2020, må vi analysere deres udvikling i sammenhæng med billige forfalskninger og andre former for politisk desinformation. Nutidens cheapfakes tilbyder værdifulde lektioner om fremtidens deepfakes. Spørgsmålet burde så ikke være Hvornår vil politiske deepfakes dukke op? men hvordan kan vi afbøde de mange måder, hvorpå visuel desinformation allerede omformer vores politiske virkelighed?

Nina Schick er forfatter til Deepfakes: The Coming Infocalypse.

skjule