Den største trussel ved deepfakes er ikke deepfakes i sig selv

Et billede af Hitler, der holder en tale med ansigtet erstattet af et spørgsmålstegn. Ms. Tech

Det var sent i 2018, og befolkningen i Gabon havde ikke set deres præsident, Ali Bongo, offentligt i flere måneder. Nogle begyndte at mistænke, at han var syg eller endda død, og regeringen dækkede over det. For at stoppe spekulationerne meddelte regeringen, at Bongo havde fået et slagtilfælde, men forblev ved godt helbred. Kort efter, det udgivet en video af ham, der holder sin sædvanlige nytårstale.

I stedet for at dæmpe spændingerne, gjorde videoen dog præcis det modsatte. Som afdækket af den digitale rettighedsorganisation Internet Uden Grænser, tænker mange mennesker Bongo så af i optagelserne , havde straks mistanke om, at det var en deepfake - et stykke medie smedet eller ændret ved hjælp af AI. Troen nærede deres mistanke om, at regeringen skjulte noget. En uge senere lancerede militæret et mislykket kup og citerede videoen som en del af motivationen.

Efterfølgende retsmedicinske analyser fandt aldrig noget ændret eller manipuleret i videoen. Det gjorde ikke noget. Alene ideen om deepfakes havde været nok til at fremskynde opklaringen af ​​en i forvejen prekær situation.

I optakten til det amerikanske præsidentvalg i 2020 har stadig mere overbevisende deepfake-teknologi ført til frygt for, hvordan sådanne falske medier kan påvirke den politiske mening. men a ny rapport fra Deeptrace Labs, et cybersikkerhedsfirma med fokus på at opdage dette bedrag, fandt ingen kendte tilfælde, hvor deepfakes faktisk er blevet brugt i desinformationskampagner. Det, der har haft den stærkere effekt, er viden om, at de kunne bruges på den måde.

Deepfakes udgør en risiko for politik i form af, at falske medier ser ud til at være reelle, men lige nu er den mere håndgribelige trussel, hvordan ideen om deepfakes kan påberåbes for at få det virkelige til at fremstå falsk, siger Henry Ajder, en af ​​forfatterne til rapport. Hypen og ret opsigtsvækkende dækning, der spekulerer i deepfakes' politiske gennemslagskraft, har overskygget de virkelige sager, hvor deepfakes har haft indflydelse.

Dokumentation er ikke længere bevis

Menneskerettighedsaktivister og desinformationseksperter har slået alarm om disse adskilte, men dog sammenflettede trusler, siden deepfakes dukkede op på scenen. I de seneste to år har amerikanske teknologivirksomheder og politiske beslutningstagere næsten udelukkende fokuseret på det første problem, Ajder nævner: den lethed, hvormed teknologien kan få falske ting til at se ægte ud. Men det er det andet, der bekymrer eksperter mere. Selvom barriererne for at skabe deepfakes kan falde hurtigt, kræver det slet ingen teknologi at sætte spørgsmålstegn ved rigtigheden af ​​noget.

Det giver et andet våben til de magtfulde: at sige 'Det er en deepfake' om alt, hvad folk, der er uden magt, forsøger at bruge til at vise korruption.

Helt fra begyndelsen har det været min største bekymring på dette område, siger Aviv Ovadya, en desinformationsekspert, som nu driver nonprofitorganisationen Thoughtful Technology Project.

At underminere tilliden til medierne kan have dybe følger, især i skrøbelige politiske miljøer. Sam Gregory, programdirektøren for Witness, en nonprofitorganisation, der hjælper folk med at dokumentere menneskerettighedskrænkelser, giver et eksempel. I Brasilien, som har lidt en historie med politivold, er borgere og aktivister nu bekymrede for, at enhver video, de filmer af en betjent, der dræber en civil person, ikke længere vil være tilstrækkelig grund til efterforskning. Denne frygt for, at reelle beviser plausibelt kan afvises som falske, siger Gregory, er blevet et tilbagevendende tema i workshops, han er vært for rundt om i verden.

Det er en udvikling af påstanden om, at noget er 'falske nyheder', siger han. Det giver et andet våben til de magtfulde: at sige 'Det er en deepfake' om alt, hvad folk, der er uden magt, forsøger at bruge til at vise korruption, for at vise menneskerettighedskrænkelser.

At bevise, at det ægte er ægte, og det falske er falsk

At løse disse problemer vil kræve forståelse af begge typer trusler. På et højt niveau vil du gerne gøre det så nemt som muligt at vise, at en rigtig ting er ægte og at en falsk ting er falsk, siger Ovadya.

I de seneste måneder har mange forskningsgrupper og teknologivirksomheder som Facebook og Google fokuseret på værktøjer til at afsløre forfalskninger, såsom databaser til træning af detektionsalgoritmer og vandmærker der kan indbygges i digitale fotofiler for at afsløre, om der er pillet ved dem. Flere startups har også arbejdet på måder at opbygge tillid gennem forbrugerapplikationer, der verificerer billeder og videoer, når de tages, for at danne grundlag for sammenligning, hvis versioner af indholdet cirkuleres senere. Gregory siger, at teknologigiganter bør integrere begge former for kontrol direkte i deres platforme for at gøre dem bredt tilgængelige.

Men teknologivirksomheder skal også ansætte menneskelige indholdsmoderatorer, og medieorganisationer skal også uddanne journalister og faktatjekkere i både detektion og verifikation. On-the-ground rapportering kan bekræfte, om en video afspejler virkeligheden eller ej, og tilføje et vigtigt lag af nuance. Tekniske modeller kan ikke fortolke indholdet af den forfalskede video på tværs af kulturelle kontekster eller forestille sig, hvordan den kunne rekontekstualiseres yderligere, siger Britt Paris, en informationsekspert, der for nylig har offentliggjort en rapport om deepfakes.

Hvad [desinformationsaktører] virkelig ønsker, er ikke at du skal stille spørgsmålstegn ved mere, men at du stiller spørgsmålstegn ved alt.

Som et eksempel peger Paris på ændrede videoer af Nancy Pelosi og Jim Acosta, der gik viralt i løbet af det sidste år. Begge var såkaldte cheapfakes snarere end deepfakes - deres hastighed var simpelthen blevet pillet ved for at vildlede seerne. Der ville ikke være nogen måde at fange disse forfalskninger med tekniske metoder til at fange deepfakes, siger Paris. I stedet måtte journalister afvise dem - hvilket betød, at folk skulle stole på journalisterne.

Endelig er alle eksperter enige om, at offentligheden har brug for større mediekendskab. Der er forskel på at bevise, at en rigtig ting er ægte og faktisk at få den brede offentlighed til at tro, at den ægte vare er ægte, siger Ovadya. Han siger, at folk skal være opmærksomme på, at forfalskning af indhold og sår tvivl om rigtigheden af ​​indhold begge er taktikker, der kan bruges til bevidst at så forvirring.

Gregory advarer dog mod at lægge en for stor byrde på nyhedsforbrugere. Forskere, platforme og journalister bør gøre så meget af arbejdet som muligt for at hjælpe med at gøre det klart, hvad der er ægte, og hvad der er falsk, før nyheder når offentligheden.

Det ultimative mål, siger Ovadya, er ikke at indgyde generel skepsis, men at opbygge social, pædagogisk, inokulerende infrastruktur til at neutralisere virkningen af ​​deepfakes. Hvad skal vi forsøge at undgå? han spørger. Det er værdifuldt at stille spørgsmålstegn ved beviser. Men hvad [desinformationsaktører] virkelig ønsker, er ikke at du skal stille spørgsmålstegn ved mere, men at du stiller spørgsmålstegn ved alt.

Han tilføjer: Det er modsætningen til det, vi leder efter.

For at få flere historier som denne leveret direkte til din indbakke, tilmeld dig vores Webby-nominerede AI-nyhedsbrev The Algorithm. Det er gratis.

skjule