Et nyt deepfake-detektionsværktøj skal holde verdens ledere sikre - indtil videre

Et billede af deepfake og efterlignende eksempler på Barak Obama University of California, Berkeley

En AI-produceret video kunne vise Donald Trump sige eller gøre noget ekstremt oprørende og betændende. Det ville kun være for troværdigt, og i værste fald kan det påvirke et valg, udløse vold i gaderne eller udløse en international væbnet konflikt.

Heldigvis en ny digital retsmedicinsk teknik lover at beskytte præsident Trump, andre verdensledere og berømtheder mod sådanne deepfakes - i det mindste for øjeblikket. Den nye metode bruger maskinlæring til at analysere en specifik persons tale- og bevægelsesstil, hvad forskerne kalder en blødbiometrisk signatur.

Forskerne fra UC Berkeley og University of Southern California brugte et eksisterende værktøj til at udtrække individers ansigts- og hovedbevægelser. De skabte også deres egne deepfakes for Donald Trump, Barack Obama, Bernie Sanders, Elizabeth Warren og Hillary Clinton ved hjælp af generative modstandsnetværk.

Holdet brugte derefter maskinlæring til at skelne hoved- og ansigtsbevægelser, der karakteriserer den rigtige person. Disse subtile signaler – den måde Bernie Sanders måske nikker på, mens han siger et bestemt ord, eller den måde Trump smiler efter et comeback – er i øjeblikket ikke modelleret af deepfake algoritmer.

I eksperimenter var teknikken mindst 92 % nøjagtig til at spotte adskillige variationer af deepfakes, inklusive ansigtsbytte og dem, hvor en efterligner bruger en digital marionet. Det var også i stand til at håndtere artefakter i filerne, der kommer fra rekomprimering af en video, hvilket kan forvirre andre detektionsteknikker. Forskerne planlægger at forbedre teknikken ved også at tage højde for karakteristika ved en persons tale. Forskningen, som blev præsenteret på en computer vision konference i Californien i denne uge, blev finansieret af Google og DARPA, en forskningsfløj i Pentagon. DARPA finansierer et program til at udvikle bedre detektionsteknikker.

Problemet for verdens ledere (og alle andre) er, at det er blevet latterligt enkelt at generere videoforfalskninger med kunstig intelligens. Falske nyhedsrapporter, falske sociale medier-konti og manipulerede videoer har allerede undermineret politisk nyhedsdækning og diskurs. Politikere er især bekymrede over, at falske medier kan blive brugt til at så misinformation under præsidentvalget i 2020.

Nogle værktøjer til at fange deepfake-videoer er allerede blevet produceret, men falsknere har hurtigt tilpasset sig. For eksempel var det i et stykke tid muligt at spotte en deepfake ved at spore talerens øjenbevægelser, som havde en tendens til at være unaturlige i deepfake. Kort efter at denne metode blev identificeret, blev deepfake-algoritmer dog tilpasset til at inkludere bedre blink.

Vi er vidne til et våbenkapløb mellem digitale manipulationer og evnen til at opdage dem, og fremskridtene inden for AI-baserede algoritmer katalyserer begge sider, siger Hao Li, professor ved University of Southern California og administrerende direktør for Pinscreen som var med til at udvikle den nye teknik. Af denne grund har hans team endnu ikke frigivet koden bag metoden.

Li siger, at det vil være særligt svært for deepfake-magere at tilpasse sig den nye teknik, men han indrømmer, at de nok vil i sidste ende. Det næste skridt til at gå uden om denne form for detektion ville være at syntetisere bevægelser og adfærd baseret på forudgående observationer af denne særlige person, siger han.

Li siger også, at efterhånden som deepfakes bliver nemmere at bruge og mere kraftfulde, kan det blive nødvendigt for alle at overveje at beskytte sig selv. Berømtheder og politiske personer har været hovedmålene hidtil, siger han. Men jeg ville ikke blive overrasket, hvis en hvilken som helst slutbruger kan syntetisere kunstige mennesker, der ser ud til at være umulige at skelne fra rigtige, om et år eller to.

skjule