Forsvarsministeriet har produceret de første værktøjer til at fange deepfakes

SUNY SUNY

De første retsmedicinske værktøjer til at fange hævnporno og falske nyheder skabt med AI er blevet udviklet gennem et program, der drives af det amerikanske forsvarsministerium.

Retsmedicinske eksperter har skyndt sig at finde måder at opdage videoer syntetiseret og manipuleret ved hjælp af maskinlæring, fordi teknologien gør det langt nemmere at skabe overbevisende falske videoer, der kan bruges til at så desinformation eller chikanere folk.

Den mest almindelige teknik til at generere falske videoer involverer at bruge maskinlæring til at bytte en persons ansigt til en andens. De resulterende videoer, kendt som deepfakes, er enkle at lave og kan være overraskende realistisk . Yderligere tweaks, lavet af en dygtig videoredigerer, kan få dem til at virke endnu mere ægte .

Videotrickeri involverer at bruge en maskinlæringsteknik kendt som generativ modellering, som lader en computer lære af rigtige data, før den producerer falske eksempler, der er statistisk ens. Et nyligt twist på dette indebærer, at to neurale netværk, kendt som generative modstridende netværk, arbejder sammen for at producere stadigt mere overbevisende forfalskninger (se The GANfather: The man who's given machines the gave of imagination).

Værktøjerne til at fange deepfakes blev udviklet gennem et program – drevet af US Defense Advanced Research Projects Agency (DARPA) – kaldet Medieforensik . Programmet blev oprettet for at automatisere eksisterende retsmedicinske værktøjer, men har for nylig rettet sin opmærksomhed mod AI-fremstillet forfalskning.

'Vi har opdaget subtile signaler i nuværende GAN-manipulerede billeder og videoer, der giver os mulighed for at opdage tilstedeværelsen af ​​ændringer,' siger Matthew Turek, der driver Media Forensics-programmet.

Tucker Carlson får sin egen Nicolas Cage-makeover. Universitetet i Albany, SUNY

En bemærkelsesværdig enkel teknik blev udviklet af et hold ledet af Siwei Lyu , professor ved State University of New York i Albany, , og en af ​​hans studerende. Vi genererede omkring 50 falske videoer og prøvede en masse traditionelle retsmedicinske metoder. De arbejdede til og fra, men ikke særlig godt, siger Lyu.

Så en eftermiddag, mens han studerede adskillige deepfakes, indså Lyu, at de ansigter, der blev brugt af deepfakes, sjældent, hvis nogensinde, blinker. Og når de blinker, er øjenbevægelsen unaturlig. Dette skyldes, at deepfakes trænes på stillbilleder, som har en tendens til at vise en person med hans eller hendes øjne åbne.

Andre involveret i DARPA-udfordringen udforsker lignende tricks til automatisk at fange deepfakes: mærkelige hovedbevægelser, mærkelige øjenfarve og så videre. Vi arbejder på at udnytte disse typer fysiologiske signaler, som i det mindste nu er svære for deepfakes at efterligne, siger Hany Farid , en førende digital retsmedicinsk ekspert ved Dartmouth College.

DARPAs Turek siger, at agenturet vil køre flere konkurrencer for at sikre, at teknologierne under udvikling er i stand til at opdage de nyeste teknikker.'

Ankomsten af ​​disse kriminaltekniske værktøjer kan ganske enkelt signalere begyndelsen på et AI-drevet våbenkapløb mellem videoforfalskere og digitale spejlinger. Et centralt problem, siger Farid, er, at maskinlæringssystemer kan trænes til at udmanøvrere retsmedicinske værktøjer.

Lyu siger, at en dygtig falskner kunne komme uden om sit øje-blinkende værktøj blot ved at samle billeder, der viser en person blinke. Men han tilføjer, at hans hold har udviklet en endnu mere effektiv teknik, men siger, at han holder det hemmeligt for øjeblikket. Jeg vil hellere holde ud i det mindste lidt, siger Lyu. Vi har en lille fordel i forhold til falsknere lige nu, og den fordel vil vi gerne beholde.

skjule