Falske Amerika fantastisk igen

Inde i kapløbet om at fange de bekymrende ægte forfalskninger, der kan laves ved hjælp af kunstig intelligens. Ved

• Will Knight arkiv side

17. august 2018

Bruce Peterson

Gæt hvad? Jeg har lige fået fat i nogle pinlige videooptagelser af Texas-senator Ted Cruz, der synger og gynger til Tina Turner. Hans politiske fjender vil have det sjovt med at vise det i midtvejsperioderne. Donald Trump vil kalde ham Dancin’ Ted.

Okay, jeg indrømmer det – jeg har selv lavet videoen. Men her er den bekymrende ting: at gøre det krævede meget lidt videoredigering. Jeg downloadede og konfigurerede software, der bruger maskinlæring til at udføre en overbevisende digital ansigtsbytning. Den resulterende video, kendt som en deepfake, viser Cruz's karakteristiske hængende øjne syet fast på funktionerne af skuespilleren Paul Rudd, der laver lip-sync karaoke. Det er ikke perfekt - der er noget, der er lidt galt - men det kan narre nogle mennesker.

Denne historie var en del af vores september 2018-udgave

• Se resten af ​​problemet
• Abonner

Fotofalsk er langt fra nyt, men kunstig intelligens vil fuldstændig ændre spillet. Indtil for nylig kunne kun et filmstudie med stort budget foretage en video-face-swap, og det ville sandsynligvis have kostet millioner af dollars. AI gør det nu muligt for alle med en anstændig computer og et par timer til overs at gøre det samme. Yderligere maskinlæringsfremskridt vil gøre endnu mere komplekst bedrag muligt - og gøre det sværere at få øje på forfalskninger.

Disse fremskridt truer med yderligere at udviske grænsen mellem sandhed og fiktion i politik. Allerede internettet accelererer og forstærker spredningen af ​​desinformation gennem falske sociale medier-konti. Alternative fakta og konspirationsteorier er almindelige og udbredte. Falske nyhedshistorier, bortset fra deres mulige indflydelse på det sidste amerikanske præsidentvalg, har udløst etnisk vold i Myanmar og Sri Lanka i løbet af det seneste år. Forestil dig nu, at du smider nye former for falske videoer med et ægte udseende ind i blandingen: Politikere, der siger noget sludder eller etniske fornærmelser, eller bliver fanget i at opføre sig upassende på video – bortset fra at det aldrig rigtig skete.

Deepfakes har potentiale til at afspore politisk diskurs, siger Charles Seife, professor ved New York University og forfatter til Virtuel uvirkelighed: Bare fordi internettet fortalte dig, hvordan ved du, at det er sandt? Seife indrømmer til forbløffelse, hvor hurtigt tingene er gået, siden hans bog blev udgivet, i 2014. Teknologien ændrer vores opfattelse af virkeligheden i en alarmerende hastighed, siger han.

Er vi ved at gå ind i en æra, hvor vi ikke kan stole på noget, selv videoer med autentisk udseende, der ser ud til at fange rigtige nyheder? Hvordan afgør vi, hvad der er troværdigt? Hvem stoler vi på?

Disse stillbilleder af Ted Cruz og Paul Rudd blev taget fra optagelserne, der blev overført til et ansigtsbytteprogram.

Rigtig falsk

Adskillige teknologier er gået sammen for at gøre forfalskning lettere, og de er let tilgængelige: Smartphones lader enhver optage videooptagelser, og kraftfulde computergrafikværktøjer er blevet meget billigere. Tilføj kunstig intelligens-software, som tillader ting at blive forvrænget, remixet og syntetiseret på åndssvage nye måder. AI er ikke bare en bedre version af Photoshop eller iMovie. Det lader en computer lære, hvordan verden ser ud og lyder, så den kan fremmane overbevisende simulacra.

Jeg oprettede klippet af Cruz ved hjælp af OpenFaceSwap, et af flere ansigtsskiftende programmer, som du kan downloade gratis. Du skal bruge en computer med en avanceret grafikchip, og det kan sætte dig et par tusinde dollars tilbage. Men du kan også leje adgang til en virtuel maskine for et par cents i minuttet ved at bruge en cloud-maskinelæringsplatform som Paperspace. Så indlæser du blot to videoklip og læner dig tilbage i et par timer, mens en algoritme finder ud af, hvordan hvert ansigt ser ud og bevæger sig, så det kan kortlægge det ene på det andet. At få tingene til at fungere er lidt af en kunst: Hvis du vælger klip, der er for forskellige, kan resultatet blive et mareridtsagtigt sammensurium af næser, ører og hager.

Men processen er let nok.

At få tingene til at fungere er lidt af en kunst: Hvis du vælger klip, der er for forskellige, kan resultaterne blive en blanding af næser, ører og hager.

Face-swapping blev, forudsigeligt, først vedtaget for at lave porno. I 2017 brugte en anonym Reddit-bruger kendt som Deepfakes maskinlæring til at ombytte berømte skuespillerinders ansigter til scener med voksenfilmstjerner og postede derefter resultaterne til en subreddit dedikeret til lækket berømthedsporno. En anden Reddit-bruger udgav derefter en brugervenlig grænseflade, som førte til en udbredelse af deepfake porno samt, af en eller anden mærkelig grund, endeløse klip af skuespilleren Nicolas Cage i film, han ikke rigtig var med i. Selv Reddit, en notorisk freewheeling hangout, forbudt sådan pornografi uden samtykke. Men fænomenet fortsætter i de mørkere afkroge af internettet.

OpenFaceSwap bruger et kunstigt neuralt netværk, efterhånden go-to-værktøjet i AI. Meget store, eller dybe, neurale netværk, der fodres med enorme mængder træningsdata, kan gøre alle mulige nyttige ting, herunder at finde en persons ansigt blandt millioner af billeder. De kan også bruges til at manipulere og syntetisere billeder.

OpenFaceSwap træner et dybt netværk til at kode et ansigt (en proces, der ligner datakomprimering), og skaber derved en repræsentation, der kan afkodes for at rekonstruere hele ansigtet. Tricket er at føre de kodede data for den ene side ind i dekoderen til den anden. Det neurale netværk vil så fremtrylle, ofte med overraskende nøjagtighed, det ene ansigt, der efterligner det andets udtryk og bevægelser. Den resulterende video kan virke skæv, men OpenFaceSwap vil automatisk sløre kanterne og justere farven på det nyligt transplanterede ansigt for at få tingene til at se mere ægte ud.

Venstre: OpenFaceSwap viser forhåndsvisninger af forsøg på ansigtsbytte under træning. Tidlige forsøg kan ofte være lidt mærkelige og groteske.

Til højre: Softwaren tager flere timer at producere en god ansigtsbytning. Jo flere træningsdata, jo bedre slutresultat.

Lignende teknologi kan også bruges til at genskabe en persons stemme. Et startup ved navn Lyrebird har udgivet overbevisende demoer af Barack Obama og Donald Trump, der siger helt opdigtede ting. Lyrebird siger, at den i fremtiden vil begrænse sine stemmeduplikationer til folk, der har givet deres tilladelse - men det er sikkert ikke alle, der vil være så omhyggelige.

En startup har udgivet overbevisende demoer af Barack Obama og Donald Trump, der siger helt opdigtede ting.

Der er veletablerede metoder til at identificere manipulerede billeder og video. En mulighed er at søge på nettet efter billeder, der måske er blevet masket sammen. En mere teknisk løsning er at lede efter afslørende ændringer i en digital fil eller til pixels i et billede eller en videoramme. En ekspert kan søge efter visuelle uoverensstemmelser - en skygge, der ikke burde være der, eller et objekt, der har den forkerte størrelse.

Dartmouth Universitys Hany Farid, en af ​​verdens førende eksperter, har vist, hvordan en scene kan rekonstrueres i 3-D for at opdage fysiske særheder. Han har også bevist, at subtile ændringer i pixelintensitet i en video, der angiver en persons pulsfrekvens, kan bruges til at se forskellen mellem en rigtig person og en computergenereret. For nylig har en af ​​Farids tidligere studerende, nu professor ved State University of New York i Albany, vist, at uregelmæssig øjenblink kan give et ansigt væk, der er blevet manipuleret af AI.

Alligevel kan de fleste mennesker ikke udføre denne form for detektivarbejde og har ikke tid til at studere hvert eneste billede eller klip, der dukker op på Facebook. Så efterhånden som visuel falskneri er blevet mere almindelig, har der været et skub for at automatisere analysen. Og det viser sig, at deep learning ikke kun udmærker sig ved at lave ting, den er ideel til at granske billeder og videoer for tegn på falskneri. Denne indsats er dog kun lige begyndt, og den kan i sidste ende blive hindret af, hvor realistiske de automatiske forfalskninger kunne blive.

Netværk af bedrag

En af de seneste ideer inden for AI-forskning involverer at vende neurale netværk mod sig selv for at producere endnu mere realistiske forfalskninger. Et generativt modstridende netværk, eller GAN, bruger to dybe neurale netværk: et, der er blevet trænet til at identificere rigtige billeder eller video, og et andet, der over tid lærer, hvordan man kan overliste sin modpart. GAN'er kan trænes til at producere overraskende realistiske falske billeder.

Ud over at kopiere og bytte ansigter, kan GAN'er gøre det muligt at syntetisere hele scener og mennesker, der ser helt rigtige ud, forvandle en dagscene til en natlig scene og drømme om imaginære berømtheder. GAN'er fungerer ikke perfekt, men de bliver hele tiden bedre, og dette er et varmt forskningsområde ( MIT Technology Review udnævnt GANs til en af ​​dets 10 banebrydende teknologier for 2018).

GAN'er kan forvandle scener i dagtimerne til scener om natten og drømme om imaginære berømthedsansigter.

Det mest bekymrende er, at teknikken også kunne bruges til at omgå digital efterforskning. USA's Defense Advanced Research Projects Agency inviterede forskere til at deltage i en konkurrence denne sommer, hvor nogle udviklede falske videoer ved hjælp af GAN'er og andre forsøgte at opdage dem. GAN'er er en særlig udfordring for os i det retsmedicinske samfund, fordi de kan vendes mod vores retsmedicinske teknikker, siger Farid. Det er stadig at se, hvilken side der vinder.

Dette er enden

Hvis vi ikke er forsigtige, kan dette resultere i verdens undergang - eller i det mindste hvad der ser ud som det.

I april annoncerede en formodet BBC-nyhedsrapport åbningen af ​​en atomkonflikt mellem Rusland og NATO. Klippet, som begyndte at cirkulere på meddelelsesplatformen WhatsApp, viste optagelser af missiler, der sprængte af, da en nyhedsoplæser fortalte seerne, at den tyske by Mainz var blevet ødelagt sammen med dele af Frankfurt.

Det var selvfølgelig fuldstændig falsk, og BBC skyndte sig at fordømme det. Videoen blev ikke genereret ved hjælp af kunstig intelligens, men den viste styrken af ​​falsk video, og hvordan den kan sprede rygter med fordrejningshastighed. Udbredelsen af ​​AI-programmer vil gøre sådanne videoer langt nemmere at lave og endnu mere overbevisende.

Selvom vi ikke lader os narre af falske nyheder, kan det have alvorlige konsekvenser for den politiske debat. Ligesom vi nu er vant til at stille spørgsmålstegn ved, om et fotografi muligvis er blevet photoshoppet, kunne AI-genererede forfalskninger gøre os mere mistænksomme over for begivenheder, vi ser delt online. Og det kunne bidrage til en yderligere udhuling af rationel politisk debat.

I Sandhedens død , udgivet i år, hævder litteraturkritikeren Michiko Kakutani, at alternative fakta, falske nyheder og moderne politiks generelle vanvid repræsenterer kulminationen på kulturelle strømninger, der strækker sig årtier tilbage. Kakutani ser hyperrealistiske AI-forfalskninger som blot det seneste hårde slag mod begrebet objektiv virkelighed.

Før teknologien overhovedet bliver god, er det dybt problematisk, at den eksisterer og er en måde at udhule tilliden til legitimt materiale på, siger Renee DiResta, forsker ved Data for Democracy og en af ​​de første til at identificere fænomenet politisk motiveret Twitter misinformationskampagner.

Måske er den største risiko ved denne nye teknologi så ikke, at den vil blive misbrugt af statshackere, politiske sabotører eller Anonymous, men at den yderligere vil undergrave sandheden og objektiviteten i sig selv. Hvis du ikke kan skelne en falsk fra virkeligheden, så bliver det nemt at stille spørgsmålstegn ved ægtheden af ​​noget. Dette tjener allerede som en måde for politikere at unddrage sig ansvarlighed.

Den største risiko er måske, at teknologien yderligere underminerer sandheden og objektiviteten.

Præsident Trump har vendt op og ned på ideen om falske nyheder ved at bruge udtrykket til at angribe enhver medierapport, der kritiserer hans administration. Han har også foreslået, at et inkriminerende klip af ham, hvor han nedgør kvinder, udgivet under kampagnen i 2016, kunne være blevet digitalt forfalsket. I april anklagede den russiske regering Storbritannien for at forfalske videobeviser for et kemisk angreb i Syrien for at retfærdiggøre foreslået militæraktion. Ingen af ​​anklagerne var sande, men muligheden for sofistikeret falskneri mindsker i stigende grad troværdigheden af ​​reel information. I Myanmar og Rusland søger ny lovgivning at forbyde falske nyheder, men i begge tilfælde kan lovene simpelthen tjene som en måde at slå ned på kritik af regeringen.

Efterhånden som de magtfulde bliver mere og mere opmærksomme på AI-forfalskning, bliver det nemt at afvise selv tydelige videobeviser på forseelser som intet andet end GAN-fremstillet digitalt bedrag.

Sandheden vil stadig være derude. Men vil du vide det, når du ser det?

Will Knight er seniorredaktør på MIT Technology Review der dækker over kunstig intelligens.

skjule