Deepfakes har fået Kongressen i panik. Dette er, hvad den skal gøre.

En fotoillustration af præsident Trump, den ene halvdel i sort/hvid og den anden halvdel meget mættet Ms. Tech; Originalt foto af WIN MCNAMEE; GETTY-BILLEDER

Den seneste hurtige spredning af en bearbejdet video af Nancy Pelosi har skræmt lovgivere i Washington. Videoen – redigeret for at få hende til at virke fuld – er blot et af en række eksempler i det sidste år på, at manipulerede medier har gjort det til den almindelige offentlige diskurs. I januar en anden behandlet video rettet mod præsident Donald Trump endte med at blive sendt på Seattle-tv. I denne uge blev en AI-genereret video af Mark Zuckerberg uploadet til Instagram. (Facebook har lovet ikke at tage den ned.)

Med valget i 2020 i USA er den amerikanske kongres blevet mere og mere bekymret over, at den hurtige og lette mulighed for at skabe medier kan gøre valgkampagner sårbare over for målretning fra udenlandske agenter og kompromittere vælgernes tillid.

Som svar vil Repræsentanternes Hus afholde sin første dedikerede høring i morgen om deepfakes, klassen af ​​syntetiske medier genereret af AI. Sideløbende vil repræsentant Yvette Clarke fremsætte et lovforslag om samme emne. En ny forskningsrapport udgivet af en nonprofitorganisation i denne uge fremhæver også en strategi til at klare sig, når deepfakes og andre manipulerede medier spreder sig.

Det er ikke første gang, amerikanske politiske beslutningstagere har forsøgt at gribe ind i dette spørgsmål. I december 2018 introducerede senator Ben Sasse en anden regning forsøger at forbyde ondsindede deepfakes. Senator Marco Rubio har også gentagne gange slog alarm på teknologien gennem årene. Men det er første gang, vi har set sådan en samordnet indsats fra amerikanske lovgivere.

Den dybe falske regning

Lovforslaget, et produkt af flere måneders diskussion med dataloger, desinformationseksperter og menneskerettighedsforkæmpere, vil indeholde tre bestemmelser. Den første ville kræve, at virksomheder og forskere, der skaber værktøjer, der kan bruges til at lave deepfakes, automatisk tilføjer vandmærker til forfalskede kreationer.

Det andet ville kræve, at sociale medievirksomheder indbygger bedre manipulationsdetektion direkte på deres platforme. Endelig vil den tredje bestemmelse skabe sanktioner, såsom bøder eller endda fængselsstraffe, for at straffe lovovertrædere for at skabe ondsindede deepfakes, der skader enkeltpersoner eller truer den nationale sikkerhed. Især vil den forsøge at indføre en ny mekanisme for retlig klageadgang, hvis folks omdømme skades af syntetiske medier.

Dette spørgsmål berører ikke kun politikere, siger Mutale Nkonde, stipendiat ved Data & Society Research Institute og rådgiver for lovforslaget. Deepfake-videoer er meget mere tilbøjelige til at blive udsendt mod kvinder, minoriteter, mennesker fra LGBT-miljøet, fattige mennesker. Og disse mennesker vil ikke have ressourcerne til at kæmpe tilbage mod omdømmerisici.

Målet med at indføre lovforslaget er ikke at sende det gennem Kongressen, som det er, siger Nkonde. Det er i stedet meningen at sætte gang i en mere nuanceret samtale om, hvordan man håndterer spørgsmålet i lovgivningen ved at foreslå konkrete anbefalinger, der kan kritiseres og forfines. Det, vi virkelig søger at gøre, er at indskrive i kongresprotokollen ideen om, at audiovisuel manipulation er uacceptabel, siger hun.

Den nuværende tilstand af deepfakes

Ved en tilfældighed udgav den menneskerettigheds-nonprofit Witness en ny forskningsrapport i denne uge dokumenterer den nuværende tilstand af deepfake-teknologi. Deepfakes er i øjeblikket ikke mainstream: de kræver stadig specialiserede færdigheder at producere, og de efterlader ofte artefakter i videoen, såsom glitches og pixelering, der gør forfalskningen indlysende.

Men teknologien har avanceret i et hurtigt tempo, og mængden af ​​data, der kræves for at fake en video, er faldet dramatisk. For to uger siden, Samsung demonstreret at det var muligt at lave en hel video ud af et enkelt billede; i denne uge universitets- og industriforskere demonstreret et nyt værktøj der giver brugerne mulighed for at redigere en persons ord ved at skrive, hvad de ønsker, at emnet skal sige.

Det er derfor kun et spørgsmål om tid, før deepfakes spreder sig, siger Sam Gregory, programdirektør for Witness. Mange af de måder, som folk ville overveje at bruge deepfakes - at angribe journalister, at antyde korruption fra politikere, at manipulere beviser - er klart udviklinger af eksisterende problemer, så vi bør forvente, at folk prøver de nyeste måder at gøre dem effektivt på, siger han .

Rapporten skitserer en strategi for, hvordan man kan forberede sig på sådan en forestående fremtid. Mange af anbefalingerne og meget af de understøttende beviser stemmer også overens med de forslag, der vil blive vist i Parlamentets lovforslag.

Rapporten fandt, at nuværende investeringer fra forskere og teknologivirksomheder i deepfake-generering langt opvejer investeringerne i deepfake-detektion. Adobe, for eksempel, har produceret mange værktøjer til at gøre medieændringer nemmere, inklusive en nylig funktion til at fjerne objekter i videoer; den har dog ikke givet dem en folie.

Resultatet er et misforhold mellem den virkelige natur af mediemanipulation og de tilgængelige værktøjer til at bekæmpe den. Hvis du opretter et værktøj til syntese eller forfalskning, der er sømløst for det menneskelige øje eller det menneskelige øre, bør du skabe værktøjer, der er specifikt designet til at opdage den forfalskning, siger Gregory. Spørgsmålet er, hvordan man får værktøjsmagere til at rette op på den ubalance.

Ligesom husets lovforslag anbefaler rapporten også, at sociale medier og søgevirksomheder gør et bedre stykke arbejde med at integrere manipulationsdetektionsfunktioner i deres platforme. Facebook kunne investere i genkendelse af objektfjernelse, for eksempel for at imødegå Adobes funktion såvel som andre useriøse redigeringsteknikker.

Det skal så tydeligt mærke videoer og billeder i brugernes nyhedsfeeds, så de kan ringes op, når de er blevet redigeret på måder, der er usynlige for det menneskelige øje. Google bør som et andet eksempel investere i omvendt videosøgning for at hjælpe journalister og seere med hurtigt at lokalisere den originale kilde til et klip.

Ud over Kongressen

På trods af rapportens tætte tilpasning til udkastet til lovforslaget, advarer Gregory om, at den amerikanske kongres bør tænke sig om to gange om at vedtage love om deepfakes når som helst snart. Det er tidligt at regulere deepfakes og syntetiske medier, siger han, selvom han gør undtagelser for meget snævre applikationer, såsom deres brug til at producere seksuelle billeder uden samtykke. Jeg tror ikke, vi har en god nok fornemmelse af, hvordan samfund og platforme vil håndtere deepfakes og syntetiske medier for at sætte regler på plads, tilføjer han.

Gregory bekymrer sig om, at den aktuelle diskussion i Washington kan føre til beslutninger, der senere får negative konsekvenser. Amerikanske regler kan i høj grad præge, hvad andre lande gør, f.eks. Og det er let at se, hvordan politikerbeskyttende regler i lande med mere autoritære regeringer kunne bruges til at retfærdiggøre fjernelse af indhold, der er kontroversielt eller kritiserer politiske ledere.

Nkonde er enig i, at kongressen bør tage en afmålt og tankevækkende tilgang til spørgsmålet og overveje end blot dets indvirkning på politik. Jeg håber virkelig, de vil tale [under høringen] om, hvor mange mennesker denne teknologi påvirker, siger hun, og den psykologiske virkning af ikke at være i stand til at tro, hvad man kan se og høre.

skjule