Tre trusler fra deepfakes, som teknologien ikke vil løse

Skærmbillede fra Putin deepfake video MIT Technology Review

Forestil dig dette: En perfekt nøjagtig deepfake-detektor findes endelig. Det tilføjer øjeblikkeligt en stor rød DEEPFAKE-label til hver video, der er blevet manipuleret med AI, uanset hvor problemfrit realistisk videoen kan se ud.

Det lyder måske som lige det, vi har brug for for at bekæmpe deepfakes, som folk er bekymrede for kan bringe slutningen på sandheden og demokratiets død . Helt rigtige manipulerede videoer kunne være her om så lidt som seks måneder , hvilket antyder, at den amerikanske præsidentvalgkamp i 2020 kan blive en slagmark for falske videoer: Donald Trump indrømmer at have korrupte aftaler med Rusland, Elizabeth Warren fortaler for et totalt forbud mod våben, Kamala Harris nedgør hvide mennesker.

Teknologer har reageret med mere teknologi. Det Den amerikanske regering har finansieret et projekt om medieforensik. Facebook og Microsoft annoncerede for nylig en deepfake detektionsudfordring, og Google udgav en gigantisk database over deepfakes til at bekæmpe deepfakes. Men selvom teknikken til at skabe deepfakes er ny, er meget af den faktiske skade, de repræsenterer - desinformation og chikane - ikke ifølge Britt Paris, en informationsforsker ved Rutgers University og medforfatter til en seneste data- og samfundsrapport på deepfakes. En perfekt nøjagtig deepfake-detektor kan ikke løse disse skader. Det er derfor.

1) Problem: Deepfake-detektorer kan ikke fortælle os, hvad der bør og ikke bør fjernes

Kan du huske den langsommere video af Nancy Pelosi? Det var ikke en deepfake. Det spredte stadig usandheder, og Facebook besluttede ikke at tage det ned. En deepfake-detektor ville ikke have hjulpet med det dommeopkald. Jo mere du kommer i retning af automatiseret brug, jo større sandsynlighed er der for, at du har unøjagtigheder eller censur, siger Kate Klonick, professor ved St. John's University og ekspert i platformsstyring. At definere satire, definere falske nyheder, definere fiktion – det er alt sammen enorme filosofiske spørgsmål.

Idé: Bedre mådehold

Samfundet skal arbejde igennem disse problemer. Indtil da kunne en løsning være at give mere magt til dem, der er i stand til at foretage dømmende opkald: menneskelige indholdsmoderatorer. Til det formål kunne moderatorer blive betalt mere, trænet bedre og værdsat som en vigtig del af opretholdelsen af ​​et sikkert internet, siger Sarah T. Roberts, en informationsforsker ved UCLA. Specialiserede hold af kontrollerede moderatorer kunne bedømme konteksten af ​​en video, faktatjekke den og beslutte, om den skal forblive på en platform. De har måske ikke det perfekte svar til den Pelosi-video, men de ville stadig have en fornemmelse af den sociale og politiske virkning af en række deepfakes og deres mål. Det kunne de fortælle parodi deepfakes af Nicolas Cage er fine og falsk porno er ikke.

En anden, der kunne være kvalificeret til at dømme en deepfake? Offer for en. Virksomheder bør gøre det lettere at rapportere dybfalsk chikane, siger Danielle Citron, en cyberlovekspert ved Boston University. Alle brugere skal oplyses om deres rettigheder, og trinene til rapportering skal være indlysende og tilgængelige, ikke begravet i en privatlivspolitik.

2) Problem: Deepfake-busting-teknologi hjælper måske ikke de mennesker, der har mest brug for beskyttelse

Historien har vist, at ny teknologi bliver brugt mod marginaliserede grupper – som kvinder, farvede mennesker, LGBT-personer og aktivister – før det bliver en mainstream-trussel, siger Paris. I 1990'erne, for eksempel, var der allerede rå Photoshop-billeder af kvinders hoveder på kroppen af ​​voksne filmskuespillerinder. Magten var ligeglad nok til at gøre noget ved det. Hvis vi havde været opmærksomme på problemet med seksuel udnyttelse af kvinder uden deres samtykke dengang, ville vi have været i en meget bedre position til at håndtere det socialt, juridisk og kulturelt nu, siger Mary Anne Franks, juridisk forsker ved universitetet. af Miami.

Historien gentager sig. Forskere siger, at den største risiko for deepfakes ikke er, at de svinger et valg, men det de er vant til at mobbe private borgere.

Idé: Bygg ikke noget uden at rådføre sig med de mest berørte

Tal med de mennesker, der er mest sårbare over for deepfakes, siger Sam Gregory, programdirektør hos Witness, en nonprofitorganisation, der studerer syntetiske medier. Selvom målet er at skabe en deepfake-detektor, er der masser af sociale spørgsmål involveret. Vil det være tilgængeligt for folk i andre lande? Vil det blive trænet til at spotte politiske forfalskninger eller køn og seksuel vold? Når først infrastrukturen er sat, er det virkelig marginaliserede mennesker og befolkninger, der er udelukket, fordi de ikke har agenturet til at ændre den infrastruktur, siger Gregory.

3) Problem: Deepfake-detektion er for sent til at hjælpe ofrene

Med deepfakes er der kun lidt reel udvej, efter at videoen eller lyden er ude, siger Franks, University of Miami-forsker.

Eksisterende love er utilstrækkelige. Love, der straffer deling af legitime private oplysninger såsom lægejournaler, gælder ikke for falske, men skadelige videoer. Lovene mod personefterligning er mærkeligt begrænsede, siger Franks - de fokuserer på at gøre det ulovligt at efterligne en læge eller embedsmand. Injurielove omhandler kun falske repræsentationer, der skildrer emnet negativt, men Franks siger, at vi bør være bekymrede over deepfakes, der også fejlagtigt fremstiller mennesker i et positivt lys.

Idé: Nye love

Texas vedtog for nylig et lovforslag om forbud mod deepfakes . TIL Californien deepfake regning vedtaget i begge huse og afventer nu guvernør Gavin Newsoms underskrift. I mellemtiden indførte repræsentant Yvette Clarke, en amerikansk kongreskvinde fra New York, for nylig føderal lovgivning kaldet DEEPFAKES Accountability Act . Det ville tvinge sociale medievirksomheder til at indbygge bedre detektionsværktøjer i deres platforme og gøre det muligt at straffe eller fængsle folk, der poster ondsindede deepfakes.

På deres side arbejder Franks og Citron på et føderalt lovforslag for at kriminalisere ondsindede deepfakes, som de kalder digitale forfalskninger. Efter deres tankegang er en digital forfalskning noget, som en fornuftig person ville tro er ægte. Det skal også være sandsynligt, at det vil forårsage skade på en bestemt person eller den offentlige orden - for eksempel hvis en video fejlagtigt viser en muslimsk person, der begår en forbrydelse.

For at en sådan lov skal fungere i USA, ville den ideelt set være på føderalt niveau, ikke på statsniveau. På grund af en lov kaldet Section 230 er platformvirksomheder ikke juridisk ansvarlige for hosting af skadeligt tredjepartsindhold, medmindre det overtræder føderal straffelov. Hvis det blev en forbrydelse at poste skadelige videoer, ville det ikke kun afholde folk fra at poste dem; platforme som Facebook ville skulle arbejde hårdere for at holde dem væk. Disse virksomheder ville ikke være i stand til at rejse Section 230 til forsvar, siger Franks. De ville have et hvilket som helst antal forsvar, men den særlige vej til dem ville blive blokeret.

skjule