At lave deepfake-værktøjer behøver ikke at være uansvarligt. Sådan gør du.

Et eksempel cirkuleret af Facebook på to kvinder, der laver kaffe: Den ene er en deepfake. Facebook

Syntetiske medieteknologier - populært kendt som deepfakes - har et reelt potentiale for positiv effekt. Stemmesyntese vil for eksempel give os mulighed for at tale på hundredvis af sprog med vores egen stemme. Videosyntese kan hjælpe os med at simulere selvkørende bilulykker for at undgå fejl i fremtiden. Og tekstsyntese kan accelerere vores evne til at skrive både programmer og prosa.

Men disse fremskridt kan komme til en gigantisk pris, hvis vi ikke er forsigtige: de samme underliggende teknologier kan også muliggøre bedrag med globale konsekvenser.

Heldigvis kan vi både aktivere teknologiens løfte og mindske dens fare. Det vil bare kræve noget hårdt arbejde.

Det, jeg argumenterer for her, er ment som en opfordring til handling for at udføre det arbejde – og en guide til at støtte dem af os, der skaber sådan teknologi, uanset om vi laver banebrydende forskning, udvikler nye produkter eller blot åbner- kildesystemer for sjov. Dette er også for dem, der investerer i eller finansierer sådant arbejde, journalisterne, der kan hjælpe med at sikre, at teknologiskabere tager deres indvirkning seriøst, og venner eller familie til dem, der skaber denne teknologi.

Vi kan længere fravære os selv ansvar ved at sige, at der ikke er noget, vi kan gøre, hvis folk misbruger vores værktøjer. For der er ting, vi kan gøre; det er bare, at vi ofte ikke gider. Et andet argument, Denne teknologi vil alligevel blive fremsat, er ikke helt falsk - men hvordan og hvornår betyder væsentligt og kan ændre sig som et resultat af vores valg. (For mere om dette, herunder nogle trusselsmodeller, se venligst vores fuldt papir , især afsnit 2 om, hvad der fører til skade.) Endelig kan vi ikke gemme os bag den banale erkendelse af, at der altid har været bedrag, mens vi ignorerer de væsentlige forskelle i grad og virkning.

Omkostningerne ved deepfake-teknologi er ikke kun teoretiske. Syntetiske videoer med ansigtsbytte chikanere journalister til tavshed ; syntetiske stemmer bliver brugt til store svigagtige transaktioner , og syntetiske ansigter har angiveligt støttet spionage . Alt dette er på trods af de nuværende udfordringer ved at bruge hacket-sammen beta-kvalitetssoftware. Forhindringerne for at bruge syntetiske medier er stadig for høje til, at teknologien kan være overbevisende for de fleste ondsindede aktører - men når den bevæger sig fra buggy-betaer og over i hænderne på milliarder af mennesker, har vi et ansvar for at undgå værste tilfælde scenarier ved at gøre det så svært som muligt at bruge deepfakes til det onde. Hvordan?

Fremgangsmåde 1: Begrænsning af, hvem der kan bruge et værktøj ... og hvordan

Der er flere ting, vi kan gøre, der gør ondsindet brug meget mindre sandsynlig. En indlysende, enkel og effektiv tilgang er at omhyggeligt dyrlæge dem, der kan bruge et værktøj. Det er, hvad virksomheder kan lide Syntese gør - i det væsentlige kun arbejder med godkendte virksomhedskunder.

Et alternativ er at begrænse brugen : for at begrænse, hvad brugere kan syntetisere eller manipulere. For eksempel er det muligt at bygge værktøjer til at sikre, at kun bestemte forudvalgte stemmer eller ansigter kan manipuleres. Det er hvad Menneske , for eksempel gør - at give et begrænset sæt bevægelser, som personen i en genereret video kan foretage.

Disse er muligvis ikke en mulighed for mange systemer. Så hvad kan man ellers gøre?

Fremgangsmåde 2: Modvirke ondsindet brug

For syntetiske medieværktøjer, der er generelle og kan gøres bredt tilgængelige, er der stadig mange mulige måder at reducere ondsindet brug på. Her er nogle eksempler.

• Klar afsløring: Anmod om, at syntetiserede medier tydeligt angives som sådan - især materiale, der kan bruges til at vildlede. Værktøjer kan muligvis understøtte dette ved at inkludere tydelige visuelle eller hørbare meddelelser i outputfiler, såsom synlige advarsler eller talte afsløringer. Metadata bør som minimum angive, hvordan medier blev syntetiseret eller manipuleret.
• Samtykkebeskyttelse: Kræv samtykke fra dem, der efterlignes. Værktøjet til stemmekloning Lyrefugl kræver, at brugere taler bestemte sætninger for at modellere deres stemme. Dette gør det sværere at efterligne nogen uden samtykke, hvilket ville være meget muligt, hvis det blot genererede stemmer ved hjælp af et hvilket som helst datasæt. Dette gælder selvfølgelig kun for værktøjer, der muliggør personefterligning.
• Detektionsvenlighed: Sørg for, at det syntetiserede medie ikke er overdrevent svært at opdage; holde detektorværktøjer opdateret; samarbejde med dem, der arbejder med detektion, for at holde dem orienteret om nye udviklinger.
• Skjulte vandmærker: Integrer kontekst om syntese - eller endda de originale medier - gennem robuste vandmærker, både ved hjælp af metoder, der er tilgængelige for alle med de rigtige værktøjer, og gennem tilgange, der er hemmelige og svære at fjerne. (For eksempel, Modulate.ai vandmærker lyd, som den genererer, mens produkter som Imatag og deres open source-ækvivalenter muliggør vandmærkning til billeder.)
• Brugslogfiler: Gem information om brug og medieoutput på en måde, som forskere og journalister kan få adgang til for at identificere, om for eksempel en video sandsynligvis er blevet syntetiseret ved hjælp af et bestemt værktøj. Dette kunne omfatte lagring af tidsstempler for syntese med en robust hash eller medieindlejring.
• Brug begrænsninger: Giv og håndhæv kontraktlige brugsbetingelser, der forbyder og straffer uønskede handlinger, såsom forsøg på at fjerne afsløringer eller vandmærker, eller krænkelse af andre menneskers samtykke. En stærkere version af denne tilgang involverer eksplicit at udarbejde tilladte anvendelser af teknologien eller resulterende output.

Ikke alle disse strategier er anvendelige for alle systemer. Nogle kan have deres risici, og ingen er perfekte – eller tilstrækkelige alene. De er alle en del af et forsvar i dybden, hvor mere er mere. Selvom vi har kontrol eller begrænsninger, gør disse tilgange stadig et system mere robust over for modstandere. Og selvom det at følge disse regler måske fungerer bedst for software-as-a-service-systemer, der leveres uden at afsløre nogen kildekode, kan de stadig give en vis værdi for open source-værktøjer og -modeller: mange dårlige aktører vil ikke have den tekniske kapacitet til at få omkring disse beskyttelsesforanstaltninger. ( Hele papiret undersøger, hvornår kildekoden skal udgives i første omgang).

Understøtter etiske deepfake-værktøjer

At gøre ekstra arbejde for at beskytte folk mod skade kan være svært at retfærdiggøre i dagens konkurrenceprægede forretningsmiljø - indtil en uigenkaldelig katastrofe sker. Så hvordan hjælper vi med at sikre, at disse tilgange implementeres, før det er for sent? Her er fire ting, som finansiører, regeringer, journalister og offentligheden kan gøre nu for at støtte dem, der fremstiller etiske syntetiske medieværktøjer.

Gør det nemt at gøre det rigtige

Det betyder, at vi skal investere i forskning inden for alle disse områder, så vi har bredt tilgængelige, velfinansierede, open source-værktøjer til at implementere disse tilgange. Historien om informationssikkerhed viser, at når letanvendelige open source-værktøjer kan bruges til at holde tingene sikre, ender mange flere ting sikre. Den samme logik gælder her: Vi har i det mindste et presserende behov for at gøre det nemt at levere standardiserede metadata, vandmærker og logning. Vi har også brug for forskning for at undersøge, om det er muligt at indbygge sporbarhed i trænede modeller før distribution. Uden denne form for infrastruktur og forskning vil vi se mange velmenende nye værktøjer blive brugt på forfærdelige måder.

Fremme ekspertise i at afbøde misbrug

Ligesom inden for privatliv og sikkerhed skal vi støtte fællesskaber, der fokuserer på at hærde systemer og adressere dårlige aktører, og virksomheder skal betale folk for at udføre dette arbejde, enten som konsulenter eller internt.

Undgå at finansiere, bygge og distribuere uansvarlige værktøjer

Hvis en virksomhed eller et værktøj ikke i det mindste forsøger at reducere risikoen for misbrug, bør finansierere og udviklere ikke støtte det. Værktøjsproducenter, der ikke implementerer den bedste praksis, der er anført ovenfor, skal have meget gode grunde, og appbutikker bør kræve dem som standard.

Skab normer ved at holde folk ansvarlige

Hvis de er uagtsomme, bør vi kalde dem ud – også selvom de er vores investorer, kolleger, venner eller familie. Vi kan skabe etiske normer ved at rose dem, der gør det rigtige, og presse dem, der ikke gør det, til at gøre det bedre.

Organisationer, der fremmer deepfake-teknologi, som Nvidia, Adobe, Facebook og Google, bør investere kraftigt i alt ovenstående. Venturekapitalister og fonde bør også gøre deres del i at støtte dette arbejde og være forsigtige med, hvem de støtter.

Dette er kun et udsnit af et meget bredere sæt af indsatser, der er nødvendige, og i mange tilfælde køber de os måske kun lidt mere tid. Det betyder, at det er bydende nødvendigt at sikre, at platforme og politiske beslutningstagere bruger den tid fornuftigt til at gøre vores informationsøkosystem mere robust.

Vores fortid er fyldt med dem, der ønskede, at de havde introduceret deres opfindelser mere omhyggeligt - og vi har kun én fremtid. Lad os ikke skrue op.

—Aviv Ovadya er grundlæggeren af Tankevækkende teknologiprojekt og en ikke-resident fellow ved German Marshall Funds Alliance for Securing Democracy. Se hele papiret om at afbøde negative virkninger af forskning i syntetiske medier, skrevet i samarbejde med Jess Whittlestone, her .

skjule