211service.com
Memers laver deepfakes, og tingene bliver mærkelige
Nederst til højre: det er mig. Fru Tech | NeurIPS (træningssæt); Hao (høflighed)
Grace Windheim havde hørt om deepfakes før. Men hun havde aldrig overvejet, hvordan hun skulle lave en. Det var et viralt meme ved hjælp af teknologien, der fik hende til at undersøge muligheden – og opdage, at det var super nemt og helt gratis.
Inden for en dag havde hun skabt en trin-for-trin YouTube-tutorial at lede andre gennem processen. At lave en af disse deepfakes og overlejre lyd er ikke så kompliceret, som du måske tror, siger hun i videoen, der blev offentliggjort den 4. august. Den er siden blevet set over 360.000 gange.
Windheim er en del af en ny gruppe af online-skabere, der leger med deepfakes, efterhånden som teknologien bliver mere og mere tilgængelig og siver ind i internetkulturen. Fænomenet er ikke overraskende; mediemanipulationsværktøjer har ofte vundet indpas leg og parodi . Men det rejser også nye bekymringer om dets potentiale for misbrug.
Deepfakes er allerede blevet brugt til at chikanere kvinder ved uden samtykke at bytte deres ansigter til pornovideoer. Forskere bekymrer sig også om deres evne til at forstyrre valg. Mens de deepfakes, der er oprettet til memes, stadig åbenlyst er falske og relativt harmløse, forbliver de måske ikke sådan længe.
Der er en fin linje mellem at bruge deepfakes til underholdning og memes og at bruge dem til skade, siger Windheim. I denne tutorial siger jeg: 'Sådan laver du denne særlige deepfake.' Men det skræmmende ved scriptet er, at det bare kan bruges til at lave enhver form for deepfake, du ønsker.
Jeg har været et fjols
Windheim, nyuddannet universitetsstuderende, arbejder som indholdsskaber hos den San Francisco-baserede startup Kapwing. Virksomheden, der startede som meme-producent, tilbyder en gratis suite af browserbaserede videoredigeringssoftwareværktøjer. Som en del af sit job driver Windheim YouTube-kanalen og producerer indholdsmarkedsføringsvideoer for at vise produkternes muligheder.
I begyndelsen af august stødte hun på en særlig viral søgeterm på Google Trends. Tre af de fem topforespørgsler spurgte om en Baka Mitai deepfake meme. Jeg ser næsten aldrig en forespørgsel komme så ofte op, siger hun.
Memet, som det viser sig, var baseret på en video af en YouTuber, der læbesynkroniserer til en japansk videospilssang kaldet Baka Mitai (oversættelse: I've Been a Fool). Forskellige internetbrugere havde brugt videoen til at skabe elendige deepfakes af alle fra Barack Obama til Thanos synger sangen. På trods af sin popularitet fandt Windheim dog ud af, at der ikke var skrevet meget om, hvordan man rent faktisk laver det. Hun så en mulighed.
Den særlige deepfake-algoritme, som folk brugte, kommer fra en forskningsartikel fra 2019 præsenteret på NeurIPS, den største årlige AI-forskningskonference. I modsætning til andre, mere komplekse algoritmer, giver det en bruger mulighed for at tage en hvilken som helst video af en persons ansigt og bruge den til at animere et billede af en andens ansigt med kun et par linjer kode.
Windheim fandt open source-algoritmen i en YouTube-tutorial og overførte den til en Google Colab-notesbog, en gratis tjeneste til at køre kode i skyen. Efter et par forsøg, hjulpet af de færdigheder, hun havde opnået i den lejlighedsvise kodningstime på college, fik hun manuskriptet til at spytte en deepfake-video ud. Hun synkroniserede derefter sangen til videoen med Kapwings værktøjer og skabte en ny version af memet.
Siden hun skrev hendes tutorial på Kapwings YouTube-kanal har en række andre YouTubere også lavet tutorials med den samme copy-and-pasted-algoritme. Forskellen: mange af dem lærer deres publikum, hvordan man laver nogen en slags deepfake meme. Man underviser endda folk hvordan man laver dem på mobil .
Disse memes dukker nu op overalt på sociale medier: på Twitter, Instagram og især TikTok. Platformens korte videoer, som ofte byder på snappy koreografi til iørefaldende musik, er særligt befordrende for at blive deepfakede til en fascinerende effekt. #deepfake hashtagget i appen har allerede fået mere end 120 millioner visninger.
@lemonjezus
@helltaker03
Der er en afslørende skævhed til ansigterne i videoerne lavet med denne algoritme, hvilket gør dets håndværk let at genkende; det er en del af deepfakes' humor. Disse ufuldkommenheder - og surrealistisk kvalitet af memerne - vil forhindre dem i at blive forvirrede for virkeligheden. I øjeblikket er mere hyperrealistiske deepfakes langt mere teknisk udfordrende og beregningsmæssigt dyre at skabe.
Men med den hastighed, som teknologien skrider frem, er let at lave deepfakes, der næsten ikke kan skelnes fra virkeligheden, sandsynligvis rundt om hjørnet. Nogle virksomheder som den kinesiske teknologigigant Tencent, ejer af WeChat, har offentligt annonceret deres intentioner om at investere flere ressourcer i at fremme det nyeste inden for kommercielle applikationer .
Deepfakes er ikke i sig selv dårlige. Teknologien er allerede blevet brugt af kunstnere, undervisere og andre som et kraftfuldt nyt værktøj til kreative udtryk. I februar brugte magasinet Time for eksempel deepfakes til at genskabe oplevelsen af Martin Luther King Jr. holder sin I Have a Dream-tale i virtual reality. I sidste ende skal regulatorer definere, hvad der er passende brug, og hvad der kan føre til skade.
For nu stoler Windheim på sin egen dømmekraft for at foretage det opkald. Før hun postede sin video, læste hun op om implikationerne af deepfakes og havde en samtale med sine kolleger. Vi har aldrig til hensigt, at vores produkter skal hjælpe brugerne med at sprede misinformation, siger hun, så vi ville bare tjekke os selv.
Til sidst besluttede de sig for nogle grundregler: de ville fokusere deres tutorials på at lave specifikke memes, aldrig på at skabe deepfakes uden for den kontekst. Så længe det er underholdning og inden for meme-kulturen, siger hun, er vi i den klare zone.