Glem falske nyheder - næsten alle deepfakes bliver lavet til porno

Kategori: Teknisk politik Udsendt 07 okt

Internettet er hjemsted for mindst 14.678 deepfakes, ifølge en ny rapport fra DeepTrace , en virksomhed, der bygger værktøjer til at spotte syntetiske medier. Men de fleste af dem var ikke skabt til at rode med valg.

Tilbage til begyndelsen: Deepfakes ankom til stedet i slutningen af ​​2017. Ordet blev oprindeligt brugt til at beskrive AI-genereret falsk porno , med hovederne af skuespillerinder på kroppen af ​​voksne filmstjerner. Siden da er betydningen af ​​deepfakes udvidet til at henvise til enhver form for manipuleret video, som en med Mark Zuckerberg, der holder en falsk tale om Facebook. Dette har vækket frygten for slutningen af ​​sandheden og potentialet ved deepfakes til at svinge valg.

Internettet er til porno: Rapporten fandt, at de fleste af videoerne ikke handler om at forsøge at påvirke politik. Hele 96% af deepfakes var stadig almindelig gammel falsk porno. Deepfake pornografi er et fænomen, der udelukkende retter sig mod og skader kvinder, skriver forfatterne. Al den falske porno indeholdt kvinder, for det meste berømte skuespillerinder og musikere. (De resterende ikke-pornografiske deepfakes på YouTube omfattede for det meste mænd.) Selve tallet er ikke så højt, men det er bekymrende, at det vokser så hurtigt.

Kæmper tilbage med loven: Spørgsmålet har fanget lovgivernes opmærksomhed. I Californien, guvernør Gavin Newsom lige underskrevet to lovforslag som begrænser, hvad folk kan gøre med deepfakes. En lov gør det ulovligt at lave og distribuere en ondsindet deepfake af en politiker inden for to måneder efter et valg. (ACLU og Electronic Frontier Foundation har allerede skubbet tilbage og sagt loven er for bred og vil skade politisk tale .) Det anden deepfake lov kommer tættere på, hvordan manipulationerne virkelig bliver brugt. Det lader folk sagsøge, hvis deres billede bruges i deepfake porno uden samtykke .