Her er fem måder, hvorpå deepfake-busting-teknologi kan give bagslag

Kategori: Valg 2020 Udsendt 16. dec

Deepfakes er blevet et symbol på slutningen af ​​sandheden og, for nogle, et potentielt værktøj til at svinge valg. (Lige med, at de fleste deepfakes stadig er falske porno.) Alle fra den amerikanske regering til tech-giganter til startups forsøger at udvikle deepfake-busting-teknologi. men a ny rapport udgivet i dag fra vidne , en nonprofitorganisation, der studerer syntetiske medier, påpeger, hvordan disse værktøjer kan gå galt.

Teknikkerne: Manipuleret video er ikke et nyt problem, og der er masser af sociale problemer, som selv den bedste deepfake-detektor ikke kan løse. (Ved at vide, at en video er blevet redigeret, svarer det ikke automatisk på spørgsmålet om, hvorvidt den skal fjernes. Hvad hvis det er satire?) Det har ikke forhindret virksomheder som Amber Video, Truepic og eWitness i at udvikle verificerede- at-capture- eller kontrolleret-capture-teknologier. Disse bruger en række forskellige teknikker til at signere, geotagge og tidsstemple et billede eller en video, når det er oprettet. I teorien gør det det lettere at se, om der er blevet pillet ved medierne.

Hvad er problemet? Vidnerapporten beskriver 14 forskellige måder, hvorpå disse teknologier faktisk kan ende med at være skadelige. Nogle af de vigtigste:

— De værktøjer, der bygges, kunne bruges til at overvåge mennesker
— Tekniske begrænsninger kunne forhindre disse værktøjer i at arbejde på steder, hvor de er mest nødvendige (og dem, der bruger gammelt hardware, kan blive efterladt)
- Jailbroken enheder vil ikke være i stand til at fange verificerbart materiale
-Virksomheder kan slette data eller ikke lade enkeltpersoner kontrollere dem
— At kræve mere verifikation af medier i retten kan gøre den juridiske proces længere og dyrere

Så hvad kan man gøre? Der er ingen nem løsning på disse problemer, siger Witness programdirektør Sam Gregory. Virksomhederne, der bygger disse teknologier, skal tage fat på disse spørgsmål og tænke på de mennesker, der er mest tilbøjelige til at komme til skade, tilføjer han. Det er også muligt selv at bygge syntetiske medieværktøjer på en mere etisk måde. Teknologieksperten Aviv Ovadya har for eksempel ideer til, hvordan man laver ansvarlige deepfake-værktøjer. Virksomheder kan gøre deres bedste for at undersøge, hvilke kunder der må bruge deres værktøjer og udtrykkeligt straffe dem, der overtræder deres normer. Syntetiske medier af alle slags vil blive mere almindelige. Det kræver mange forskellige taktikker at holde os alle sikre.