Facebook, Google, Twitter er ikke forberedt på præsidentielle deepfakes

Kategori: Kunstig intelligens Udsendt august 06

Ingen af ​​de tre store internettågehorn – Facebook, Google eller Twitter – ser ud til at have en klar plan for at håndtere AI-genererede falske videoer eller deepfakes forud for næste års præsidentvalg, ifølge formanden for House Intelligence Committee.

Status opdatering: Adam Schiff, en demokrat fra Californien, sagde fredag, at de tre virksomheder er begyndt at tænke seriøst over de udfordringer, som maskinmanipulerede medier eller deepfakes udgør, men at der er meget mere arbejde at gøre, hvis de skal være forberedte på det disruptive. effekt af denne teknologi ved næste valg.

Gå ikke i panik: Ingen grund til at flippe ud. Der er faktisk nogle nye teknikker til at spotte videoer, der er blevet fremstillet ved hjælp af AI.

Face-off: Deepfake-videoer bruger de seneste fremskridt inden for maskinlæring til automatisk at bytte ansigter i en video eller udføre andre virkelighedsslørende tricks. Simple deepfake-værktøjer kan downloades fra nettet, og du kan finde mange surrealistiske eksempler på resultaterne på tværs af internettet .

Bekymringen: Billedmanipulation har eksisteret i lang tid, men kunstig intelligens gør sofistikeret falskneri mere tilgængelig. Under et valg kunne en deepfake måske bruges til at påvirke vælgerne i sidste øjeblik. I maj cirkulerede en video af Nancy Pelosi, der var blevet behandlet for at få det til at se ud, som om hun slørede sin tale hurtigt på sociale medier.

Kat og mus: I øjeblikket er der et par måder at få øje på deepfakes. Uregelmæssigt blink er f.eks. et afslørende tegn på, at en video er blevet rodet med. Men detektion er noget af et våbenkapløb, fordi en AI-algoritme normalt kan trænes til at løse en given fejl.

Gotcha: Denne juni, et nyt papir fra flere digitale retsmedicinske eksperter skitserede en mere idiotsikker tilgang. Den er afhængig af at træne en detektionsalgoritme til at genkende en bestemt persons ansigts- og hovedbevægelser og derved vise, hvornår denne persons ansigt er blevet klistret ind på en andens hoved og krop. Fremgangsmåden virker kun, når systemet er blevet trænet til at genkende nogen, men det kunne i det mindste holde præsidentkandidaterne sikre mod angreb.

tie stille? Google har faktisk givet nogle midler til denne nye forskning. Så måske holder disse virksomheder deres kort tæt til brystet, når det kommer til deepfake-detektion. Hvis du vil være et skridt foran fakerne, ville det bestemt være et smart træk.