211service.com
Ægte eller falsk? AI gør det meget svært at vide
Nyhedsoverskrifter er måske ikke de eneste ting, der er falske i fremtiden.
Kraftige maskinlæringsteknikker (se The Dark Secret at the Heart of AI ) gør det stadig nemmere at manipulere eller generere realistisk video og lyd og at efterligne enhver, du vil, med forbløffende nøjagtighed.
En smartphone-app kaldet FaceApp , udgivet for nylig af en virksomhed baseret i Rusland, kan automatisk ændre en persons ansigt for at tilføje et smil, tilføje eller trække år fra eller bytte køn. Appen kan også anvende forskønnende effekter, der inkluderer udglatning af rynker og, mere kontroversielt, oplysning af huden.
Og i sidste uge ringede et firma Lyrefugl , som blev spundet ud af University of Montreal, demonstrerede teknologi, som den siger kan bruges til at efterligne en anden persons stemme. Virksomheden postede demonstrationsklip af Barack Obama, Donald Trump og Hillary Clinton, der alle støttede teknologien.
Dette er blot to eksempler på, hvordan de mest kraftfulde AI-algoritmer kan bruges til at generere indhold i stedet for blot at analysere data.
Kraftig grafikhardware og -software samt nye videooptagelsesteknologier driver også denne tendens. Sidste år demonstrerede forskere ved Stanford University et ansigtsbytteprogram kaldet Face2Face . Dette system kan manipulere videooptagelser, så en persons ansigtsudtryk matcher dem, som en person bliver sporet ved hjælp af et dybdefølende kamera. Resultatet er ofte uhyggeligt realistisk.
Evnen til at manipulere stemmer og ansigter så realistisk kunne rejse en række problemer, som skaberne af Lyrebird erkender.
Stemmeoptagelser betragtes i øjeblikket som stærke beviser i vores samfund og især i mange landes jurisdiktioner, lyder en etisk erklæring, der er lagt ud på virksomhedens hjemmeside. Vores teknologi sætter spørgsmålstegn ved gyldigheden af sådanne beviser, da den gør det nemt at manipulere lydoptagelser. Dette kan potentielt have farlige konsekvenser.
Både FaceApp og Lyrebird bruger dybe generative konvolutionelle netværk til at aktivere disse tricks. Det betyder, at virksomheden anvender en teknik, der er dukket op i de senere år som en måde at få algoritmer til at gå ud over blot at lære at klassificere ting og generere deres egne plausible data.
Ligesom mange opgaver inden for kunstig intelligens i dag, involverer dette brug af meget store eller dybe neurale netværk. Sådanne netværk tilføres normalt træningsdata og justeres, så de reagerer på den ønskede måde på nye input. For eksempel kan de trænes til at genkende ansigter eller objekter på billeder med en fantastisk nøjagtighed.
Men de samme netværk kan så fås til at generere deres egne data baseret på, hvad der var i stand til at internalisere om det datasæt, de blev trænet på.
Det er muligt at træne sådan et netværk til generere billeder fra bunden, der næsten ligner den ægte vare. I fremtiden, ved at bruge de samme teknikker, kan det også blive meget nemmere at manipulere video. På et tidspunkt er det sandsynligt, at det bliver muligt at generere hele videoer med neurale net, siger Alexandre de Brebisson , en medstifter af Lyrebird. Det er mere udfordrende, fordi der er meget variation i det højdimensionelle rum, der repræsenterer videoer, og de nuværende modeller for det er stadig ikke perfekte.
I betragtning af de teknologier, der nu dukker op, kan det blive stadig vigtigere at være i stand til at opdage falsk video og lyd.
Justus Thies , en ph.d.-studerende ved Friedrich Alexander Universitetet i Tyskland og en af forskerne bag Face2Face, real-time face-swapping-appen, siger, at han har startet et projekt, der har til formål at opdage manipulation af video. Mellemresultater ser lovende ud, siger han.