Deepfake-busting apps kan finde selv en enkelt pixel malplaceret

Udlånt af Serelay





Det krævede en masse arbejde at forfalske billeder og videoer. Enten brugte du CGI til at generere fotorealistiske billeder fra bunden (både udfordrende og dyre), eller også havde du brug for en vis beherskelse af Photoshop – og en masse tid – til overbevisende at ændre eksisterende billeder.

Nu har fremkomsten af ​​AI-genererede billeder gjort det nemmere for enhver at tilpasse et billede eller en video med forvirrende realistiske resultater. Tidligere i år, MIT Technology Review Senior AI-redaktør Will Knight brugte hyldevare til at lave sin egen falske video af den amerikanske senator Ted Cruz. Videoen er lidt glitchy, men den varer ikke længe.

Den samme teknologi skaber en voksende klasse af optagelser og billeder, kaldet deepfakes, som har potentialet til at underminere sandheden, forvirre seerne og så uenighed i meget større skala, end vi allerede har set med tekstbaserede falske nyheder.



Det er de muligheder, der forstyrrer Hany Farid, en professor i datalogi ved Dartmouth College, som har afkræftet falske billeder i 20 år. Jeg tror ikke, vi er klar endnu, advarer han. Men han håber på, at voksende bevidsthed om problemet og ny teknologisk udvikling bedre kan forberede folk til at skelne sande billeder fra manipulerede kreationer.

Et originalt billede af Oxford Universitys Brasenose College. Høflighed af Serelay

Et eksempel på, hvordan det originale billede kunne redigeres for at fjerne LGBTQ-regnbueflaget på taget. Udlånt af Serelay



Der er to hovedmåder at håndtere udfordringen med at verificere billeder, forklarer Farid. Den første er at lede efter ændringer i et billede. Billedkriminaltekniske eksperter bruger beregningsteknikker til at finde ud af, om nogen pixels eller metadata ser ud til at være ændret. De kan for eksempel lede efter skygger eller refleksioner, der ikke følger fysikkens love, eller kontrollere, hvor mange gange en billedfil er blevet komprimeret for at afgøre, om den er blevet gemt flere gange.

Den anden og nyere metode er at verificere et billedes integritet i det øjeblik, det tages. Dette indebærer at udføre snesevis af kontroller for at sikre, at fotografen ikke forsøger at forfalske enhedens placeringsdata og tidsstempel. Bekræfter kameraets koordinater, tidszone og højde og nærliggende Wi-Fi-netværk hinanden? Brydes lyset i billedet, som det ville gøre for en tredimensionel scene? Eller tager nogen et billede af et andet todimensionelt billede?

Farid mener, at denne anden tilgang er særlig lovende. I betragtning af de to milliarder billeder, der uploades til nettet dagligt, mener han, at det kunne hjælpe med at verificere billeder i skala.



Serelay giver brugere mulighed for at uploade mistænkelige billeder for at kontrollere, om de er blevet behandlet. Systemet udfører en række kontroller for at bestemme, hvor eventuelle ændringer er blevet foretaget. Udlånt af Serelay

To startups, USA-baserede Truepic (som Farid rådgiver for) og UK-baserede Serelay, arbejder nu på at kommercialisere denne idé. De har taget lignende tilgange: hver har gratis iOS- og Android-kameraapps, der bruger proprietære algoritmer til automatisk at bekræfte billeder, når de tages. Hvis et billede bliver viralt, kan det sammenlignes med originalen for at kontrollere, om det har bevaret sin integritet.

Mens Truepic uploader sine brugeres billeder og gemmer dem på sine servere, gemmer Serelay et slags digitalt fingeraftryk ved at beregne omkring hundrede matematiske værdier fra hvert billede. (Virksomheden hævder, at disse værdier er nok til at detektere selv en enkelt-pixel redigering og bestemme omtrent hvilken del af billedet der blev ændret.) Truepic siger, at de vælger at gemme de fulde billeder, hvis brugere ønsker at slette følsomme billeder af sikkerhedsmæssige årsager. (I nogle tilfælde skal Truepic-brugere, der opererer i scenarier med høj trussel, som en krigszone, fjerne appen umiddelbart efter, at de har dokumenteret scener.) Serelay mener derimod, at ikke at gemme billederne giver brugerne større privatliv.



Serelay er i stand til at fange og fremhæve det manglende flag på billedet. Udlånt af Serelay

Som et ekstra lag af tillid og beskyttelse gemmer Truepic også alle fotos og metadata ved hjælp af en blockchain - teknologien bag Bitcoin, der kombinerer kryptografi og distribueret netværk for at opbevare og spore information sikkert.

Det er ikke skudsikkert, indrømmer Farid, og han siger, at der er nogle ulemper. For eksempel skal brugere bruge bekræftelsessoftwaren i stedet for kameraappen på deres telefon. Han bemærker også, at virksomheder, der forsøger at kommercialisere denne form for teknologi, kan prioritere indtægtsgenerering frem for sikkerhed. Der er en vis tillid, vi sætter til de virksomheder, der bygger disse apps, siger han.

Men der er også afbødende strategier. Truepic og Serelay tilbyder begge softwareudviklingssæt for at gøre deres teknologi tilgængelig for tredjepartsplatforme. Deres idé er en dag at gøre deres verifikationsteknologi til en industristandard for digitale kameraer, inklusive Facebooks, Snapchats eller endda Apples native kamera-app. I det scenarie kunne et uændret billede, der er lagt ud på sociale medier, automatisk modtage et flueben, som et Twitter-bekræftelsesmærke, der indikerer, at det matcher et billede i deres database - et tegn på, at Serelay håber ville etablere troværdighed.

Langt størstedelen af ​​det indhold, vi ser online, er taget med mobile enheder, siger Farid. Der er dybest set en håndfuld kameraer derude, der kan inkorporere denne type teknologi i deres system, og jeg tror, ​​du ville have en ret god løsning.

Hver startup er nu i tidlige samtaler med sociale medievirksomheder for at udforske muligheden for et partnerskab, og Serelay er også en del af et nyt Facebook-acceleratorprogram kaldet LDN_LAB.

Selvom teknologien endnu ikke er udbredt, opfordrer Farid folk til at bruge den som standard, når de dokumenterer scenarier med høj indsats, uanset om det er politiske kampagnetaler, menneskerettighedskrænkelser eller beviser på et gerningssted. Truepic har allerede set borgere bruge sin app til at dokumentere kriser i Syrien. Al Jazeera brugte derefter de verificerede optagelser til at producere flere videoer . Begge selskaber har også markedsført deres teknologi i forsikringsbranchen som en verificeret måde at dokumentere skader på.

Farid siger, at det er vigtigt for virksomheder, der udfører dette arbejde, at være gennemsigtige omkring deres processer og arbejde med betroede partnere. Det kan hjælpe med at bevare brugertilliden og holde dårlige aktører væk.

Vi har stadig et stykke vej at gå for at være fuldt forberedt på udbredelsen af ​​deepfakes, siger han. Men han er håbefuld. Truepic-teknologien og Serelay-teknologien er i god stand, siger han. Jeg tror, ​​vi er ved at være klar.

skjule