211service.com
Facebook har netop udgivet en database med 100.000 deepfakes for at lære kunstig intelligens at se dem
Deepfakes har ramt en nerve hos både offentligheden og forskere. Der er noget unikt foruroligende ved disse AI-genererede billeder af folk, der ser ud til at sige eller gøre noget, de ikke gjorde.
Med værktøjer til at lave deepfakes nu bredt tilgængelige og relativt nemme at bruge, bekymrer mange sig også om, at de vil blive brugt til at sprede farlig misinformation. Politikere kan få lagt andres ord i munden eller få dem til at deltage i situationer, de ikke har været med til, f.eks.
Det er frygten i hvert fald. For et menneskeligt øje er sandheden, at deepfakes stadig er relativt nemme at få øje på. Og iflg en rapport fra cybersikkerhedsfirmaet DeepTrace Labs i oktober 2019, stadig den mest omfattende til dato, er de ikke blevet brugt i nogen desinformationskampagne. Alligevel fandt den samme rapport også ud af, at antallet af deepfakes, der blev lagt ud online, voksede hurtigt, med omkring 15.000 dukke op i de foregående syv måneder. Det tal vil være langt større nu.
Sociale medievirksomheder er bekymrede over, at deepfakes snart kan oversvømme deres websteder. Men det er svært at opdage dem automatisk. For at løse problemet ønsker Facebook at bruge AI til at hjælpe med at kæmpe tilbage mod AI-genererede forfalskninger. For at træne AI'er til at spotte manipulerede videoer udgiver den det største datasæt nogensinde af deepfakes - mere end 100.000 klip produceret ved hjælp af 3.426 skuespillere og en række eksisterende teknikker til ansigtsbytte.
Deepfakes er i øjeblikket ikke et stort problem, siger Facebooks CTO, Mike Schroepfer. Men den lektie, jeg har lært på den hårde måde i løbet af de sidste par år, er ikke at blive fanget fladfodet. Jeg vil virkelig være forberedt på en masse dårlige ting, der aldrig sker, snarere end omvendt.
Facebook har også offentliggjort vinderen af sin Deepfake Detection Challenge , hvor 2.114 deltagere indsendte omkring 35.000 modeller trænet på deres datasæt. Den bedste model, udviklet af Selim Seferbekov, en maskinlæringsingeniør hos kortlægningsfirmaet Mapbox, var i stand til at opdage, om en video var en deepfake med 65 % nøjagtighed, når den blev testet på et sæt af 10.000 tidligere usete klip, inklusive en blanding af nye videoer genereret af Facebook og eksisterende taget fra internettet.
For at gøre tingene sværere inkluderer træningssættet og testsættet videoer, som et registreringssystem kan blive forvirret af, såsom folk, der giver makeup-tutorials, og videoer, der er blevet justeret ved at indsætte tekst og former over højtalernes ansigter, ændre opløsningen eller orientering og bremse dem.
I stedet for at lære retsmedicinske teknikker, såsom at lede efter digitale fingeraftryk i pixels i en video, der er efterladt af deepfake-genereringsprocessen, ser de fem bedste poster ud til at have lært at se, når noget så ud, som et menneske kunne gøre.
For at gøre dette brugte vinderne alle en ny type konvolutionelt neuralt netværk (CNN) udviklet af Google-forskere sidste år, kaldet EfficientNets. CNN'er bruges almindeligvis til at analysere billeder og er gode til at opdage ansigter eller genkende objekter. Forbedring af deres nøjagtighed ud over et vist punkt kan dog kræve ad hoc finjustering. EfficientNets giver en mere struktureret måde at tune på, hvilket gør det nemmere at udvikle mere nøjagtige modeller. Men præcis, hvad det er, der får dem til at udkonkurrere andre neurale netværk på denne opgave, er ikke klart, siger Seferbekov.
Facebook planlægger ikke at bruge nogen af de vindende modeller på sit websted. For det første er 65 % nøjagtighed endnu ikke god nok til at være nyttig. Nogle modeller opnåede mere end 80 % nøjagtighed med træningsdataene, men dette faldt, når de blev stillet op mod usynlige klip. Generalisering til nye videoer, som kan omfatte forskellige ansigter, der er byttet om ved at bruge forskellige teknikker, er den sværeste del af udfordringen, siger Seferbekov.
Han mener, at en måde at forbedre detektion på ville være at fokusere på overgange mellem videobilleder og spore dem over tid. Selv deepfakes af meget høj kvalitet har nogle flimren mellem billederne, siger Seferbekov. Mennesker er gode til at opdage disse uoverensstemmelser, især i optagelser af ansigter. Men at fange disse afslørende defekter automatisk vil kræve større og mere varierede træningsdata og meget mere computerkraft. Seferbekov forsøgte at spore disse rammeovergange, men kunne ikke. CPU var en rigtig flaskehals der, siger han.
Facebook foreslår, at deepfake-detektion også kan forbedres ved at bruge teknikker, der går ud over analysen af et billede eller en video i sig selv, såsom at vurdere dets kontekst eller herkomst.
Sam Gregory, der leder Witness, et projekt, der støtter menneskerettighedsaktivister i deres brug af videoteknologier, hilser investeringen af sociale medieplatforme i deepfake-detektion velkommen. Witness er medlem af Partnership on AI, som rådgav Facebook om sit datasæt. Gregory er enig med Schroepfer i, at det er værd at forberede sig på det værste. Vi har ikke haft de deepfake apokalypser, men disse værktøjer er en meget grim tilføjelse til kønsbaseret vold og misinformation, siger han. For eksempel fandt DeepTrace Labs-rapporten, at 96% af deepfakes var pornografi uden samtykke, hvor andre menneskers ansigter er klistret over kunstneres i pornoklip.
Når millioner af mennesker er i stand til at skabe og dele videoer, er det vigtigere end nogensinde at stole på det, vi ser. Falske nyheder spredes gennem Facebook som en steppebrand, og blot muligheden for deepfakes sår tvivl, hvilket gør os mere tilbøjelige til at stille spørgsmålstegn ved ægte optagelser samt falske.
Hvad mere er, kan automatisk registrering snart være vores eneste mulighed. I fremtiden vil vi se deepfakes, som ikke kan skelnes af mennesker, siger Seferbekov.