211service.com
Det amerikanske militær finansierer en indsats for at fange deepfakes og andre AI-tricks
Tror du, at AI vil hjælpe med at sætte en stopper for falske nyheder? Det amerikanske militær er ikke så sikker.
Forsvarsministeriet finansierer et projekt, der vil forsøge at afgøre, om den stadigt mere virkeligt udseende falske video og lyd genereret af kunstig intelligens snart kan være umulig at skelne fra den ægte vare - selv for et andet AI-system.
Denne sommer under et projekt finansieret af Defense Advanced Research Projects Agency (DARPA) , vil verdens førende digitale kriminaltekniske eksperter samles til en AI falsk konkurrence. De vil konkurrere om at generere den mest overbevisende AI-genererede falske video, billeder og lyd – og de vil også forsøge at udvikle værktøjer, der kan fange disse forfalskninger automatisk.
Konkurrencen vil omfatte såkaldte deepfakes, videoer, hvor en persons ansigt er syet fast på en anden persons krop. Temmelig forudsigeligt er teknologien allerede blevet brugt til at generere en række forfalskede berømthedspornovideoer. Men metoden kunne også bruges til at lave et klip af en politiker, der siger eller gør noget uhyrligt.
DARPAs teknologer er især bekymrede over en relativt ny AI-teknik, der kan gøre AI-falsk næsten umuligt at få øje på automatisk. Ved at bruge såkaldte generative adversarielle netværk eller GAN'er er det muligt at generere forbløffende realistiske kunstige billeder.
Teoretisk set, hvis du gav et GAN alle de teknikker, vi kender til at opdage det, kunne det bestå alle disse teknikker, siger David Gunning, DARPA-programlederen med ansvar for projektet. Vi ved ikke, om der er en grænse. Det er uklart.
Et GAN består af to komponenter. Den første, kendt som skuespilleren, forsøger at lære de statistiske mønstre i et datasæt, såsom et sæt billeder eller videoer, og genererer derefter overbevisende syntetiske data. Den anden, kaldet kritikeren, forsøger at skelne mellem ægte og falske eksempler. Feedback fra kritikeren gør det muligt for skuespilleren at producere stadigt mere realistiske eksempler. Og fordi GAN'er allerede er designet til at overliste et AI-system, er det uklart, om et automatiseret system kan fange dem.
GAN'er er relativt nye, men de har taget maskinlæringsscenen med storm (se The GANfather: The man who's given machines the gave of imagination). De kan allerede bruges til at opfinde meget realistiske imaginære berømtheder eller til overbevisende at modificere billeder ved at ændrer panden til et smil eller gør nat til dag.
At opdage en digital forfalskning involverer normalt tre trin. Den første er at undersøge den digitale fil for tegn på, at to billeder eller videoer er blevet splejset sammen. Den anden er at se på belysningen og andre fysiske egenskaber af billederne for tegn på, at noget er galt. Den tredje – som er den sværeste at gøre automatisk, og sandsynligvis den sværeste at besejre – er at overveje logiske uoverensstemmelser, som det forkerte vejr for den formodede dato eller forkert baggrund for den formodede placering.
Walter Scheirer , en digital retsmedicinsk ekspert ved University of Notre Dame, som er involveret i DARPA-projektet, siger, at teknologien er kommet overraskende langt siden initiativet blev lanceret for et par år siden. Vi er bestemt i et våbenkapløb, siger han.
Selvom det længe har været muligt for en dygtig grafikekspert at producere overbevisende udseende forfalskninger, vil AI gøre teknologien langt mere tilgængelig. Det er gået fra statssponsorerede skuespillere og Hollywood til nogen på Reddit, siger Hany Farid , en professor ved Dartmouth, der har specialiseret sig i digital retsmedicin. Det haster, vi føler nu, er at beskytte demokratiet.
Deepfakes bruger en populær maskinlæringsteknik kendt som deep learning til automatisk at inkorporere et nyt ansigt i en eksisterende video. Når store mængder data føres ind i et meget stort eller dybt simuleret neuralt netværk, kan en computer lære at udføre alle mulige nyttige opgaver, såsom meget nøjagtig ansigtsgenkendelse. Men den samme tilgang gør også ondsindet videomanipulation nemmere. Et værktøj udgivet online lader enhver med beskeden teknisk ekspertise generere nye deepfakes. Og skaberen af det værktøj fortalte Bundkort at en endnu mere brugervenlig version er på vej.
Problemet strækker sig naturligvis langt ud over ansigtsbytte. Eksperter siger i stigende grad, at det inden længe kan være meget sværere at vide, om et foto, en video eller et lydklip er blevet genereret af en maskine. Google har endda udviklet et værktøj kaldet Duplex, der bruger kunstig intelligens til at forfalske et telefonopkald.
aviv ovadya , chefteknolog ved University of Michigans Center for Social Media Responsibility, bekymrer sig om, at de AI-teknologier, der nu udvikles, kan blive brugt til at skade nogens omdømme, påvirke et valg eller endnu værre. Disse teknologier kan bruges på vidunderlige måder til underholdning, og også på mange meget skræmmende måder, sagde Ovadya på en 15. maj. begivenhed organiseret af Bloomberg . Du har allerede modificerede billeder, der bliver brugt til at forårsage ægte vold i hele udviklingslandene, sagde han. Det er en reel og nærværende fare.
Hvis teknologien ikke kan bruges til at fange falske oplysninger og misinformation, kan der være et skub til at bruge loven i stedet for. Faktisk indførte Malaysia love mod falske nyheder i april. Dartmouths Farid siger dog, at dette i sig selv kan vise sig at være problematisk, fordi sandheden i sig selv er et glat emne. Hvordan definerer du falske nyheder? Det er ikke så nemt, som man skulle tro, siger han. Jeg kan beskære et billede og fundamentalt ændre et billede. Og hvad gør du med Løg ?