Google har udgivet et værktøj til at spotte falske og manipulerede billeder

Kategori: Kunstig intelligens Udsendt 05 feb

Jigsaw, en teknologisk inkubator hos Google, har frigivet en eksperimentel platform kaldet Assembler for at hjælpe journalister og faktatjekkere i frontlinjen med hurtigt at verificere billeder.

Hvordan det virker: Assembler kombinerer flere eksisterende teknikker i den akademiske verden for at detektere almindelige manipulationsteknikker, herunder ændring af billedlysstyrke og indsættelse af kopierede pixels andre steder for at dække over noget og samtidig bevare den samme visuelle tekstur. Den inkluderer også en detektor, der opdager deepfakes af den type, der er oprettet ved hjælp af StyleGAN, en algoritme, der kan generere realistiske imaginære ansigter. Disse detektionsteknikker indgår i en mastermodel, der fortæller brugerne, hvor sandsynligt det er, at et billede er blevet manipuleret.

Hvorfor det er vigtigt: Falske billeder er blandt de sværeste ting at verificere, især med stigningen i manipulation med kunstig intelligens. Mulighedsvinduet for journalister og faktatjekkere til at reagere krymper også hurtigt, efterhånden som desinformation spredes med hastighed og omfang.

Ikke et vidundermiddel: Assembler er et godt skridt i kampen mod manipulerede medier - men det dækker ikke mange andre eksisterende manipulationsteknikker, inklusive dem, der bruges til video, som teamet bliver nødt til at tilføje og opdatere, efterhånden som økosystemet fortsætter med at udvikle sig. Det eksisterer også stadig som en separat platform fra de kanaler, hvor der normalt distribueres behandlede billeder. Eksperter har anbefalet, at teknologigiganter som Facebook og Google inkorporerer disse typer af detektionsfunktioner direkte i deres platforme. På den måde kan sådanne kontroller udføres i tæt på realtid, da billeder og videoer uploades og deles.

Der er også andre tilgange at overveje. Nogle startups forfølger for eksempel verifikationsteknologi, der husker pixelsnes positioner på et billede i det øjeblik, de optages - men det kommer også med udfordringer.

Ud over teknologi: I sidste ende vil tekniske rettelser ikke være nok. Et af de sværeste aspekter ved digital falskneri er ikke selve de falske billeder. Det er snarere tanken om, at de eksisterer, som nemt kan påberåbes for at tvivle på rigtigheden af ​​rigtige medier. Det er den type udfordring, der også vil kræve sociale og politiske løsninger.