211service.com
Deepfakes er løselige - men glem ikke, at lavvandede forfalskninger allerede er udbredt
Jeremy Portje
Teknologiindustrien har en unik mulighed for at tackle deepfakes – problemet med falsk lyd og video skabt ved hjælp af kunstig intelligens – før de bliver et udbredt problem, ifølge menneskerettighedsforkæmperen Sam Gregory.
Men, advarer han, store virksomheder er stadig meget langt fra at tackle det omfattende og mere skadelige problem med grovere overfladisk falsk misinformation.
Gregory er programleder hos Vidne , som fokuserer på brugen af video i menneskerettigheder – enten af aktivister og ofre for at afsløre overgreb eller af autoritære regimer for at undertrykke uenighed. I mandags talte han til et publikum på EmTech Digital, en begivenhed arrangeret af MIT Technology Review, og sagde, at de deepfakes, vi i øjeblikket ser, er stilheden før stormen.
Ondsindede syntetiske medier er endnu ikke udbredt i brug, værktøjer er endnu ikke blevet mobile - de er ikke blevet produceret, sagde Gregory. Dette øjeblik, foreslog han, giver en usædvanlig mulighed for deepfakes' skabere til at etablere måder at bekæmpe dem på, før dårlige skuespillere er i stand til at implementere teknologien bredt.
Vi kan være proaktive og pragmatiske i forhold til denne trussel mod den offentlige sfære og vores informationsøkosystem, sagde han. Vi kan forberede os, ikke gå i panik.
Selvom deepfakes kan være et stykke foran mainstream, er der dog allerede en problematisk strøm af misinformation, som endnu ikke er løst. Falske oplysninger i dag bruger generelt ikke AI eller kompleks teknologi. Snarere kan simple tricks som forkert mærkning af indhold for at miskreditere aktivister eller sprede falsk information være ødelæggende effektive, nogle gange endda resultere i dødelig vold, som det skete i Myanmar.
Med disse 'shallowfakes' mener jeg de titusindvis af videoer, der cirkulerer med ondsindede hensigter over hele verden lige nu – lavet ikke med sofistikeret AI, men ofte blot ommærket og gen-uploadet, og hævder, at en begivenhed et sted lige er sket et andet, sagde Gregory .
For eksempel, sagde han, er en video af en person, der bliver brændt levende, blevet genbrugt og gentilskrevet skuespillere i Elfenbenskysten, Sydsudan, Kenya og Burma, hver gang tilskyndet til vold.
En anden trussel var den stigende idé om, at vi ikke kan stole på noget, vi ser, hvilket i de fleste tilfælde simpelthen er usandt, sagde Gregory. Udbredelsen af denne idé er en velsignelse for autoritære og totalitære over hele verden.
En alarmistisk fortælling forbedrer kun de reelle farer, vi står over for: plausibel benægtelse og tillidens sammenbrud, tilføjede han.
Mark Latonero, menneskerettighedsleder kl Data & Samfund , et nonprofit-institut dedikeret til anvendelse af data, var enige om, at teknologivirksomheder burde gøre mere for at tackle sådanne problemer. Mens Microsoft, Google, Twitter og andre har medarbejdere fokuseret på menneskerettigheder, sagde han, var der så meget mere, de skulle gøre, før de implementerer teknologier – ikke efter.
Nu er det virkelig tid til, at virksomheder, forskere og andre opbygger disse meget stærke forbindelser til civilsamfundet og de forskellige landekontorer, hvor dine produkter kan lanceres, sagde han. Engager dig med de mennesker, der er tættest på problemerne i disse lande. Byg de alliancer nu. Når noget går galt – og det vil det – kan vi begynde at have grundlaget for samarbejde og videnudveksling.