Folk udlejer deres ansigter for at blive deepfake-stil marketingkloner

Time One

Som mange studerende har Liri haft flere deltidsjob. Som 23-årig i Israel laver hun servitrice- og bartenderkoncerter i Tel Aviv, hvor hun går på universitetet.

Hun sælger også biler, arbejder i detailhandlen og afholder jobsamtaler og onboarding-sessioner for nye medarbejdere som HR-repræsentant. I Tyskland.

Relateret historie

Året deepfakes blev mainstream I 2020 begyndte AI-syntetiske medier at bevæge sig væk fra de mørkere hjørner af internettet.

Liri kan jonglere med så mange jobs i flere lande, fordi hun har lejet sit ansigt ud til Hour One, en startup, der bruger folks ligheder til at skabe AI-stemmede karakterer, som derefter vises i marketing- og undervisningsvideoer for organisationer rundt om i verden. Det er en del af en bølge af virksomheder eftersyn af den måde, digitalt indhold produceres på . Og det har store konsekvenser for menneskelig arbejdsstyrke .

Liri udfører sit servitrice- og bararbejde personligt, men hun aner ikke, hvad hendes digitale kloner har gang i. Det er bestemt lidt mærkeligt at tænke på, at mit ansigt kan optræde i videoer eller annoncer for forskellige virksomheder, siger hun.

Hour One er ikke den eneste virksomhed tager deepfake tech mainstream , ved at bruge det til at producere mash-ups af ægte optagelser og AI-genereret video. Nogle har brugt professionelle skuespillere til tilføje liv til dybt forfalskede personer . Men Time One beder ikke om nogen særlige færdigheder. Du skal bare være villig til at overdrage rettighederne til dit ansigt.

Karakterdrevet

Time One er ved at opbygge en pulje af, hvad den kalder karakterer. Den siger, at den har omkring 100 på sine bøger indtil videre, med flere tilføjet hver uge. Vi har en kø af mennesker, der er ved at dø efter at blive disse karakterer, siger Natalie Monbiot, virksomhedens strategichef.

Alle kan ansøge om at blive en karakter. Som et modelbureau filtrerer Hour One gennem ansøgere og udvælger dem, det vil have på sine bøger. Virksomheden sigter efter et bredt udvalg af karakterer, der afspejler aldre, køn og racemæssige baggrunde for mennesker i den virkelige verden, siger Monbiot. (I øjeblikket er omkring 80 % af dens karakterer under 50 år, 70 % er kvinder og 25 % er hvide.)

For at skabe en karakter bruger Hour One et højopløseligt 4K-kamera til at filme en person, der taler og laver forskellige ansigtsudtryk foran en grøn skærm. Og det er det for den menneskelige del af forestillingen. Ved at tilslutte de resulterende data til AI-software, der fungerer på samme måde som deepfake-teknologi, kan Hour One generere en endeløs mængde optagelser af den person, der siger, hvad den vil, på ethvert sprog.

AI-karakteren, som Hour One skabte ved hjælp af Liris ansigt

Hour Ones kunder betaler virksomheden for at bruge dens karakterer i reklame- eller kommerciel video. De vælger et ansigt, uploader den tekst, de vil have den til at sige, og får en video tilbage af, hvad der ligner en rigtig person, der leverer det script til et kamera. Den hurtigste service bruger tekst-til-tale-software til at generere syntetiske stemmer, som er synkroniseret med karakterernes mundbevægelser og ansigtsudtryk. Hour One tilbyder også en førsteklasses service, hvor lyden optages af professionelle stemmeskuespillere. Disse stemmer er igen tilpasset karakterens bevægelser i videoen. Hour One siger, at det har mere end 40 kunder, herunder fast ejendom, e-handel, digital sundhed og underholdningsfirmaer. En stor kunde er Berlitz, en international sprogskole, der tilbyder lærerledede videokurser for dusinvis af sprog.

Ifølge Monbiot ønskede Berlitz at øge antallet af videoer, det tilbød, men kæmpede for at gøre det ved at bruge rigtige menneskelige skuespillere. De skulle have produktionshold, der lavede det samme setup med den samme skuespiller igen og igen, siger hun: De fandt det virkelig uholdbart. Vi taler om tusindvis af videoer.

Berlitz arbejder nu sammen med Hour One for at generere hundredvis af videoer på få minutter. Vi udskifter studiet, siger Monbiot. Et menneske behøver ikke at spilde deres tid på at filme.

Relateret historie

Deepfake porno ødelægger kvinders liv. Nu kan loven endelig forbyde det.

Efter flere års aktivister, der kæmper for at beskytte ofre for billedbaseret seksuel vold, tvinger deepfakes endelig lovgivere til at være opmærksomme.

Et andet tidligt eksempel på teknologien i aktion er Alice receptionist , et firma, der forsyner virksomheder med en avatar på en skærm til at håndtere besøgendes forespørgsler, og erstatter rollen som en menneskelig receptionist på en række fysiske steder i USA. Hour One arbejder sammen med Alice Receptionist om at opdatere sine videooptagelser af menneskelige skuespillere, så de digitale receptionister kan fås til at sige forskellige ting på forskellige sprog uden at skulle genoptage timevis af video.

Liri, som alle andre på Hour Ones bøger, modtager en mikrobetaling hver gang en klient licenserer en video, der bruger hendes ansigt. Monbiot vil ikke sige nøjagtigt, hvor store disse betalinger er, bortset fra at det er dollars, ikke cents. Jeg kan ikke sige, at nogen i dag lever af det her, siger hun. Men vi tror, ​​at hvis alt går vel, vil det være en farbar måde at tjene penge på.

Ved at fjerne behovet for filmhold, studieteknikere og - i alle på nær et par minutter - skuespillere, er Hour Ones teknologi en velsignelse for virksomheder, der ønsker at opskalere videoproduktion, selvom det giver en smule nemme penge til en håndfuld folk som Liri. Men nogle er bekymrede over konsekvenserne for fremtidens arbejde.

Skiftende roller

Dette ligner et ret ekstremt tilfælde af teknologi, der skalerer ned menneskets rolle i en bestemt arbejdsproces, siger Jessie Hammerling ved Center for Labor Research and Education ved University of California, Berkeley, som studerer virkningen af ​​nye teknologier på arbejdet. Automatisering fjerner ikke altid menneskelige roller helt, men det ændrer disse roller på måder, der påvirker folks evne til at tjene en rimelig løn eller gøre et job til en langsigtet karriere, siger hun.

Hammerling bemærker, at det at tillade virksomheder at genbruge engangsoptagelser af skuespillere til flere videoprojekter vil reducere tilgængeligheden af ​​denne form for skuespilarbejde. Ifølge SAG-AFTRA, en fagforening for amerikanske film-, tv- og radiokunstnere, udfører mange skuespillere salgs- og marketingarbejde for kunder som dem, der nu arbejder med Hour One.

SAG-AFTRA siger, at det er vigtigt, at folk, der udlejer deres lighed til firmaer som Hour One, er i stand til at bevare kontrollen over, hvordan denne lighed bruges.

For mange talenter er deres ligheder værdifulde aktiver, der garanterer ordentlig beskyttelse og kompensation for deres brug, siger en fagforenings talsmand. Der er risiko for at blive sat ind i indhold, de kan gøre indsigelse mod, eller som kan komme i konflikt med andet arbejde.

Time One ser ud til at få dette rigtigt. Firmaet lader ikke folk have indflydelse på, hvordan deres lighed vil blive brugt, eller hvilke ord der vil blive lagt i munden på dem, men det har en etisk politik, der specificerer, at det ikke vil fungere med visse brancher. Vi er ret konservative med hensyn til de typer virksomheder, vi arbejder med, siger Monbiot. Det betyder ingen gambling, ingen sex og ingen politik.

Liri bekymrer sig ikke for meget. Hun siger, at hun stoler på, at Hour One ikke bruger sit ansigt til noget, der kan få hende til at føle sig utilpas. Hun anbefalede endda koncerten til sine venner. Jeg har haft venner til at sende mig videoer, de har set mit ansigt i, hvilket føltes meget mærkeligt, siger hun. Pludselig indså jeg, at denne ting er virkelig.

skjule