211service.com
Denne AI lader dig deepfake din stemme for at tale som Barack Obama
Ms. Tech | Getty billeder
Mød mit alter ego, Katie:
Accenten, følelserne og intonationen er alle mine. Men på en eller anden måde lyder jeg nu som en ung kvinde med en høj stemme.
Min feminine stemmehud blev skabt af Modulate.ai , en virksomhed baseret i Cambridge, Massachusetts. Firmaet bruger maskinlæring til at kopiere, modellere og manipulere stemmens egenskaber på en kraftfuld ny måde.
Teknologien rækker langt ud over de simple stemmefiltre, der kan lade dig lyde som Kylo Ren. Ved at bruge denne tilgang er det muligt at antage enhver alder, køn eller tone, du ønsker, alt sammen i realtid. Eller for at påtage sig en berømtheds stemme. Jeg kan holde en længere telefonsamtale i Katie skikkelse, hvis jeg ønsker det.
Jeg besøgte Modulates hovedkvarter for at høre om virksomhedens teknologi og ambitioner og for at diskutere de etiske implikationer af at bruge AI til at kopiere en andens stemme. I en lydisoleret stand afprøvede jeg et par af virksomhedens stemmeskind.
Her er min egentlige stemme:
Og her bliver den fodret gennem en anden persona:
Og bliver skiftet mellem de to personas i realtid.
Stemmemodelleringsteknologien er ikke perfekt; hver ny stemme er lidt skæv. Men det er bemærkelsesværdigt godt, og det forbedres ved at fodre på flere af dine stemmedata. Og det viser, hvordan fremskridt inden for maskinlæring hurtigt begynder at ændre den digitale virkelighed. Modulate bruger generative adversarial networks (GAN'er) til at fange og modellere lydegenskaberne for et stemmesignal. GAN'er stiller to neurale netværk mod hinanden i en kamp om at indfange og gengive egenskaberne af et datasæt på overbevisende måde (se GANfather).
Machine learning har gjort det muligt at bytte to personers ansigter i en video ved hjælp af software, der kan downloades gratis fra internettet (se Fake America great igen). AI-forskere bruger GAN'er og andre teknikker til at manipulere visuelle scener og endda trylle helt frem falske ansigter .
Modulate har en demonstrationsstemmeskin af Barack Obama på sin side, og medstifter og administrerende direktør Mike Pappas sagde, at det ville være muligt at generere en for enhver, givet nok træningsdata. Men han tilføjer, at virksomheden ikke vil stille en berømthedsstemmeskin til rådighed uden ejerens tilladelse. Han insisterer også på, at bedrag ikke er hovedpointen.
Dette er ikke teknologi bygget til at efterligne mennesker, siger Pappas. Det er bygget til at give dig nye muligheder.
Modulate er rettet mod onlinespil såsom Fornite eller Call of Duty, hvor spillere kan chatte med fremmede gennem en mikrofon. Dette kan forbedre spillet, men det kan også åbne døren for misbrug og chikane.
Når vi vil interagere online og have rigtig dybe oplevelser, er stemmer afgørende, siger Pappas. Men nogle mennesker er ikke villige til rent faktisk at sætte deres stemme derude. I nogle tilfælde vil jeg måske bare være anonym. I andre tilfælde er jeg bekymret for, at jeg kommer til at afsløre min alder eller køn og blive chikaneret.
Charles sæbe , en professor ved NYU, der studerer spredningen af misinformation, siger, at teknologien virker væsentligt mere avanceret end anden stemmemodifikationsteknologi. Og han siger, at måden AI nu kan manipulere video og lyd på har potentialet til fundamentalt at ændre medierne. Vi skal begynde at tænke over, hvad der er virkeligheden, siger han.
'Indtil videre har kvaliteten af stemmekonverteringsteknologi været lav, så man nemt kan skelne en konverteret stemme,' tilføjer Tuomas Virtanen , en ekspert i stemmesyntese og manipulation ved Tampere Universitet i Finland. 'Men jeg kan forestille mig, at kvaliteten i den nærmeste fremtid vil være god nok, så konvertering ikke let kan opdages.'
Modulate er klar over, at dets teknologi har potentiale til at blive misbrugt. Virksomheden siger, at det vil søge forsikringer om, at enhver kunde, der kopierer nogens stemme, har denne persons tilladelse. Det har også udviklet en lydvandmærketeknologi, der kunne bruges til at registrere en kopieret stemme. Dette kan for eksempel give en advarsel, hvis nogen bruger en falsk stemme under et opkald.
'Vi har indbygget etiske sikkerhedsforanstaltninger i vores virksomhed fra bunden,' siger medstifter og CTO, Carter Huffman, 'fra hvordan vi distribuerer vores teknologi, til hvordan vi udvælger de voice skins at tilbyde, til vandmærkning af vores lyd til registrering i sensitive systemer.
Modulate kan muligvis begrænse misbrug af sin egen teknologi, men det er muligt, at andre vil udvikle lignende teknologi uafhængigt og gøre den tilgængelig for folk at misbruge. Spørgsmålet er, hvor udbredt dette kan misbruges, og hvor bevidst offentligheden vil blive om det?
Pappas er optimistisk over, at potentialet for kunstig intelligens ofte er overdrevet. Det er bestemt noget, hvor man gerne vil være bevidst om det, men det er ikke noget, hvor selve samfundets facetter smuldrer, siger han. Vi har værktøjer til at håndtere dette.