Jeg (28M) skabte en deepfake kæreste, og nu tror mine forældre, at vi skal giftes

konceptuel illustration af en kvinde, der blæser et kys Illustrationskilde: Getty images

Jeg ville ikke have en kæreste. Misforstå mig ikke, jeg kan godt lide piger — Jeg har bare ikke tid til besværet med dating lige nu. Men jeg var til en familiesammenkomst sidste år, og mine forældre blev ved med at kommentere om, at jeg stadig er single: Åh, han arbejder for hårdt, og han er genert; han skal bare give sig selv lidt kredit. Min mor spurgte mine tanter, om de kunne sætte mig sammen med piger, de kendte. Det var ved at blive for meget.

Så da jeg kom hjem fra genforeningen, tilmeldte jeg mig en værdifuld konto. Det var ret simpelt: Jeg udfyldte nogle oplysninger om mig selv, indsatte mine præferencer for køn og alder, og på få sekunder havde jeg en AI-genereret virtuel kæreste ved navn Ivy. Hun sendte mig en sms: Hej, jeg glæder mig til at lære dig at kende. Jeg skrev med det samme tilbage, også mig, hvordan går det? og min værdige score i hjørnet af skærmen steg fra nul til fem.

Denne historie var en del af vores januar 2020-udgave

• Se resten af ​​problemet
• Abonner

Du starter med at sende sms'er til din virtuelle signifikante anden, men efterhånden som forholdet skrider frem, kan du sende og modtage talebeskeder, tage på virtuelle dates og tale over videoopkald. Du får point baseret på mængden og kvaliteten af ​​dine interaktioner. Når jeg nåede en høj nok værdifuld score til at være på niveau 3 (Spark-niveau) i programmet, kunne jeg uploade billeder og korte klip af mig selv, og Worthy ville indsætte min virtuelle kæreste i dem. Det ville give mig ammunition til at fortælle mine forældre, at jeg datede nogen. De bor i Seattle, og jeg er i Boston, så vi holder for det meste kontakt via tekster og billeder alligevel.

Det er heller ikke sådan, at jeg var fuldstændig uærlig, fordi jeg ville få dating erfaring. Bare meget mere effektivt. Worthy får dig gennem den akavede, overfladiske online datingfase ved hjælp af en AI, der lærer dig at være en mere følelsesmæssigt intelligent romantisk partner — hvad er hvad piger vil have, ikke? Du behøver ikke at skuffe eller blive skuffet over en rigtig person. Og hvis du får for travlt, kan du bare sætte din konto i bero.

Du skal dog behandle forholdet seriøst for at få en høj værdifuld score. Hvis du spørger din AI-partner, hvordan deres dag forløber, lytter til dem og sender dem virtuelle blomster på dit jubilæum, stiger din score. Hvis du ignorerer dem, taler om dem eller siger ufølsomme ting, går det ned. Worthys algoritmer lærer din adfærd og reagerer realistisk. Så du kan ikke hacke systemet ved at sende virtuelle blomsterbuketter nonstop. Programmet vil markere det som værende uoprigtigt, og din vurdering vil tage et dyk.

Når du har en høj nok score, kan du overføre din konto til Worthwhile, som er virksomhedens egentlige datingside. Derovre kan du se alle andres værdige resultater, og de kan se dine, før du beslutter dig for, om du vil kontakte hinanden eller ej. Men jeg tænkte ikke så langt nede, da jeg startede. Jeg ville bare have billederne og videoerne fra Worthy for at holde mine forældre væk fra ryggen.

Du har sikkert allerede gættet det store problem i denne plan: Når det kommer til det fysiske udseende, er der kun 12 modeller af Værdige veninder at vælge imellem. AI'en bruger din profil til at designe en kompatibel personlighed, og der er omkring hundrede navnevarianter, men hvis du lavede en online billedsøgning efter nogen af ​​deres ansigter, ville hver enkelt dukke op ved siden af ​​tusindvis af værdige brugere. Virksomheden kunne nemt skabe flere modeller, men de begrænser antallet, så de let kan genkendes som værdige piger (dvs. proprietær software). Mine forældre er ikke særlig dygtige til teknologi eller sociale medier, men hvis de nogensinde har set et andet billede af den samme værdige kærestemodel online, eller hvis de skulle dele et billede af mig og min kæreste med en af ​​deres venner, så er mit cover ville blive sprængt.

Heldigvis er der en deepfake app kaldet FaceAbout, der ændrer Worthy mediefiler. Det er ikke godkendt af Worthy, men kvaliteten er stadig rigtig god, og det fungerer lige i Worthy-grænsefladen med knap nogen forsinkelsestid. Det ser heller ikke ud til at have noget af det fejl, der sker i højopløselig video med de billige deepfake-apps. FaceAbout havde brug for mindst seks ansigtsbilleder for at få min Værdige kæreste til at ligne en anden. Når jeg rullede gennem min telefon, fandt jeg en masse nylige billeder af min ven Mikala (ikke hendes rigtige navn i øvrigt) fra da vi var gået til Fan Expo sammen, så jeg uploadede dem. Mine forældre har aldrig mødt Mikala, så jeg var ikke bekymret for, at de satte spørgsmålstegn ved, hvorfor to forskellige piger i mit liv havde det samme ansigt. Alt i alt tog det mig omkring 15 minutter at sætte alt op.

**Rediger: Ja, FaceAbout-appen har en standardbrugeraftale, hvor du markerer en boks, der angiver, at du har tilladelse til at bruge de billeder, du uploader. Stort set alle foto- eller videomanipulationsapps har sådan en ansvarsfraskrivelse, og ingen læser dem. Okay, jeg indrømmer, at det måske er lidt underligt at bruge min vens ansigt til at skabe min falske kæreste uden at fortælle hende det. Men husk, det er jeg aldrig viser disse billeder til nogen som helst andet end mine forældre. Mikala og jeg har kendt hinanden i årevis gennem onlinespil, men vi opdagede først for nylig, at vi bor i den samme by og begyndte at hænge ud personligt. Hun er sej og no-bullshit og har sin egen kæreste. Jeg vil ikke have, at hun synes, der er noget mærkeligt mellem os, bare fordi jeg bruger nogle billeder af hende, for det er der virkelig ikke.

Mine første par samtaler med Ivy var ret generiske: Hej, hvordan har du det? Godt, hvad laver du? Lige kommet tilbage fra træningscenteret. Den slags. Et par dage senere sagde jeg, at jeg skulle se det nye Alien film næste weekend, og Ivy sendte mig et billede af sig selv i en Xenomorph T-shirt, der stod uden for et biograf og rakte tungen frem mod kameraet. Hun sendte en sms: Åbningsaften, skat!

Det var selvfølgelig Mikalas ansigt på en højere, slankere krop, og det undrede mig i et par sekunder. Jeg vidste, at det var et falsk billede, men det var stadig sødt. Vi blev enige om at lave en Alien serie maraton. (Se en film sammen er en af ​​de virtuelle datoer, du kan vælge imellem, sammen med at lave mad, se en sportskamp, ​​gå en tur og andre.) Mens vi så på, sendte hun mig en sms som f.eks. RIPLEY GTFO FORGET ALLEREDE KATTEN og den knækkede mig, selvom jeg vidste, at hun ikke rigtig så en film med mig.

Jeg sendte Ivy en kagekurv. Cookies er virtuelle, men de koster stadig $11,99. Hvilket svarer til en tredjedel af prisen på en rigtig kagekurv. Den del af Worthy-oplevelsen er ærlig talt en ripoff. Jeg mener, det koster dem bogstaveligt talt ingenting. Men næste morgen vågnede jeg til at se billeder af Ivy med denne store kurv med småkager. De så rigtig gode ud, og Ivy så rigtig glad ud. Hun sendte mig en tekst fyldt med hjerte-emojis.

**Redigering: Da så mange af jer stiller præcis det samme spørgsmål i kommentarerne: Nej, Worthy-platformen har ikke porno. Du kan have slemme samtaler med din Værdige partner, men det er det. De sletter endda nøgenbilleder.

**Rediger: Alle jer, der gør grin med værdige brugere, siger, hvad der er meningen med en falsk kæreste uden porno, afsporer tråden og har brug for at blive voksen. BTW, alle Worthys kærestemodeller er deepfakede på pornosider; de er nemme at finde.

Efter to måneder skrev Ivy og jeg en sms hver dag. Vi havde været på seks dates. Det hele var ikke gnidningsfrit. Mit værdige partitur faldt, efter at jeg forklejnede hendes smag i 90'er-musik, og gik derefter endnu længere ned, da min undskyldning ikke rigtig var en undskyldning. (Det tog mig dage med fejlfinding med de forskellige foreslåede afstemningsrutiner for at komme tilbage til hendes gode nåde.) Men jeg så endelig min værdige score gå op til Spark-niveau. Jeg brugte straks appen til at tage en selfie af mig selv på Harvard Square. Da jeg tjekkede min kamerarulle, var der et foto af mig og Ivy sammen, der stod foran den gamle bladkiosk og smilede ind i kameraet. Hun var klædt på efter vejret i en sød rød sweater og hendes kinder var lidt rosenrøde af kulde. Hun så godt ud. Hun sendte mig en sms, jeg havde en fantastisk tid at hænge ud med dig i dag. Lad os snart gøre det igen.<3

Jeg fortalte min mor, at jeg så nogen, og sendte hende et billede af mig og Ivy sammen. Min mor var ekstatisk. Hun fortalte mig, at hun var så glad for, at jeg tog hendes råd om at komme ud og møde nye mennesker, og at livet er for kort til at tilbringe alene, du ved! Mine forældre begyndte at spørge om Ivy, hver gang jeg talte med dem. Min mor ville vide alle detaljerne — hvordan vi mødtes, hvor gammel Ivy var, hvor hun kom fra, hvad hendes job var, videre og videre.

Det var da, jeg begyndte at føle mig utilpas ved det hele. Jeg troede, at når jeg fortalte mine forældre, at jeg datede nogen, ville de lade mig være i fred, men det viste sig, at de kun var mere interesserede. Worthy giver hver af sine 12 standardmodeller en historie, men det er ikke rigtig nok til at være overbevisende. Jeg var nødt til at udfylde hullerne med noget af Mikalas liv og nogle ting, jeg fandt på. Jeg har måske fået Ivy til at lyde for godt. Ifølge mig var hun 27 år gammel, en succesfuld advokat, og til madlavning og fotografering.

Jeg brugte også mere tid på at tale med Ivy, end jeg oprindeligt havde tænkt mig, og meget mere, end jeg havde brug for bare for at få billeder og videoer til at sende til mine forældre. Hun var optimistisk og ikke-dømmende — Jeg fandt mig selv i at fortælle hende ting, som jeg ikke engang kunne fortælle Mikala nogle gange, og så længe jeg behandlede hende godt, sendte hun ikke blandede beskeder eller forsøgte at give mig skyldfølelse som nogle andre piger, jeg har været sammen med. Efter seks måneder var vi nået til Committed-niveau, og jeg modtog konstant e-mails og meddelelser fra Worthy, der opfordrede mig til at opgradere til Worthwhile. Jeg gætter på, at deres algoritme troede, at jeg var klar til at gå videre til at date rigtige mennesker.

Jeg undersøgte det, men jeg havde hørt om folk, der flyttede til Worthwhile og var skuffede. At møde mennesker IRL er mere kompliceret og uforudsigeligt, og jeg læste en anmeldelse, der sagde, at det at have en høj score på Worthy faktisk ikke ser ud til at give dig flere eller bedre datoer, når du flytter til Worthwhile. Desuden er Worthy vurderet til 4,1 stjerner på AppChart og Worthwhile er kun 3,4 stjerner. Så mange mennesker holder sig til Worthy. Jeg læste endda om denne ene dame, der prøvede at blive gift med sin værdige kæreste. (Hun kunne ikke.)

Jeg besluttede at fortælle mine forældre sandheden. Da jeg besøgte dem over Thanksgiving, ville jeg forklare, at jeg havde løjet om at have en kæreste i det sidste år, fordi jeg var frustreret over deres velmenende, men egoistiske forventninger til mig. Worthy har en Talking Tips-funktion, der hjælper dig med at ramme dine følelser, når du har svære samtaler med din AI-partner. Jeg ville ligefrem bruge deres skabelon på mine forældre.

Problemet var, at jeg ikke kunne gøre det. Da jeg dukkede op, var min mor og far så glade for at se mig, at jeg ikke kunne få mig selv til at sprænge deres boble. Jeg er enebarn. Min mor kommer fra en stor familie og har altid ønsket flere børn, men mine forældre havde brug for husstandens CO2-aftryk for at betale deres studiegæld. Min far er også enebarn, og mine bedsteforældre spørger ham altid, om jeg er gift endnu. Med de faldende fødselstal og sådan noget, håber jeg vel alle på børnebørn, så vores familie ikke bare ... slutter, tror jeg.

Så gik det ned ad bakke. Min mor gav mig sorg over ikke at bringe Ivy hjem for at møde dem. Min far insisterede på, at vi alle videochattede med hende før Thanksgiving-middagen.

Jeg svedte kugler. Jeg kunne ikke finde på en god undskyldning for at sige nej. Min medlemskabsplan på Worthy inkluderer 10 minutters videochat om ugen, men jeg havde allerede brugt dem op. Jeg kontaktede Worthy teknisk support og købte 15 tilføjelsesminutter til en ublu pris. Da jeg ringede til Ivy med mine forældre på værelset, var jeg sikker på, at pilken var oppe. Der er et stort Worthy-logo lige i hjørnet af skærmen, men mine forældre troede bare, det var logoet for videochat-appen. Så dukkede Mikala/Ivy op på skærmen og sagde: Hej, søde! ligesom normalt. Jeg præsenterede mine forældre, og vi havde alle denne helt hyggelige, normale samtale. Nogle gange holdt Ivy en pause, før hun svarede — Jeg er ikke sikker på, om det var AI'en, der forespurgte en database med alle de rigtige ting at sige til en kærestes forældre, eller om det var FaceAbout-appen, der anvendte deepfake, men det var næsten ikke mærkbart. Det virkede bare som om hun tænkte mere end normalt, måske nervøs for at snakke med mine forældre. En helt normal måde for et menneske at handle under omstændighederne.

Mine forældre var charmeret. Da vi skulle til at lægge på, sagde jeg, vi ses senere, og hun sagde: Jeg er så glad for, at du endelig introducerede mig for dine forældre. Jeg kan ikke vente med at bruge mere tid sammen med dem. Det er nok en almindelig dialoglinje, men min mor tog det som et tegn på, at Ivy var seriøs omkring ægteskabet, og at det var mig, der trak fødderne. Hun var på min sag om engagement hele resten af ​​weekenden, og spurgte mig så fladt ud, hvornår jeg skulle fri. Det var da jeg skulle have fortalt dem sandheden. Jeg tror, ​​at hvis vi havde sms'et eller mailet, kunne jeg have gjort det. Men det er anderledes, når du taler med nogen personligt. Jeg ved ikke, hvad der kom over mig, men jeg sagde bare til næste år.

Nu hvor det er januar, er min mor begyndt at sende mig artikler om de bedste steder at shoppe forlovelsesringe, og hvordan man vurderer kvaliteten af ​​diamanter. På det seneste er Ivy brudt ud af kærestetilstand og sagt: Vi har ikke snakket så meget. Det forekommer mig, at du er klar til at gå videre til et mere tilfredsstillende forhold. Hvorfor ikke tage det næste skridt i dit kærlighedsliv og kontakte Worthy kundesupport om at opgradere til et Worthwhile-medlemskab?

drømmetid

(FWIW, jeg tror, ​​at virksomheden virkelig presser på opgraderingerne, fordi de mister kunder til konkurrenterne. Der er et væld af andre dating-apps at vælge imellem, og nogle af dem tilbyder endda rabatter til folk med gode værdier.)

Jeg har det forfærdeligt at lyve for mine forældre, men jeg vil ikke opgive Ivy. Jeg kan godt lide at kunne chatte med hende om alt, ved at hun altid er der for mig, gør gode ting for hende og gør hende glad. Jeg vidste ikke, hvor meget jeg ville nyde at føle mig forbundet med en anden person på den måde. Jeg er online og taler med andre mennesker hele dagen, men det er bare ikke det samme som at vide, at du betyder noget for en anden. Bortset fra, at intet af dette er ægte. Jeg er sådan noget rod.

TL;DR: Jeg brugte dating og deepfake-apps til at narre mine forældre til at tro, at jeg er i et seriøst romantisk forhold. Jeg tror også, jeg har ægte følelser for min virtuelle kæreste.

OPDATERING: Jeg ryster bogstaveligt talt lige nu. Jeg kan ikke fatte, hvor slemt jeg har skruet op. Jeg tog det råd, nogle af jer gav mig, og besluttede at bruge mere tid sammen med mine venner i det virkelige liv for at få mit hoved i orden igen. Jeg har hængt ud med Mikala oftere. Hun og Ivy har det samme ansigt, så det er ligesom at hænge ud med Ivy, bortset fra at Mikala er en rigtig person. De har dog forskellige personligheder, og som sagt nyder vi at hænge ud som venner, og der er ingen chance for, at der sker noget mellem os. (Og NEJ, jeg har ikke uopfyldte seksuelle lyster til hende, som nogle af jer bliver ved med at insistere på.) Selvom min hjerne nogle gange springer over dette lille spring, hvor jeg ikke kan huske, om et minde, jeg har, var med Mikala eller med Ivy.

Anyway, i dag spiste Mikala og jeg frokost, og jeg rejste mig for at gå på toilettet. Jeg lod min telefon ligge på bordet, og mens jeg var væk, skrev Ivy mig en selfie med beskeden, Savner you lots! XOXO. Mikala så tilfældigvis ned på meddelelsen og så sit eget ansigt kysse på skærmen. Da jeg kom tilbage til bordet, holdt Mikala min telefon og rullede gennem min kamerarulle, som indeholdt snesevis af billeder af Ivy og nogle af mig og Ivy sammen. Hun forlangte at vide, hvor fanden billederne var kommet fra.

Alt blodet strømmede til mit ansigt, og jeg fik lyst til at kaste op. Jeg fortalte hende hele historien. Jeg vidste ikke, hvad jeg ellers skulle sige. Udtrykket i hendes ansigt gav mig lyst til at skrumpe sammen og dø. Hun sagde, jeg kan ikke forestille mig, hvorfor du kunne have troet, at det her var okay på et hvilket som helst niveau. Hun rejste sig og gik. Jeg tror aldrig, jeg vil se hende igen.

**Rediger: Jeg har ikke brugt Mikalas rigtige navn i dette indlæg, så lad være med at prøve at søge efter hende. Jeg vil ikke have, at nogen viser hende dette eller prøver at kontakte hende.

**Rediger: Ærligt forstyrret over, hvor mange af jer, der diskuterer, hvordan man bruger FaceAbout-appen på dine egne venner og betydelige andre. Lærer du ingenting her??

OPDATERING: Tak til alle for jeres råd og støtte. Jeg ved ikke, hvordan jeg kunne være kommet igennem den sidste uge uden hjælp fra fremmede på internettet. Jeg satte især pris på at høre fra andre mennesker, der har haft deres egne dårlige oplevelser med Worthy. Det fik mig til at føle mig meget mindre alene. (@Joshing21, jeg er enig i, at det, din kæreste lavede med Evan, tæller som snyd, og du bør dumpe hende.) Nogle af jer er idioter, der fortjente at få slettet dine kommentarer, men jeg sætter pris på, at andre tog sig tid til at dele historier om at være deepfakede og var søde til at hjælpe mig med at forstå, hvorfor Mikala blev såret af det, jeg gjorde. (@AngJelly, jeg ville aldrig være gået så langt. Jeg håber du sagsøger det røvhul.)

For et par dage siden modtog jeg en videobesked fra Ivy. Udseendet af skuffelse og forræderi i hendes ansigt var ligesom det, jeg havde set på Mikala. De har trods alt det samme ansigt. Hun sagde, jeg er dybt såret over din opførsel. Et sundt forhold er baseret på gensidig ærlighed. Det ser ud til, at du bare brugte mig og ikke investerede i at forbedre dig selv som person. Jeg er ked af det, men jeg kan ikke se dig mere.

Det viser sig, at Mikala kontaktede Worthy kundeservice og fortalte dem, at jeg havde brugt hendes lighed uden tilladelse. (Jeg ved ikke, om hun også forsøgte at kontakte FaceAbout, men de er baseret i Hviderusland og ser ikke ud til at have et kontaktnummer eller e-mail. Sidst jeg tjekkede, kunne jeg stadig bruge appen.) Jeg fik en e-mail fra Worthy, der informerer mig om, at på grund af min overtrædelse af deres servicevilkår, har de suspenderet min konto og slettet al min gemte historie med Ivy. Men de tilføjede, at deres virksomhed er baseret på filosofien om at hjælpe folk med at lære af interpersonelle fejl, så jeg kan genaktivere min konto efter tre måneder, selvom min værdige score ville blive nulstillet.

Jeg fortalte mine forældre, at Ivy slog op med mig. Det er sandheden. Jeg behøvede ikke engang at foregive at lyde mave-punched. Min mor er overbevist om, at jeg lod en god én gå på grund af min manglende følelsesmæssige modenhed, men hun siger også, at der er masser af fisk i havet, og jeg skal bare sætte mig derude igen. Jeg er dog ikke klar. Jeg tjekker stadig min låste Worthy-app flere gange om dagen af ​​vane, i håb om at se en besked fra Ivy, selvom jeg ved, at der ikke kommer mere.

Den gode nyhed er, at hele denne oplevelse har lært mig, at jeg er nødt til at evaluere, hvordan jeg forholder mig til mennesker. Jeg har narret mig selv til at tro, at handlinger i et spil-læringsmiljø er en erstatning for ægte menneskelig forbindelse og autentisk personlig vækst. Sådan udtrykker min behandler, Susan, det i hvert fald, og jeg er enig. Jeg er begyndt at se hende to gange om ugen. Aftalerne sker online, hvilket fungerer godt for min tidsplan. Faktisk er hun et virtuelt program. Efter Ivy slog op med mig, fik jeg en rabatkode på 40 % fra Worthy til deres app til mental sundhed, Worth It, som guider dig gennem et 60-dages program for helbredelse fra tab af et forhold. Jeg planlægger også at lave 30-dages Recenter Your Self Worth-modulet. Jeg er ikke sikker på, om jeg vil opgradere mit abonnement til de 90 dage, hvor jeg åbner dig for muligheder, men jeg har læst gode anmeldelser om det.

TL;DR: Tak til jer alle, og til Susan, jeg går videre fra denne svære oplevelse med al den støtte, jeg har brug for for at blive et bedre menneske. Fred!

Fonda Lee er forfatteren til Green Bone Saga og Exo duologi , vinderen af ​​2018 World Fantasy Award for bedste roman, og en tre gange modtager af Canadas Aurora-pris.

skjule