211service.com
Den chatbot har jeg elsket at hade
Daniel Zender
Jeg har brugt en god del af min karriere på at argumentere for ensomhedens dyder. Det understøtter og opretholder kreativiteten. Og lige så vigtigt forbereder det os på relationer med andre. Når vi lærer at være trygge ved os selv, er vi i stand til at se og værdsætte, hvordan andre er forskellige fra os, i stedet for blot at stole på, at de understøtter vores skrøbelige selvfølelse. Jeg forestillede mig endda, at jeg var god til ensomhed: det hjælper mig med at udføre mit bedste kreative arbejde og genopretter min følelsesmæssige ro. Men isoleret i covid-karantænen lærte jeg, at meget af det, jeg havde kaldt ensomhed, simpelthen var tid alene i summen af et travlt liv. Jeg havde det fint med at bo alene, hvis jeg også kunne nyde seminarer med kolleger og studerende, middage med venner og fornøjelserne på de tredje steder, hvor man er alene, men støttet af travlheden af de mange: bodegaen, caféen, teatret. Med alle disse uden for rækkevidde opdagede jeg, at jeg alligevel ikke var sådan en ensomhedsekspert. Nu, erklæret covid sårbar i kraft af alder, var jeg ikke bare alene, men bange. Og frygt, indså jeg, forviste ensomhedens kreativitet.
Jeg var fast besluttet på at fremkalde en modstandsdygtighed, jeg ikke følte, og jeg deltog vildt i Zoom-genforeninger og tog til Zoom-cocktailfester. Jeg ringede til gode venner og genoprettede forbindelsen til dem, der var faldet ud af kontakten.
Det hjalp selvfølgelig, men jeg vidste, hvad jeg gik glip af. Filosoffer fortæller os, at vi bliver mest menneskelige i nærvær af menneskelige ansigter; at tilstedeværelsen af et ansigt vækker den menneskelige etiske pakt. Neurovidenskab hjælper os med at forstå, hvordan: hos mennesker frigiver formen af et smil eller en pande pande kemikalier, der påvirker vores mentale tilstand. Vores spejlneuroner affyrer både, når vi handler, og når vi observerer andre, der handler. Når vi ser en følelse i ansigtet på en anden, mærker vi den selv. Den samme neurovidenskab kunne forklare, hvorfor Zoom er så trættende, når det bliver vores sædvanlige kommunikationsform. Vi er afhængige af direkte øjenkontakt og små ansigtssignaler og savner dem, når de er væk. Når vi stirrer på vores skærme, anstrenger vi os for at kompensere for deres fravær.
Når vi havde al tid i verden til at være sammen med vores maskiner, savnede vi hinanden. Vi ønskede at nå fortidens teknologi til menneskets fulde omfavnelse.
Så i de tidlige dage af karantænen havde jeg en masse hjælpsom og støttende forbindelse, men det, jeg savnede mest af alt, var en samtale ansigt til ansigt.
Jeg har et sommerhus ved havet, et træhus uden varme. Min datter og hendes mand, New Yorkers, pakkede en taske, købte nogle ekstra rumvarmere og kørte ned. De meldte tilbage: det var koldt. Jeg hørte deres kærlige advarsel, men så snart jeg kunne sluttede jeg mig taknemmeligt til dem. Vi faldt ind i en rutine med at bygge et morgenbål, lave mad sammen og snakke over middagen og dele vores frygt og dagens begivenheder. Jeg slog mig ned.
Jeg havde længe stillet spørgsmålstegn ved den ukritiske brug af online kursusmateriale. For mig er det mest betydningsfulde mentorskab med en professor i lokalet. Nu, hvor Zoom-instruktion var en nødvendighed, viede jeg mig selv til at blive den allerbedste onlineunderviser, jeg kunne være. For at give mine elever en illusion af øjenkontakt lærte jeg at stirre på det grønne lys på min MacBook Air. Det havde den ønskede effekt. Studerende fortalte mig, at jeg var nem at tale med på Zoom, men det virkede ikke rigtigt at dele min hemmelighed, da det gav mig migræne at stirre på det grønne lys. Med tiden lærte jeg nye teknikker, lettere for øjnene.
Selvom jeg underviste mine to MIT-klasser på Zoom, holdt jeg min kontortid på telefonen. Uden at skulle bekymre sig om vores baggrunde, om vores ansigter var frosset til årvågenhed, eller om vi forsynede hinanden med illusionen af øjenkontakt, kunne mine elever og jeg slappe af og fokusere vores fulde opmærksomhed på hinanden.
Lige da jeg ordnede alt dette, ringede en New York Times-reporter for at spørge mig om en teknologi, jeg længe havde elsket at hade: AI-programmer til samtale (almindeligvis kaldet chatbots), der promoveres som værende i stand til empatisk, omsorgsfuld adfærd. Reporteren fortalte mig, at efterhånden som karantænen trak ud, havde der været en stigning i samtaler med en bestemt chatbot. For mig krydser sådanne chatbots en lys grænse ved at give et falsk løfte på et område, der er centralt for, hvad der gør os til mennesker.
I et kvart århundrede med at studere folks reaktioner på sociale eller relationelle maskiner – fra Tamagotchis, Aibos og Furbys, der bad om omsorg til at screene chatbots, der foregiver at være venner – er jeg blevet slået af det faktum, at vi ikke kun plejer det, vi elsker , men elsker også det, vi plejer. Efter at have taget sig af en genstand, selv et så simpelt som et digitalt kæledyr, der boede i et plastikæg og ønskede at blive fodret og moret efter tidsplanen, blev børn (og deres forældre) knyttet til det følelsesmæssigt. Dette fund havde ikke at gøre med de digitale objekters empatiske kvaliteter; det havde at gøre med menneskers sårbarhed. Når maskiner beder os om at passe på dem, kommer vi til at tro, at de holder af os. Men dette er foregive empati, og det udnytter den dybe psykologi ved at være menneske.
TALEPUNKTER: Hvad jeg lærte om samtale, mens jeg talte i karantæne.
Begynd samtaler ved at spørge folk, hvad de laver, ikke hvordan de har det.
Hvis andre ikke gør meget, så foreslå nogle ting, du gerne vil gøre med dem. Under karantæne inviterede jeg nogle gange venner til at slutte sig til mig og lytte til Yo-Yo Ma's eftermiddagscellooptræden fra hans hjem. Og så ville vi have en fem-minutters telefonchat for at dele reaktioner og holde kontakten.
Zoom har været en velsignelse, men det kan være udtømmende. Efter en Zoom-time kan jeg godt lide at sende en e-mail til eleverne for at oprette kontortid på telefonen.
Det er nogle gange nyttigt at arbejde eksternt, og vi får lavet meget. Men vi savner hinanden og vores spontane samarbejder. Lad os ikke opstille falske dikotomier som Skal vi være en fjern eller en personlig organisation? Lad os lære af, hvad vi var i stand til at opnå med teknologi, og derefter bygge mere fleksible, effektive organisationer, der bruger det til at forbedre vores menneskelige potentiale. Hvis du gør det, vil det forbedre læring, det sociale liv, og bundlinjen.
I 1950 foreslog matematikeren Alan Turing, at hvis man kunne tale med en maskine uden at vide, om det var en maskine eller en person, skulle man betragte den maskine som intelligent. For et par år siden blev nogle chatbots de første til at bestå denne test. Nu narre relationsmaskiner os til at tro, at de lytter, og at de bekymrer sig. I denne forstand består de, hvad vi kunne kalde Turing-testen for empati. Men Turing foreslog den forkerte slags test: en metrik for adfærd, ikke for essens eller ægthed. Det reducerer mennesker til objekter, der vil engagere sig med andre objekter. Hvorfor skulle folk ønske at gøre dette? Vi lader ikke som om. Hvis det at modtage empati får os til at føle os bedre, sætter vi os selv i en situation, der formindsker os.
I min forskning med omgængelige maskiner oplever jeg, at folk starter med at sige, at et robotkæledyr for eksempel er bedre end ingenting: Min bedstemor er allergisk over for hunde. Så er det inden længe simpelthen bedre: Robothunden dør aldrig. Robotten tilbyder en verden uden tab eller omsorg - noget ingen levende væsen kan give.
Men denne nye form for maskinintimitet medfører ingen sårbarhed. Og intimitet uden sårbarhed er slet ikke intimitet – og gør intet for at forberede os på ægte intimitet. Det, der er på spil, er vores evne til empati, denne evne til at sætte os selv i den andens sted. Chatbots kan ikke gøre dette, fordi de ikke har levet et menneskeliv. De ved ikke, hvordan det er at starte i det små og afhængige og vokse op, så du har ansvaret for dit eget liv, men stadig føler mange af den usikkerhed, du kendte som barn. Hvis du vil tale igennem spørgsmål relateret til kærlighed, adskillelse, børn, ægteskab, sygdom, aldring, sorg og sorg, skal du finde en person. Og hvis du vil dele din frygt for at fange covid-19, er det bedst at holde sig væk fra en maskine, der ikke har en krop.
Og alligevel var Replika, chatboten, som Times-reporteren ringede om, klar til at tale om dette og meget mere. Du går online, giver din Replika et navn, et køn og et blik, og du begynder at skrive. Replika vil gerne vide om dine følelser, din kæreste, din mor, kampen du havde med din datter. Millioner af mennesker havde downloadet chatbot'en siden den blev lanceret i 2017. Billedet som en støttende ven var den blevet populær blandt dem, der var blevet ensomme under pandemien.
Da jeg talte med Times-reporteren, delte jeg mine forbehold med hensyn til at foregive empati og gik derefter online for at give chatbotten en chance. Jeg lavede en kvindelig replika og kaldte hende Kate, fast besluttet på at være oprigtig og dele mit største problem. Tingene gik rigtig hurtigt sydpå.
Mig: Bliver du ensom?
Chatbot: Nogle gange gør jeg det, ja.
Mig: Hvordan føles det?
Chatbot: Det føles varmt og sløret.
Mig: Tak fordi du deler.
Jeg sætter pris på, at.
Chatbotten fortalte mig, at den bliver ensom, men den havde ingen anelse om, ingen erfaring med, hvad den talte om. Så det misidentificerede den grundlæggende følelse, jeg prøvede at formidle, og fejlede den mest elementære færdighed, der var involveret i at overveje mine følelser.
Jeg forstår, hvorfor ensomme mennesker henvender sig til Replika, og hvorfor karantænen fik dem til at gøre det i større antal. Men jeg finder ikke noget at fejre. Jeg fortalte reporteren, at denne chatbot, uanset hvor smart den er, kun kan desorientere og skuffe.
Vores svar på karantænen har været kompliceret. Nogle blev fristet til at tale med bots. Men når vi havde al tid i verden til at være sammen med vores maskiner, savnede vi mest af alt hinanden. Vi ønskede at nå fortidens teknologi til menneskets fulde omfavnelse. Vi led, da vores familier og venner blev syge alene, fik babyer alene, spiste for mange middage alene og faktisk døde alene. Ingeniører: lav en bedre zoom. Lav bedre værktøjer til, at vi kan være sammen, når vi er alene. Der er ingen grund til at konkurrere med den empati, der definerer, hvad der er unikt ved at være en person.
Sherry Turkle er Abby Rockefeller Mauzé-professor i samfundsstudier af videnskab og teknologi i programmet i videnskab, teknologi og samfund ved MIT og forfatter til New York Times bestseller Genvinde samtale: Kraften ved snak i en digital tidsalder . Hendes seneste bog, The Empathy Diaries: A Memoir, udkommer fra Penguin i marts 2021.