Social intelligens

JEG: Skal jeg gå i seng, Siri?

Siri: Jeg synes du skal sove på det.

Denne historie var en del af vores maj 2012-udgave

• Se resten af ​​problemet
• Abonner

Det er svært ikke at beundre sådan et smart-aleck-svar. Siri – den intelligente personlige assistent, der er indbygget i Apples iPhone 4S – viser ofte denne form for holdning, især når de bliver stillet et spørgsmål, der gør sjov med dens kunstige intelligens. Men svaret er ikke nogle snaskede programmørers joke. Det er en afgørende del af, hvorfor Siri fungerer så godt.

Siris popularitet viser, at en digital assistent har brug for mere end blot intelligens for at få succes; den har også brug for takt, charme og overraskende vid. Fejl forårsager frustration og irritation med enhver computergrænseflade. Risikoen forstærkes dramatisk med en, der poserer som en personlig samtaleassistent, et faktum, der tidligere har fortrudt nogle socialt forkrøblede virtuelle assistenter. Så for Siri kan det være lige så vigtigt at være sympatisk og lejlighedsvis skør som at blænde med bedrifter af maskinintelligens.

Ting gennemgået

• Siri (beta-udgivelse, kører på iPhone 4)

• START

  http://start.csail.mit.edu

• Manden der løj for sin bærbare computer: Hvad maskiner lærer os om menneskelige relationer

  Clifford Nass
  Aktuel, 2010

  
  
  

Siri har sin oprindelse i et forskningsprojekt, der blev startet i 2003 og finansieret af det amerikanske militærs Defense Advanced Research Projects Agency (DARPA). Indsatsen blev ledet af SRI International, som i 2007 udskilte et firma, der udgav den originale version af Siri som en iPhone-app i februar 2010 (teknologien blev navngivet blandt Teknologigennemgang 10 nye teknologier i 2009). Denne tidligere Siri kunne gøre færre ting end den, der senere kom indbygget i iPhone 4S. Det var i stand til at få adgang til en håndfuld onlinetjenester til at lave restaurantreservationer, købe biografbilletter og booke taxaer, men det var fejlbehæftet og fik aldrig et stort hit hos brugerne. Apple købte opstarten bag Siri for et ukendt beløb blot to måneder efter, at appen fik sin debut.

Den Siri, der dukkede op halvandet år senere, fungerer forbløffende godt. Den lytter til talte kommandoer (på engelsk, fransk, tysk og japansk) og reagerer med enten en passende handling eller et svar, der udtales med en rolig, passende robotagtig kvindestemme. Bed Siri om at vække dig kl. 8:00, og den vil indstille telefonens vækkeur i overensstemmelse hermed. Bed Siri om at sende en tekstbesked til en ven, og det vil pligtskyldigt tage diktering, før du affyrer dit missive. Sig Hvor kan jeg finde en burrito, Siri? og Siri vil servere en liste over velanmeldte mexicanske restauranter i nærheden, fundet ved at forespørge på telefonens placeringssensor og udføre en web- og kortsøgning. Siri har også utallige fakta og tal lige ved hånden, takket være online svarmotoren Wolfram Alpha, som har adgang til mange databaser. Spørg Hvad er Jupiters radius? og Siri vil afslappet informere dig om, at det er 42.982 miles.

Siris karismatiske kvalitet mangler helt i andre naturlige sproggrænseflader. Adskillige virksomheder sælger virtuelle kundeserviceagenter, der er i stand til at chatte med kunder online i maskinskrevet tekst. Et eksempel er Eva, skabt af det spanske firma Indysis. Eva kan chatte komfortabelt, medmindre samtalen begynder at afvige fra de områder, den er blevet trænet i at tale om. Hvis det gør det, så vil Eva ret groft forsøge at skubbe dig tilbage mod disse emner.

Siri har også nogle tættere konkurrenter i form af apps tilgængelige til iPhones og Android-enheder. Evi, lavet af True Knowledge; Dragon Go, fra stemmegenkendelsesfirmaet Nuance; og Iris, lavet af det indiske softwarefirma Dexetra, er alle variationer over temaet en stemmestyret personlig assistent, og de kan ofte matche Siris evne til at forstå og udføre simple opgaver eller til at hente information. Men de er meget mindre socialt dygtige. Da jeg spurgte Iris, om den mente, jeg skulle sove, var resten måske dens flade, humorløse svar.

Selvom Siri er imponerende, er den involverede AI dog ikke så sofistikeret. Boris Katz, en hovedforsker ved MIT's Computer Science and Artificial Intelligence Lab, som har bygget maskiner, der analyserer menneskeligt sprog i årtier, har mistanke om, at Siri ikke lægger megen indsats i at analysere, hvad en person spørger om. I stedet for at finde ud af, hvordan ordene i en sætning arbejder sammen for at formidle mening, mener han, at Siri ofte bare genkender nogle få nøgleord og matcher dem med et begrænset antal forprogrammerede svar. De lærte det et par ting, og systemet forventer de ting, siger han. De er meget kloge på, hvad folk normalt spørger om.

I modsætning hertil har konventionel kunstig intelligens-forskning stræbt efter at analysere mere kompleks betydning i samtaler. I 1985 begyndte Katz at bygge et system kaldet START til at besvare spørgsmål ved at behandle sætningsstruktur. Det system besvarer maskinskrevne spørgsmål ved at analysere, hvordan ordene er arrangeret, for at fortolke betydningen af ​​det, der bliver spurgt. Dette gør det muligt for START at besvare spørgsmål formuleret på komplekse måder eller med en vis grad af tvetydighed.

I 2006 – et år før SRI udskilte sin opstart – demonstrerede Katz og kolleger en softwareassistent baseret på START, som kunne tilgås ved at indtaste forespørgsler i en mobiltelefon. Konceptet minder bemærkelsesværdigt om Siri, men denne del af START-projektet kom aldrig længere. Det forblev mindre vigtigt end Katz' stræben efter sit egentlige mål - at skabe en maskine, der bedre kan matche den menneskelige evne til at bruge sprog.

For at forstå, hvor svært det er at kommunikere rigtigt, behøver du ikke lede længere end den berygtede intelligente assistent Clippy, introduceret af Microsoft i 1997.

START er blot en lille udløber af forskningen i kunstig intelligens, der begyndte omkring 50 år tidligere som et forsøg på at forstå det menneskelige sinds funktion og skabe noget analogt i maskiner. Denne indsats har produceret mange virkelig bemærkelsesværdige teknologier, der er i stand til at udføre beregningsopgaver, der er umuligt komplicerede for mennesker. Men forskning i kunstig intelligens har undladt at genskabe mange aspekter af menneskelig intellekt, herunder sprog og kommunikation. Som Katz forklarer, kan en simpel samtale mellem to mennesker udnytte den fulde dybde af en persons livserfaringer, og dette er stadig umuligt at efterligne i en maskine. Så selvom AI-systemer er blevet bedre til at få adgang til, behandle og præsentere information, er menneskelig kommunikation blevet ved med at undvige dem.

På trods af at den er mindre i stand til at håndtere sprogets kompleksitet end START, viser Siri, at en maskine kan lave lige nok tricks til at narre brugere til at føle, som om de har noget, der omtrent ligner en rigtig samtale. For at forstå, hvor svært det er at få selv simpel tekstbaseret kommunikation rigtigt, behøver du ikke lede længere end den berygtede intelligente assistent, som Microsoft introducerede tilbage i 1997. Denne irriterende virtuelle papirklip, kaldet Clippy, ville dukke op, hver gang en bruger oprettede en dokument, der tilbyder assistance med en besked som f.eks. den irriterende linje. Det ser ud til, at du skriver et brev. Vil du have hjælp? Microsoft forventede, at brugerne ville elske Clippy. Bill Gates troede, at fans ville designe Clippy T-shirts, krus og hjemmesider. Så virksomheden var lamslået og forvirret, da brugere hadede Clippy, lavede T-shirts, krus og websteder dedikeret til at nedsætte det. Responsen var så dårlig, at Microsoft slog Clippy ihjel i 2007.

Før det gjorde det, hyrede Microsoft Stanford-professor Clifford Nass, en ekspert i menneske-computer-interaktion, til at undersøge, hvorfor programmet havde inspireret til så meget ubehageligheder. Nass, som er forfatter til Manden der løj til sin bærbare computer: Hvad maskiner lærer os om menneskelige relationer, har brugt år på at studere lignende fænomener, og hans arbejde antyder en ret simpel årsag: folk anvender instinktivt reglerne for menneskelige sociale interaktioner på omgang med computere, mobiltelefoner, robotter, navigationssystemer i bilen og lignende maskiner. Nass indså, at Clippy brød næsten enhver norm for acceptabel social adfærd. Den begik de samme fejl igen og igen og plagede konstant brugere, der ville lades alene. Clippys problem var, at den sagde 'Jeg vil gøre alt' og derefter fortsatte med at skuffe, siger Nass. Ligesom en person, der gentager det samme svar igen og igen, får os til at føle os fornærmede, siger Nass, så gør en computergrænseflade det også - selvom vi godt ved, at vi har med en maskine at gøre.

Clippy viste, at forsøg på mere menneskelignende kommunikation kan give spektakulært bagslag, hvis subtiliteterne i social adfærd ikke forstås og respekteres. Nass siger, at Apple gjorde alt for at gøre Siri sympatisk. Siri påtvinger sig overhovedet ikke brugeren. Applikationen kører i baggrunden på iPhone og springer kun til opmærksomhed, når brugeren holder hjemknappen nede eller lægger telefonen til øret og begynder at tale. Det undgår også at begå den samme fejl to gange og prøve forskellige svar, når brugeren gentager et spørgsmål. Selv tonen i Siris stemme var nøje udvalgt til at være harmløs, mener Nass.

Apple begrænsede også de opgaver, Siri kan udføre, og de svar, den kan give, sandsynligvis for at undgå skuffelse. Hvis du beder Siri om at poste noget på Twitter, for eksempel, vil den vildt indrømme, at den ikke ved hvordan. Men da alternativet kunne være at udsende forvanskede tweets ved et uheld, er denne strategi forståelig.

Nøjagtigheden af ​​Siris stemmegenkendelse hjælper også med at undgå skuffelse. Systemet hører nogle gange ord forkert, ofte med underholdende resultater. Jeg er ked af det, Will, jeg forstår ikke 'Jeg har brug for pyjamas' var et nysgerrigt svar på et spørgsmål, der ikke havde noget med pyjamas at gøre. Men for det meste fungerer stemmesystemet bemærkelsesværdigt godt. Det har ikke noget problem med min engelske accent eller med mange komplekse ord og sætninger, og denne overordnede nøjagtighed gør den mærkelige fejl så meget mere acceptabel.

En central udfordring for Apple var, at en person kort efter mødet med Siri kan opleve en stærk trang til at snuble over denne virtuelle know-it-all: at spørge den om meningen med livet, om den tror på Gud, eller om den kender R2D2. Apple valgte at håndtere dette fænomen på en opfindsom måde: ved at sørge for, at Siri forstår joken og spiller med. Således har den et smart svar på næsten enhver kurvekugle, der kastes mod den, og den varierer endda dens svar, et trick, der til tider får det til at virke uhyggeligt menneskeligt.

Denne drilleri hjælper også med at mindske slaget, når Siri misforstår noget eller bliver stødt over et overraskende simpelt spørgsmål. Engang, da jeg spurgte, hvem der vandt Super Bowl, konverterede det stolt en koreansk won til dollars for mig. Jeg vidste, at dette kun var en algoritmisk fejl i en fjern bank af computerservere, men jeg følte også en trang til at tolke det som, at Siri var skør.

Nass siger, at den måde, Siri håndterer humor på, er inspireret. Forskning har afsløret, bemærker han, at humor får folk til at virke smartere og mere sympatiske. Intermitterende, uskyldig humor har vist sig, for både mennesker og computere, at være effektiv, siger Nass. Det er meget positivt, selv for den mest kedelige, stabile computergrænseflade.

Men Katz, som en person, der i årtier har stræbt efter at give maskiner muligheden for at bruge sprog, håber til sidst at se noget meget mere sofistikeret end Siri dukke op: en maskine, der er i stand til at føre rigtige samtaler med mennesker. Sådanne maskiner kunne give grundlæggende indsigt i naturen af ​​menneskelig intelligens, siger han, og de kan give en mere naturlig måde at lære maskiner, hvordan man bliver klogere.

Det er måske fortsat drømmen for AI-forskere. For resten af ​​os er ankomsten af ​​en virtuel assistent, der faktisk er nyttig, et lige så fundamentalt gennembrud. På Katz' kontor på MIT viste jeg ham nogle af de sjove svar, Siri kommer med, når hun bliver provokeret. Han klukkede og bemærkede over klogskaben hos de ingeniører, der designede Siri, men han talte også som AI-forsker ved at bruge betydninger og ord, som Siri uden tvivl ville kæmpe med. Der er ikke noget galt med at have gimmicks, sagde han, men det ville være rart, hvis det rent faktisk kunne analysere dybt, hvad du sagde. Samtalerne med brugeren bliver så meget rigere.

Katz har ret i, at en mere revolutionerende intelligent personlig assistent – ​​en der er i stand til at udføre mange mere komplicerede opgaver – vil have brug for mere avanceret kunstig intelligens. Men dette underspiller også en vigtig innovation bag Siri. Efter at have testet appen et stykke tid længere, indrømmede Katz, at han beundrer iværksættere, der ved, hvordan man gør fremskridt inden for datalogi til noget, som almindelige mennesker vil bruge hver dag. Jeg ville ønske, jeg vidste, hvordan folk gør det, indrømmer han.

For svaret skal han måske bare blive ved med at tale med Siri.

Will Knight er Teknologigennemgang 's online redaktør.

skjule