Facebooks perfekte, umulige chatbot

Tim Liedtke

Amazons Alexa kan tilkalde en Uber og tilfredsstille en fire-årigs krav om pruttelyde. Siri kan styre din internettilsluttede termostat. Hver serverer millioner af brugere hver dag. Men en heldig gruppe på omkring 10.000 mennesker, hovedsageligt i Californien, ved, at Facebooks assistent, ved navn M, er den klogeste af flokken.

Vil du anbefale og reservere et romantisk hotel i Marokko, der også er velegnet til små børn? Intet problem. Få tilbud fra lokale entreprenører til at anlægge din forhave? Betragt det som gjort. Facebooks eksperimentelle assistent, der tilbydes i virksomhedens Messenger-app, viser værdien af ​​at have en ægte digital butler i lommen. I stedet for blot at hente simple stykker information fra databaser, kan M forstå komplekse ordrer og foretage handlinger som at bestille teaterbilletter eller kontakte firmaer for at få information.

M er så smart, fordi den snyder. Det fungerer ligesom Siri, idet når du trykker på en besked til M, prøver algoritmer at finde ud af, hvad du vil have. Når de ikke kan, falder M dog ikke tilbage på at søge på nettet eller sige undskyld, jeg forstår ikke spørgsmålet. I stedet tager et menneske usynligt over og reagerer på din anmodning, som om algoritmerne stadig var ved roret. (Facebook afviste at sige, hvor mange af disse arbejdere det har, eller at stille M til rådighed for at prøve.)

Det design er for dyrt at skalere til de 1,2 milliarder mennesker, der bruger Facebook Messenger, så Facebook tilbød M til et par tusinde brugere i 2015 som et slags halvoffentligt R&D-projekt. At sammenflette menneskelige arbejdere og algoritmer var beregnet til at afsløre, hvordan folk ville reagere på en alvidende virtuel assistent, og at levere data, der ville lade algoritmerne lære at overtage arbejdet med deres menneskelige trænere.

Alle i dette felt drømmer om at skabe den assistent, der endelig bliver meget, meget, meget smart, siger Alex Lebrun, der startede projektet. M formodes at åbne en vej til virkelig at gøre det.

Nu to år ad den vej kan Facebooks forskningsprojekt med rette kaldes vellykket. Brugere som M, og teorien om, at software kunne lære at overtage noget arbejde fra de menneskelige trænere, er blevet bekræftet. Alligevel er M stadig langt fra det punkt, hvor det kunne være et rigtigt produkt, der tilbydes de andre 99,9 procent af Messenger-brugere, og fremskridtene er blevet sværere end forventet.

Vi vidste, at det var en kæmpe udfordring, men det er endnu større, end jeg troede, siger Lebrun. Læringshastigheden, væksten i automatiseringen - vi har set, at det ville være langsommere, end vi håbede. Ms historie er en påmindelse om, hvor langt kunstig intelligens er nået i de seneste år - og hvor langt det skal gå.

M er for måneskud

Folk er overraskende sjove at tale med dumme maskiner. Den første chatbot blev oprettet i 1964 af MIT-professor Joseph Weizenbaum. Det travede ud på dåse linjer som svar på specifikke søgeord, mest succesfuldt, når de spillede rollen som en terapeut. Til Weizenbaums irritation blev mange mennesker, der prøvede det, inklusive hans egen sekretær, slået på trods af, at de vidste, at boten, kaldet Eliza, intet vidste. Jeg havde ikke indset, at ekstremt korte eksponeringer for et relativt simpelt computerprogram kunne fremkalde kraftig vrangforestillingstænkning hos ganske normale mennesker, skrev han senere.

Det er meget sværere at lave en chatbot, der hjælper dig ved at få tingene gjort, ikke bare at fungere som en klangbund eller skriftefader. Når en virtuel tjener bliver bedt om at gøre noget, vil et vagt eller afvisende svar ikke afskære det. Nutidens software er dårlig til at forstå sproget og verden, så virtuelle assistenter, såsom Siri eller Alexa, skal eksplicit programmeres til at håndtere enhver given opgave.

Det er derfor, bots på markedet har begrænsede repertoirer. Og det forklarer sandsynligvis, hvorfor forslag sidste år om, at chatbots blev sat til at transformere, hvordan vi bruger computere, meget som mobilapps gjorde, drevet af Microsoft, Facebook og nogle teknologiinvestorer, ikke ser ud til at have været til meget. Bots er lige nu i fortvivlelsens trug, siger Greg Cohn, CEO for Burner, et mobilprivatlivsfirma, der er begyndt at hjælpe Airbnb-værter med at skabe en simpel bot til at besvare almindelige spørgsmål fra gæster. For brancheobservatører føles det som om, de er overhypede og underleverer.

Lebrun byggede M, fordi han havde brugt mere end et årti på at bygge konventionelle, smalle chatbots og drømte om at tilbyde meget mere. Han sluttede sig til Facebook i begyndelsen af ​​2015, da det sociale netværk købte Wit.ai, en virksomhed, han var med til at stifte for at hjælpe virksomheder med at oprette chatbots til funktioner som kundesupport. Lebrun havde tidligere solgt en chatbot-virksomhed til talegenkendelsesgiganten Nuance.

Hver eneste bot på markedet, inklusive min, var regelbaseret, og du ved, at du en dag vil nå et loft og aldrig gå igennem, siger Lebrun. Vores børn arbejder ikke med regler eller scripts, og en dag bliver de klogere end dig.

M blev oprindeligt kun tilbudt Facebook-medarbejdere og derefter til nogle tunge Messenger-brugere i Californien. Og det tog ikke lang tid at demonstrere, at algoritmer faktisk kunne lære at udføre noget af det arbejde, der udføres af de mennesker, der driver assistenten.

Tim Liedtke

Facebooks forskergruppe for kunstig intelligens brugte M til at teste en ny type læringssoftware kaldet et hukommelsesnetværk, som havde vist evner til at besvare spørgsmål om simple historier. Softwaren bruger en slags arbejdshukommelse til at salte vigtig information væk til senere brug, et design Google også tester for at forbedre softwarens ræsonnementskompetencer.

Weizenbaum havde tilbage i 1964 foreslået, at sådan noget kunne gøre Eliza klogere, og inden for få uger virkede det for M. Lebrun husker, at han blev overrasket efter at have takket assistenten for at have bestilt biografbilletter. Det genererede automatisk svaret. Du er velkommen. Nyd filmen. M havde lært at huske og bruge konteksten af ​​den opgave, den hjalp med. Vi var virkelig blæst bagover, siger Lebrun. Ingen skrev et program til at gøre det.

Hukommelsesnetværk fortsatte med at gøre mere. De slår nu til, hvis nogen beder M om at få leveret blomster, for eksempel automatisk ved hjælp af nøgleoplysninger fra anmodningen, såsom budget eller adresse, til at generere forslag fra online blomsterhandlere. Den menneskelige træner vælger derefter, hvad han vil tilbyde brugeren.

Andre opdagelser har været mindre jubel. Den ene er den enorme appetit M låser op hos sine brugere. Med begrænsede, fuldautomatiske assistenter som Siri eller Alexa, har folk en tendens til at finde sig til rette i at bruge nogle få funktioner, de synes fungerer pålideligt. Med M gør de ikke.

Folk prøver først at spørge efter vejret i morgen; så siger de ’Er der en italiensk restaurant ledig?’ Dernæst har de et spørgsmål om immigration, og efter et stykke tid beder de M om at arrangere deres bryllup, fortæller Lebrun. Vi vidste, at det ville være farligt, og det er bredere end vores forventninger.

Menneskelige trænere gør deres bedste, når de modtager svære forespørgsler som Arranger en papegøje til at besøge min ven , men nogle gange afviser de helt at hjælpe. Selvom M automatisk skulle afvise de mest komplekse brugerforespørgsler, gør den store variation af deres anmodninger det sværere at nå målet om at få algoritmer til at tage over fra menneskelige trænere. En teknik kaldet deep learning har for nylig gjort maskinlæring mere kraftfuld (hukommelsesnetværk er et eksempel). Men at lære at håndtere en lang række komplekse scenarier, med få data om hver, fordi de ikke opstår ofte, er ikke den slags problem, som dyb læring udmærker sig ved. Det er meget smartere, og det kan lære meget komplekse opgaver, men det kræver en masse data, siger Lebrun.

Langt træk

Langsommere fremskridt end forventet har fået Facebook til at genskabe sit projekt. I sidste uge dukkede en funktion kaldet M Suggestions op i Messenger, som i funktion ligner den slags begrænsede bots, M er beregnet til at fortrænge. Den ser på dine chats med venner for at se, at du måske vil gøre ting som at bestille en tur med Uber eller sende nogen penge, og tilbyder en knap til at nå disse mål med et enkelt tryk.

Vi besluttede at finde en use case, hvor vi kan fremskynde leveringen af ​​værdi til brugerne, siger Laurent Landowski, der sluttede sig til Facebook med Lebrun som medstifter af Wit.ai og nu fører tilsyn med M. (Lebrun vendte tilbage til sit hjemland Frankrig i januar og sluttede sig til Facebooks AI-forskning laboratorium i Paris.)

Den originale, menneskeafhængige M er stadig derude og leverer meget større værdi til sine få heldige brugere. Facebook siger, at det er forpligtet til projektet, og det nuværende øjeblik inden for kunstig intelligens er et godt tidspunkt for langsigtede væddemål. I de sidste par år har deep learning øget etablerede teknikker og forventninger til software, der behandler sprog, siger Justine Cassell , professor ved Carnegie Mellon. Vi er i disse nye maskinlæringsalgoritmers glansdage, siger hun. Faktisk sprang Googles oversættelsesnøjagtighed for nylig til et næsten menneskeligt niveau.

Det betyder ikke, at det er en selvfølge, at software kan lære at spille butler ved at se mennesker gøre det. Jeg tror ikke, vi ved det endnu, siger Cassell. Men Facebooks forskere siger, at de har masser af ideer at udforske.

Den ene er at få den automatiserede side af M til at lære af positiv eller negativ feedback i de beskeder, brugerne sender, ved hjælp af en teknik inspireret af processen med at træne dyr med belønninger (se 10 Breakthrough Technologies 2017: Reinforcement Learning). M kan komme hurtigere frem, hvis ikke udelukkende afhængig af, hvad dets menneskelige entreprenører gør. For at sætte gang i ideer i det bredere forskningsfællesskab har Facebooks team udgivet værktøjer til at hjælpe andre med at teste og sammenligne unscripted assistent-bots. Og lovende nye teknikker kan nu også testes i større skala, i M Suggestions.

Lebrun og Landowski tror, ​​at de stadig er på vej til i sidste ende at bringe den rigtige M til masserne. Nogle gange siger vi, at dette er tre år eller fem år - men måske er det 10 år eller mere, siger Landowski.

Lebrun tilføjer: Det er så svært, og vi gør fremskridt langsomt, men jeg tror, ​​vi har alt, hvad vi har brug for. Han kunne have ret, men du kan også forestille dig en, der mødte Eliza i 1964, og sagde stort set det samme.

skjule