En AI træner rådgivere til at håndtere teenagere i krise

Fru Tech | Unsplash, Pexels

Rådgivere, der arbejder frivilligt på Trevor-projektet, skal være forberedte på deres første samtale med en LGBTQ-teenager, der måske tænker på selvmord. Så først øver de sig. En af måderne, de gør det på, er ved at tale med fiktive personer som Riley, en 16-årig fra North Carolina, som føler sig en smule nedtrykt og deprimeret. Med et teammedlem, der spiller Rileys rolle, kan praktikanter bore i, hvad der sker: de kan afdække, at teenageren er ængstelig for at komme ud til familien, for nylig fortalte venner, og det gik ikke godt, og har oplevet selvmordstanker før, hvis ikke kl. øjeblikket.

Nu bliver Riley dog ​​ikke spillet af en Trevor Project-medarbejder, men bliver i stedet drevet af AI.

Ligesom den originale persona skal denne version af Riley – trænet på tusindvis af tidligere udskrifter af rollespil mellem rådgivere og organisationens personale – stadig lokkes en smule til at åbne op, og opstille en situation, der kan teste, hvad praktikanter har lært om de bedste måder at hjælpe LGBTQ-teenagere på.

Rådgivere skal ikke presse Riley til at komme ud. Målet er i stedet at validere Rileys følelser og, hvis det er nødvendigt, hjælpe med at udvikle en plan for at forblive sikker.

Krisehotlines og chattjenester gør dem til et grundlæggende løfte: Ræk ud, og vi vil forbinde dig med et rigtigt menneske, der kan hjælpe. Men behovet kan overgå kapaciteten af ​​selv de mest succesrige tjenester. Trevor-projektet mener, at 1,8 millioner LGBTQ-unge i Amerika seriøst overvejer selvmord hvert år. De eksisterende 600 rådgivere for deres chatbaserede tjenester kan ikke håndtere det behov. Det er derfor, gruppen – ligesom et stigende antal mentalsundhedsorganisationer – henvendte sig til AI-drevne værktøjer for at hjælpe med at imødekomme efterspørgslen. Det er en udvikling, der giver meget mening, samtidig med at det rejser spørgsmål om, hvor godt den nuværende AI-teknologi kan klare sig i situationer, hvor udsatte menneskers liv er på spil.

At tage risici – og vurdere dem

Trevor-projektet mener, at det forstår denne balance - og understreger, hvad Riley ikke gør.

Vi har ikke sat os for og har ikke sat os for at designe et AI-system, der vil træde i stedet for en rådgiver, eller som vil direkte interagere med en person, der kan være i krise, siger Dan Fichter, organisationens chef for AI og ingeniørarbejde. Denne menneskelige forbindelse er vigtig i alle mentale sundhedstjenester, men den kan være særlig vigtig for de mennesker, som Trevor-projektet tjener. Ifølge organisationens egen forskning i 2019 var LGBTQ-unge med mindst én accepterende voksen i deres liv 40 % mindre sandsynlighed at anmelde et selvmordsforsøg i det foregående år.

Det AI-drevne træningsrollespil, kaldet krisekontaktsimulatoren og understøttet af penge og teknisk hjælp fra Google, er det andet projekt, organisationen har udviklet på denne måde: det bruger også en maskinlæringsalgoritme til at hjælpe med at bestemme, hvem der er i størst risiko af fare. (Den prøvede flere andre tilgange, inklusive mange, der ikke brugte AI, men algoritmen gav simpelthen de mest præcise forudsigelser for, hvem der oplevede det mest presserende behov.)

AI-drevet risikovurdering er ikke nyt for selvmordsforebyggende tjenester: Department of Veterans Affairs bruger også maskinlæring til at identificere udsatte veteraner i sin kliniske praksis, da Det rapporterede New York Times sidst sidste år.

Der er forskellige meninger om nytten, nøjagtigheden og risikoen ved at bruge AI på denne måde. I specifikke miljøer kan AI være mere præcis end mennesker til at vurdere folks selvmordsrisiko, argumenterer Thomas Joiner, en psykologiprofessor ved Florida State University, der studerer selvmordsadfærd. I den virkelige verden, med flere variabler, ser AI ud til at præstere omtrent lige så godt som mennesker. Hvad det dog kan, er at vurdere flere mennesker i et hurtigere tempo.

Det er således bedst brugt til at hjælpe menneskelige rådgivere, ikke erstatte dem. Trevor-projektet er stadig afhængig af, at mennesker udfører fuld risikovurdering af unge mennesker, der bruger dets tjenester. Og efter at rådgivere har afsluttet deres rollespil med Riley, bliver disse udskrifter gennemgået af et menneske.

Hvordan systemet fungerer

Krisekontaktsimulatoren er udviklet, fordi det at lave rollespil optager meget personaletid og er begrænset til normal arbejdstid, selvom et flertal af rådgivere planlægger frivilligt arbejde i natte- og weekendvagter. Men selvom målet var at uddanne flere rådgivere hurtigere og bedre imødekomme frivillige tidsplaner, var effektivitet ikke den eneste ambition. Udviklerne ønskede stadig, at rollespillet skulle føles naturligt, og at chatbot'en ​​smidigt skulle tilpasse sig en frivilligs fejl. Naturlig-sprog-behandling algoritmer , som for nylig var blevet rigtig god til at efterligne menneskelige samtaler, virkede som en god pasform til udfordringen. Efter at have testet flere muligheder slog Trevor-projektet sig fast OpenAIs GPT-2-algoritme .

Relateret historie

OpenAIs nye sproggenerator GPT-3 er chokerende god - og fuldstændig åndssvag

AI er den største sprogmodel, der nogensinde er skabt og kan generere fantastisk menneskelignende tekst efter behov, men vil ikke bringe os tættere på ægte intelligens.

Chatbotten bruger GPT-2 til sine grundlæggende samtaleevner. Den model er trænet på 45 millioner sider fra nettet, som lærer den den grundlæggende struktur og grammatik i det engelske sprog. Trevor-projektet trænede det derefter videre på alle transskriptioner af tidligere Riley-rollespilssamtaler, som gav botten det nødvendige materiale til at efterligne personaen.

Under hele udviklingsprocessen blev teamet overrasket over, hvor godt chatbot'en ​​klarede sig. Der er ingen database, der gemmer detaljer om Rileys bio, men chatbotten forblev konsistent, fordi hver transkription afspejler den samme historie.

Men der er også afvejninger ved at bruge AI, især i følsomme sammenhænge med sårbare samfund. GPT-2 og andre naturlige sprogalgoritmer som det er kendt for at indlejre dybt racistiske, sexistiske og homofobiske ideer. Mere end én chatbot er blevet ført katastrofalt på afveje på denne måde, den seneste er en sydkoreansk chatbot kaldet Lee Luda, der havde karakteren af ​​en 20-årig universitetsstuderende. Efter hurtigt at have vundet popularitet og interageret med flere og flere brugere, begyndte den at bruge besværgelser til at beskrive queer- og handicapfællesskaberne.

Trevor-projektet er klar over dette og har designet måder at begrænse risikoen for problemer. Mens det var meningen, at Lee Luda skulle tale med brugere om hvad som helst, er Riley meget snævert fokuseret. Frivillige vil ikke afvige for langt fra de samtaler, de er blevet trænet i, hvilket minimerer chancerne for uforudsigelig adfærd.

Dette gør det også nemmere at teste chatbot'en, som Trevor Project siger, den gør. Disse use cases, der er højt specialiserede og veldefinerede og designet inklusivt, udgør ikke en særlig høj risiko, siger Nenad Tomasev, forsker ved DeepMind.

Menneske til menneske

Det er ikke første gang, at det mentale sundhedsfelt har forsøgt at udnytte AI's potentiale til at yde inklusiv, etisk bistand uden at skade de mennesker, det er designet til at hjælpe. Forskere har udviklet lovende måder at opdage depression fra en kombination af visuelle og auditive signaler. Terapi-bots, selvom de ikke svarer til en menneskelig professionel, bliver slået op som alternativer for dem, der ikke kan få adgang til en terapeut eller er ubehagelige betro sig til en person.

Hver af disse udviklinger, og andre lignende, kræver at man tænker over, hvor meget agent AI-værktøjer skal have, når det kommer til at behandle sårbare mennesker. Og konsensus synes at være, at på dette tidspunkt er teknologien ikke rigtig egnet til at erstatte menneskelig hjælp.

Alligevel siger Joiner, psykologiprofessoren, at dette kan ændre sig over tid. Selvom det i øjeblikket er en dårlig idé at erstatte menneskelige rådgivere med AI-kopier, betyder det ikke, at det er en begrænsning, der er permanent, siger han. Mennesker, har kunstige venskaber og relationer allerede med AI-tjenester . Så længe folk ikke bliver narret til at tro, at de har en diskussion med et menneske, når de taler med en kunstig intelligens, siger han, kan det være en mulighed.

I mellemtiden vil Riley aldrig stå over for de unge, der faktisk skriver til Trevor-projektet: det vil kun tjene som et træningsværktøj for frivillige. Menneske-til-menneske-forbindelsen mellem vores rådgivere og de mennesker, der når ud til os, er afgørende for alt, hvad vi gør, siger Kendra Gaunt, gruppens data- og AI-produktleder. Jeg tror, ​​det gør os virkelig unikke, og noget, som jeg ikke tror, ​​nogen af ​​os ønsker at erstatte eller ændre.

Rettelse: Vi ændrede en sætning, der sagde, at Trevor-projektet prøvede to algoritmer for sin chatbot. Det prøvede flere.

skjule