Hvorfor folk måske aldrig bruger autonome biler

Automatiseret kørsel udvikler sig hele tiden, men der mangler stadig en kritisk ingrediens: tillid. Vært Jennifer Strong møder ingeniører, der bygger et nyt kommunikationssprog mellem automatiserede køretøjer og deres menneskelige passagerer, en afgørende manglende brik i fremstødet mod en førerløs fremtid.

Vi møder:

• Dr. Richard Corey og Dr. Nicholas Giudice, grundlæggerne af VEMI Lab ved University of Maine
• Ryan Powell, UX Design & Research hos Waymo.
• Rashed Haq, VP for Robotics hos Cruise

Credits:

Denne episode blev rapporteret og produceret af Jennifer Strong, Tanya Basu, Emma Cillekens og Tate Ryan-Mosley. Vi fik hjælp fra Karen Hao og Benji Rosen. Vi er redigeret af Michael Reilly og Gideon Lichfield.

Udskrift af hele episoden:

Jennifer Strong: Førerløse biler er blevet fremtryllet i film og talt om i årtier. De første forsøg på at lave dem var for omkring et århundrede siden. Og selvfølgelig er de ikke længere så utrolige som i Herbie The Love Bug fra 1960'erne, hvor denne selvkørende bil har sit eget sind:

[Herbie-klip]: Jeg har ikke bragt dig hertil. Det er denne grimme lille bil.

Jennifer Strong: Men mens den kunstige intelligens, der driver teknologien, er kommet med stormskridt - og vi har nu nogle selvkørende taxaer i USA og Kina - er det faktum, at kommunikationen mellem bilen og mennesket inde er ikke kommet så langt siden tiden. af Herbie, der kører af sted uden chaufførens samtykke.

Og hvad mere er, bip og lyde, der skulle fortælle os noget om, hvad bilen laver, fortæller os ikke intuitivt, hvad der foregår.

For at være retfærdig er det ikke kun et problem med automatiserede køretøjer - det dukker op i de fleste biler med computeriserede elementer. Min bil ringer efter, at min passager skal tage en sikkerhedssele på, når alt hvad der er, er en håndtaske.

På trods af programmørers bedste indsats er der stadig et grundlæggende problem: biler og mennesker taler ikke det samme sprog.

Det hele betyder noget, fordi dette ikke er et videospil eller en telefon, der forsøger at fortolke dets matematiske sprog 1'er og 0'er på måder, der giver mening i menneskeligt sprog. Dette er en bevægende ting, der bærer vores kroppe fra sted a til sted b. Når tingene går galt, kan de gå rigtig galt.

Jeg er Jennifer Strong, og i denne episode dykker vi ned i nogle vanskelige spørgsmål om brugervenlighed og tillid.

Forestil dig, at du er ved at forlade huset - du kæmper for at komme til et møde med nogle kunder. Du vil gerne tale med din chef på forhånd, men du skal også få dine børn i skole. Du og børnene kæmper sig ud af døren og går hen til bilen, kaffe og toast i hånden, rygsække og vandflasker på slæb. Det ville være rart at indstille en autopilot. Men ville du stole på det? Kan du virkelig forestille dig at give slip på rattet?

Og hvordan ved du, hvilket scenarie der er mindre sikkert? Den uundgåelige multitasking og børnehåndtering under kørslen? Eller overdrage en vis kontrol til en maskine?

Den teknologi, vi har nu, såsom Teslas autopilot, er ikke avanceret nok til virkelig at være autonom. Folk i marken omtaler det som automatiseret kørsel - det kræver et menneske at overvåge, hvad bilen laver - vi ved, at mindst fem mennesker er omkommet i ulykker med automatiseret kørsel, når nogen bag rattet ikke var meget opmærksomme.

Men distraherede bilister er farlige i alle slags biler, og USA ser stadig omkring 30 til 40 tusinde mennesker omkomme i ulykker hvert år.

Jennifer Strong: Når jeg går en tur i mit nabolag, vil jeg ofte se min bedste veninde på hendes forhøjning med sit trettenårige barn. Det er en typisk byscene ... bortset fra denne næste del.

Hannah : Du går ind i kontrol... dette indlæses ikke...

Jennifer Strong: Hannah bruger en app på sin mors iPhone til at trække deres elbil ind på en parkeringsplads, hvor de kan tilslutte den.

Hannah : Nå, dette er en brugervenlighed... den indlæses ikke.

Kamel : Det sker flere gange, når vi først begynder at implementere summon-funktionen...

Jennifer Strong: Børn vokser op med apps, og det er ofte mere intuitivt for dem, hvordan disse ting fungerer, end det er for deres forældre. De er heller ikke så let frustrerede over ny teknologi.

Hannah: Her går vi. Okay. Så det viser dig et billede af bilen. Du skubber bare den vej, du vil, og hold den, og den skal bevæge sig. Men det gjorde det ikke... [fnise] ...

Jennifer Strong: Bilproducenten Tesla har en autopilotfunktion, der gør det muligt for chauffører at tilkalde biler på parkeringspladser for at komme og hente dem, blandt en lang række andre ting.

Åh! Der går det.

Hannah : Så lysene tænder, og du kan se rattet bevæge sig inde i bilen ... og det tror også, at vores cykelstativ er en anden bil, så vi kan ikke vende det med denne.

Jennifer Strong: Autopilot tilbyder også en mere avanceret version af fartpilot... selvom den heller ikke er perfekt.

Kamel : Men jeg er kommet til at forstå, at det vil stoppe eller bremse, baseret på personen foran dig. Hvis du ikke kan gå ind i forbikørselsbanen. Du skal dog stadig være opmærksom, fordi den stopper dødt på en motorvej i hurtig bevægelse. Af grunde... ingen grund. Ikke hvad jeg kan sige. Så jeg er meget usikker. Det tillader mig ikke at slappe meget af. Lader bare min fod tage en pause.

Kamel : Og når den vil tale med mig om sine sikkerhedsforanstaltninger, ville jeg ønske, at den ville tale ligefrem. I stedet for at bippe bip... prøver at rulle igennem... hvad [bip] betyder det? Jeg ved ikke. [griner]

Hannah : Når vi laver softwareopdateringer, giver det os en oversigt over, hvad der er gjort. Men som min mor sagde, det er ikke på almindeligt engelsk. Det er meget svært at forstå. Så du skal egentlig bare finde ud af, hvad der har ændret sig, mens du går, hvilket kan være farligt. Hvis det er noget stort, ved du ikke, hvordan du tænder for varmen eller tænder for autopiloten. Og jeg ved også, da jeg er begyndt at køre på forsædet, at jeg er blevet en slags co-pilot, og der er ingen indlysende måde at justere skriftstørrelsen på. Min mor kan ikke læse tiden eller navigationen. Hun har et meget godt syn, men det er stadig svært for hende. Og jeg må tage øjnene fra vejen. Hvis jeg kørte, ville jeg nok heller ikke kunne gøre det. Så det er ikke særlig brugervenligt.

Jennifer Strong: Der er ingen tvivl om, at vi har reelle problemer i dette forhold - det er bare et spørgsmål om hvordan de bliver adresseret, da forskere, der fokuserer på det ved University of Maine, er alt for opmærksomme.

Richard Corey : Der er meget lidt diskussion fra den menneskelige side. Og, og jeg vil være den første til at sige dette... Godt! Fordi nummer et vil jeg sørge for, at bilen bliver på vejen. Det er, det er vores nummer et ting. Sørg for, at ingeniørarbejdet er rigtigt, og at de bliver på vejen... men vi kommer snart til et punkt her, hvor vi bliver nødt til at komme ind i dem, og vi er nødt til at finde ud af, hvad det betyder ud fra den menneskelige side, hvad har vi brug for?

Jennifer Strong: Richard Corey er direktør for VEMI Lab ved University of Maine, som fokuserer på interaktioner mellem mennesker og maskiner.

Richard Corey : Vi begyndte at se dybere ind i det, indså, at meddelelsen på en Tesla, som alle på en måde anser for at være den førende inden for autonome køretøjer lige nu, meddelelsen for at fortælle dig, at Teslaen ikke længere har kontrol, er fire bip. Og vi tænkte, at det ikke virker som nok information [griner] i betragtning af neurobehandlingen og og ting, vi går igennem, når vi kører bil og er opmærksomme på tingene omkring os og...

Nicholas Giudice : På baggrund af det indså vi, at...

Jennifer Strong: Og det er laboratoriets medstifter, Nicholas Giudice .

Nicholas Giudice : Mens folk heller ikke rigtig tænker på den menneskelige side af tingene og ser på alle de menneskelige faktorer, har der været noget forskning, for det meste undersøgelsesforskning, der ret konsekvent har vist, at folk lidt kan lide ideen om autonome køretøjer. Og når du så siger, vil du gerne ud og komme ind i en? Vi har en lige udenfor laboratoriet. De siger, Åh nej, absolut ikke. Jeg mener, det er, at de viser denne form for frygt for teknologien, frygt for, hvordan den fungerer. Frygt for ikke at vide, en slags at miste kontrollen. Fordi kørsel giver dig denne følelse af, du ved, du har handlekraft over processen, du har kontrol over, hvad der sker. Og når du sætter dig ind i et selvkørende køretøj, synes folk ikke kun at være bekymrede over det, de har ikke kontrol, men de ved ikke, hvorfor køretøjet gør, hvad det gør.

Jennifer Strong: Og så, for at hjælpe med at forstå, hvordan dette tillidsforhold kan fungere, studerer de, hvordan mennesker gør det.

Nicholas Giudice: Når mennesker stoler på hinanden, er det fordi de har lært at arbejde sammen. De lærte at forstå, hvad de har brug for af hinanden. Og så denne idé om samarbejde mellem menneskelige køretøjer, det er sådan set denne underliggende ramme for vores forskning. Dels får vi tillid ved at sige, om vi kan opbygge en samarbejdsproces, hvor mennesket kan forstå, hvordan man interagerer med og hvad køretøjet har brug for, og køretøjet forstår mere om, hvad mennesket laver, og hvad de har brug for. Den proces, den samarbejdsproces, bygger tillid. Og så bygger vi i bund og grund tillid gennem bedre kommunikation.

Jennifer Strong: Tillid er ikke håndgribelig. Så hvordan måler videnskabsmænd, fokuseret på brugeroplevelse, det?

Nicholas Giudice : Er de afslappede? Vi kan se på dette ud fra fysiologiske mål. Så du kan se på puls eller øh, hudledning. Se på, hvordan deres opmærksomhed ændrer sig, og så får man tillid gennem disse forskellige typer værktøjer, som vi mener er en innovativ måde at gøre dette på. For hidtil har man set på dette gennem undersøgelser, ikke? Så du har folk til at tage disse undersøgelser, og det er en god måde at se på aspekter af tillid, men det er virkelig ikke nær så direkte. Og så når vi kombinerer de kvalitative og kvantitative og adfærdsmæssige og fysiologiske målinger, får vi virkelig en meget større, slags mere robust måde at se på tillid på fra forskellige niveauer.

Jennifer Strong: Deres personlige test er blevet holdt op af coronavirus. Men i bund og grund, hvad de håbede at gøre, er dette:

Richard Corey : Vi skulle bruge et autonomt køretøj i løbet af et år på et offentligt sted. Og vi skulle i gang med at se på, hvad vi kan putte derind. Kan vi sætte kameraer ind der? Kan vi have folk derinde til at lave observationsstudier? Kan vi sætte sensorer i sædet for at finde ud af, jeg ved ikke, hvor meget folk vrikker rundt, hvis de er nervøse eller noget. Alle data, som vi kunne indsamle for at starte processen med at finde ud af, hvem der har det godt, og hvem der ikke er det.

Jennifer Strong: Forskere ønsker at spore, om folk bliver mere komfortable og tillidsfulde, efterhånden som biler udvikler sig, og i sidste ende få evnen til at forklare, hvad de laver og hvorfor.

Men selv når du kan måle tillid, er den ikke skabt lige. Og det er ikke givet af alle på samme måde.

Nicholas Giudice : Folk er mere villige på nogle måder, især en som mig selv, der er medfødt blind, jeg er mere villig til at tage nogle af de ukendte risici, som folk er bekymrede over med autonome køretøjer. For jeg er ligesom, ja! Dette vil give mig mulighed for at komme hvorhen jeg vil, når jeg vil. Du ved, og du kunne have busruter, du kan have paratransit, men så er du bundet til meget specifikke tidsplaner. Dette er en økonomisk levedygtig og virkelig frigørende måde at komme rundt på. Og så den forbindelse til uafhængighed, den forbindelse til livskvalitet er bundet til tillid, at sætte en del af tilliden er også bare at vide, at det er jævnt, de stoler på, at det er noget, der kan fungere, fordi lige nu er så mange af de systemer, der er derude, virker ikke.

Jennifer Strong: Det samme gælder for dem, der bliver ældre eller har problemer, der kan forhindre dem i at køre bil.

Så hvad kan vi lære af at se, hvordan folk stoler på en person bag rattet - og hvordan replikerer du det forhold, når det kommer til mennesker og førerløse biler?

Richard Corey : Vi som mennesker kan fysisk se, om nogen er nervøse.

Jennifer Strong: Richard Corey.

Richard Corey : De griber fat i instrumentbrættet, stikker i det, den slags ting, og de er nervøse, og så kan du justere, hvordan du kører. Du kan endda sige, hej, det er okay. Jeg mener, jeg kørte engang i en virkelig slem snestorm, og alle i bilen var skræmte. Og jeg tænkte, se, du ved, det er i orden. Jeg har stadig styr på det her. Og det er de små menneskelige ting, du gør, der forbinder. Hvad kan bilen eller computeren, hvad end den er, sige til dig, der siger: Hej, det er okay. Det er derfor, jeg gør dette. Vi kommer til at trække over til højre vognbane, fordi det er virkelig svært, og vi er nødt til at sætte farten lidt ned, men vi ser ikke rigtig noget af den eksisterende teknologi ske i dag. Og det har vi som mennesker brug for.

Jennifer Strong: Og hans kollega Nicholas Giudice siger, at det er sådan kommunikation kan fungere...

Nicholas Giudice : Der kan være en avatar, bare ting, som du faktisk kan begynde at tænke på, køretøjet i forhold til at have menneskelignende egenskaber, at det ikke kun er denne sorte boks-automatisering, du bare... i .

Jennifer Strong: Den mangeårige frontløber i dette kapløb om at bygge selvkørende køretøjer er et firma kaldet Waymo, som tidligere var kendt som Googles selvkørende bilprojekt.

Det blev verdens første robo-taxi i 2018, efter at have sat en flåde af selvkørende førerhuse på vejen i Phoenix, Arizona. Og på trods af at de skal suspendere ture under den globale pandemi, kører deres biler stadig 20 millioner virtuelle miles om dagen i simulatorer.

Det er også blandt en håndfuld virksomheder, der nu tester selvkørende lastbiler i Texas.

Hos Waymo ligner kommunikation tv-skærme, lydeffekter... og menneskelignende stemmer...

Ryan Powell : Og så ved vi i dag, at når du er passager i en bil, der er ført af et menneske, er der en masse kommunikation, der sker mellem dig og den chauffør, som hjælper med at skabe tillid.

Jennifer Strong: Ryan Powell leder forsknings- og designteamet for brugeroplevelser.

Ryan Powell : ...så det kan være direkte kommunikation. Som du måske spørger en chauffør, hvilken rute vi tager, eller hvorfor bevæger du dig ikke, er lyset grønt, men det kan også være indirekte. Som du kunne bemærke, at den menneskelige chauffør måske flytter sine hænder på rattet lige før han er klar til at tage et venstresving. Men vi vidste fra et meget tidligt tidspunkt, at vi havde brug for en eller anden kommunikationsmetode i vores køretøjer for at opbygge tillid, så ryttere kunne føle sig trygge og sikre og informerede ... til det formål bruger vi meget tid på at tænke på den visuelle grænseflade i vores bil. vi forsøger at visualisere, hvad bilen kan se, du ved, hvordan kommunikerer vi bilens hensigt i hvilke situationer har ryttere brug for yderligere information, hvad er det rigtige informationsniveau.

Jennifer Strong: For på den anden side forsøger de også ikke at overbelaste ryttere med for meget information.

Ryan Powell : Så det, du hører, når du interagerer med et produkt eller en tjeneste, bør modtage lige så meget designovervejelse, som det, du ser. Så når vi tænker på vores brugeroplevelse, er det derfor, vi har besluttet at designe ikke kun til det, du kan se, men også det, du kan høre.

Og så det er det, vi på en måde omtaler som en slags vores velkomstspor, som du ville høre, når dørene åbner, og når du er på vej ind i køretøjet, men stemmefeedback giver os mulighed for at formidle mere kompleks information og også for også at tilpasse beskeder. Så dette er et eksempel på, hvad en rytter ville høre, når bilen begynder at bevæge sig. Så desert breeze park er selvfølgelig destinationen, som rytteren sætter ind der. Og vi er igen i stand til at personliggøre den stemme ved at tage den destination, som de indtastede i appen og bare forstærke over for rytteren, at vi ved, hvor destinationen er, hvor vi er på vej hen, som vi, som bilen til faktisk at flytte.

Jennifer Strong: Noget jeg har spekuleret på, er hvad der sker, hvis du falder i søvn i en førerløs taxa? Hvordan vækker bilen – eller hjælperen som Waymo kalder den – dig?

Ryan Powell : Vi giver dig et heads up, når, øh, når du er omkring et minut væk fra din, din destination og ideen der er til det på en måde, hvis du på en måde har nikket eller blundet, det er der, vi bruge en stemme. Så der kommer en stemme og fortæller dig, at du ankommer om cirka et minut. Og den anden ting, at det tjener som en påmindelse om at samle dine ting, hvis du har lagt noget på de andre sæder, og så du ikke efterlader det, det bagved, for igen, Du skal ikke have den menneskelige chauffør til at se sig omkring og sige, hej, du har glemt din jakke. Eller, du ved, du har glemt din, din, øhm, din telefon eller din taske. Og så bruger vi stemme i det tilfælde. Og vi tror også, øhm, du ved, at det ville hjælpe nogen til at vågne, hvis de på en måde havde døset, mens de var på turen.

Jennifer: Der gik meget forskning i at vælge en stemme til det autonome køretøj, som ryttere ville stole på.

Ryan Powell : Vi bliver ofte bedt om at kunne lide, hvorfor en kvindestemme versus en mandlig stemme, men egentlig handlede beslutningen for os ikke om køn. Det handlede mere om at finde den bedst klingende stemme, der matchede disse principper. Og så i sidste ende er det bare tilfældigvis en kvindestemme for os, du ved, en stemme, der lyder kompetent og betænksom og venlig, du ved, du ved, igen på en måde hjælper folk med at få en positiv oplevelse. Og det var i høj grad det, vi gik efter, da vi tænkte på den stemme, man hører i bilen.

Jennifer Strong: Og hvad mere er, Waymo producerer alle sine lyde i en bestemt toneart i håb om at påvirke, hvordan vi har det inde i bilen.

[Lyd]

Ryan Powell : Der er denne idé om, at nøglen til E er en meget slags genial eller optimistisk nøgle. Og så vil du bemærke, at hele vores lydbillede igen, er, bliver spillet omkring denne, denne toneart af E. Og så vil jeg, jeg vil spille en lyd her i tonearten af ​​E.

[Lyd]

Som forskere er det, hvad vi bruger meget tid på at gøre med vores ryttere, at vi forsøger at afdække de øjeblikke, hvor folk har brug for yderligere information for at forstå, hvad der sker i køretøjet. Og igen går det lidt tilbage til ideen om at opbygge tillid. Så det kunne være et simpelt eksempel, hvor bilen, du måske bare kører med, og bilen pludselig sænker farten, og vi ser det hele tiden. Det er du sådan set ikke, det er selvfølgelig ikke et ængsteligt øjeblik eller et alarmerende øjeblik, men du, du ser lidt op fra din telefon, og du er ligesom at spekulere på, Åh, hvad sker der, du ved, der er ingen foran os, men vi kører lidt langsommere, end vi lige var. Og så er det et eksempel på, hvor vi i så fald er kommet ind i en skolezone, men igen, fordi du ikke kører bil, kommer du nok ikke til at vide det direkte. Og så vi, det er her, vi stoler på den visuelle grænseflade eller i nogle tilfælde bruger lyd eller stemme til at fortælle dig, hvad der skete.

Jennifer Strong: En af Waymos primære konkurrenter hedder Cruise. Vi møder dens chef for robotteknologi efter pausen.

[midroll]

Jennifer Strong: Selvkørende bilfirma Cruise er en del af General Motors. San Francisco opstarten bygger elbiler og fokuserer på samkørsel og levering i tætte bymiljøer.

Rashed Haq er dens vicepræsident for robotteknologi.

Rashad Huck : Selvkørende biler skal lære den sociale adfærd hos andre bilister eller andre deltagere i trafikken som fodgængere. Og samtidig skal de tilpasse sig menneskelignende sociale forventninger til andre chauffører og passagererne. Og de skal gøre dette, mens de opnår overmenneskelige sikkerhedsniveauer.

Jennifer Strong: En del af hans job er at lære autonome køretøjer at være mere menneskelige, fordi der er masser af ting, vi gør, mens vi kører, simpelthen for vores egen komfort. Vi foretrækker jævnere sving, og vi kører ikke lige midt i en vognbane ved siden af ​​parkerede biler.

Han og hans team studerer vores vaner ikke kun for at efterligne dem i visse scenarier, men også for at tilpasse sig dem. For eksempel siger han, at de bruger computervisionsalgoritmer til at analysere fodgængeres hensigt ud fra deres adfærd.

Rashad Huck : Så hvis der for eksempel er nogen, der står ved et fodgængerfelt, men kigger ned på deres telefon, så kan AV-en udlede, at enten er det usandsynligt, at de krydser med det samme, eller også er de distraheret, og de kan faktisk begynde at gå og ikke kigge op .

Vi har sensorer, der kan se 360 ​​grader ret langt ude, normalt mere end mennesker kan. Og på en given dag kører vi mere, end et menneske ville gøre i et helt liv. Så det giver dig en slags grænser for, hvordan, hvor hurtigt algoritmerne kan opfange. Det skal åbenbart endnu ikke have menneskers dom.

Jennifer Strong: Og før vi når dertil, skal vi vide, hvordan vi vil automatisere væk fra menneskelig kørsel.

Kan vi realistisk forvente, at folk tager kontrollen på et hvilket som helst tidspunkt, når de har afgivet den kontrol for det meste af turen? Flyingeniører indså for lang tid siden, at piloter ikke kan gøre dette sikkert, så navigationssystemer sørger altid for, at de udfører en eller anden opgave for at forblive engageret i at flyve.

Måske betyder det, at biler skal holde tilbage med, hvor meget de tager rattet, indtil de virkelig kan være autonome.

Denne type teknologi kræver en ny form for menneskelig tillid. Selvom vi ikke kan kvantificere det, ved vi, at niveauet af tillid, folk føler, øges med gennemsigtighed, personlig erfaring og sikkerhedsforanstaltninger. Så når vi kører vores egne biler, tvivler vi aldrig rigtig på, at de stopper, når vi trykker på bremsen. Når vi outsourcer beslutningstagning til maskiner, skal den tillid optjenes. Uden det vil flere årtier gå, og nogle af disse teknologier ser måske aldrig dagens lys.

Næste afsnit: Følelsesgenkendelsesteknologi antyder en fremtid, hvor vores biler, telefoner og andre enheder reagerer på vores følelser.

Rana al-Kaliouby : Så vi bygger algoritmer, der kan forstå dine ansigtsudtryk, som dine smil eller dine panderynker eller øjenbryn, og kortlægger det til en forståelse af, hvad din følelsesmæssige og mentale tilstand er.

Jennifer Strong: Kan vi overhovedet kodificere følelser? Og skal vi? Deltag i en miniserie om emotion AI, hvor vi udforsker, hvordan man forvandler smarte værktøjer til empatiske.

Denne episode blev rapporteret og produceret af mig og Tanya Basu, med Emma Cillekens og Tate Ryan-Mosely. Vi fik hjælp fra Karen Hao og Benji Rosen. Vi er redigeret af Michael Reilly og Gideon Lichfield.

Tak fordi du lyttede, jeg er Jennifer Strong.

skjule