211service.com
Fuldstændig autonome biler er usandsynlige, siger USAs bedste transportsikkerhedsofficer
Christopher Hart
Bilulykker dræber mere end 33.000 amerikanere hvert år, mere end mord eller overdoser af receptpligtig medicin. Virksomheder, der arbejder på selvkørende biler, såsom Alphabet og Ford, siger, at deres teknologi kan skære ned på det tal ved at fjerne menneskelige forpligtelser som sms'er, fuldskab og træthed. Men Christopher Hart , formand for National Transportation Safety Board, siger, at hans agenturs erfaring med at undersøge ulykker, der involverer autopilotsystemer, der bruges i tog og fly, tyder på, at mennesker ikke helt kan fjernes fra kontrol. Han fortalte MIT Technology Review at fremtidige biler vil være meget mere sikre, men at nogle stadig vil have brug for mennesker som andrepiloter. Det følgende er en komprimeret udskrift.
Hvor optimistisk er du om, at selvkørende biler vil skære ned i antallet af dødsfald ved bilulykker?
Jeg er meget optimistisk. I årtier har vi kigget på måder at afbøde skader, når du har et styrt. Vi har sikkerhedsseler, vi har airbags, vi har mere robuste strukturer. Lige nu har vi mulighed for helt at forhindre styrtet. Og det kommer til at redde titusindvis af liv. Det er det ideelle slutpunkt: ingen nedbrud overhovedet.
Autopilotsystemer kan også skabe nye farer. NTSB har sagt, at piloters overdreven afhængighed af automatisering har forårsaget nedbrud . Er du bekymret for, at dette fænomen også er et problem for biler?
Det ideelle scenarie, som jeg talte om, der redder titusindvis af liv om året, forudsætter fuldstændig automatisering uden noget menneskeligt engagement overhovedet. Jeg er ikke sikker på, at vi vil nogensinde nå det punkt. Jeg kan ikke se, at idealet om komplet automatisering kommer snart.
Nogle mennesker kan bare lide at køre bil. Nogle mennesker stoler ikke på automatiseringen, så de får lyst til at køre. [Og] der er ingen softwaredesigner i verden, der nogensinde vil være smart nok til at forudse alle de potentielle omstændigheder, som denne software kommer til at møde. Hunden der løber ud på gaden, personen der løber op ad gaden, cyklisten, politimanden eller bygningsarbejderen. Eller broen kollapser i en oversvømmelse. Der er ingen måde, du vil være i stand til at designe et system, der kan håndtere det.
Udfordringen er, når du ikke har så fuldstændig automatisering, med stadig betydeligt menneskeligt engagement – det er når selvtilfredsheden bliver et problem. Det er, når mangel på færdigheder bliver problemet. Så vores udfordring er: hvordan håndterer vi det, der sandsynligvis vil være et langsigtet scenarie med stadig et vist menneskeligt engagement i dette stort set automatiserede system?
Det nylige dødsfald for en fører, der bruger Teslas autopilotfunktion, kan være en fejl i automatiseringen. Hvorfor efterforsker NTSB det styrt?
Vi efterforsker ikke de fleste bilulykker. Det, vi bringer til denne tabel, er erfaring [med] scenarier for at introducere automatisering i komplekse, menneskecentrerede systemer, hvilket denne absolut er. Vi er ved at undersøge dette styrt, fordi vi ser, at der kommer automatisering i biler, og vi vil gerne forsøge at hjælpe med at informere den proces med vores erfaring med andre typer automatisering.
Som hvad?
Nå, vi undersøgte en person-flytningsulykke i en lufthavn. Den kolliderede med en anden folkevogn. Og vores undersøgelse viste, at problemet var et vedligeholdelsesproblem. Selvom du eliminerer operatøren, har du stadig menneskelige fejl fra de mennesker, der har designet det, folk der byggede det, folk der vedligeholder det.
Nogle mennesker siger, at selvkørende biler bliver nødt til at træffe etiske beslutninger, for eksempel at beslutte, hvem der skal skade, når en kollision er uundgåelig. Er dette et reelt problem?
Jeg kan give dig et eksempel, som jeg har set nævnt flere steder. Min automatiserede bil bliver konfronteret af en lastbil på 80.000 pund i min vognbane. Nu skal bilen beslutte, om den skal køre ind i denne lastbil og dræbe mig, chaufføren, eller gå op på fortovet og dræbe 15 fodgængere. Det ville [skal] sættes i system. Beskytte beboere eller beskytte andre mennesker? Det vil for mig kræve et svar fra den føderale regering. Den slags etiske valg vil være uundgåelige.
Ud over blot etiske valg - hvad nu hvis systemet fejler? Kommer systemet til at svigte på en måde, der minimerer [skader] på offentligheden, andre biler, cyklister? Den føderale regering vil blive involveret.
Hvordan kan den proces se ud?
Federal Aviation Administration har en ordning, hvorved, hvis der er mindre sandsynlighed for, at noget end én ud af en milliard vil ske, behøver du ikke at have en alternativ lastvej [en fallback-struktur for at bære flyets vægt]. Mere sandsynligt end det, og du har brug for en fejlsikker. Medmindre du kan vise, at vingesparret fejler - den vingen, der kommer af - er mindre end én ud af en milliard, er det sandsynligt, at det vil ske. Så skal du have en plan B.
Den samme proces bliver nødt til at ske med biler. Jeg tror, at regeringen bliver nødt til at komme i spil og sige, I skal vise mig en mindre end X sandsynlighed for fiasko, eller I skal vise mig en fejlsikring, der sikrer, at denne fiasko ikke vil dræbe folk. At sætte grænsen er noget, som jeg tror vil være i den føderale regerings domæne, ikke statens regering. Jeg vil ikke have 50 grænser.