Sådan hjælper du selvkørende biler med at træffe etiske beslutninger

En filosof er måske den sidste person, du ville forvente at have en hånd i at designe din næste bil, men det er præcis, hvad en ekspert i selvkørende køretøjer har i tankerne.

Chris Gerdes , professor ved Stanford University, leder et forskningslaboratorium, der eksperimenterer med sofistikeret hardware og software til automatiseret kørsel. Men sammen med Patrick Lin , professor i filosofi ved Cal Poly, udforsker han også de etiske dilemmaer, der kan opstå, når selvkørende køretøjer bliver indsat i den virkelige verden.

Gerdes og Lin organiserede en workshop i Stanford tidligere på året, der samlede filosoffer og ingeniører for at diskutere spørgsmålet. De implementerede forskellige etiske indstillinger i softwaren, der styrer automatiserede køretøjer, og testede derefter koden i simuleringer og endda i rigtige køretøjer. Sådanne indstillinger kan for eksempel bede en bil om at prioritere at undgå mennesker frem for at undgå parkerede køretøjer eller ikke at svinge efter egern.

Illustration af Victor Kerlow

Fuldt selvkørende køretøjer er stadig på forskningsstadiet, men automatiseret køreteknologi kryber hurtigt ind i køretøjer. I løbet af de næste par år planlægger en række bilproducenter at frigive køretøjer, der er i stand til at styre, accelerere og bremse for sig selv på motorveje i længere perioder. Nogle biler har allerede sensorer, der kan registrere fodgængere eller cyklister og advare bilister, hvis det ser ud til, at de kan ramme nogen.

Hidtil har selvkørende biler været involveret i meget få ulykker. Googles automatiserede biler har tilbagelagt næsten en million miles af veje med kun nogle få bagende, og disse køretøjer håndterer typisk usikre situationer ved blot at stoppe (se Googles selvkørende bilchef forsvarer sikkerhedsrekord).

Efterhånden som teknologien udvikler sig, og biler bliver i stand til at fortolke mere komplekse scener, kan automatiserede køresystemer muligvis træffe beslutninger på et splitsekund, der rejser reelle etiske spørgsmål.

Ved en nylig branchebegivenhed gav Gerdes et eksempel på et sådant scenarie: et barn, der pludselig styrter ud på vejen og tvinger den selvkørende bil til at vælge mellem at ramme barnet eller svinge ind i en modkørende varebil.

Som vi ser dette med menneskelige øjne, har en af ​​disse forhindringer meget mere værdi end den anden, sagde Gerdes. Hvad er bilens ansvar?

Gerdes påpegede, at det endda kunne være etisk at foretrække at udsætte passagererne i den selvkørende bil i fare. Hvis det ville undgå barnet, hvis det ville redde barnets liv, kunne vi så skade passageren i køretøjet? Det er meget svære beslutninger, som dem, der designer kontrolalgoritmer til automatiserede køretøjer, står over for hver dag, sagde han.

Gerdes opfordrede forskere, bilingeniører og billedere til at forberede sig på at overveje de etiske implikationer af den teknologi, de udvikler. Du skal ikke bare hen og hente etikmodulet og sætte det i din selvkørende bil, sagde han.

Andre eksperter er enige om, at der vil være en vigtig etisk dimension i udviklingen af ​​automatiseret køreteknologi.

Når du beder en bil om at træffe en beslutning, har du et etisk dilemma, siger Adriano Alessandrini, en forsker, der arbejder på automatiserede køretøjer ved University de Roma La Sapienza, i Italien. Du kan måske se noget på din vej, og du beslutter dig for at skifte vognbane, og mens du gør, er der noget andet i den vognbane. Så dette er et etisk dilemma.

Alessandrini leder et projekt kaldet CityMobil2 , som tester automatiserede transitkøretøjer i forskellige italienske byer. Disse køretøjer er langt enklere end de biler, der udvikles af Google og mange bilproducenter; de følger blot en rute og bremser, hvis der er noget i vejen. Alessandrini mener, at dette kan gøre teknologien lettere at lancere. Vi har ikke dette [etiske] problem, siger han.

Andre mener, at situationen er lidt mere kompliceret. For eksempel, Bryant Walker-Smith , en assisterende professor ved University of South Carolina, der studerer de juridiske og sociale konsekvenser af selvkørende køretøjer, siger, at der allerede er truffet mange etiske beslutninger inden for bilteknik. Etik, filosofi, jura: alle disse antagelser underbygger så mange beslutninger, siger han. Hvis du for eksempel ser på airbags, er den iboende teknologi antagelsen om, at du vil redde en masse liv og kun dræbe nogle få.

Walker-Smith tilføjer, at i betragtning af antallet af fatale trafikulykker, der involverer menneskelige fejl i dag, kan det anses for uetisk at indføre selvkørende teknologi for langsomt. Det største etiske spørgsmål er, hvor hurtigt vi bevæger os. Vi har en teknologi, der potentielt kan redde en masse mennesker, men som vil være uperfekt og vil dræbe.

skjule