Hvordan vi har det med robotter, der har det

Efterhånden som robotter bliver smarte nok til at opdage vores følelser og reagere passende, kan de have noget som deres egne følelser. Men det vil ikke nødvendigvis gøre dem mere som mennesker. Ved

• Louisa Hall arkiv side

24. oktober 2017

Delcan & Company + Jenue

Octavia, en menneskelig robot designet til at bekæmpe brande på flådens skibe, har mestret en imponerende række af ansigtsudtryk.

Når hun er slukket, ligner hun en dukke i menneskestørrelse. Hun har et glat, hvidt ansigt med en stram næse. Hendes plastikøjenbryn sidder jævnt på hendes pande som to små kæntrede kanoer.

Denne historie var en del af vores november 2017-udgave

• Se resten af ​​problemet
• Abonner

Når hun er på, flyver hendes øjenlåg imidlertid op, og hun begynder at vise følelser. Hun kan nikke med hovedet i en gestus af forståelse; hun kan åbne øjnene op og løfte begge sine øjenbryn i et overbevisende skin af alarm; eller hun kan løfte hovedet til den ene side og skrue op for munden, hvilket replikerer menneskelig forvirring. Til en komisk effekt kan hun endda bue det ene øjenbryn og indsnævre det modsatte øje, mens hun banker sine metalfingre sammen, som om hun planlagde robothævn.

Men Octavias udvalg af ansigtsudtryk er ikke hendes mest imponerende træk. Hvad der er forbløffende er, at hendes følelsesmæssige påvirkning er en nøjagtig reaktion på hendes interaktioner med mennesker. Hun ser for eksempel glad ud, da hun genkender en af ​​sine holdkammerater. Hun ser overrasket ud, da en holdkammerat giver hende en kommando, hun ikke havde forventet. Hun ser forvirret ud, hvis nogen siger noget, hun ikke forstår.

Hun kan vise passende følelsesmæssig påvirkning, fordi hun behandler enorme mængder information om sit miljø. Hun kan se, høre og røre ved. Hun tager visuelt status over sine omgivelser ved hjælp af de to kameraer, der er indbygget i hendes øjne og analyserer karakteristika som ansigtstræk, teint og tøj. Hun kan registrere folks stemmer ved hjælp af fire mikrofoner og et stemmegenkendelsesprogram kaldet Sphinx. Hun kan identificere 25 forskellige genstande ved berøring, efter at have lært dem ved at bruge sine fingre til fysisk at manipulere dem til forskellige mulige positioner og former. Tilsammen udgør disse perceptuelle færdigheder en del af hendes kropslige kognitive arkitektur, som gør det muligt for hende – ifølge sine skabere ved Navy Center for Applied Research in Artificial Intelligence – at tænke og handle på måder, der ligner mennesker.

Det er en spændende påstand, men den er ikke nødvendigvis chokerende. Vi er vant til tanken om, at maskiner opfører sig som mennesker. Automater skabt i det 18. århundredes Frankrig kunne danse, holde tiden og spille på trommer, dulcimer eller klaver. Som barn, der voksede op i 1980'erne, begærede jeg af en eller anden grund en dukke, der blev annonceret for evnen til at tisse i hendes bukser.

Octavia er i stand til at formidle udtryk, men det viser sig, at ansigtsudtryk ikke er påkrævet, for at folk kan føle sig følelsesmæssigt knyttet til deres robotter. U.S. Naval Research Laboratory

Vi er endda vant til tanken om, at maskiner tænker på måder, der minder os om mennesker. Mange af vores længe elskede højvandsmærker for menneskelig erkendelse – evnen til at slå en stormester i skak, for eksempel, eller at komponere en metrisk præcis sonet – er blevet mødt og overgået af computere.

Octavias handlinger - den frygtelige udvidelse af hendes øjne, den forvirrede fure i hendes plastikøjenbryn - ser ud til at gå et skridt videre. De antyder, at hun ud over at tænke, som vi tænker, også føler menneskelige følelser.

Det er ikke rigtig tilfældet: Octavias følelsesmæssige påvirkning, ifølge Gregory Trafton, der leder Intelligent Systems Sektionen ved Navy AI-centeret, er blot beregnet til at demonstrere den slags tænkning, hun gør, og gøre det lettere for folk at interagere med hende. Men det er ikke altid muligt at trække en grænse mellem at tænke og føle. Som Trafton erkender, er det klart, at folks tanker og følelser er forskellige, men påvirker hinanden. Og hvis, som han siger, følelser påvirker kognition og kognition påvirker følelser, peger Octavias evne til at tænke, ræsonnere og opfatte på nogle af de større spørgsmål, der vil ledsage fremkomsten af ​​intelligente maskiner. På hvilket tidspunkt vil maskiner være smarte nok til at føle noget? Og hvordan skulle vi egentlig vide det?

Personlige følelser

Octavia er programmeret med teori om sind, hvilket betyder, at hun kan forudse sine menneskelige holdkammeraters mentale tilstande. Hun forstår, at mennesker har potentielt modstridende overbevisninger eller hensigter. Når Octavia får en kommando, der afviger fra hendes forventninger, kører hun simuleringer for at finde ud af, hvad holdkammeraten, der gav kommandoen, tænker, og hvorfor denne person mener, at dette uventede mål er gyldigt. Det gør hun ved at gennemgå sine egne modeller af verden, men ændre dem lidt i håb om at finde en, der fører til det erklærede mål. Når hun vipper hovedet til den ene side og rynker sine øjenbryn, er det for at signalere, at hun kører disse simuleringer og forsøger bedre at forstå sin holdkammerats tro.

Vi ved stadig ikke alt, hvad der er involveret i at føle følelser.

Octavia er ikke programmeret med følelsesmæssige modeller. Hendes teori om sindet er et kognitivt mønster. Men det fungerer meget som empati, den mest værdsatte af alle menneskelige følelser.

Andre robotproducenter omgås spørgsmålet om deres maskiners følelsesmæssige intelligens. SoftBank Robotics, for eksempel, som sælger Pepper – en behagelig og sympatisk menneskelig robot bygget til at tjene som en menneskelig ledsager – hævder, at Pepper kan opfatte menneskelige følelser, tilføjer at Pepper elsker at interagere med dig, Pepper vil gerne lære mere om din smag, dine vaner, og ganske enkelt hvem du er. Men selvom Pepper måske har evnen til at genkende menneskelige følelser, og selvom Pepper måske er i stand til at reagere med glade smil eller udtryk for tristhed, er der ingen, der påstår, at Pepper faktisk føles sådanne følelser.

Hvad skal der til for en robotskaber at hævde det? For det første ved vi stadig ikke alt, hvad der er involveret i at føle følelser.

Ting gennemgået

• Kultur og menneske-robotinteraktion i militariserede rum: En krigshistorie

  Af Julie Carpenter
  Routledge, 2016

• Hvordan følelser bliver til: Hjernens hemmelige liv

  Af Lisa Feldman Barrett
  Houghton Mifflin Harcourt, 2017

• U.S. Army Robotic and Autonomous Systems Strategy

  marts 2017

I de senere år har revolutioner inden for psykologi og neurovidenskab radikalt omdefineret selve begrebet følelser, hvilket gør det endnu sværere at fastlægge og beskrive. Ifølge videnskabsmænd som psykologen Lisa Feldman Barrett, professor ved Northeastern University, bliver det mere og mere klart, at vores følelser varierer meget afhængigt af den kultur, vi er opdraget i. De varierer endda meget inden for et individ i forskellige situationer. Faktisk, selvom vi deler de generelle følelser, der udgør det, der er kendt som affekt (glæde, utilfredshed, ophidselse og ro) med de fleste andre mennesker og mange andre dyr, varierer vores mere akutte og specifikke følelser mere, end de følger bestemte normer. Frygt er for eksempel et kulturelt aftalt koncept, men det udspiller sig i vores kroppe på utallige måder. Det er inspireret af forskellige stimuli, det manifesterer sig forskelligt i vores hjerner, og det kommer til udtryk på forskellige måder i vores ansigter. Der er ikke et enkelt frygtcenter eller frygtkredsløb i hjernen, ligesom der ikke er et pålideligt frygtindgydende ansigtsudtryk: vi bearbejder og viser alle vores frygt på radikalt forskellige måder, afhængigt af situationen - måder, som vi gennem interaktioner med andre mennesker lærer at identificere eller betegne som frygt.

Når vi taler om frygt, så taler vi om et generaliseret paraplybegreb snarere end noget, der kommer ud af en bestemt del af hjernen. Som Barrett udtrykker det, konstruerer vi følelser på stedet gennem et samspil af kropslige systemer. Så hvordan kan vi forvente, at programmører nøjagtigt modellerer menneskelige følelser i robotter?

Gode ​​soldater

Der er også moralske dilemmaer omkring programmering af robotter til at have følelser. Disse problemer er særligt godt demonstreret af militærrobotter, der ligesom Octavia er designet til at blive sendt ind i skræmmende, smertefulde eller potentielt dødelige situationer i stedet for mindre uundværlige menneskelige holdkammerater.

På en konference i 2017 sponsoreret af hærens noget alarmerende titlen Mad Scientist Initiative, specificerede generalløjtnant Kevin Mangum, næstkommanderende for hærens træning og doktrinkommando, at sådanne robotter skal og vil være autonome. Når vi ser på vores stadig mere komplekse verden, er der ingen tvivl om, at robotteknologi, autonome systemer og kunstig intelligens vil spille en rolle, sagde Mangum. 2017 Army Robotic and Autonomous Systems Strategy forudsiger fuld integration af autonome systemer i 2040, og erstatter nutidens bombebortskaffelsesrobotter og andre maskiner, der fjernbetjentes af mennesker.

En civil træner viser faldskærmstropper, hvordan man opsætter displayet til en PackBot slagmarksrobot. Hvor uudtrykte disse robotter end kan virke, udvikler soldater i felten bånd til dem, idet de ser dem som en del af holdet. Michael J. McLeod

Når disse robotter kan handle og tænke på egen hånd, bør de, ligesom Octavia, programmeres med skin af menneskelige følelser? Skal de programmeres til faktisk har menneskelige følelser? Hvis vi sender dem i kamp, ​​skal de så ikke kun tænke, men føle sammen med deres menneskelige ledsagere?

På den ene side selvfølgelig ikke: Hvis vi designer robotter med det udtrykkelige mål at udsætte dem for fare, ville det være sadistisk at give dem kapacitet til at lide terror, traumer eller smerte.

På den anden side, hvis følelser påvirker intelligensen og omvendt, kunne vi så være sikre på, at en robot uden følelser ville være en god soldat? Hvad hvis manglen på følelser fører til dumme beslutninger, unødvendige risici eller overdrevent grusom gengældelse? Kunne en robot uden følelser beslutte, at den intelligente beslutning ville være at begå, hvad en menneskelig soldat ville føle var en krigsforbrydelse? Eller ville en robot uden adgang til frygt eller vrede træffe bedre beslutninger, end et menneske ville i samme skræmmende og vanvittige situation?

Og så er der muligheden for, at hvis følelser og intelligens er uløseligt forbundet, er der ikke sådan noget som en intelligent robot uden følelser, i hvilket tilfælde spørgsmålet om, hvor mange følelser en autonom robot skal have, på nogle måder er ude af kontrol. af programmøren, der beskæftiger sig med intelligens.

Følelsesmæssige tilknytninger

Der er også spørgsmålet om, hvordan disse robotter kan påvirke deres menneskelige holdkammerater.

I 2010 var den amerikanske hær begyndt at indsætte en flåde på omkring 3.000 små taktiske robotter, hovedsagelig som reaktion på den stigende brug af improviserede sprængladninger i krigsførelse. I stedet for menneskelige soldater triller disse robotter ned ad udsatte veje, ind i mørke huler og gennem smalle døråbninger for at opdage og deaktivere uforudsigelige IED'er.

Soldater har rapporteret at føle sig fortvivlede, når sådanne kampfæller som Talon, der er vist her, bliver ødelagt under deres pligt. Qinetiq

Denne flåde består hovedsageligt af iRobots PackBot og QinetiQ North Americas Talon, robotter, der ikke er specielt avancerede. De ligner lidt WALL-E, deres kasseformede metalkroppe balanceret på gummitrin, der giver dem mulighed for at gøre et ret godt stykke arbejde med at krydse klippefyldt terræn, gå op ad trapper og komme ned ad skumle gange. De har ledarme udstyret med videokameraer til at overvåge deres omgivelser og kløer til at pille ved eksplosive enheder.

De er nyttige værktøjer, men de er ikke ligefrem autonome. De bliver fjernbetjent, ligesom legetøjsbiler, af soldater, der holder enheder, der nogle gange er udstyret med joystick. Som et eksempel på kunstig intelligens er PackBot ikke så meget mere avanceret end iRobots bedre kendte produkt, Roomba, der støvsuger under din lænestol.

Og alligevel, selv nu, på trods af disse robotters uudtrykkelige natur, udvikler menneskelige soldater bånd til dem. Julie Carpenter demonstrerer ind Kultur og menneske-robotinteraktion i militariserede rum at disse forhold er komplicerede, både givende og smertefulde.

Da Carpenter bad en betjent om at beskrive sine følelser omkring en robot, der var blevet ødelagt, svarede han:

Jeg mener, det var åbenbart ikke … nogen steder i nærheden af ​​at være på samme niveau som, du ved, en kammerat af dig blive såret eller se et medlem blive taget ud eller sådan noget. Men der var stadig et vist tab, en følelse af tab fra noget, der skete med en af ​​dine robotter.

En anden servicemand sammenlignede sin robot med en hund:

Jeg mener, du tog dig lige så godt af den ting, som du gjorde dine teammedlemmer. Og du sørgede for, at der blev ryddet op, og sørgede for, at batterierne altid var opladet. Og hvis du ikke brugte den, var den gemt sikkert væk, så godt det kunne være, fordi du vidste, hvis der skete noget med robotten, jamen så var det din tur, og det er der ingen, der kan lide at tænke på.

Endnu en mand forklarede, hvorfor hans holdkammerat gav deres robot et menneskeligt navn:

Mod slutningen af ​​vores tur tilbragte vi mere tid uden for tråden og sov i vores lastbiler, end vi var inde. Vi sov inde i vores lastbiler uden for ledningen i godt fem til seks dage om ugen, og det var tre mænd i lastbilen, du ved, en der lå på tværs af forsæderne; den anden lægger hen over tårnet. Og vi kan ikke downloade følsomme genstande og efterlade dem uden for lastbilen. Alt skal låses inde, så vores TALON var i midtergangen på vores lastbil, og vores juniormand kaldte den Danielle, så han ville have en kvinde at putte med om natten.

'Min smukke robot blev dræbt ...' var faktisk den udtalelse, jeg kom med til min teamleder.

Disse mænd understreger alle, at robotterne er værktøjer, ikke levende væsner med følelser. Alligevel giver de deres robotter menneskelige navne og gemmer dem sikkert ind om natten. De joker med den impuls, men der er en lidt foruroligende dissonans i løjerne. De soldater, Carpenter interviewede, lader til at føle sig lidt fastklemt mellem to følelser: de forstår det absurde i at tage sig af en følelsesløs robot, der er designet til at kunne bruges, men de oplever ikke desto mindre fristelsen til at bekymre sig, i det mindste en lille smule.

Da Carpenter havde offentliggjort sine første interviews, modtog hun mere kommunikation fra mænd og kvinder i militæret, som havde udviklet ægte bånd til deres robotter. En tidligere tekniker til bortskaffelse af eksplosiv ammunition skrev:

Da jeg er en EOD-tekniker på otte år og tre implementeringer, kan jeg fortælle dig, at jeg fandt din forskning yderst interessant. Jeg er fuldstændig enig med de andre teknikere, du har interviewet, i at sige, at robotterne er værktøjer, og som sådan vil jeg sende dem ind i enhver situation uanset den mulige fare.

Men under en mission i Irak i 2006 mistede jeg en robot, som jeg havde opkaldt Stacy 4 (efter min kone, som også er EOD-tekniker). Hun var en fremragende robot, der aldrig gav mig nogen problemer, og hun præsterede altid fejlfrit. Stacy 4 var fuldstændig ødelagt, og jeg var kun i stand til at genvinde meget små stykker af chassiset. Umiddelbart efter eksplosionen, der ødelagde Stacy 4, kan jeg stadig huske følelsen af ​​vrede og meget af den. Min smukke robot blev dræbt … var faktisk den udtalelse, jeg kom med til min teamleder. Efter missionen var fuldført, og jeg havde genvundet så meget af robotten, som jeg kunne, græd jeg over tabet af hende. Jeg havde det, som om jeg havde mistet et kært familiemedlem. Jeg ringede til min kone den aften og fortalte hende det også. Jeg ved godt det lyder dumt, men jeg hader stadig at tænke på det. Jeg ved, at de robotter, vi bruger, kun er maskiner, og jeg ville tage de samme beslutninger igen, selv ved at kende resultatet.

Jeg værdsætter menneskeliv. Jeg værdsætter de relationer, jeg har med rigtige mennesker. Men jeg kan fortælle dig, at jeg helt sikkert savner Stacy 4, hun var en god robot.

Hvis det er den slags vidnesbyrd, der kan indsamles fra soldater, der interagerer med ansigtsløse maskiner som PackBots og Talons, hvad ville du så høre fra soldater udstationeret med robotter som Octavia, som ser og hører og rører og kan forudse hendes menneskelige holdkammeraters sindstilstande ?

I populære samtaler om etikken i at give følelser til robotter, har vi en tendens til at fokusere på virkningerne af en sådan teknologisk innovation på selve robotterne. Film og tv-serier fra Blade Runner til Westworld tage sig af det traume, der ville blive påført følelsesrobotter af mennesker, der bruger dem til deres underholdning. Men der er også det omvendte at overveje: traumet påført de mennesker, der knytter sig til robotter og derefter sender dem til visse dødsfald.

Relateret historie

Relateret historie En ny trend inden for kunstig intelligens er at få computere til at registrere, hvordan vi har det og reagere i overensstemmelse hermed. De kan endda hjælpe os med at udvikle mere medfølelse for hinanden.

Det, der komplicerer alt dette endnu mere, er, at hvis en robot som Octavia ender med at føle menneskelige følelser, vil disse følelser ikke kun være resultatet af den kognitive arkitektur, hun har givet til at starte med. Hvis de ligner vores følelser, vil de udvikle sig i sammenhæng med hendes forhold til hendes holdkammerater, hendes plads i den verden, hun bebor.

Hvis hendes unikke robotliv for eksempel bliver brugt på at blive sendt i brand af hendes menneskelige kammerater, eller at trille af sted alene ned ad ørkenveje fyldt med eksplosive anordninger, vil hendes følelser være anderledes end dem, som opleves af en mere beskyttet robot eller en mere beskyttet robot. human. Uanset de genkendelige følelsesmæssige udtryk hun giver, hvis hun tilbringer sit liv i umenneskelige situationer, er hendes følelser måske ikke genkendeligt menneskelige.

Louisa Hall, en forfatter i New York, er forfatter til Tale , en roman fra 2015 om kunstig intelligens.

skjule