Militære robotter: Bevæbnet, men hvor farligt?

An åbent brev opfordring til et forbud mod dødelige våben kontrolleret af kunstigt intelligente maskiner blev underskrevet i sidste uge af tusindvis af videnskabsmænd og teknologer, hvilket afspejler voksende bekymring for, at hurtige fremskridt inden for kunstig intelligens kan udnyttes til at gøre dræbermaskiner mere effektive og mindre ansvarlige, både på slagmarken og af. Men eksperter er mere delte i spørgsmålet om robotdræbermaskiner, end du måske forventer.

Brevet, fremlagt på International fælles konference om kunstig intelligens i Buenos Aires, Argentina, blev underskrevet af mange førende AI-forskere samt fremtrædende videnskabsmænd og iværksættere, herunder Elon Musk, Stephen Hawking og Steve Wozniak. I brevet står der:

Artificial Intelligence (AI) teknologi har nået et punkt, hvor implementeringen af ​​sådanne systemer er - praktisk talt om ikke lovligt - gennemførlig inden for år ikke årtier, og indsatsen er høj: autonome våben er blevet beskrevet som den tredje revolution inden for krigsførelse, efter krudt og atomvåben.

Der er faktisk sket hurtige fremskridt inden for kunstig intelligens i de senere år, især inden for maskinlæring, som involverer at lære computere at genkende ofte komplekse eller subtile mønstre i store mængder data. Og dette fører til etiske spørgsmål om anvendelser af teknologien i den virkelige verden (se Hvordan man får selvkørende biler til at træffe etiske beslutninger).

I mellemtiden er militærteknologien avanceret for at tillade handlinger at blive udført eksternt, for eksempel ved hjælp af dronefly eller bombebortskaffelsesrobotter, hvilket øger udsigten til, at disse handlinger kan automatiseres.

Spørgsmålet om automatisering af dødelige våben har været et problem for videnskabsmænd såvel som militære og politiske eksperter i nogen tid. I 2012 udstedte det amerikanske forsvarsministerium en direktiv forbud mod udvikling og brug af autonome og semi-autonome våben i 10 år. Tidligere på året holdt FN et møde for at diskutere spørgsmålet om dødelige automatiserede våben og muligheden for et sådant forbud.

Men mens militære droner eller robotter godt kunne blive mere automatiserede, siger nogle, at ideen om fuldstændigt uafhængige maskiner, der kan udføre dødelige missioner uden menneskelig assistance, er mere fantasifuld. Med mange grundlæggende udfordringer, der stadig er tilbage inden for kunstig intelligens, er det dog langt fra klart, hvornår den nødvendige teknologi til fuldt autonome våben faktisk kan ankomme.

Vi skubber nye grænser inden for kunstig intelligens, siger Patrick Lin , professor i filosofi ved California Polytechnic State University. Og mange mennesker er med rette skeptiske over, at det nogensinde ville komme til det punkt, hvor det har noget, der hedder fuld autonomi. Ingen er rigtig ekspert i at forudsige fremtiden.

Lin, der aflagde vidnesbyrd på det nylige FN-møde, tilføjer, at brevet ikke berører den komplekse etiske debat bag brugen af ​​automatisering i våbensystemer. Brevet er nyttigt til at skabe opmærksomhed, siger han, men det kalder ikke så meget på debat; det forsøger at afslutte debatten ved at sige 'Vi har fundet ud af det, og I skal alle følge med.'

Stuart Russell , en førende AI-forsker og professor ved University of California, Berkeley, afviser denne idé. Det er simpelthen ikke rigtigt, at der ikke har været nogen debat, siger han. Men det er rigtigt, at AI- og robotteknologiske samfund for det meste har været lykkeligt uvidende om dette spørgsmål, måske fordi deres professionelle samfund har ignoreret det.

Et spørgsmål om debat, som brevet anerkender, er, at automatiserede våben kunne tænkes at hjælpe med at reducere uønskede tab i nogle situationer, da de ville være mindre tilbøjelige til fejl, træthed eller følelser end menneskelige kombattanter.

Bagmændene bag brevet har dog lidt tid til dette argument.

Max Tegmark , en MIT fysiker og grundlægger medlem af Future of Life Institute , som koordinerede brevunderskrivelsen, siger, at ideen med etiske automatiserede våben er en rød sild. Jeg synes, det er ret irrelevant, ærligt talt, siger han. Det mangler den store pointe om, hvad det vil føre til, hvis man starter dette AI-våbenkapløb. Hvis du antager, at det kun er USA, der skal bygge disse våben, og antallet af konflikter vil forblive nøjagtigt det samme, så ville det være relevant.

Future of Life Institute har udsendt en mere generel advarsel om de langsigtede risici ved uindskrænket kunstig intelligens og advarer om, at det kan udgøre alvorlige farer i fremtiden.

Det er et helt andet problem, siger Russell. Selvom der er en sammenhæng, hvis man er bekymret for at miste kontrollen over AI-systemer, efterhånden som de bliver smartere, er det måske ikke en god idé at overdrage vores forsvarssystemer til dem.

Mens mange AI-eksperter ser ud til at dele denne brede bekymring, ser nogle det som lidt malplaceret. For eksempel, Gary Marcus , en kognitiv videnskabsmand og kunstig intelligens-forsker ved New York University, har argumenterede at computere ikke behøver at blive kunstigt intelligente for at udgøre mange andre alvorlige risici, for eksempel for finansmarkeder eller lufttrafiksystemer.

Lin siger, at selvom konceptet med ukontrollerede dræberrobotter naturligvis er bekymrende, fortjener spørgsmålet om automatiserede våben en mere nuanceret diskussion. Følelsesmæssigt er det en ret ligetil sag, siger Lin. Intellektuelt tror jeg, at de skal gøre mere arbejde.

skjule