Hvorfor AI-forskere ikke skal vende ryggen til militæret

amerikanske hær

Mere end 2.400 AI-forskere underskrev for nylig en løfte lovede ikke at bygge såkaldt autonome våben - systemer, der på egen hånd ville bestemme, hvem de skulle dræbe. Dette følger efter Googles beslutning om ikke at forny en kontrakt om at forsyne Pentagon med kunstig intelligens til analyse af droneoptagelser, efter at virksomheden kom under pres fra mange ansatte, der var imod deres arbejde på et projekt kendt som Maven.

Paul Scharre, forfatter til en ny bog, Army of None: Autonome våben og krigens fremtid , mener, at AI-forskere skal gøre mere end at melde sig ud, hvis de vil skabe forandring.

Paul Scharre. Vind McNamee/Getty Images

En Army Ranger i Irak og Afghanistan og nu en senior fellow ved Center for a New American Security, Scharre argumenterer for, at AI-eksperter bør engagere sig med politiske beslutningstagere og militære fagfolk for at forklare, hvorfor forskere er bekymrede og hjælpe dem med at forstå begrænsninger af AI-systemer.

Scharre talte med MED Teknologigennemgang seniorredaktør Will Knight om den bedste måde at stoppe et potentielt farligt våbenkapløb.

paulscharre.com

Hvor opsat er det amerikanske militær på at udvikle AI-våben?

Det har amerikanske forsvarsledere gentagne gange anført at deres hensigt er at holde et menneske i løkken og ansvarlig for dødbringende beslutninger. Nu er forbeholdet, at de også har erkendt, at hvis andre lande bygger autonome våben, så kan de blive tvunget til at følge trop. Og det er den reelle risiko - at hvis et land krydser denne grænse, kan andre føle, at de er nødt til at reagere i naturalier bare for at forblive konkurrencedygtige.

Men kan man virkelig stole på disse løfter?

Jeg tror, ​​højtstående amerikanske forsvarsembedsmænd er oprigtige i, at de ønsker, at mennesker forbliver ansvarlige for brugen af ​​dødelig magt. Militære professionelle vil bestemt ikke have, at deres våben løber løbsk. Når det er sagt, er det stadig et åbent spørgsmål, hvordan man oversætter et bredt begreb som menneskeligt ansvar over dødelig magt til specifik teknisk vejledning om, hvilke slags våben der er tilladt. Definitionen af, hvad der udgør et autonomt våben, er allerede anfægtet, så der kan være forskellige holdninger til, hvordan man omsætter disse principper i praksis.

Hvorfor skal teknologer involveres?

AI-forskere skal være en del af disse samtaler, da deres tekniske ekspertise er afgørende for udformningen af ​​politiske valg. Vi er nødt til at tage højde for AI-bias, gennemsigtighed, forklarlighed, sikkerhed og andre bekymringer. AI-teknologi har disse dobbelte funktioner i dag - den er kraftfuld, men har også mange sårbarheder, ligesom computere og cyberrisici. Desværre ser regeringer ud til at have fået den første del af denne besked (AI er stærk), men ikke den anden (det er forbundet med risici). AI-forskere kan hjælpe regeringer og militære med bedre at forstå, hvorfor de er så bekymrede over konsekvenserne af at våben denne teknologi. For at gøre den sag effektivt skal AI-forskere være en del af en konstruktiv dialog.

Hvad mener du om det nylige løfte mod autonome våben, organiseret af Future of Life Institute?

Det er ikke den første opfordring til handling fra AI-forskere; den bygger på tidligere åbne breve om autonome våben i 2015 og 2017 . Men disse bogstaver er en symbolsk gestus og har sandsynligvis aftagende udbytte i deres effektivitet. Lande har også diskuteret autonome våben i FN siden 2014, og presset fra AI-forskere tilføjer en vigtig dimension til samtalen, men har endnu ikke fået større militærmagter til at støtte et omfattende forbud. Det ville være mere virkningsfuldt at have flere AI-forskere til at deltage i FN-møderne og hjælpe politiske beslutningstagere med at forstå, hvorfor AI-forskere er så bekymrede.

Hvad med Googles beslutning om ikke at forny sin kontrakt med Pentagon?

Det var en smule overraskende, fordi Maven faktisk ikke involverede autonome våben eller målretning og så ud til at være i overensstemmelse med Googles nyligt udgivne AI principper . Men konkurrencen om top AI-talenter er hård, og jeg formoder, at Google ikke kunne risikere, at nogle af sine bedste ingeniører træder tilbage i protest.

Tror du, at sådanne bevægelser vil hjælpe med at bremse udviklingen af ​​autonome våben?

Når det kommer til Maven, var Google ikke involveret i at bygge selv menneskekontrollerede våben, meget mindre autonome våben, så der er ikke en direkte forbindelse der. Pantbrevet er naturligvis direkte rettet mod autonome våben. Men jeg tror heller ikke, at de vil have en større effekt på, hvordan militære inkorporerer kunstig intelligens og autonomi i deres våben, da våben sandsynligvis vil blive bygget af forsvarsentreprenører. Hvis store teknologivirksomheder som Google fravælger at arbejde med militærer, så kan det bremse inkorporeringen af ​​AI-teknologi i vitale støttefunktioner som dataanalyse, som Maven lavede. Men i sidste ende vil andre virksomheder træde til for at udfylde hullet. Allerede, har vi set Andet virksomheder sige helt offentligt, at de vil arbejde med militæret.

Kan disse bestræbelser også have utilsigtede konsekvenser?

At male mange legitime anvendelser af kunstig intelligens som uacceptabel kan yderligere skabe en kile mellem de tekniske og politiske fællesskaber og gøre en fornuftig diskurs sværere. Ingeniører bør absolut afholde sig fra at arbejde på projekter, de ikke kan støtte, men når disse personlige motiver skifter til at presse andre fra at arbejde på vigtige og legitime nationale sikkerhedsapplikationer, skader de den offentlige sikkerhed og krænker andre ingeniørers ret til at forfølge deres egen samvittighed. Demokratiske lande bliver nødt til at bruge AI-teknologi til en række vigtige og lovlige national sikkerhed formål - efterretning, terrorbekæmpelse, grænsesikkerhed, cybersikkerhed og forsvar.

Er USA allerede i et våbenkapløb med kunstig intelligens med Kina?

Kina har offentligt erklæret sin hensigt om at blive global leder inden for kunstig intelligens inden 2030 og øger sin forskning og rekrutterer toptalenter fra hele kloden. Kinas model for militær-civil fusion betyder også, at AI-forskning let vil flyde fra teknologivirksomheder til militæret uden den slags barrierer, som nogle Google-medarbejdere har til formål at opføre i USA. Kina har allerede begyndt at lægge grundlaget for en AI-bemyndiget tekno-overvågningsstat.

Hvis AI-forskeres taktik kun lykkes med at bremse adoptionen af ​​AI-værktøjer i åbne, demokratiske samfund, der værdsætter etisk adfærd, kan deres arbejde bidrage til at indlede en fremtid, hvor den mest magtfulde teknologi er i hænderne på regimer, der bekymrer sig mindst om etik og retsstaten.

I din bog påpeger du, at det kan være vanskeligt at definere autonomi. Vil dette ikke komplicere diskussionen om militær anvendelse af kunstig intelligens?

Forfatterne af det nylige løfte mod autonome våben protesterer mod autonome våben, der ville dræbe en person, men erkender, at nogle former for autonome systemer ville være nødvendige for at forsvare sig mod andre sådanne våben. Det er det grå område, hvor autonomi kan være nødvendig for at forsvare sig mod våben, og en person stadig er ombord, som ved at målrette et jagerfly eller en ubåd, hvor den virkelige udfordring ligger. At balancere konkurrerende mål er ikke let, og politikere vil stå over for reelle valg, når de tager denne teknologi i brug.

AI-ingeniører vil have størst indflydelse på at forme disse valg, hvis de engagerer sig i en konstruktiv, kontinuerlig dialog med politiske beslutningstagere i stedet for at fravælge. AI-forskere, der interesserer sig for, hvordan teknologien bruges, vil være mere effektive, hvis de bevæger sig ud over preskampagner og begynder at hjælpe med at uddanne politikere om AI-teknologi i dag og dens begrænsninger.

skjule