211service.com
Hvorfor AI-forskere bør genoverveje at protestere mod involvering i militære projekter
Jeremy havn
Teknologiindustriarbejdere, der protesterede mod kontrakter med militæret, bør genoverveje deres holdning, ifølge en rådgiver i forsvarsministeriet.
Brendan McCord - en AI-ekspert, der var involveret i Project Maven, DoD's program til at accelerere kunstig intelligens og maskinlæring til militære formål - sagde, at konstruktivt engagement med de væbnede styrker var nødvendigt for at undgå dårlige beslutninger.
I juni, Google sagde det ville ikke længere fungere med Project Maven efter mere end 4.000 ansatte underskrev et brev der anklagede virksomheden for at være i krigsforretning.
Men når han talte på EmTech Digital, MIT Technology Review's AI-konference, sagde McCord, at det ville være bedre for samfundet som helhed at se sådanne samarbejder fortsætte, og for de uenige medarbejdere, der er involveret i AI-projekter, at revurdere deres holdning.
De fleste her i dag er enige om, at militære og deres rolle i afskrækkelse, angreb og forsvar er en del af verden, og det vil de være i en overskuelig fremtid, sagde han. En strategi med konstruktivt engagement versus en med fravalg er langt mere optimal.
At arbejde på AI til forsvar gør dig ikke mindre principfast, tilføjede han.
Den hemmelighedsfulde karakter af Project Maven, som siges at være fokuseret på at forbedre analyser af optagelser fanget af militære droner, havde skabt bekymring hos en bred gruppe af AI-forskere. Men de amerikanske væbnede styrker forbliver en stærk styrke til at fremme fred og stabilitet i verden, sagde McCord, der afspejler argumenter om, at AI-forskere, der principielt afviser militæret, faktisk giver fordelen til dem med mindre strenge etiske standarder, herunder andre nationer.
Mens McCord sagde, at han ikke ville forvente, at antikrigspacifister ville ændre mening, bad han forskere om at overveje, hvad der ville ske, hvis andre lande gjorde deres egne fremskridt på nye områder. En mere positiv holdning til militæret var særlig vigtig, tilføjede han, da regeringer nu spiller en mindre rolle i udviklingen af nye teknologiske opdagelser, end de engang gjorde.
I slutningen af den kolde krig flyttede innovationsstedet til den private sektor, sagde han. Verden har ændret sig. Regeringskapaciteten og regeringens rolle er blevet formindsket til et punkt, hvor den aldrig har været så lav efter min mening. Nettoeffekten er, at store teknologivirksomheder har påtaget sig kappen – uanset om de ville det eller ej – at være dommerne. De er ofte selvregulerende.
Mange store teknologiske udviklinger, herunder internettet, GPS og virtuelle assistenter, er kommet som et resultat af investeringer fra forsvarsministeriet. Men siden afslutningen på den kolde krig er DoDs forsknings- og udviklingsudgifter faldet. I midten af 1980'erne var offentlige og private F&U-budgetter nogenlunde lige store - omkring 55 milliarder dollars årligt. Siden da har regeringen fordoblet sin investering, mens private virksomheder, herunder Google, Microsoft, Facebook og Amazon, dramatisk har øget de private budgetter til mere end 350 milliarder dollars hvert år.
NSF, National Center for Science and Engineering Statistics, National Patterns of R&D Ressources (årsserie)
Men selvom store teknologivirksomheder måske ikke er gennemsigtige omkring deres arbejde, er regeringen kommet i kritik af sin egen. Det blev rapporteret tidligere på ugen af Intercept at Pentagon har afvist anmodninger om informationsfrihed om data om Project Maven , der hævder, at dets dokumenter er undtaget fra offentlig kontrol.
McCord beholder en rådgivende rolle i forsvarsministeriet, men han forlod for nylig sit fuldtidsarbejde der for at blive medlem af den private sektor. Han har nu en ledende stilling hos Tulco Labs, et nyt firma med fokus på innovation på arbejdspladsen grundlagt af underholdningsmilliardæren Thomas Tull.
Han sluttede af med at sige, at det er bydende nødvendigt for industriens ansatte at hjælpe med at holde deres arbejdsgivere i skak, og citerede biologen og teoretikeren E.O. Wilson.
Det virkelige problem for menneskeheden, sagde han, er, at vi har palæolitiske følelser, middelalderlige institutioner og gudelignende teknologi.