211service.com
Ja, vi er bekymrede for den eksistentielle risiko ved kunstig intelligens
Oren Etzioni, en velkendt AI-forsker, klager over nyhedsdækning af potentielle langsigtede risici, der opstår som følge af fremtidig succes inden for AI-forskning (se Nej, eksperter tror ikke, at superintelligent AI er en trussel mod menneskeheden). Efter at have peget fingeren på Oxford-filosof Nick Bostrom og hans seneste bog, Superintelligens Etzioni klager over, at Bostroms vigtigste kilde til data om fremkomsten af intelligens på menneskeligt niveau består af undersøgelser af AI-forskeres meninger. Han undersøger derefter AI-forskernes meninger og hævder, at hans resultater modbeviser Bostroms.
Det er vigtigt at forstå, at Etzioni ikke engang adresserer årsagen Superintelligens har haft den effekt, han afviser: dens klare forklaring på, hvorfor superintelligent AI kan have vilkårligt negative konsekvenser, og hvorfor det er vigtigt at begynde at løse problemet i god tid. Bostrom gør ikke basere sin sag på forudsigelser om, at overmenneskelige AI-systemer er nært forestående. Han skriver: Det er ikke en del af argumentet i denne bog, at vi står på tærsklen til et stort gennembrud inden for kunstig intelligens, eller at vi med nogen præcision kan forudsige, hvornår en sådan udvikling kan finde sted.
Efter vores opfattelse distraherer Etzionis artikel således læseren fra bogens kerneargument og retter et ad hominem-angreb mod Bostrom under påskud af at bestride hans undersøgelsesresultater. Vi mener, det er nødvendigt at rette optegnelsen. En af os (Russell) bidrog endda til Etzionis undersøgelse, blot for at se, at hans svar blev fuldstændig misforstået. Faktisk som vores detaljeret analyse viser, er Etzionis undersøgelsesresultater fuldstændig i overensstemmelse med dem, Bostrom citerer.
Hvordan når Etzioni så til sin romankonklusion? Ved at designe et undersøgelsesinstrument, dvs nederste til Bostroms og derefter fejlfortolkning resultaterne.
Artiklens undertitel lyder: Hvis du spørger de mennesker, der virkelig burde vide det, vil du opdage, at få tror, at AI er en trussel mod menneskeheden. Så læseren forledes til at tro, at Etzioni stillede dette spørgsmål til de mennesker, der virkelig burde vide det, mens Bostrom ikke gjorde det. Faktisk er det modsatte sandt: Bostrom gjorde spørg folk, der egentlig burde vide det, men Etzioni spurgte slet ikke nogen. Bostrom undersøgte de 100 mest citerede AI-forskere. Mere end halvdelen af de adspurgte sagde, at de mener, at der er en væsentlig (mindst 15 procent) chance for, at virkningen af maskinintelligens på menneskeligt niveau på menneskeheden alt i alt vil være dårlig eller ekstrem dårlig (eksistentiel katastrofe). Etzionis undersøgelse, i modsætning til Bostroms, stillede ingen spørgsmål om en trussel mod menneskeheden.
I stedet stiller han blot ét spørgsmål vedr hvornår vi vil opnå superintelligens. Som Bostroms data allerede ville have forudsagt, buldrede noget mere end halvdelen (67,5 procent) af Etzionis respondenter i mere end 25 år for at opnå superintelligens - trods alt gav mere end halvdelen af Bostroms respondenter datoer ud over 25 år for kun 50 procents sandsynlighed for opnå blot intelligens på menneskeligt niveau. En af os (Russell) svarede på Etzionis undersøgelse med mere end 25 år, og Bostrom skriver selv om sine egne undersøgelser, Min egen opfattelse er, at mediantallene rapporteret i ekspertundersøgelsen ikke har nok sandsynlighedsmasse på senere ankomstdatoer.
Nu, efter at have designet en undersøgelse, hvor respondenterne kunne forventes at vælge mere end 25 år, springer Etzioni sin fælde ud: han hævder, at 25 år er uden for den forudsigelige horisont og udleder derved, at hverken Russell eller Bostrom selv mener, at superintelligent AI er en trussel til menneskeheden. Dette vil komme som en overraskelse for Russell og Bostrom, og formentlig for mange andre respondenter i undersøgelsen. (Etzionis overskrift kunne faktisk lige så nemt have været, at 75 procent af eksperterne mener, at superintelligent AI er uundgåelig.) Skal vi ignorere katastrofale risici, blot fordi de fleste eksperter tror, at de er mere end 25 år væk? Ud fra Etzionis logik bør vi også ignorere de katastrofale risici ved klimaændringer og forkaste dem, der opdrager dem.
I modsætning til synspunkterne fra Etzioni og nogle andre i AI-fællesskab , der peger på langsigtede risici fra AI er ikke svarende til at hævde, at superintelligent AI og dens medfølgende risici er overhængende. Listen over dem, der har peget på risiciene, omfatter sådanne armaturer som Alan Turing, Norbert Wiener, I.J. Godt, og Marvin Minsky. Selv Oren Etzioni har anerkendte disse udfordringer . Så vidt vi ved, hævdede ingen af disse nogensinde, at superintelligent AI var nært forestående. Som nævnt ovenfor kom Bostrom heller ikke ind Superintelligens .
Etzioni gentager derefter det tvivlsomme argument om, at forudsigelser om undergang og dysterhed ofte undlader at overveje de potentielle fordele ved AI til at forhindre medicinske fejl, reducere bilulykker og mere. Argumentet gælder ikke engang for Bostrom, som forudsiger, at succes med at kontrollere AI vil resultere i en medfølende og jublende brug af menneskehedens kosmiske begavelse. Argumentationen er også noget sludder. Det er som at argumentere for, at atomingeniører, der analyserer muligheden for nedsmeltninger i atomkraftværker, undlader at overveje de potentielle fordele ved billig elektricitet, og at fordi atomkraftværker en dag kan generere virkelig billig elektricitet, skal vi hverken nævne eller arbejde på at forhindre , muligheden for en nedsmeltning.
Vores erfaring med Tjernobyl tyder på, at det kan være uklogt at påstå, at en kraftfuld teknologi ikke indebærer nogen risici. Det kan også være uklogt at hævde, at en kraftfuld teknologi aldrig vil blive til virkelighed. Den 11. september 1933 beskrev Lord Rutherford, måske verdens mest fremtrædende kernefysiker, udsigten til at udvinde energi fra atomer som intet andet end måneskin. Mindre end 24 timer senere opfandt Leo Szilard den neutroninducerede kernekædereaktion; detaljerede designs for atomreaktorer og atomvåben fulgte nogle år senere. Det er bestemt bedre at forudse menneskelig opfindsomhed end at undervurdere den, bedre at erkende risiciene end at benægte dem.
Mange fremtrædende AI-eksperter har erkendt muligheden for, at AI udgør en eksistentiel risiko. I modsætning til forkerte fremstillinger i medierne behøver denne risiko ikke at opstå fra spontan ondsindet bevidsthed. Risikoen opstår snarere fra uforudsigeligheden og den potentielle irreversibilitet ved at implementere en optimeringsproces, der er mere intelligent end de mennesker, der specificerede dens mål. Dette problem blev klart formuleret af Norbert Wiener i 1960, og vi har stadig ikke løst det. Vi opfordrer læseren til at støtte de igangværende bestræbelser på at gøre dette.
Allan Dafoe er assisterende professor i statskundskab ved Yale University.
Stuart Russell er professor i datalogi ved University of California, Berkeley.
Svar fra Oren Etzioni, 2. november 2016:
Jeg er glad for, at professorerne Dafoe & Russell og jeg synes at være enig i tre kritiske spørgsmål. For det første bør vi afstå fra ad hominem-angreb. Her må jeg give en undskyldning: Jeg skulle ikke have citeret den anonyme AAAI Fellow, der sammenlignede Dr. Bostrom med Donald Trump. Jeg mente ikke at låne min stemme til den sammenligning; Jeg undskyldte oprigtigt til Bostrom for dette fejltrin via e-mail, en undskyldning som han elskværdigt accepterede. For det andet skal vi som videnskabsmænd vurdere udsagn om risikoen ved AI baseret på data. Det var mit nøglepunkt kort artikel , og artiklen tilbød unikke data om dette emne. For det tredje er vi også enige i, at medierne har misrepræsenteret implikationerne af Bostroms arbejde - et emne af stor bekymring, som til en vis grad blev dæmpet af Det Hvide Hus rapport om AI . Selvfølgelig er vi uenige om mange af detaljerne og forviklingerne i argumenterne, men tiden vil vise.