211service.com
Nej, eksperterne tror ikke, at superintelligent AI er en trussel mod menneskeheden
Hvis du tror på alt, hvad du læser, er du sandsynligvis ret bekymret over udsigten til en superintelligent, dræber AI. Det Værge , en britisk avis, advaret for nylig, at vi er som børn, der leger med en bombe, og en nylig Newsweek overskriften lyder: Kunstig intelligens kommer, og det kan udslette os.
Adskillige sådanne overskrifter, drevet af kommentarer fra f.eks. Elon Musk og Stephen Hawking, er stærkt påvirket af én mands arbejde: professor Nick Bostrom, forfatter til den filosofiske afhandling Superintelligens: veje, farer og strategier .
Bostrom er Oxford-filosof, men kvantitativ vurdering af risici er aktuarvidenskabens provins. Han kan blive døbt verdens første fremtrædende aktuarfilosof, selvom udtrykket virker en oxymoron, da filosofi er en arena for konceptuelle argumenter, og risikovurdering er en datadrevet statistisk øvelse.
Så hvad siger dataene? Bostrom samler resultaterne af fire forskellige undersøgelser af grupper, såsom deltagere i en konference kaldet Philosophy and Theory of AI, afholdt i 2011 i Thessaloniki, Grækenland, og medlemmer af den græske sammenslutning for kunstig intelligens (han giver ikke svarprocenter eller formuleringen af spørgsmål, og han redegør ikke for afhængigheden af data indsamlet i Grækenland).
Hans resultater præsenteres som sandsynligheder for, at AI på menneskeligt niveau vil blive opnået inden for en vis tid:
I 2022: 10 procent.
I 2040: 50 procent.
I 2075: 90 procent.
Denne samling af fire undersøgelser er hovedkilden til data om fremkomsten af intelligens på menneskeligt niveau i over 300 sider med filosofiske argumenter, fabler og metaforer.
For at få en mere præcis vurdering af holdningen fra førende forskere på området henvendte jeg mig til Fellows of the American Association for Artificial Intelligence, en gruppe forskere, der er anerkendt for at have ydet betydelige, vedvarende bidrag til feltet.
I begyndelsen af marts 2016 udsendte AAAI en anonym undersøgelse på mine vegne, og stillede følgende spørgsmål til 193 stipendiater:
Nick Bostrom har i sin bog defineret Superintelligens som ’et intellekt, der er meget smartere end de bedste menneskelige hjerner på praktisk talt alle områder, inklusive videnskabelig kreativitet, generel visdom og sociale færdigheder.’ Hvornår tror du, vi vil opnå Superintelligens?
I løbet af den næste uge eller deromkring svarede 80 stipendiater (en 41 procent svarprocent), og deres svar er opsummeret nedenfor:
I det væsentlige, ifølge 92,5 procent af de adspurgte, er superintelligens uden for den forudsigelige horisont. Denne fortolkning understøttes også af skriftlige kommentarer delt af stipendiatene.
Selvom undersøgelsen var anonym, valgte 44 stipendiater at identificere sig selv, inklusive Geoff Hinton (dyb-lærende lyskilde), Ed Feigenbaum (Stanford, Turing Award-vinder), Rodney Brooks (førende robotiker) og Peter Norvig (Google).
Respondenterne delte også flere kommentarer, herunder følgende:
Må, måde, langt mere end 25 år. Århundreder højst sandsynligt. Men ikke aldrig.
Vi konkurrerer med millioner af års udvikling af den menneskelige hjerne. Vi kan skrive enkeltformålsprogrammer, der kan konkurrere med mennesker og nogle gange udmærke sig, men verden er ikke pænt opdelt i enkeltproblemspørgsmål.
Nick Bostrom er en professionel skræmmemager. Hans instituts rolle er at finde eksistentielle trusler mod menneskeheden. Han ser dem overalt. Jeg er fristet til at omtale ham som 'Donald Trump' af AI.
Undersøgelser har naturligvis begrænset videnskabelig værdi. De er notorisk følsomme over for frasering af spørgsmål, udvælgelse af respondenter osv. Det er dog den ene kilde til data, som Bostrom selv henvendte sig til.
En anden metode ville være at ekstrapolere fra den nuværende tilstand af AI til fremtiden. Dette er dog svært, fordi vi ikke har en kvantitativ måling af den aktuelle tilstand af intelligens på menneskeligt niveau. Vi har opnået superintelligens i brætspil som skak og Go (se Googles AI Masters Go et årti tidligere end forventet), og alligevel lykkedes det ikke for vores programmer at score over 60 procent på ottende klasses naturvidenskabelige test, som Allen Institutes forskning har vist (se Bedste AI-program afleverer stadig en ottende klasses naturvidenskabstest), eller over 48 procent i disambiguating simple sætninger (se Hårdere Turing-test afslører Chatbots' dumhed).
Der er mange gyldige bekymringer om AI, fra dens indvirkning på job til dens anvendelser i autonome våbensystemer og endda til den potentielle risiko for superintelligens. Forudsigelser om, at superintelligens er i den overskuelige horisont, understøttes dog ikke af de tilgængelige data. Desuden undlader forudsigelser af undergang og dysterhed ofte at overveje de potentielle fordele ved kunstig intelligens til at forhindre medicinske fejl, reducere bilulykker og meget mere.
Endelig er det muligt, at AI-systemer kan samarbejde med mennesker for at skabe en symbiotisk superintelligens. Det ville være meget anderledes end den skadelige og autonome slags, som professor Bostrom forestillede sig.
Oren Etzioni er administrerende direktør for Allen Institute for Artificial Intelligence og professor i datalogi ved University of Washington.
Opdateret 2. november 2016:
Jeg er glad for, at professorerne Dafoe & Russell, som reagerede på min artikel her, og jeg synes at være enig i tre kritiske spørgsmål. For det første bør vi afstå fra ad hominem-angreb. Her må jeg give en undskyldning: Jeg skulle ikke have citeret den anonyme AAAI Fellow, der sammenlignede Dr. Bostrom med Donald Trump. Jeg mente ikke at låne min stemme til den sammenligning; Jeg undskyldte oprigtigt til Bostrom for dette fejltrin via e-mail, en undskyldning som han elskværdigt accepterede. For det andet skal vi som videnskabsmænd vurdere udsagn om risikoen ved AI baseret på data. Det var mit nøglepunkt kort artikel , og artiklen tilbød unikke data om dette emne. For det tredje er vi også enige i, at medierne har misrepræsenteret implikationerne af Bostroms arbejde - et emne af stor bekymring, som til en vis grad blev dæmpet af Det Hvide Hus rapport om AI . Selvfølgelig er vi uenige om mange af detaljerne og forviklingerne i argumenterne, men tiden vil vise.