AI Doomsayer siger, at hans ideer slår igennem

I løbet af det seneste år, Oxford University filosofi professor Nick Bostrom har fået synlighed for at advare om de potentielle risici, som mere avancerede former for kunstig intelligens udgør. Han siger nu, at hans advarsler får opmærksomhed fra virksomheder, der flytter grænserne for forskning i kunstig intelligens.

Nick Bostrom

Mange mennesker, der arbejder med kunstig intelligens, forbliver skeptiske over for eller endda fjendtlige over for Bostroms ideer. Men siden hans bog om emnet, Superintelligens , dukkede op sidste sommer, har nogle fremtrædende teknologer og videnskabsmænd – inklusive Elon Musk, Stephen Hawking og Bill Gates – gentaget nogle af hans bekymringer. Google er endda ved at sammensætte en etisk komité for at føre tilsyn med sit arbejde med kunstig intelligens.

Bostrom mødtes i sidste uge med MIT Technology Review 's San Francisco bureauchef, Tom Simonite, for at diskutere hans indsats for at få kunstig intelligens-forskere til at overveje farerne ved deres arbejde (se Our Fear of Artificial Intelligence).

Hvordan kom du til at tro, at kunstig intelligens var et mere presserende problem for verden end f.eks. nuklear holocaust eller en større pandemi?

Mange ting kan forårsage katastrofer, men relativt få kan faktisk true hele fremtiden for jordbeboende intelligent liv. Jeg tror, ​​kunstig intelligens er en af ​​de største, og det ser ud til at være en, hvor indsatsen fra et lille antal mennesker, eller en ekstra enhed af ressourcer, kan gøre en ikke-triviel forskel. Med atomkrig er mange store, magtfulde grupper allerede interesserede i det.

Hvad med klimaforandringerne, som i vid udstrækning ses som den største trussel, menneskeheden står over for i øjeblikket?

Det er en meget, meget lille eksistentiel risiko. For at det kan være en, skulle vores nuværende modeller være forkerte - selv de værste scenarier betyder [kun], at klimaet i nogle dele af verden ville være en smule mere ugunstigt. Så skulle vi være ude af stand til at afhjælpe det gennem noget geoengineering, hvilket også ser usandsynligt ud.

Visse etiske teorier antyder, at eksistentiel risiko bare er meget vigtigere. Alt taget i betragtning burde den eksistentielle risikoreduktion være meget større, end den er i dag. Verden bruger meget mere på at udvikle nye former for læbestift end på eksistentiel risiko.

Hvis nogen kom til dig og sagde: Mit firma har udviklet teknologi, der ser ud til at kunne gøre kunstig intelligens meget mere kraftfuld, hvad vil du så råde dig til?

Det første forslag ville være at opbygge en vis kompetence internt i AI-sikkerhedsforskning. En afgørende ting er at etablere et godt arbejdsforhold mellem de mennesker, der arbejder på AI, og de mennesker, der tænker på sikkerhedsspørgsmål. Den eneste måde, der kan være et godt scenario på, er, hvis disse ideer skabes og derefter implementeres.

Google, Facebook og andre store teknologivirksomheder ser ud til at føre fremskridt inden for kunstig intelligens. Taler du allerede med dem?

Jeg ønsker ikke at nævne navne. Det er dem, der har betydelig interesse i dette område. Jeg tror, ​​der er en anerkendelse af, at det giver mening at få nogle mennesker til at tænke på [AI-sikkerhed] nu, og så måske, når og når tingene går fremad, at øge det. Det er godt at have et frø derinde, en der holder øje med disse ting.

Hvilken slags forskning er mulig om noget, der er så langt fra at være virkeligt i dag?

Det, der er blevet produceret til dato, er en klarere forståelse af, hvad problemet er, og nogle begreber, der kan bruges til at tænke over disse ting. Disse ser måske ikke ud af meget på papiret, men før var det ikke muligt at gå til næste fase, som er at udvikle en teknisk forskningsdagsorden.

Kan du give et eksempel på et teknisk projekt, der kan være på det?

Kunne du for eksempel designe et AI-motivationssystem [så], at AI'en ikke modstår, at programmøren kommer ind for at ændre sit mål? Der er en hel række ting, der kunne være praktisk nyttige, såsom boksemetoder - værktøjer, der kan indeholde en AI, før den er klar til at blive frigivet.

Men de er langt fra den slags systemer, som forskere hos for eksempel Google faktisk bygger i dag.

Ja. En af udfordringerne er at gøre brugbart arbejde på dette område langt foran, når man faktisk har et system, hvor de kunne eller burde anvendes.

Kunne en kunstig intelligens, der er langt under menneskelig niveau, ikke stadig forårsage problemer? For eksempel, hvis den bruges af en regering som et våben, eller ved et uheld, hvis den bliver sluppet løs på de finansielle markeder?

Der er en hel klasse af mere overhængende og mindre problemer, som nogle mennesker siger er mere reelle. Der er algoritmisk handel, eller droner, eller automatisering og dens indvirkning på arbejdsmarkederne, eller om systemer kunne diskriminere bevidst eller ubevidst på baggrund af race. Jeg benægter ikke, at disse problemer eksisterer - jeg tror bare, at der er dette yderligere problem, som verden måske ikke tager fat på, fordi det først virkelig bliver alvorligt, når AI når et vist meget højt niveau.

Du er omhyggelig med at sige, at ingen rigtig kan forudsige, hvor tæt det niveau er. Men er der særlige fremskridt, der ville signalere, at vi er på vej et sted hen?

Meget sandsynligt vil der skulle ske en række store gennembrud for at give mere sunde fornuftsevner, generelle indlæringsevner inden for forskellige domæner, [og] mere fleksible planlægningsevner.

Der har været mindst to perioder, hvor hypebobler inden for feltet derefter blev efterfulgt af perioder med desillusion. Det kan godt være, at vi nu er i en tredje hype-boble, og at vi når grænsen for, hvad der kan gøres med disse nye teknikker, og det vil tage lang tid før den næste store grænse. Men det kan også være bølgen, der går hele vejen dertil.

Forbliver du optimistisk med hensyn til vores chancer, hvis det gør det?

Min langsigtede opfattelse er, at det er højst sandsynligt, at vi enten ender et dårligt eller meget godt sted, ikke et sted, der er halvdårligt. Forhåbentlig vil det vise sig at blive fantastisk.

skjule