Vores frygt for kunstig intelligens

For år siden havde jeg kaffe med en ven, der drev et startup. Han var lige fyldt 40. Hans far var syg, hans ryg var øm, og han blev overvældet af livet. Lad være med at grine af mig, sagde han, men jeg regnede med singulariteten.

Min ven arbejdede med teknologi; han havde set de ændringer, som hurtigere mikroprocessorer og netværk havde bevirket. Det var ikke så meget af et skridt for ham at tro, at før han blev ramt af middelalderen, ville maskinernes intelligens overstige menneskers - et øjeblik, som fremtidsforskere kalder singulariteten. En velvillig superintelligens kan analysere den menneskelige genetiske kode med stor hastighed og låse op for hemmeligheden bag evig ungdom. I det mindste ved den måske, hvordan den skal reparere din ryg.

Denne historie var en del af vores marts 2015-udgave

• Se resten af ​​problemet
• Abonner

Men hvad nu hvis det ikke var så velvilligt? Nick Bostrom, en filosof, der leder Future of Humanity Institute ved University of Oxford, beskriver følgende scenarie i sin bog Superintelligens , hvilket har givet anledning til stor debat om fremtiden for kunstig intelligens. Forestil dig en maskine, som vi kan kalde en papirclips-maksimering - det vil sige en maskine, der er programmeret til at lave så mange papirclips som muligt. Forestil dig nu, at denne maskine på en eller anden måde blev utrolig intelligent. I betragtning af dets mål kan det så beslutte at skabe nye, mere effektive papirclips-fremstillingsmaskiner - indtil det, King Midas-stil, havde konverteret stort set alt til papirclips.

Ingen bekymringer, kan du sige: du kan bare programmere den til at lave præcis en million papirklip og stoppe. Men hvad nu hvis den laver papirclipsene og derefter beslutter sig for at tjekke sit arbejde? Har det talt rigtigt? Det skal blive smartere for at være sikker. Den superintelligente maskine fremstiller noget endnu ikke-opfundet råmateriale (kald det computronium) og bruger det til at kontrollere enhver tvivl. Men hver ny tvivl giver yderligere digital tvivl, og så videre, indtil hele jorden er omdannet til computronium. Bortset fra millionen papirklip.

Ting gennemgået

• Superintelligens: veje, farer, strategier

  Af Nick Bostrom
  Oxford University Press, 2014

  
  
  

Bostrom tror ikke, at papirklip-maksimering vil komme til at være, præcis; det er et tankeeksperiment, et designet til at vise, hvordan selv omhyggeligt systemdesign kan undlade at begrænse ekstrem maskinintelligens. Men han tror på, at superintelligens kan dukke op, og selvom det kunne være fantastisk, tror han, at det også kan beslutte, at det ikke har brug for mennesker omkring sig. Eller gør en række andre ting, der ødelægger verden. Titlen på kapitel 8 er: Er standardresultatet undergang?

Hvis dette lyder absurd for dig, er du ikke alene. Kritikere som robotpioneren Rodney Brooks siger, at folk, der frygter en løbsk AI, misforstår, hvad computere laver, når vi siger, at de tænker eller bliver kloge. Fra dette perspektiv ligger den formodede superintelligens Bostrom beskriver langt ude i fremtiden og måske umulig.

Alligevel er mange kloge, betænksomme mennesker enige med Bostrom og er bekymrede nu. Hvorfor?

Vilje

Spørgsmålet Kan en maskine tænke? har skygget datalogi fra dens begyndelse. Alan Turing foreslog i 1950, at en maskine kunne undervises som et barn; John McCarthy, opfinder af programmeringssproget LISP, opfandt begrebet kunstig intelligens i 1955. Da AI-forskere i 1960'erne og 1970'erne begyndte at bruge computere til at genkende billeder, oversætte mellem sprog og forstå instruktioner på normalt sprog og ikke kun kode, idéen om, at computere med tiden ville udvikle evnen til at tale og tænke – og dermed gøre det onde – boblet ind i den almindelige kultur. Selv ud over den ofte refererede HAL fra 2001: A Space Odyssey , filmen fra 1970 Colossus: The Forbin Project indeholdt en stor blinkende mainframe-computer, der bringer verden til randen af ​​nuklear ødelæggelse; et lignende tema blev udforsket 13 år senere i WarGames . 1973'ernes androider Westworld gik amok og begyndte at dræbe.

Ekstreme AI-forudsigelser kan sammenlignes med at se mere effektive forbrændingsmotorer ... og at hoppe til den konklusion, at warp-drevene er lige rundt om hjørnet, skriver Rodney Brooks.

Da AI-forskningen ikke nåede sine høje mål, tørrede finansieringen op til et dryp og begyndte lange AI-vintre. Alligevel blev faklen fra den intelligente maskine båret frem i 1980'erne og 90'erne af sci-fi-forfattere som Vernor Vinge, der populariserede begrebet singularitet; forskere som robotikeren Hans Moravec, ekspert i computersyn; og ingeniøren/iværksætteren Ray Kurzweil, forfatter til bogen fra 1999 Åndelige maskiners tidsalder . Hvor Turing havde fremsat en menneskelig intelligens, tænkte Vinge, Moravec og Kurzweil større: Når en computer blev i stand til selvstændigt at udtænke måder at nå mål på, ville den højst sandsynligt være i stand til introspektion - og dermed i stand til at modificere sin software og lave sig selv. mere intelligent. På kort tid ville en sådan computer være i stand til at designe sin egen hardware.

Som Kurzweil beskrev det, ville dette begynde en smuk ny æra. Sådanne maskiner ville have indsigten og tålmodigheden (målt i picosekunder) til at løse de udestående problemer med nanoteknologi og rumflyvning; de ville forbedre den menneskelige tilstand og lade os uploade vores bevidsthed til en udødelig digital form. Intelligens ville sprede sig over hele kosmos.

Du kan også finde det stik modsatte af sådan en solrig optimisme. Stephen Hawking har advaret om, at fordi folk ikke ville være i stand til at konkurrere med en avanceret AI, er det kunne betyde enden på menneskeheden. Ved læsning Superintelligens , tweetede iværksætteren Elon Musk: Håber vi ikke kun er den biologiske boot-loader til digital superintelligens. Desværre er det mere og mere sandsynligt. Musk fulgte derefter efter med en bevilling på 10 millioner dollars til Future of Life Institute. For ikke at forveksle med Bostroms centrum er dette en organisation, der siger, at den arbejder på at afbøde de eksistentielle risici, som menneskeheden står over for, dem, der kunne opstå fra udviklingen af ​​kunstig intelligens på menneskeligt niveau.

Ingen antyder, at noget lignende superintelligens eksisterer nu. Faktisk har vi stadig intet, der nærmer sig en generel kunstig intelligens eller endda en klar vej til, hvordan det kunne opnås. Nylige fremskridt inden for kunstig intelligens, fra automatiserede assistenter som Apples Siri til Googles førerløse biler, afslører også teknologiens alvorlige begrænsninger; begge kan blive kastet ud af situationer, som de ikke har mødt før. Kunstige neurale netværk kan selv lære at genkende katte på billeder. Men de skal vises hundredtusindvis af eksempler og stadig ende med at være meget mindre præcise til at spotte katte end et barn.

Det er her skeptikere som Brooks , en grundlægger af iRobot og Rethink Robotics, kommer ind. Selvom det er imponerende - i forhold til hvad tidligere computere kunne klare - for en computer at genkende et billede af en kat, har maskinen ingen vilje, ingen fornemmelse af, hvad kat-hed er eller hvad der ellers sker på billedet, og ingen af ​​de utallige andre indsigter, som mennesker har. I denne opfattelse kunne kunstig intelligens muligvis føre til intelligente maskiner, men det ville kræve meget mere arbejde, end folk som Bostrom forestiller sig. Og selvom det kunne ske, vil intelligens ikke nødvendigvis føre til sansning. At ekstrapolere fra AI-tilstanden i dag for at antyde, at superintelligens er på vej, kan sammenlignes med at se mere effektive forbrændingsmotorer dukke op og hoppe til den konklusion, at warp-drev er lige rundt om hjørnet, skrev Brooks for nylig på edge.org . Malevolent AI er ikke noget at bekymre sig om, siger han, i mindst et par hundrede år.

Forsikringspolice

Selvom oddsene for, at en superintelligens opstår, er meget lange, er det måske uansvarligt at tage chancen. En person, der deler Bostroms bekymringer, er Stuart J. Russell, professor i datalogi ved University of California, Berkeley. Russell er forfatteren, sammen med Peter Norvig (en jævnaldrende af Kurzweil hos Google), af Kunstig intelligens: En moderne tilgang , som har været standard AI-lærebog i to årtier.

Der er mange formodet kloge offentlige intellektuelle, der bare ikke har en anelse, fortalte Russell mig. Han påpegede, at AI har udviklet sig gevaldigt i det sidste årti, og at selvom offentligheden måske forstår fremskridt i forhold til Moores lov (hurtigere computere gør mere), har det seneste AI-arbejde faktisk været fundamentalt, med teknikker som deep learning, grundlag for computere, der automatisk kan øge deres forståelse af verden omkring dem.

Bostroms bog foreslår måder at tilpasse computere til menneskelige behov. Vi fortæller dybest set en gud, hvordan vi gerne vil behandles.

Fordi Google, Facebook og andre virksomheder aktivt søger at skabe en intelligent, lærende maskine, begrunder han, vil jeg sige, at en af ​​de ting, vi ikke bør gøre, er at presse fuld damp fremad med at opbygge superintelligens uden at tænke over potentialet. risici. Det virker bare lidt fjollet. Russell lavede en analogi: Det er ligesom fusionsforskning. Hvis du spørger en fusionsforsker, hvad de laver, siger de, at de arbejder med indeslutning. Hvis du vil have ubegrænset energi, må du hellere indeholde fusionsreaktionen. På samme måde, siger han, hvis du vil have ubegrænset intelligens, må du hellere finde ud af, hvordan du tilpasser computere til menneskelige behov.

Bostroms bog er et forskningsforslag til at gøre det. En superintelligens ville være gudslignende, men ville den være animeret af vrede eller af kærlighed? Det er op til os (det vil sige ingeniørerne). Som enhver forælder skal vi give vores barn et sæt værdier. Og ikke hvilke som helst værdier, men dem der er i menneskehedens bedste interesse. Vi fortæller dybest set en gud, hvordan vi gerne vil behandles. Hvordan kommer man videre?

Bostrom trækker i høj grad på en idé fra en tænker ved navn Eliezer Yudkowsky, som taler om sammenhængende ekstrapoleret vilje - det konsensus-afledte bedste jeg af alle mennesker. AI ønsker, håber vi, at give os rige, lykkelige, tilfredsstillende liv: fix vores ømme ryg og vis os, hvordan vi kommer til Mars. Og da mennesker aldrig vil være helt enige om noget, vil vi nogle gange få brug for det til at beslutte for os – for at træffe de bedste beslutninger for menneskeheden som helhed. Hvordan programmerer vi så disse værdier ind i vores (potentielle) superintelligens? Hvilken slags matematik kan definere dem? Det er disse problemer, mener Bostrom, som forskere burde løse nu. Bostrom siger, at det er vores tids væsentlige opgave.

For den civile er der ingen grund til at miste søvn over skræmmende robotter. Vi har ingen teknologi, der er langt tæt på superintelligens. Så igen er mange af de største virksomheder i verden dybt investeret i at gøre deres computere mere intelligente; en ægte kunstig intelligens ville give enhver af disse virksomheder en utrolig fordel. De bør også være tilpasset dets potentielle ulemper og finde ud af, hvordan man undgår dem.

Dette noget mere nuancerede forslag - uden nogen påstande om en truende AI-mageddon - er grundlaget for et åbent brev på hjemmesiden for Future of Life Institute, gruppen, der fik Musks donation. I stedet for at advare om eksistentiel katastrofe, opfordrer brevet til mere forskning i at høste fordelene ved AI og samtidig undgå potentielle faldgruber. Dette brev er ikke kun underskrevet af AI outsidere som Hawking, Musk og Bostrom, men også af fremtrædende computerforskere (inklusive Demis Hassabis, en top AI-forsker). Du kan se, hvor de kommer fra. Når alt kommer til alt, hvis de udvikler en kunstig intelligens, der ikke deler de bedste menneskelige værdier, vil det betyde, at de ikke var kloge nok til at kontrollere deres egne kreationer.

Paul Ford, en freelance skribent i New York, skrev om Bitcoin i marts/april 2014.

skjule