Skak er for let

Datalogi er af to sind om kunstig intelligens (AI). Nogle dataloger tror på såkaldt Strong AI, som går ud på, at al menneskelig tanke er fuldstændig algoritmisk, det vil sige, at den kan opdeles i en række matematiske operationer. Hvad der logisk følger, hævder de, er, at AI-ingeniører i sidste ende vil kopiere det menneskelige sind og skabe en ægte selvbevidst robot fyldt med følelser og følelser. Andre omfavner svag AI, forestillingen om, at menneskelig tanke kun kan simuleres i en computerenhed. Hvis de har ret, kan fremtidige robotter udvise meget af enhedens adfærd. Hvis de har ret, kan fremtidige robotter udvise meget af personers adfærd, men ingen af ​​disse robotter vil nogensinde være en person; deres indre liv vil være så tomt som en stens.

Tidligere forudsigelser fra fortalere for stærk og svag AI har ikke gjort meget for at få debatten fremad. For eksempel forudsagde Herbert Simon, professor i psykologi ved Carnegie Mellon University, måske den første og mest energiske tilhænger af Strong AI, for fire årtier siden, at maskiner med sind var nært forestående. Det er ikke mit mål at overraske eller chokere dig, sagde han. Men den enkleste måde, jeg kan opsummere, er at sige, at der nu er maskiner i verden, der tænker, lærer og skaber. Desuden vil deres evne til at gøre disse ting stige hurtigt, indtil - i en synlig fremtid - rækken af ​​problemer, de kan håndtere, vil være i samme omfang som den række, som det menneskelige sind er blevet anvendt til.

På den anden side af ligningen væddede Hubert Dreyfus, filosofiprofessor ved Berkeley, på farmen for to årtier siden, at symbolknasende computere aldrig engang ville nærme sig menneskets problemløsningsevner, endsige et indre liv. I sin bog, What Computers Can't Do (HarperCollins 1978), og igen i den reviderede udgave, What Computers Still Can't Do (MIT Press 1992), hævdede han, at formidable skakspillende computere ville forblive for evigt i riget af fiktion og vovede AI-samfundet til at bevise, at han tog fejl.

IBMs Deep Blue-computers sejr sidste forår over verdens største menneskelige skakspiller, Gary Kasparov, udslettede Dreyfus' forudsigelse. Men argumenterer det også for stærk snarere end svag AI? Det synes Kasparov selv at mene. Til glæde for Stærke AI-tilhængere erklærede Kasparov i Time i marts sidste år, at han fornemmede en ny slags efterretningstjeneste, der kæmpede mod ham.

Desuden ville den kendte filosof Daniel Dennett fra Tufts University ikke finde en sådan reaktion hyperbolsk i lyset af Deep Blues triumf. Dennett har nogensinde været ærkeforsvareren af ​​Strong AI og mener, at bevidsthed er dens kernealgoritme, og at AI hurtigt reducerer bevidstheden til beregning.

Men i deres jubel overser Kasparov, Dennett og andre, der mener, at Deep Blue giver tiltro til Strong AI, én vigtig kendsgerning: fra et rent logisk perspektiv er skak bemærkelsesværdigt let. Faktisk, som det længe har været kendt, kan uovervindelig skak teoretisk set spilles af et tankeløst system, så længe det følger en algoritme, der sporer konsekvenserne af hvert muligt træk, indtil enten en makker- eller remisposition er fundet.

Selvom denne algoritme er smertefuldt enkel (undergraduates i datalogi lærer det rutinemæssigt), er den kompliceret udregningsmæssigt. Faktisk, hvis vi antager et gennemsnit på omkring 32 muligheder pr. spil, giver dette tusinde muligheder for hvert fuldt træk (et træk er et spil ved den ene side efterfulgt af et spil som svar). Derfor giver fem træk at se fremad en kvadrillion (1015) muligheder. Ser man fremad, vil 40 træk, længden af ​​et typisk spil, involvere 10120 muligheder. Deep Blue, som undersøger mere end 100 millioner positioner i sekundet, ville tage næsten 10112 sekunder eller omkring 10104 år at undersøge hver bevægelse. Til sammenligning er der gået færre end 1018 sekunder siden universets begyndelse, og konsensus blandt computer-skak-cognoscenti er, at vores sol vil udløbe, før selv morgendagens supercomputere kan udføre en så udtømmende søgning.

Men hvad nu hvis en computer kan se meget langt frem (drevet f.eks. af algoritmen kendt som alpha-beta minimax search, Deep Blues hovedstrategi), i modsætning til hele vejen? Og hvad nu hvis den kunne kombinere denne forarbejdningshestekræfter med en knivspids viden om nogle grundlæggende principper i skak - for eksempel dem, der involverer kongesikkerhed, som i øvrigt blev installeret i Deep Blue lige før kampen med Kasparov? Svaret, som Deep Blue rungende viste, er, at en så bevæbnet maskine bedst kan selv den allerbedste menneskelige skakspiller.

Kreativitet Ex Machine?

Men den slags tænkning, der går ind i skak, stablet op imod det menneskelige sinds fulde kraft og rækkevidde, er langt fra hele historien. Det nittende århundredes matematiker Ada Byron, kendt som Lady Lovelace, var måske den første til at antyde, at kreativitet er den væsentlige forskel mellem sind og maskine - den definerende essens, der går ud over, hvad selv den mest sofistikerede algoritme kan udrette. Lovelace hævdede, at computermaskiner, som dem, som hendes samtidige, Charles Babbage, ikke kan skabe noget, for skabelse kræver minimalt, at noget stammer fra. Computere kan ikke skabe noget; de kan blot gøre det, som vi via programmer beordrer dem til.

Et århundrede senere reagerede Alan Turing, bedstefar til både kunstig intelligens og datalogi, på Lady Lovelaces indvending ved at opfinde den nu berømte Turing-test, som en computer består, hvis den kan narre et menneske til at tro, at det er et menneske. Selvom skak er for let, er Turing-testen desværre stadig alt for svær for nutidens computere. For eksempel er bedrag - som en potent computerspiller i Turing-testen helt sikkert burde være i stand til - et utroligt komplekst koncept. At opfordre en person til fejlagtigt at acceptere en falsk forestilling kræver, at computeren ikke kun forstår, at ideen er falsk, men også de utallige subtile forbindelser, der eksisterer mellem ideen og den pågældende persons overbevisninger, holdninger og utallige andre ideer.

Selvom Turing-testen i øjeblikket er uden for rækkevidde af de smarteste af vores maskiner, kan der være en enklere måde at vælge mellem de stærke og svage former for AI-en, der fremhæver kreativitet, hvilket meget vel kan være det virkelige problem i Strong vs. Svagt sammenstød. Den test, jeg foreslår, er ganske enkelt: Kan en maskine fortælle en historie?

Selvom fordelen ved denne test måske ikke virker indlysende ved første øjekast, er der nogle interessante grunde til at tro, at det er et godt indeks for sindet. For eksempel, den dominerende test af kreativitet i brug i psykologi-Torance-tests af kreativ tænkning-anmoder emner om at producere fortællinger.

Ej heller er tilstedeværelsen af ​​fortælling i disse tests vilkårlig; mange kognitive videnskabsmænd hævder plausibelt, at fortælling er selve hjertet af menneskelig erkendelse. Roger Schank, en kendt kognitiv videnskabsmand ved Northwestern University, hævder frimodigt, at stort set al menneskelig viden er baseret på historier. Hans grundlæggende påstand er, at når du husker fortiden, husker du den som et sæt af historier, og når du kommunikerer information, leverer du den også i form af historier.

Men måske mest betydningsfuldt for denne diskussion, ville historiespillet ramme lige ind til hjertet af skelnen mellem stærk og svag AI. Mennesker finder det umuligt at producere litteratur uden at antage karakterers synspunkter, det vil sige uden at mærke, hvordan det er at være disse karakterer; derfor genererer menneskelige forfattere historier ved at udnytte den kendsgerning, at de er bevidste i ordets fulde betydning - hvilket er at være bevidst om sig selv, en anden person og forholdet (eller mangel på samme) mellem de to personer.

Dyb historie

Det ser ud til, at et historiespil derfor ville være en bedre test af, om computere kan tænke, end de skak- og damspil, der i øjeblikket dominerer på AI-konferencer. Men hvordan ville historiespillet se ud? I historiespillet ville vi give både computeren og en mester, menneskelig historiefortæller en forholdsvis enkel sætning, sige: Gregor vågnede og fandt ud af, at hans underliv var hårdt som en skal, og at hvor hans højre arm havde været, vrikkede der nu en fangarm. Begge spillere skal derefter skabe en historie, der er designet til at være virkelig interessant, jo mere litterær i naturen - i form af rig karakterisering, mangel på forudsigelighed og interessant sprog - jo bedre. Vi kunne så få en menneskelig til at bedømme historierne, så vi, som i Turing-testen, når en sådan dommer ikke kan fortælle, hvilket svar der kommer fra den mekaniske muse, og hvilket der er fra mennesket, siger, at maskinen har vundet spillet.

Hvordan vil fremtidige maskiner klare sig i sådan et spil? Jeg tror, ​​historiens længde er en nøglevariabel. Et historiespil, der stiller sind op mod maskine, hvor længden og kompleksiteten af ​​fortællingen er åben, ville helt sikkert forsegle maskinens nederlag i de kommende århundreder. Selvom fortalere for Strong AI ville mene, at en maskine til sidst kunne sejre i en konkurrence for at se, om sind eller maskine kunne producere en bedre roman, ville selv de være enige om, at det er utænkeligt at bygge en sådan maskine i dag. Opgaven ville være så svær, at ingen engang ville vide, hvor de skulle begynde.

Kort sagt, selvom Turing-testen, som nævnt, er for svær til at give formatet til sind-maskine-konkurrence på nuværende tidspunkt, tror mange mennesker, at de kan forestille sig en nær fremtid, hvor en maskine vil holde sit standpunkt i denne test. Når det kommer til det ubegrænsede historiespil, kan en sådan fremtid simpelthen ikke tænkes. Vi kan selvfølgelig forestille os en fremtid, hvor en computer udskriver en roman - men vi kan ikke forestille os de algoritmer, der ville være i drift bag kulisserne.

Så bare for at give Stærke AI-tilhængere en kampchance, ville jeg begrænse konkurrencen til den korteste novelle, f.eks. mindre end 500 ord lange. Denne version af spillet skulle vise sig at være en fristende udfordring for Strong AI-ingeniører. Og ligesom den fulde version, kræver det kreativitet fra de-sind eller maskine-der ville spille det.

Hvordan kan fremtidige maskiner så stå op imod menneskelige forfattere, når hver enkelt får den ene sætning som udgangspunkt for en novelle?

Jeg er måske ikke dårligt placeret til at komme med forudsigelser. Med hjælp fra Luce Foundation, Apple Computer, IBM, Rensselaer Polytechnic Institute (RPI) og National Science Foundation har jeg brugt de sidste syv år (og omkring trekvart million dollars) på at arbejde sammen med en række forskere- mest fremtrædende Marie Meteer, en videnskabsmand ved Bolt, Beranek og Newman; David Porush, professor ved RPI; og David Ferrucci, en seniorforsker ved IBMs T.J. Watson Research Center - for at bygge en formidabel kunstig forfatter til noveller.

En del af det, der driver mig og andre forskere i søgen efter at skabe sådanne syntetiske Prousts, Joyces og Kafkas er en tro på, at fremtidens ægte intelligente selvstændige underholdningssystemer blandt andet vil kræve AI-systemer, der ved, hvordan man skaber og direkte historier. I fremtidens virtuelle historieverdener, fyldt med kunstige karakterer, vil tingene udfolde sig for hurtigt i realtid til, at et menneske kan styre processen. Spilindustrien går i øjeblikket på en fin linje mellem at fastlægge et spil og lade tingene ske med vilje, når mennesker træffer valg. Hvad der er desperat behov for, er en kunstig intelligens, der er i stand til at lokke begivenheder ind i en kontinuerlig narrativ tråd, samtidig med at menneskelige spillere kan spille i et tilsyneladende uendeligt rum af plotbaner.

Det seneste resultat af mit arbejde i denne henseende (i samarbejde med Ferrucci og Adam Lally, en softwareingeniør hos Legal Knowledge Systems i Troy, NY) er en kunstig agent kaldet Brutus.1, så navngivet, fordi det litterære koncept, den er specialiseret i, er forræderi. Desværre er Brutus.1 ikke i stand til at spille novellespillet. Den har viden om ontologien af ​​akademiske professorer, afhandlinger, studerende, klasser og så videre; men det ville blive lammet af et spørgsmål uden for dens vidensbase. For eksempel ved den ikke noget om insektanatomi. Derfor ville sætningen, der involverer Gregor, tegne et blanktegn.

Ikke desto mindre er Brutus.1 i stand til at skrive korte noveller - hvis historierne er baseret på forestillingen om forræderi (såvel som selvbedrag, ondskab og til en vis grad voyeurisme), som ikke er lovende litterære indbildskheder (se sidebjælke, Forræderi, af Brutus.1-såvel som Richard III, Macbeth, Othello.)

Sådanne næsten belletristiske bedrifter er kun mulige for Brutus.1, fordi Ferrucci og jeg var i stand til at udtænke en formel matematisk definition af forræderi og udstyre Brutus.1 med konceptet (se sidepanelet, The Mathematization of Betrayal). Men for at tilpasse Brutus.1 til at spille godt i et kort novellespil, ville det bestemt være nødvendigt at forstå ikke kun forræderi, men andre store litterære temaer som ulykkelig kærlighed, hævn, jalousi, patrimord og så videre.

For evigt ubevidst

Jeg har tre år til at gå på mit ti-årige projekt med at bygge en formidabel silicium Hemingway. På dette tidspunkt, men selvom Brutus.1 er imponerende, og selvom vores hensigt er at skabe efterkommere af Brutus.1, der kan forstå et komplet sæt litterære begreber og mere, synes det ret klart, at computere aldrig vil være de bedste menneskelige historiefortællere i endda en novellekonkurrence.

Det er tydeligt fra vores arbejde, at for at fortælle en virkelig overbevisende historie, skal en maskine forstå hans eller hendes karakterers indre liv. Og for at gøre det, ville det ikke kun være nødvendigt at tænke mekanisk i betydningen hurtig beregning (forten med supercomputere som Deep Blue), det ville også være nødvendigt at tænke erfaringsmæssigt i betydningen at have subjektiv eller fænomenal bevidsthed. For eksempel kan en person tænke oplevelsesmæssigt på en rejse til Europa som barn, huske hvordan det var at være i Paris på en solskinsdag med en ældre bror, smadre en køretur ned ad en fairway, føle en elskers berøring, stå på ski på kant, eller har brug for en god nats søvn. Men ethvert sådant eksempel, hævder jeg, vil kræve kapaciteter, som ingen maskine nogensinde vil have.

Berømte menneskelige historiefortællere forstår dette koncept. For eksempel sagde dramatiker Henrik Ibsen: Jeg skal have karakteren i tankerne hele vejen igennem, jeg skal trænge ind i hans sjæls sidste rynke. Sådan en modus operandi er for altid lukket for en maskine.

Tilhængere af Strong AI, hvis de stræber efter at bygge en maskine, der er i stand til at sejre i novellespillet, må derfor stræbe efter at bygge netop det, der adskiller Strong fra Weak AI: en bevidst maskine. Men i stræben efter en sådan maskine venter Strong AI-forskere på en kulmination, der for evigt vil ankomme, aldrig til stede.

Troende på svag kunstig intelligens, som jeg selv, vil søge at konstruere systemer, der mangler Ibsens evne til at se ud gennem en andens øjne, vil skabe rigt tegnede karakterer. Men selvom jeg forventer at gøre fremskridt, forventer jeg, at i modsætning til skakspil, vil førsteklasses historiefortælling, selv i den beskedne længde af noveller, altid være den eneste provins for menneskelige mestre.

Alligevel vil jeg fortsætte med de sidste tre år af mit projekt, hovedsageligt fordi jeg forventer at have en masse sjov, samt at kunne sige med en vis autoritet, at maskiner ikke kan være kreative og bevidste (se hvordan Jeg bruger state of the art teknikker) og til at producere arbejdssystemer, der vil have betydelig videnskabelig og økonomisk værdi.

Kasparov vil uden tvivl snart vende tilbage til endnu en runde skak med Deep Blue eller dets efterkommere, og han kan meget vel vinde. Faktisk formoder jeg, at der vil gå yderligere 10 år, før maskinskakspillere besejrer stormestre i turnering efter turnering. Men snart nok vil Kasparov og dem, der tager hans trone, uvægerligt tabe.
Men sådan er det ikke, når vi overvejer chancerne for, at de vil søge at ydmyge ikke kun store skakspillere, men store forfattere. Jeg tror ikke på, at John Updike eller hans efterfølgere nogensinde vil finde sig selv i et fortællespil og svede under lys, der er så lyse og varme som dem, der skinnede ned over Gary Kasparov.

skjule