Marvin Minsky om sund fornuft og computere der giver følelser

Top dataloger fra hele verden mødes i dag på Dartmouth College i Hanover, NH, for at markere 50-årsdagen for kunstig intelligens. Tilbage i 1956 opfandt John McCarthy, dengang medlem af Dartmouths matematiske fakultet, betegnelsen for feltets banebrydende samling, Dartmouth Summer Research Project on Artificial Intelligence. McCarthy og fire andre deltagere i 1956-projektet, inklusive MIT's Marvin Minsky, deltager i denne uges møde, som fokuserer på AI's næste 50 år .

Marvin Minsky, emeritus professor i mediekunst og -videnskab ved MIT, var en af ​​de oprindelige deltagere i Dartmouth Summer Research Project on Artificial Intelligence i 1956. Han vil være med til at åbne 50-års jubilæumskonferencen i Dartmouth i dag. (Med tilladelse fra Coveney/MIT.)

Matematiske og filosofiske gennembrud af Alan Turing, John von Neumann, Herbert Simon, Allen Newell og andre giganter inden for computervidenskab gjorde 1950'erne til en tid med stor optimisme om maskinintelligens. Forskere troede, at de snart ville være i stand til at programmere computere til at simulere mange former for menneskelig ræsonnement. Ekspertsystemer ville legemliggøre og manipulere viden i form af symbolsk logik. Kunstige neurale netværk vil blive trænet til at udvikle sig mod korrekte svar.

Denne optimisme væltede endda over i populærkulturen, hvor HAL, den intelligente (og dybt forstyrrede) computer i Stanley Kubricks film fra 1968 2001: A Space Odyssey , iscenesatte de menneskelige skuespillere.

Men i slutningen af ​​1960'erne var det klart, at tilnærmelse af selv barnlignende menneskelige ræsonnementer i en computer ville kræve meget komplekse net af logiske ligninger eller neurale forbindelser. Så forskerne trak sig tilbage. De begyndte at nedbryde problemer og fokuserede på at replikere simple menneskelige bedrifter som at flytte børneblokke (emnet for Stanford-datamatiker Terry Winograds nu berømte program SHRDLU, som brugte naturlige sproginstruktioner til at manipulere en robotarm).

Minsky, der vil åbne Dartmouth-konferencen med McCarthy, beundrede Winograds arbejde. Men han har længe undgået reduktionistiske demonstrationer til fordel for at udforske de virkelige mekanismer bag menneskelig tankegang. Ved at arbejde med Seymour Papert i MIT AI Lab begyndte Minsky for eksempel i 1970'erne at udvikle Society of Mind-teorien, som hævder, at lag af målbevidste, men tankeløse agenter arbejder sammen for at skabe bevidsthed.

Technology Review afbrød Minsky den 11. juli, da han prøvede galejerne til sin kommende bog, Følelsesmaskinen , som genfortolker det menneskelige sind som en sky af ressourcer, eller mini-maskiner, der tænder og slukker alt efter situationen og giver anledning til vores forskellige følelsesmæssige og mentale tilstande.

Teknologigennemgang : Kan du tro, at det er 50 år siden det første Dartmouth AI-møde? Føles det som om, at der er gået fem årtier?

Marvin Minsky : Jeg har ikke oplevet mange intervaller på 50 år, så det er svært for mig at sige.

TR: Fair nok. Så hvad er dine tanker om AI-forskningens tilstand i dag, sammenlignet med hvor den var i 1956?

MM: Det, der overrasker mig, er, hvor få mennesker, der har arbejdet med teorier på højere niveau om, hvordan tænkning fungerer. Det har været en stor skuffelse. Jeg er netop ved at udgive en stor ny bog om, hvad vi bør tænke på: Hvordan gør en tre- eller fireårig den sunde fornuft, som de er så gode til, og som ingen maskine ser ud til at kunne gøre? Den største forskel er, at hvis du har problemer med at forstå noget, tænker du normalt: Hvad er der galt med mig? eller hvad spilder min tid? eller hvorfor fungerer denne måde at tænke på ikke? Er der en anden måde at tænke på, der kunne være bedre?

Men den slags AI-projekter, der har fundet sted i de sidste 30 eller 40 år, har næsten ikke haft nogen reflekterende tænkning overhovedet. Det hele er at reagere på en situation og indsamle statistik. Vi arrangerede en konference om fornuftstænkning for omkring tre år siden, og vi var kun i stand til at finde omkring et dusin forskere i hele verden, der var interesserede i det.

TR: Hvorfor viger folk tilbage fra problemet med sund fornuft?

MM: Jeg tror, ​​folk ser sig omkring for at se, hvilket felt der er populært i øjeblikket, og så spilder deres liv på det. Hvis det er populært, så efter min mening dig ikke vil arbejde på det. Nu er fysikken anderledes. Der siger folk. Denne populære teori fungerer ret godt, men den forklarer ikke dette eller hint - så det burde jeg se på. Men når folk skriver AI-papirer, fortæller de kun, hvad deres program gjorde, og ikke hvordan det fejlede, eller hvilke slags problemer det ikke kunne løse. Folk anser ikke det vigtige problem for at være det, deres system har ikke løst. Folk har fået neurale netværk til at erkende, at hvis du for eksempel leder efter en taxa, skal du kigge efter en gul genstand i bevægelse. Men de spørger ikke, hvorfor disse netværk ikke kan besvare andre former for spørgsmål.

TR: Men at forstå sund fornuft er et meget sværere problem, er det ikke? Kunne det ikke forklare, hvorfor så mange AI-forskere går ind på andre områder?

MM: Det er rigtigt. Dengang jeg skrev The Society of Mind , arbejdede vi i et par år på at få en computer til at forstå en simpel børnehistorie: Mary var inviteret til Jacks fest. Hun spekulerede på, om han ville have en drage. Hvis du stiller spørgsmålet Hvorfor undrede Mary sig over en drage? alle kender svaret – det er sikkert en fødselsdagsfest, og hvis hun skal med, betyder det, at hun er inviteret, og alle, der er inviteret, skal medbringe en gave, og det skal være en gave til en ung dreng, så det skal være noget drenge kan lide, og drenge kan lide visse former for legetøj som flagermus og bolde og drager. Du skal vide alt det for at besvare spørgsmålet. Vi nåede at lave en lille database og fik programmet til at forstå nogle simple spørgsmål. Men vi prøvede det på en anden historie, og den vidste ikke, hvad den skulle gøre. Nogle af os konkluderede, at du bliver nødt til at kende et par million ting, før du kunne få en maskine til at tænke fornuftigt.

TR: Da folk har indset, hvor svært det er at få en computer til at forstå selv simple situationer med sund fornuft, vil du så sige, at noget af optimismen omkring mulighederne for kunstig intelligens i 1950'erne og 1960'erne er forsvundet?

MM: Jeg tror ikke, optimisme er det rigtige ord. Jeg synes, vi stillede gode spørgsmål, men på en eller anden måde begyndte de fleste af de mennesker, der arbejdede med det, de kaldte AI, at lede efter en af ​​disse universelle løsninger. I fysik virkede det; der var Newtons ligninger og så Maxwells og så relativitetsteori og kvanteteori. De fleste AI-folk forsøger at efterligne det og finde en generel teori. Men mennesker har 100 forskellige hjernecentre, der alle fungerer på lidt forskellige måder. Du bør ikke arbejde på en enkelt løsning; du burde arbejde på et væld af gadgets.

TR: En stor del af midlerne til kunstig intelligens er kommet fra Defense Advanced Research Projects Agency (DARPA), hvor der er en ret klar efterspørgsel efter praktiske resultater. Faktisk er de en af ​​sponsorerne for Dartmouth AI-konferencen. Hvordan har DARPA formet retningen for AI-forskning?

MM: I de tidlige dage støttede DARPA mennesker snarere end forslag. Der var store fremskridt fra starten i 1963; i omkring ti år blomstrede den slags ting, jeg taler om. Og så i begyndelsen af ​​1970'erne skete der en slags sjov ulykke. Senator Mike Mansfield, ret liberal, besluttede, at forsvarsministeriet ikke skulle støtte civil forskning. Så han var ansvarlig for, at ARPA blev DARPA og anstrengte sig for ikke at konkurrere med industriel og civil forskning. Så det blev meget sværere for dem at støtte visionære forskere.

Samtidig begyndte det amerikanske erhvervsforskningsmiljø at forsvinde i begyndelsen af ​​1970'erne. Bell Labs og RCA og de andre forsvandt i det væsentlige fra denne form for aktivitet. Og en anden ting skete: iværksætterfejlen ramte. I 1980'erne begyndte mange mennesker at forsøge at patentere ting og starte startups og lave produkter, og det faldt sammen med den generelle forsvinden af ​​unge videnskabsmænd. Folk, der kunne være blevet produktive videnskabsmænd, går nu ind i jura og erhvervslivet.

Så der er ingen måde at støtte denne forskning på. Hvis du har en god idé, er det svært at få den offentliggjort, fordi folk siger Hvor er dit eksperiment? Men problemet med sund fornuft er, at du ikke kan eksperimentere, før du har en stor database med sund fornuft. Der er en, der hedder Cyc, startet af Doug Lenat i 1985. Og vi har Åbent sind database, som er offentligt tilgængelig, men endnu ikke særlig velstruktureret. Men det er et helt forskningsprojekt bare for at finde ud af, hvordan man åbner Open Mind-databasen.

TR: Du nævnte, at en computer skal vide et par millioner ting for at kunne skabe sunde forbindelser. Men Lenat og hans kolleger har arbejdet på præcis det og brugt år på at fodre sund fornuft viden ind i Cyc. Hvorfor er der brug for en anden database?

MM: Da Lenat startede Cyc i 1985, var det ret ambitiøst, og der var ikke noget andet sådant projekt. Mine kolleger og jeg sagde, lad os vente og se, hvordan det fungerer. Og så skete der ikke noget i et stykke tid.

Lenat har gjort nogle meget gode ting. Problemet er, at Cyc er meget svært at bruge, og det er proprietært, så det bruges ikke meget af forskere. Og der er mange problemer med hans system, som ikke dukkede op tidligere, fordi der ikke var nogen konkurrence.

De har gjort det konsekvent, så det ved faktisk ikke meget. Skal en hval betragtes som et pattedyr eller en fisk? Hvaler har mange fiskelignende egenskaber, så de fleste mennesker bliver overraskede, når de hører, at det er et pattedyr. Men det rigtige svar er, at det burde være begge dele. En database med sund fornuft bør ikke nødvendigvis være logisk konsistent. Lenat indså endelig, at de skulle omstrukturere Cyc ved at sørge for de forskellige sammenhænge, ​​hvor et spørgsmål kan komme op. Men databasen var oprindeligt struktureret til at gøre tingene meget logiske, og dens sprog er prædikatregning. Vores håb er at få Open Mind-systemet til at bruge naturligt sprog – som selvfølgelig er fyldt med uklarheder, men uklarheder er både gode og dårlige.

TR: Hvad er nogle af de vigtigste argumenter eller forskningsanbefalinger i din kommende bog, Følelsesmaskinen ?

MM: Hovedtanken i bogen er det, jeg kalder opfindsomhed. Medmindre du forstår noget på flere forskellige måder, vil du sandsynligvis blive hængende. Så det første i bogen er, at man skal have forskellige måder at beskrive tingene på. Jeg fandt på et ord for det: panalogi. Når du repræsenterer noget, bør du repræsentere det på flere forskellige måder, så du kan skifte fra den ene til den anden uden at tænke.

Den anden ting er, at du skal have flere måder at tænke på. Problemet med AI er, at hver person siger, at de vil lave et system baseret på statistisk inferens eller genetiske algoritmer eller hvad som helst, og hvert system er godt for nogle problemer, men ikke til de fleste andre. Årsagen til titlen Følelsesmaskinen er, at vi har disse ting kaldet følelser, og folk tænker på dem som mystiske tilføjelser til rationel tænkning. Min opfattelse er, at en følelsesmæssig tilstand er en anden måde at tænke på.

Når du er vred, opgiver du din langsigtede planlægning, og du tænker hurtigere. Du ændrer det sæt af ressourcer, du aktiverer. En maskine har brug for hundrede måder at tænke på. Og vi har tilfældigvis hundrede navne for følelser, men ikke for måder at tænke på. Så bogen diskuterer omkring 20 forskellige retninger, folk kan gå i deres tænkning. Men de skal have ekstra metaviden om, hvilken måde at tænke på, der er passende i den enkelte situation.

TR: Siger du, at computere skal blive vrede?

MM: Hvis nogen er i vejen for dig, og de ikke vil komme af vejen, er du nødt til at skræmme dem eller skræmme dem eller få dem til at være bange. Det er en helt rimelig måde at løse problemet på, hvis du har travlt, og hvis der vil ske noget slemt, hvis du ikke kan komme uden om dem. Jeg foreslår, at vi har brug for omkring 20 forskellige ord til disse måder at tænke på. Så kan du smide rationelt væk.

Minskys Emotion Machine: Commonsense Thinking, Artificial Intelligence, and the Future of the Human Mind er planlagt til at blive udgivet i hardcover af Simon & Schuster i november 2006. Minsky har udgivet en udkast af bogen online.

skjule