211service.com
Kurzweil svarer: Undervurder ikke singulariteten
Selvom Paul Allen parafraserer min bog fra 2005, Singulariteten er nær , i titlen på sit essay (skrevet sammen med sin kollega Mark Greaves), fremgår det, at han faktisk ikke har læst bogen. Hans eneste citat er til et essay, jeg skrev i 2001 (The Law of Accelerating Returns), og hans artikel anerkender eller reagerer ikke på argumenter, jeg faktisk fremfører i bogen.
Kredit: Teknologianmeldelse
Da min bog fra 1999, Åndelige maskiners tidsalder, blev udgivet, og et par år senere forstærket af essayet fra 2001, genererede det flere linjer af kritik, som f.eks. Moores lov vil komme til ophør, hardware-kapaciteten udvides muligvis eksponentielt, men software sidder fast i mudderet, hjernen er for kompliceret, der er kapaciteter i hjernen, som i sagens natur ikke kan replikeres i software, og flere andre. Jeg skrev specifikt Singulariteten er nær at svare på den kritik.
Jeg kan ikke sige, at Allen nødvendigvis ville blive overbevist af de argumenter, jeg fremfører i bogen, men han kunne i det mindste have svaret på, hvad jeg faktisk skrev. I stedet tilbyder han igen argumenter, som om der aldrig er skrevet noget for at svare på disse spørgsmål. Allens beskrivelser af mine egne holdninger ser ud til at være hentet fra mit 10 år gamle essay. Mens jeg fortsætter med at stå ved det essay, opsummerer Allen ikke mine holdninger korrekt, selv fra det essay.
Allen skriver, at loven om accelererende afkast (LOAR)... ikke er en fysisk lov. Jeg vil påpege, at de fleste videnskabelige love ikke er fysiske love, men er et resultat af de opståede egenskaber af et stort antal begivenheder på et finere niveau. Et klassisk eksempel er termodynamikkens love (LOT). Hvis du ser på den matematik, der ligger til grund for LOT, modellerer de hver partikel som følger en tilfældig gåtur. Så per definition kan vi ikke forudsige, hvor en bestemt partikel vil være på noget fremtidigt tidspunkt. Alligevel er gassens overordnede egenskaber yderst forudsigelige med en høj grad af præcision ifølge love af termodynamik. Sådan er det med loven om accelererende afkast. Hvert teknologiprojekt og bidragyder er uforudsigelig, men alligevel følger den overordnede bane, kvantificeret ved grundlæggende mål for pris-ydelse og kapacitet, bemærkelsesværdigt forudsigelige veje.
Hvis computerteknologi kun blev forfulgt af en håndfuld forskere, ville det i sandhed være uforudsigeligt. Men det forfølges af et tilstrækkeligt dynamisk system af konkurrencedygtige projekter til, at et grundlæggende mål som instruktioner per sekund pr. konstant dollar følger en meget jævn eksponentiel vej tilbage til den amerikanske folketælling i 1890. Jeg diskuterer det teoretiske grundlag for LOAR udførligt i min bog, men det stærkeste argument er den omfattende empiri, som jeg og andre fremlægger.
Allen skriver, at disse 'love' virker, indtil de ikke gør det. Her forveksler Allen paradigmer med den igangværende bane for et grundlæggende informationsteknologiområde. Hvis vi undersøgte tendensen til at skabe stadigt mindre vakuumrør, paradigmet for at forbedre beregningen i 1950'erne, er det rigtigt, at denne specifikke tendens fortsatte, indtil den ikke gjorde det. Men da slutningen af dette særlige paradigme blev klar, voksede forskningspresset for det næste paradigme. Transistorteknologien holdt den underliggende tendens med den eksponentielle vækst i pris-ydelse i gang, og det førte til det femte paradigme (Moores lov) og den kontinuerlige komprimering af funktioner på integrerede kredsløb. Der har jævnligt været forudsigelser om, at Moores lov vil komme til ophør. Det halvlederindustriens køreplan med titlen projekter syv nanometer funktioner i begyndelsen af 2020'erne. På det tidspunkt vil nøgletræk være bredden af 35 kulstofatomer, og det vil være svært at fortsætte med at skrumpe dem. Imidlertid tager Intel og andre chipproducenter allerede de første skridt hen imod det sjette paradigme, som er at beregne i tre dimensioner for at fortsætte eksponentiel forbedring af prisydeevnen. Intel forventer, at tredimensionelle chips vil være mainstream i teenageårene. Allerede er tredimensionelle transistorer og tredimensionelle hukommelseschips blevet introduceret.
Dette sjette paradigme vil holde LOAR i gang med hensyn til computerprisydeevne til det punkt, senere i dette århundrede, hvor tusind dollars i beregninger vil være billioner af gange stærkere end den menneskelige hjerne. [en] Og det ser ud til, at Allen og jeg i det mindste er enige om, hvilket beregningsniveau der kræves for funktionelt at simulere den menneskelige hjerne. [to]
Allen fortsætter derefter med at give standardargumentet, at software ikke udvikler sig på samme eksponentielle måde som hardware. I Singulariteten er nær , Jeg behandler dette problem længe og citerer forskellige metoder til måling af kompleksitet og kapacitet i software, der viser en lignende eksponentiel vækst. En nylig undersøgelse (Rapport til præsidenten og kongressen, Designing a Digital Future: Federally Funded Research and Development in Networking and Information Technology af President's Council of Advisors on Science and Technology) siger følgende:
Endnu mere bemærkelsesværdig – og endnu mindre udbredt – er det på mange områder, præstationsforbedringer på grund af forbedringer i algoritmer har langt overskredet selv de dramatiske præstationsgevinster på grund af øget processorhastighed . De algoritmer, som vi bruger i dag til talegenkendelse, til naturligt sprogoversættelse, til skakspil, til logistikplanlægning, har udviklet sig bemærkelsesværdigt i det sidste årti … Her er blot et eksempel leveret af professor Martin Grötschel fra Konrad-Zuse-Zentrum für Informationstechnik Berlin. Grötschel, en ekspert i optimering, bemærker, at en benchmark-produktionsplanlægningsmodel, der blev løst ved hjælp af lineær programmering, ville have taget 82 år at løse i 1988, ved at bruge datidens computere og lineære programmeringsalgoritmer. Femten år senere – i 2003 – kunne den samme model løses på cirka et minut, en forbedring med en faktor på omkring 43 millioner. Heraf skyldtes en faktor på omkring 1.000 øget processorhastighed, mens en faktor på omkring 43.000 skyldtes forbedringer i algoritmer! Grötschel nævner også en algoritmisk forbedring på omkring 30.000 for blandet heltalsprogrammering mellem 1991 og 2008. Designet og analysen af algoritmer og undersøgelsen af problemernes iboende beregningsmæssige kompleksitet er grundlæggende underområder inden for datalogi.
Jeg nævner mange andre eksempler som dette i bogen. [3]
Med hensyn til kunstig intelligens er Allen hurtig til at afvise IBMs Watson som smal, stiv og skør. Jeg forstår, at Allen ville afvise enhver demonstration uden en gyldig beståelse af Turing-testen. Jeg vil påpege, at Watson ikke er så snæver. Den beskæftiger sig med en bred vifte af menneskelig viden og er i stand til at håndtere subtile former for sprog, herunder ordspil, lignelser og metaforer. Det er ikke perfekt, men det er mennesker heller ikke, og det var godt nok til at få en højere score end de to bedste mennesker Fare! spillere sat sammen.
Allen skriver, at Watson blev sat sammen af forskerne selv, og byggede hvert led af snæver viden på specifikke områder. Selvom nogle områder af Watsons viden var programmeret direkte, erhvervede Watson ifølge IBM det meste af sin viden på egen hånd ved at læse dokumenter i naturligt sprog såsom encyklopædier. Det repræsenterer dens vigtigste styrke. Det er ikke kun i stand til at forstå det indviklede sprog i Fare! forespørgsler (svar på jagt efter et spørgsmål), men den har fået sin viden ved at læse enorme mængder af dokumenter på naturligt sprog. IBM arbejder nu sammen med Nuance (et firma, jeg oprindeligt grundlagde som Kurzweil Computer Products) for at få Watson til at læse titusindvis af medicinske artikler for at skabe en medicinsk diagnostiker.
Et ord om arten af Watsons forståelse er på sin plads her. Der er skrevet meget om, at Watson arbejder gennem statistisk viden frem for sand forståelse. Mange læsere tolker dette således, at Watson blot samler statistik om ordsekvenser. Udtrykket statistisk information i Watsons tilfælde refererer til distribuerede koefficienter i selvorganiserende metoder såsom Markov-modeller. Man kunne lige så let henvise til de distribuerede neurotransmitterkoncentrationer i den menneskelige cortex som statistisk information. Faktisk løser vi uklarheder på nogenlunde samme måde, som Watson gør ved at overveje sandsynligheden for forskellige fortolkninger af en sætning.
Allen skriver: Enhver struktur [i hjernen] er blevet præcist formet af millioner af års evolution til at gøre en bestemt ting, hvad end det måtte være. Det er ikke som en computer med milliarder af identiske transistorer i almindelige hukommelsesarrays, der styres af en CPU med et par forskellige elementer. I hjernen er hver individuel struktur og neurale kredsløb blevet individuelt forfinet af evolution og miljøfaktorer.
Allens udsagn om, at enhver struktur og neurale kredsløb er unikke, er simpelthen umuligt. Det ville betyde, at designet af hjernen ville kræve hundredvis af billioner af bytes information. Alligevel er hjernens design (som resten af kroppen) indeholdt i genomet. Og selvom oversættelsen af genomet til en hjerne ikke er ligetil, kan hjernen ikke have mere designinformation end genomet. Bemærk, at epigenetisk information (såsom de peptider, der kontrollerer genekspression) ikke i nævneværdig grad tilføjer mængden af information i genomet. Erfaring og læring øger mængden af information betydeligt, men det samme kan siges om AI-systemer. jeg viser ind Singulariteten er nær at efter tabsfri kompression (på grund af massiv redundans i genomet), er mængden af designinformation i genomet omkring 50 millioner bytes, hvoraf omtrent halvdelen vedrører hjernen. [4] Det er ikke enkelt, men det er et kompleksitetsniveau, vi kan håndtere og repræsenterer mindre kompleksitet end mange softwaresystemer i den moderne verden.
Hvordan kommer vi i størrelsesordenen 100 billioner forbindelser i hjernen fra kun titusinder af millioner bytes designinformation? Det er klart, at svaret er gennem redundans. Der er i størrelsesordenen en milliard mønstergenkendelsesmekanismer i cortex. De hænger sammen på indviklede måder, men selv i forbindelserne er der massiv redundans. Lillehjernen har også milliarder af gentagne mønstre af neuroner. Det er rigtigt, at de massivt gentagne strukturer i hjernen lærer forskellige informationer, efterhånden som vi lærer og får erfaring, men det samme er tilfældet med kunstigt intelligente systemer såsom Watson.
Dharmendra S. Modha, leder af kognitiv computing for IBM Research, skriver : …neuroanatomister har ikke fundet et håbløst sammenfiltret, vilkårligt forbundet netværk, fuldstændig idiosynkratisk for hjernen hos hvert individ, men derimod en hel del gentagne strukturer i en individuel hjerne og en hel del homologi på tværs af arter … Den forbløffende naturlige rekonfigurerbarhed giver håb at kernealgoritmerne for neurocomputation er uafhængige af de specifikke sensoriske eller motoriske modaliteter, og at meget af den observerede variation i corticale struktur på tværs af områder repræsenterer en forfining af et kanonisk kredsløb; det er i sandhed dette kanoniske kredsløb, vi ønsker at reverse engineering.
Allen formulerer det, jeg i min bog beskriver som videnskabsmandens pessimisme. Forskere, der arbejder på den næste generation, kæmper uvægerligt med det næste sæt af udfordringer, så hvis nogen beskriver, hvordan teknologien vil se ud om 10 generationer, bliver deres øjne blæret over. En af pionererne inden for integrerede kredsløb beskrev for mig for nylig kampene for at gå fra 10 mikron (10.000 nanometer) funktionsstørrelser til fem mikron (5.000 nanometer) funktioner for over 30 år siden. De var forsigtigt sikre på dette mål, men da folk forudsagde, at vi en dag faktisk ville have kredsløb med funktionsstørrelser under én mikron (1.000 nanometer), mente de fleste af de videnskabsmænd, der kæmpede for at nå fem mikron, det var for vildt til at overveje. Der blev gjort indsigelser mod kredsløbs skrøbelighed på det niveau af præcision, termiske effekter og så videre. Nå, i dag er Intel begyndt at bruge chips med 22-nanometer portlængder.
Vi så den samme pessimisme med genomprojektet. Halvvejs gennem det 15-årige projekt var kun 1 procent af genomet blevet indsamlet, og kritikere foreslog grundlæggende grænser for, hvor hurtigt genomet kunne sekventeres uden at ødelægge de sarte genetiske strukturer. Men den eksponentielle vækst i både kapacitet og prisydelse fortsatte (begge fordobles omtrent hvert år), og projektet blev afsluttet syv år senere. Projektet med at ombygge den menneskelige hjerne gør lignende fremskridt. Det er for eksempel først for nylig, at vi har nået en tærskel med ikke-invasive scanningsteknikker, at vi kan se individuelle interneuronale forbindelser dannes og affyres i realtid.
Allens kompleksitetsbremse forveksler skoven med træerne. Hvis du vil forstå, modellere, simulere og genskabe en bugspytkirtel, behøver du ikke at genskabe eller simulere hvert organel i hver pancreas-ø-celle. Du ønsker i stedet at forstå en Islet-celle fuldt ud, derefter abstrahere dens grundlæggende funktionalitet og derefter udvide den til en stor gruppe af sådanne celler. Denne algoritme er velkendt med hensyn til ø-celler. Der er nu kunstige bugspytkirtler, der bruger denne funktionelle model, der testes. Selvom der helt sikkert er langt mere forviklinger og variation i hjernen end i de massivt gentagne Islet-celler i bugspytkirtlen, er der ikke desto mindre en massiv gentagelse af funktioner.
Allen fejlkarakteriserer mit forslag om at lære om hjernen ved at scanne hjernen for at forstå dens fine struktur. Det er ikke mit forslag at simulere en hel hjerne nedefra og op uden at forstå informationsbehandlingsfunktionerne. Vi er nødt til at forstå i detaljer, hvordan individuelle typer neuroner fungerer, og derefter indsamle information om, hvordan funktionelle moduler er forbundet. De funktionelle metoder, der er afledt af denne type analyse, kan så styre udviklingen af intelligente systemer. Grundlæggende leder vi efter biologisk inspirerede metoder, der kan accelerere arbejdet med AI, hvoraf meget er gået videre uden væsentlig indsigt i, hvordan hjernen udfører lignende funktioner. Fra mit eget arbejde med talegenkendelse ved jeg, at vores arbejde blev stærkt accelereret, da vi fik indsigt i, hvordan hjernen forbereder og transformerer auditiv information.
Måden, hvorpå disse massivt overflødige strukturer i hjernen differentierer, er gennem læring og erfaring. Den nuværende state of the art inden for AI gør det dog muligt for systemer også at lære af deres egne erfaringer. Googles selvkørende biler (som har kørt over 140.000 miles gennem byer og byer i Californien) lærer af deres egen køreoplevelse såvel som fra Google-biler, der køres af menneskelige chauffører. Som jeg nævnte, lærte Watson det meste af sin viden ved at læse på egen hånd.
Det er rigtigt, at Watson ikke er helt på menneskelige niveauer i sin evne til at forstå menneskeligt sprog (hvis det var, ville vi være på Turing-testniveau nu), men alligevel var det i stand til at besejre de bedste mennesker. Dette er på grund af den iboende hastighed og pålidelighed af hukommelse, som computere har. Så når en computer når menneskelige niveauer, hvilket jeg tror vil ske i slutningen af 2020'erne, vil den være i stand til at gå ud på nettet og læse milliarder af sider samt have oplevelser i virtuelle onlineverdener. At kombinere mønstergenkendelse på menneskeligt niveau med computernes iboende hastighed og nøjagtighed vil være meget kraftfuld. Men dette er ikke en fremmed invasion af intelligensmaskiner – vi skaber disse værktøjer for at gøre os selv klogere. Jeg tror, at Allen er enig med mig i, at det er det, der er unikt ved den menneskelige art: Vi bygger disse værktøjer for at udvide vores egen rækkevidde.
Ray Kurzweil er en opfinder og forfatter. Hans sidste stykke for Teknologigennemgang handlede om bekæmpe aldringsprocessen .
[en] Kapitel 2, Singulariteten er nær af Ray Kurzweil, Viking, 2005.
[to] Se slutnote 2 i The Singularity Isn't Near af Paul G. Allen og Mark Greaves.
[3] Kapitel 9, Singulariteten er nær.
[4] Kapitel 4, Singulariteten er nær.