Paul Allen: Singulariteten er ikke nær

Futurister kan lide Vernor Vinge og Ray Kurzweil har hævdet, at verden hurtigt nærmer sig et vendepunkt, hvor det accelererende tempo for smartere og smartere maskiner snart vil overskride alle menneskelige evner. De kalder dette vendepunkt for singularitet , fordi de mener, at det er umuligt at forudsige, hvordan den menneskelige fremtid kan udvikle sig efter dette tidspunkt. Når først disse maskiner eksisterer, hævder Kurzweil og Vinge, vil de besidde en overmenneskelig intelligens, der er så uforståelig for os, at vi ikke engang rationelt kan gætte, hvordan vores livserfaringer ville blive ændret. spørger Vinge os til at overveje menneskers rolle i en verden, hvor maskiner er lige så meget klogere end os, som vi er klogere end vores hunde og katte. Kurzweil, der er lidt mere optimistisk, forestiller sig en fremtid hvor udviklingen inden for medicinsk nanoteknologi vil give os mulighed for at downloade en kopi af vores individuelle hjerner til disse overmenneskelige maskiner, efterlade vores kroppe og på en måde leve for evigt. Det er hæsblæsende ting.

Kredit: Teknologianmeldelse

Selvom vi antager, at denne form for singularitet en dag kan forekomme, tror vi ikke, at den er i nærheden. Faktisk tror vi, det kommer til at vare meget længe. Kurzweil er uenig, baseret på hans ekstrapolationer om hastigheden af ​​relevante videnskabelige og tekniske fremskridt. Han begrunder, at fremskridtshastigheden mod singulariteten ikke blot er en progression af støt stigende kapacitet, men faktisk accelererer eksponentielt - hvad Kurzweil kalder Loven om accelererende afkast . Han skriver at:

Så vi vil ikke opleve 100 års fremskridt i det 21. århundrede – det vil mere ligne 20.000 års fremskridt (i dagens tempo). Afkastet, såsom chiphastighed og omkostningseffektivitet, stiger også eksponentielt. Der er endda eksponentiel vækst i hastigheden af ​​eksponentiel vækst. Inden for få årtier vil maskinintelligens overgå menneskelig intelligens, hvilket fører til The Singularity … [en]

Ved at arbejde gennem et sæt modeller og historiske data, beregner Kurzweil berømt, at singulariteten vil ankomme omkring 2045.

Denne forudsigelse forekommer os ret langt ude. Selvfølgelig er vi klar over, at videnskabens og teknologiens historie er fyldt med mennesker, der med tillid hævder, at en begivenhed ikke kan ske, for senere at blive bevist forkert - ofte på en spektakulær måde. Vi anerkender, at det er muligt, men højst usandsynligt, at Kurzweil i sidste ende vil blive retfærdiggjort. En voksen hjerne er en begrænset ting, så dens grundlæggende funktioner kan i sidste ende kendes gennem vedvarende menneskelig indsats. Men hvis singulariteten skal nå frem i 2045, vil den tage uforudsigelige og fundamentalt uforudsigelige gennembrud, og ikke fordi loven om accelererende afkast gjorde den til det uundgåelige resultat af en specifik eksponentiel fremskridtshastighed.

Kurzweils ræsonnement hviler på loven om accelererende afkast og dets søskende, men disse er ikke fysiske love. De er påstande om, hvordan tidligere videnskabelige og tekniske fremskridt kan forudsige den fremtidige rate. Derfor, ligesom andre forsøg på at forudsige fremtiden fra fortiden, vil disse love virke, indtil de ikke gør det. Mere problematisk for singulariteten, henter disse former for ekstrapolationer meget af deres overordnede eksponentielle form fra at antage, at der vil være en konstant forsyning af stadig mere kraftfulde computeregenskaber. For at loven skal gælde og singulariteten kan forekomme omkring 2045, skal fremskridtene i kapacitet ikke kun ske i en computers hardwareteknologier (hukommelse, processorkraft, bushastighed osv.), men også i den software, vi skaber til at køre på disse bedre computere. For at opnå singulariteten er det ikke nok bare at køre dagens software hurtigere. Vi ville også skulle bygge smartere og mere dygtige softwareprogrammer. At skabe denne form for avanceret software kræver en forudgående videnskabelig forståelse af grundlaget for menneskelig erkendelse, og vi skraber bare overfladen af ​​dette.

Dette forudgående behov for at forstå den grundlæggende videnskab om erkendelse er, hvor singulariteten er tæt på, argumenter formår ikke at overtale os. Det er rigtigt, at computerhardwareteknologi kan udvikle sig forbløffende hurtigt, når vi først har en solid videnskabelig ramme og tilstrækkelige økonomiske incitamenter. Men at skabe softwaren til en ægte computerintelligens på singularitetsniveau vil kræve grundlæggende videnskabelige fremskridt ud over, hvor vi er i dag. Denne form for fremskridt er meget anderledes end Moore's Law-stilens udvikling af computerhardware-kapaciteter, der inspirerede Kurzweil og Vinge. Opbygning af den komplekse software, der ville tillade singulariteten at ske, kræver, at vi først har en detaljeret videnskabelig forståelse af, hvordan den menneskelige hjerne fungerer, som vi kan bruge som en arkitektonisk guide, eller også skabe det hele igen . Det betyder ikke kun at kende hjernens fysiske struktur, men også hvordan hjernen reagerer og ændrer sig, og hvordan milliarder af parallelle neuroninteraktioner kan resultere i menneskelig bevidsthed og original tanke. At få denne form for omfattende forståelse af hjernen er ikke umuligt. Hvis singulariteten dog kommer til at forekomme på noget som Kurzweils tidslinje, så kræver vi absolut en massiv acceleration af vores videnskabelige fremskridt med at forstå alle facetter af den menneskelige hjerne.

Men historien fortæller os, at processen med original videnskabelig opdagelse bare ikke opfører sig på denne måde, især på komplekse områder som neurovidenskab, nuklear fusion eller kræftforskning. Overordnede videnskabelige fremskridt i forståelsen af ​​hjernen ligner sjældent en velordnet, ubønhørlig march til sandheden, endsige en eksponentielt accelererende. I stedet er videnskabelige fremskridt ofte uregelmæssige, med uforudsigelige glimt af indsigt, der præger det langsomme laboratoriearbejde med at skabe og teste teorier, der kan passe med eksperimentelle observationer. Virkelig betydningsfulde konceptuelle gennembrud kommer ikke, når de forudsiges, og af og til fejer nye videnskabelige paradigmer gennem feltet og får videnskabsmænd til at revurdere dele af det, de troede, de havde afgjort. Vi ser dette i neurovidenskaben med opdagelsen af ​​langsigtet potensering, den søjleformede organisering af kortikale områder og neuroplasticitet. Disse former for fundamentale skift understøtter ikke den overordnede Moores Law-acceleration, der er nødvendig for at komme til singulariteten på Kurzweils tidsplan.

Kompleksitetsbremsen

Det foregående peger på et grundlæggende problem med, hvor hurtigt en videnskabeligt adækvat redegørelse for menneskelig intelligens kan udvikles. Vi kalder dette spørgsmål for kompleksitetsbremse . Efterhånden som vi går dybere og dybere i vores forståelse af naturlige systemer, oplever vi typisk, at vi kræver mere og mere specialiseret viden for at karakterisere dem, og vi er tvunget til løbende at udvide vores videnskabelige teorier på flere og mere komplekse måder. At forstå de detaljerede mekanismer for menneskelig kognition er en opgave, der er underlagt denne kompleksitetsbremse. Tænk blot over, hvad der kræves for at forstå den menneskelige hjerne grundigt på mikroniveau. Hjernens kompleksitet er simpelthen fantastisk. Hver struktur er blevet præcist formet af millioner af års evolution til at gøre en bestemt ting, hvad end det måtte være. Det er ikke som en computer med milliarder af identiske transistorer i almindelige hukommelsesarrays, der styres af en CPU med et par forskellige elementer. I hjernen er hver individuel struktur og neurale kredsløb blevet individuelt forfinet af evolution og miljøfaktorer. Jo nærmere vi ser på hjernen, jo større grad af neural variation finder vi. At forstå den menneskelige hjernes neurale struktur bliver sværere, efterhånden som vi lærer mere. Sagt på en anden måde, jo mere vi lærer, jo mere indser vi, at der er at vide, og jo mere må vi gå tilbage og revidere vores tidligere forståelser. Vi tror, ​​at en dag vil denne konstante stigning i kompleksitet ende - hjernen er trods alt et begrænset sæt neuroner og fungerer efter fysiske principper. Men i en overskuelig fremtid er det kompleksitetsbremsen og ankomsten af ​​kraftfulde nye teorier, snarere end Loven om Accelerating Returns, der vil styre tempoet i de videnskabelige fremskridt, der kræves for at opnå singulariteten.

Så selvom vi tror, ​​at en finkornet forståelse af hjernens neurale struktur i sidste ende er opnåelig, har det ikke vist sig at være den slags område, hvor vi kan gøre eksponentielt accelererende fremskridt. Men antag, at videnskabsmænd gør nogle strålende nye fremskridt inden for hjernescanningsteknologi. Fortalere for singularitet hævder ofte, at vi kan opnå computerintelligens blot ved numerisk at simulere hjernen nedefra og op fra et detaljeret billede på neuralt niveau. For eksempel forudsiger Kurzweil udviklingen af ​​ikke-destruktive hjernescannere, der vil give os mulighed for præcist at tage et øjebliksbillede af en persons levende hjerne på subneuronniveau. Han foreslår at disse scannere højst sandsynligt ville fungere inde fra hjernen via millioner af injicerbare medicinske nanobots. Men uanset om nanobot-baseret scanning lykkes (og vi er ikke engang tæt på at vide, om dette er muligt), hævder Kurzweil i bund og grund, at dette er det nødvendige videnskabelige fremskridt, der vil lukke singulariteten: computere kunne blot udvise intelligens på menneskeligt niveau. ved at indlæse tilstanden og forbindelsen af ​​hver af en hjernes neuroner inde i en massiv digital hjernesimulator, tilslutte input og output og trykke på start.

Men vanskeligheden ved at bygge software på menneskeligt niveau går dybere end beregningsmæssig modellering af de strukturelle forbindelser og biologien af ​​hver af vores neuroner. Hjerneduplikationsstrategier som disse forudsætter, at der ikke er noget grundlæggende problem med at komme til menneskelig kognition udover at have tilstrækkelig computerkraft og neuronstrukturkort til at udføre simuleringen. [to] Selvom dette teoretisk set kan være sandt, har det ikke fungeret sådan i praksis, fordi det ikke adresserer alt, hvad der faktisk er nødvendigt for at bygge softwaren. For eksempel, hvis vi ønskede at bygge software til at simulere en fugls evne til at flyve under forskellige forhold, er det ikke tilstrækkeligt at have et komplet diagram over fuglens anatomi. For fuldt ud at simulere flyvningen af ​​en faktisk fugl, skal vi også vide, hvordan alt fungerer sammen. Inden for neurovidenskab er der en parallel situation. Der er gjort hundredvis af forsøg (ved at bruge mange forskellige organismer) på at kæde simuleringer af forskellige neuroner sammen med deres kemiske miljø. Det ensartede resultat af disse forsøg er, at for at skabe en passende simulering af en organismes reelle igangværende neurale aktivitet, har du også brug for en stor mængde viden om funktionelle rolle, som disse neuroner spiller, hvordan deres forbindelsesmønstre udvikler sig, hvordan de er struktureret i grupper for at omdanne rå stimuli til information, og hvordan neural informationsbehandling i sidste ende påvirker en organismes adfærd. Uden denne information har det vist sig umuligt at konstruere effektive computerbaserede simuleringsmodeller. Især for menneskers kognitive neurovidenskab er vi ikke tæt på det nødvendige niveau af funktionel viden. Hjerne simuleringsprojekter i gang i dag modellerer kun en lille brøkdel af, hvad neuroner gør og mangler detaljerne til fuldt ud at simulere, hvad der sker i en hjerne. Forskningstempoet på dette område, selv om det er opmuntrende, synes næppe at være eksponentielt. Igen, efterhånden som vi lærer mere og mere om den faktiske kompleksitet af, hvordan hjernen fungerer, er det vigtigste, vi finder ud af, at problemet faktisk bliver sværere.

AI-tilgangen

Fortalere for singularitet appellerer lejlighedsvis til udviklingen inden for kunstig intelligens (AI) som en måde at omgå den langsomme hastighed af overordnede videnskabelige fremskridt i bottom-up, neurovidenskabsbaserede tilgange til kognition. Det er rigtigt, at AI har haft stor succes med at duplikere visse isolerede kognitive opgaver, senest med IBMs Watson-system til Fare! spørgsmål besvare. Men når vi træder tilbage, kan vi se, at de overordnede AI-baserede egenskaber heller ikke er steget eksponentielt, i det mindste målt i forhold til skabelsen af ​​en fuldstændig generel menneskelig intelligens. Selvom vi har lært en hel del om, hvordan man bygger individuelle AI-systemer, der gør tilsyneladende intelligente ting, er vores systemer altid forblevet skør - Deres præstationsgrænser er stive af deres interne antagelser og definerende algoritmer, de kan ikke generalisere, og de giver ofte meningsløse svar uden for deres specifikke fokusområder. Et computerprogram, der spiller fremragende skak, kan ikke udnytte sine evner til at spille andre spil. De bedste medicinske diagnoseprogrammer indeholder uhyre detaljeret viden om den menneskelige krop, men kan ikke udlede, at en tightrope walker ville have en god balancesans.

Hvorfor har det vist sig så svært for AI-forskere at opbygge menneskelignende intelligens, selv i lille skala? Et svar involverer den grundlæggende videnskabelige ramme, som AI-forskere bruger. Efterhånden som mennesker vokser fra spædbørn til voksne, begynder de med at tilegne sig en generel viden om verden og derefter løbende forstærke og forfine denne generelle viden med specifik viden om forskellige områder og sammenhænge. AI-forskere har typisk forsøgt at gøre det modsatte: de har bygget systemer med dyb viden om snævre områder og forsøgt at skabe en mere generel kapacitet ved at kombinere disse systemer. Denne strategi har generelt ikke været succesfuld, selvom Watsons præstation fortsatte Fare! indikerer, at stier som denne endnu kan have lovende. De få forsøg, der er blevet gjort på direkte at skabe en stor mængde generel viden om verden, og derefter tilføje den specialiserede viden om et domæne (f.eks. Cycorp ), har også kun haft begrænset succes. Og under alle omstændigheder er AI-forskere kun lige begyndt at teoretisere om, hvordan man effektivt kan modellere de komplekse fænomener, der giver den menneskelige erkendelse dens unikke fleksibilitet: usikkerhed, kontekstuel følsomhed, tommelfingerregler, selvrefleksion og glimt af indsigt, der er essentielle til tanker på højere niveau. Ligesom i neurovidenskaben, synes den AI-baserede vej til at opnå computerintelligens på singularitetsniveau at kræve mange flere opdagelser, nogle nye teorier af Nobelkvalitet og sandsynligvis endda helt nye forskningstilgange, der ikke står i forhold til, hvad vi tror på nu. Denne form for grundlæggende videnskabelige fremskridt sker ikke på en pålidelig eksponentiel vækstkurve. Så selvom udviklingen inden for kunstig intelligens i sidste ende kan ende med at blive vejen til singulariteten, bremser kompleksitetsbremsen igen vores fremskridtshastighed og skubber singulariteten betydeligt ind i fremtiden.

Den forbløffende indviklede menneskelig erkendelse bør tjene som en advarsel til dem, der hævder, at singulariteten er tæt på. Uden at have en videnskabelig dyb forståelse af kognition, kan vi ikke skabe den software, der kunne udløse singulariteten. I stedet for den stadigt accelererende fremgang forudsagt af Kurzweil, tror vi, at fremskridt hen imod denne forståelse grundlæggende bremses af kompleksitetsbremsen. Vores evne til at opnå denne forståelse, enten via AI eller neurovidenskabens tilgange, er i sig selv en menneskelig kognitiv handling, der opstår fra den uforudsigelige natur af menneskelig opfindsomhed og opdagelse. Fremskridt her er dybt påvirket af den måde, hvorpå vores hjerne absorberer og behandler ny information, og af forskernes kreativitet i at opfinde nye teorier. Det er også styret af den måde, vi socialt organiserer forskningsarbejdet på disse områder på, og formidler den viden, der resulterer i. På Vulcan og ved Allen Institute for Brain Science , arbejder vi på avancerede værktøjer til at hjælpe forskere med at håndtere denne skræmmende kompleksitet og fremskynde dem i deres forskning. At opnå en omfattende videnskabelig forståelse af menneskelig kognition er et af de sværeste problemer, der findes. Vi fortsætter med at gøre opmuntrende fremskridt. Men i slutningen af ​​århundredet, tror vi, vil vi stadig spekulere på, om singulariteten er nær.

Paul G. Allen, som var med til at stifte Microsoft i 1975, er filantrop og formand for Vulcan, som investerer i en række teknologi-, rumfarts-, underholdnings- og sportsvirksomheder. Mark Greaves er en datalog, der fungerer som Vulcans direktør for vidensystemer.

[en] Kurzweil, The Law of Accelerating Returns, marts 2001.

[to] Vi begynder at komme inden for rækkevidde af den computerkraft, vi muligvis har brug for for at understøtte denne form for massiv hjernesimulering. Petaflop-klasse computere (såsom IBM's BlueGene/P, der blev brugt i Watson-systemet) er nu tilgængelige kommercielt. Computere i Exaflop-klassen er i øjeblikket på tegnebrætterne. Disse systemer kunne sandsynligvis implementere den rå beregningsevne, der er nødvendig for at simulere affyringsmønstrene for alle en hjernes neuroner, selvom det i øjeblikket sker mange gange langsommere, end det ville ske i en egentlig hjerne.

OPDATERING: Ray Kurzweil svarer her.

skjule