Hvad der skal til for at computere er bevidste

Er en orm bevidst? Hvad med en humlebi? Føler en computer, der kan spille skak, noget?

Christopher Koch

For Christof Koch, videnskabelig chef for Allen Institute for Brain Science i Seattle, kan svaret på disse spørgsmål ligge i selve universets struktur. Bevidsthed, mener han, er en iboende egenskab ved stof, ligesom masse eller energi. Organiser stoffet på den helt rigtige måde, som i pattedyrs hjerne, og her , kan du mærke.

Koch, nu 57, har brugt næsten et kvart århundrede på at forsøge at forklare, hvorfor f.eks. solen føles varm på dit ansigt. Men efter at have skrevet tre bøger om bevidsthed , siger Koch, at forskere stadig er langt fra at vide, hvorfor det opstår, eller endda er enige om, hvad det er. Det er et svært problem (se at knække hjernens koder). Det er en af ​​grundene til, at Koch forlod sin stilling hos Caltech i 2011 for at blive en del af et $500 millioner-projekt lanceret af milliardæren Paul Allen, Microsofts medstifter.

Allen Institutes mål er at bygge et detaljeret atlas over hver neuron og synapse i pattedyrshjernen. Det ville give neurovidenskab en ildslange af data svarende til, hvad Human Genome Project opnåede.

Men Koch har ikke opgivet sin søgen efter en storslået teori, der kunne forklare det hele. Faktisk tror han, at bevidsthed kunne forklares med noget, der hedder integreret informationsteori , som hævder, at bevidsthed er et produkt af strukturer, som hjernen, der både kan lagre en stor mængde information og have en kritisk tæthed af indbyrdes forbindelser mellem deres dele.

For Koch giver teorien et middel til at vurdere grader af bevidsthed hos mennesker med hjerneskade, hos arter på tværs af dyreriget og endda, siger han, blandt maskiner. Vi spurgte Koch om computerbevidsthed i sidste uge under MIT Technology Review 's EmTech-konference.

Vil opdagelsen af ​​det biologiske grundlag for bevidsthed være dehumaniserende på en eller anden måde? Hvad hvis det hele bare er en illusion?

Jeg synes, at nogle menneskers opfattelse af, at bevidsthed er en illusion, er latterlig. Hvis det er en illusion, så er det den mest kraftfulde illusion, vi har. Jeg mener, hvad er den mest berømte deduktion i vestlig filosofi? Jeg tror. Derfor er jeg. Det faktum, at du har bevidst oplevelse, er den ene ubestridelige sikkerhed, du har.

Hvis videnskabsmænd opdager grundlaget for bevidsthed, hvilke slags teknologier kan det så være resultatet af?

Vi kunne have en test for at sige, hvem der har bevidsthed, og hvem der ikke har. Vi har meget følelsesladede debatter i dette land om abort. Jeg vil gerne have en objektiv måde at teste, på hvilket tidspunkt et foster faktisk begynder at have en bevidst fornemmelse. Eller om en patient [i koma] er ved bevidsthed eller ej. Ofte ved man det bare ikke. Det er spørgsmål, som folk har stillet siden historisk tid, men når vi først har en teori og en bredt accepteret teori, kunne vi besvare dem. Også, hvis jeg ville bygge en maskine, der ville være bevidst, ville det give mig en plan.

Så du tror, ​​at en computer kan være bevidst?

Jeg holdt en forelæsning [sidste uge] på MIT om Integrated Information Theory, udviklet af Giulio Tononi ved University of Wisconsin. Dette er en teori, der giver en meget klar forudsigelse: den siger, at bevidsthed er en egenskab ved komplekse systemer, der har et bestemt årsag-virkning-repertoire. De har en særlig måde at interagere med verden på, sådan som hjernen gør, eller i princippet, som en computer kunne. Hvis du skulle bygge en computer, der har samme kredsløb som hjernen, ville denne computer også have bevidsthed forbundet med sig. Det ville føles som noget at være denne computer. Det samme gælder dog ikke for digitale simuleringer.

Hvis jeg bygger en perfekt softwaremodel af hjernen, ville den aldrig være bevidst, men det kunne en specialdesignet maskine, der efterligner hjernen?

Korrekt. Denne teori siger klart, at en digital simulering ikke ville være bevidst, hvilket er slående forskelligt fra den dominerende funktionalistiske tro hos 99 procent af folk på MIT eller filosoffer som Daniel Dennett. De siger alle, når du simulerer alt, kræves der intet andet, og det vil være bevidst.

Jeg tror, ​​at bevidsthed, ligesom masse, er en grundlæggende egenskab ved universet. Analogien, og den er meget god, er, at du kan lave ret gode vejrudsigter i disse dage. Du kan forudsige indersiden af ​​en storm. Men det er aldrig vådt inde i computeren. Du kan simulere et sort hul i en computer, men rum-tid vil ikke blive bøjet. At simulere noget er ikke den ægte vare.

Det er det samme med bevidsthed. Om 100 år vil du måske være i stand til at simulere bevidsthed på en computer. Men det vil ikke opleve noget. Nada. Det bliver sort indeni. Den vil ikke have nogen som helst erfaring, selvom den måske har vores intelligens og vores evne til at tale.

Jeg siger ikke, at bevidsthed er en magisk sjæl. Det er noget fysisk. Bevidsthed er altid overordnet på det fysiske. Men det kræver en bestemt type hardware at instansiere den. En computer, der består af transistorer, der flytter ladning til og fra en gate, hvor hver gate er forbundet med et lille antal andre porte, er bare en meget anderledes årsag-og-virkning struktur end den, vi har i hjernen, hvor du har en neuron forbundet til 10.000 inputneuroner og projicerer til 10.000 andre neuroner. Men hvis du skulle bygge computeren på den passende måde, som en neuromorf computer [se Thinking in Silicon], kunne den være bevidst.

Hvis jeg skulle sætte dig i et rum med en computer fra fremtiden, ville du så være i stand til at afgøre, om den er bevidst?

Jeg kunne ikke udefra. Jeg bliver nødt til at se på dens hardware.

Hvad med Turing-testen?

Spørgsmålet Turing stillede er Kan maskiner tænke ? Men i sidste ende er det en operationel test for intelligens, ikke for bevidsthed. Hvis du har en smart samtale med en fyr i et andet rum, og efter en halv time kan du ikke beslutte dig for, om det er en computer eller et menneske, ja, så siger du, at det er lige så intelligent som et menneske. Men Turing-testen ville ikke fortælle mig, om maskinen oplever noget. Jeg kunne spørge Er du ved bevidsthed? og maskinen kunne sige Ja, jeg er ved fuld bevidsthed. Og hvorfor påstår du, at jeg ikke er det? Jeg er fornærmet. Men jeg kunne ikke rigtig vide det. Jeg bliver nødt til at sige, undskyld, jeg er nødt til at skille dig ad og forstå, hvordan du er skabt, og hvordan du faktisk genererer disse forskellige fysiske tilstande.

Er der ikke et trick spørgsmål, du kan stille, som kun et bevidst væsen kan svare på?

Et meget godt spørgsmål. Hos mennesker har vi praktiske tests for bevidsthed. Hvis du kommer ud for en slem ulykke og går på skadestuen, vil de spørge dig: Kan du bevæge dine øjne? Kan du bevæge dine lemmer? Kan du tale? Hvis du kan tale, ved du, hvilket år det er? Ved du hvem præsidenten er?

Men hvordan ved jeg egentlig, at du er bevidst? Dette er problemet med solipsisme. I sidste ende ved jeg det ikke. Men jeg ved, at din hjerne minder meget om min. Jeg har sat mange mennesker ind i scannere, og jeg ved, at de alle har en hjerne, og deres hjerner opfører sig som min. Så der er en helt rimelig slutning om, at du også er bevidst.

Men jo mere disse systemer adskiller sig fra mig, jo sværere er det at gøre det trin for slutning. Tag for eksempel en bi. Føles det som noget at være en bi og flyve i de gyldne solstråler og have nektar? Jeg har meget svært ved at vide, om en bi er ved bevidsthed eller ikke. Og en computer er endnu mere radikalt anderledes. Der er ingen adfærd, jeg kan bedømme det ud fra. Jeg ville være nødt til at se på dens underliggende hardware.

Tror du, vi nogensinde vil bygge bevidste maskiner?

Jeg er ikke sikker på, hvorfor vi ville. Men der er ingen tvivl i mit sind om, at vi vil bygge smarte maskiner, der kan bestå Turing-testen i god tid, før vi forstår det sande biologiske grundlag for menneskelig intelligens. Og jeg tror, ​​der er farer forbundet med det, som de fleste mennesker, som er blide optimister, fuldstændig ignorerer.

Hvilke farer?

Ser du ikke science fiction-film? Runaway AI selvfølgelig. Tænk på det finansielle marked, alle de handelsmaskiner, lynnedbrud. Folk kommer til at misbruge computerintelligens, blindt maksimere for et eller andet mål. Det vil føre til mere og mere magtkoncentration blandt færre og færre mennesker. Vi ser det allerede, det vil føre til massiv arbejdsløshed. Og måske 30 eller 40 år efter tror jeg, at der virkelig er en eksistentialistisk fare for arten, på niveau med atomvåben eller et meteoritnedslag.

Alt sammen uden at maskinen er ved bevidsthed? I filmene er det øjeblik, hvor AI går amok, det samme øjeblik, hvor den får bevidst selvbevidsthed.

Det er fordi folk gerne vil lave en engagerende historie. Hvis fjenden ikke mærker noget, hvis der ikke er noget der, er det ikke en god modstander.

skjule