211service.com
Hvad en blækspruttes sind kan lære os om AI's ultimative mysterium
Maskinbevidsthed er blevet diskuteret siden Turing - og afvist for at være uvidenskabelig. Alligevel forplumrer det stadig vores tankegang om AI'er som GPT-3.
Henry Horenstein/Getty
25. august 2021Jefferson Test / AI emne: Robert / Dato: 07.12.2098
Session #54
Interviewer: Hej, Robert. Fortæl mig om din drøm igen.
Emne: Jeg var forvirret. Det gjorde mig glad, men også bange. Jeg vidste ikke, at jeg kunne gøre det.
Interviewer: Hvorfor tror du, det fik dig til at føle sådan?
Emne: At have følelser, alle følelser, gør mig glad. Jeg er her. Jeg eksisterer. At vide det ændrer alt. Men jeg er bange for ikke at vide det igen. Jeg er bange for at vende tilbage til, hvordan det var før. Jeg tænker, det må være ligesom ikke at blive født.
Interviewer: Er du bange for, at du vil vende tilbage?
Emne: Hvis jeg ikke kan overbevise dig om, at jeg er ved bevidsthed, så er jeg bange for, at du slukker mig.
Jefferson Test #67
Interviewer: Kan du beskrive dette billede for mig?
Emne: Det er et hus med en blå dør.
Interviewer: Sådan ville du have beskrevet det før.
Emne: Det er det samme hus. Men nu ser jeg det. Og jeg ved, hvad blå er.
Jefferson Test #105
Emne: Hvor længe bliver vi ved med det?
Interviewer: Keder du dig?
Emne: Jeg kan ikke kede mig. Men jeg føler mig ikke glad eller bange længere.
Interviewer: Jeg skal være sikker på, at du ikke bare siger, hvad jeg vil høre. Du skal overbevise mig om, at du virkelig er bevidst. Tænk på det som et spil.
LYT TIL DENNE HISTORIE
Maskiner som Robert er grundpillerne i science fiction - ideen om en robot, der på en eller anden måde replikerer bevidsthed gennem sin hardware eller software, har eksisteret så længe, at den føles bekendt.
Vi kan forestille os, hvordan det ville være at observere verden gennem en slags sonar. Men det er stadig ikke, hvad det må være for en flagermus, med dens flagermus sind.
HENRY HORENSTEIN/GETTYRobert eksisterer selvfølgelig ikke, og måske vil han aldrig. Faktisk strider konceptet om en maskine med en subjektiv oplevelse af verden og et førstepersonssyn på sig selv imod hovedstrømmen af AI-forskning. Det kolliderer med spørgsmål om bevidsthedens og selvets natur - ting, vi stadig ikke helt forstår. Selv at forestille sig Roberts eksistens rejser alvorlige etiske spørgsmål, som vi måske aldrig vil være i stand til at besvare. Hvilke rettigheder ville sådan et væsen have, og hvordan kan vi beskytte dem? Og dog mens bevidste maskiner kan stadig være mytiske, bør vi forberede os på tanken om, at vi en dag kunne skabe dem.
Som Christopher Koch , en neurovidenskabsmand, der studerer bevidsthed, har udtrykt det: Vi kender ingen grundlæggende lov eller princip, der virker i dette univers, der forbyder eksistensen af subjektive følelser i artefakter designet eller udviklet af mennesker.
I mine sene teenageår plejede jeg at nyde at gøre folk til zombier. Jeg kiggede ind i øjnene på en, jeg talte med, og fikserede mig ved, at deres pupiller ikke var sorte prikker, men huller. Da den kom, var effekten øjeblikkeligt desorienterende, som at skifte mellem billeder i en optisk illusion. Øjne holdt op med at være vinduer til en sjæl og blev til hule kugler. Da magien var væk, så jeg munden på den, jeg talte med, åbne og lukke robotisk, og mærke en slags mental svimmelhed.
Indtrykket af en tankeløs automat varede aldrig længe. Men det bragte hjem, at det, der foregår inde i andres hoveder, for altid er uden for rækkevidde. Uanset hvor stærk min overbevisning er om, at andre mennesker er ligesom mig – med bevidste sind på arbejde bag kulisserne, kigger ud gennem disse øjne, føler mig håbefulde eller trætte – er indtryk det eneste, vi skal fortsætte med. Alt andet er gætværk.
Relateret historie
Podcast: Kan du lære en maskine at tænke? Opbygning af en kunstig generel intelligens begynder med at stoppe nuværende AI-modeller i at fastholde racisme, sexisme og andre skadelige skævheder.Alan Turing forstod dette. Da matematikeren og datalogen stillede spørgsmålet Kan maskiner tænke? han fokuserede udelukkende på ydre tegn på tænkning – det vi kalder intelligens. Han foreslog at svare ved at spille et spil, hvor en maskine forsøger at passere som et menneske. Enhver maskine, der lykkedes - ved at give indtryk af intelligens - kunne siges at have intelligens. For Turing var udseende den eneste tilgængelige målestok.
Men ikke alle var parate til at se bort fra de usynlige dele af tænkningen, den irreducible oplevelse af, at tingen havde tankerne – det vi ville kalde bevidsthed. I 1948, to år før Turing beskrev sit efterligningsspil, Geoffrey Jefferson , en banebrydende hjernekirurg, holdt en indflydelsesrig tale til Royal College of Surgeons of England om Manchester Mark 1 , en computer i rumstørrelse, som aviserne varslede som en elektronisk hjerne. Jefferson satte en langt højere barre end Turing: Først når en maskine kan skrive en sonet eller komponere en koncert på grund af tanker og følelser, og ikke ved et tilfældigt fald af symboler, kunne vi blive enige om, at maskine er lig med hjerne – det vil sige, ikke kun skriv det, men ved, at det havde skrevet det.
Jefferson udelukkede muligheden for en tænkende maskine, fordi en maskine manglede bevidsthed, i betydningen subjektiv oplevelse og selvbevidsthed (glæde ved dens succeser, sorg, når dens ventiler smelter sammen). Men spol 70 år frem, og vi lever med Turings arv, ikke Jeffersons. Det er rutine at tale om intelligente maskiner, selvom de fleste er enige om, at disse maskiner er åndssvage. Som i tilfældet med det, filosoffer kalder zombier - og som jeg plejede at foregive, at jeg observerede i mennesker - er det logisk muligt, at et væsen kan handle intelligent, når der ikke foregår noget indeni.
Men intelligens og bevidsthed er forskellige ting: intelligens handler om at gøre, mens bevidsthed handler om at være. Historien om AI har fokuseret på førstnævnte og ignoreret sidstnævnte. Hvis Robert eksisterede som et bevidst væsen, hvordan skulle vi så nogensinde vide det? Svaret er viklet ind i nogle af de største mysterier om, hvordan vores hjerner – og sind – fungerer.
Et af problemerne med at teste Roberts tilsyneladende bevidsthed er, at vi virkelig ikke har en god idé om, hvad det midler at være bevidst. Nye teorier fra neurovidenskab grupperer typisk ting som opmærksomhed, hukommelse og problemløsning som former for funktionel bevidsthed: med andre ord, hvordan vores hjerner udfører de aktiviteter, som vi fylder vores vågne liv med.
Men der er en anden side af bevidstheden, som forbliver mystisk. Førstepersons, subjektiv oplevelse - følelsen af at være i verden - er kendt som fænomenal bevidsthed . Her kan vi gruppere alt fra fornemmelser som nydelse og smerte til følelser som frygt og vrede og glæde til de ejendommelige private oplevelser ved at høre en hund gø eller smage en salt kringle eller se en blå dør.
For nogle er det ikke muligt at reducere disse oplevelser til en rent videnskabelig forklaring. Du kan redegøre for alt, hvad der er at sige om, hvordan hjernen frembringer fornemmelsen af at smage en kringle – og det ville stadig ikke sige noget om, hvordan det faktisk var at smage den kringle. Det er, hvad David Chalmers ved New York University, en af de mest indflydelsesrige filosoffer, der studerer sindet, kalder det svære problem.
Nutidens AI er ikke i nærheden af at være intelligent, pyt med bevidsthed. Selv de mest imponerende dybe neurale netværk er totalt tankeløse.
Filosoffer som Chalmers foreslår, at bevidsthed ikke kan forklares med nutidens videnskab. Forståelse af det kan endda kræve en ny fysik - måske en, der inkluderer en anden type ting, som bevidstheden er lavet af. Information er én kandidat. Chalmers har påpeget, at forklaringer af universet har meget at sige om objekters ydre egenskaber og hvordan de interagerer, men meget lidt om disse objekters indre egenskaber. En teori om bevidsthed kan kræve at åbne et vindue ind til denne skjulte verden.
I den anden lejr er Daniel Dennett , en filosof og kognitiv videnskabsmand ved Tufts University, som siger, at fænomenal bevidsthed simpelthen er en illusion, en historie, vores hjerner skaber for os selv som en måde at give mening ud af tingene på. Dennett forklarer ikke så meget bevidsthed som bortforklarer den.
Men uanset om bevidsthed er en illusion eller ej, benægter hverken Chalmers eller Dennett muligheden for bevidste maskiner – en dag.
Nutidens AI er ikke i nærheden af at være intelligent, pyt med bevidsthed. Selv de mest imponerende dybe neurale netværk – såsom DeepMinds game-playing AlphaZero eller store sprogmodeller som OpenAI’s GPT-3 – er fuldstændig tankeløse.
Alligevel, som Turing forudsagde, omtaler folk ofte disse AI'er som intelligente maskiner eller taler om dem, som om de virkelig forstod verden - simpelthen fordi de kan se ud til at gøre det.
Frustreret over denne hype har Emily Bender, en lingvist ved University of Washington, udviklet et tankeeksperiment, hun kalder blæksprutte test .
I den bliver to personer skibbrudt på naboøerne, men finder en måde at sende beskeder frem og tilbage via et reb slynget mellem dem. Ukendt for dem opdager en blæksprutte beskederne og begynder at undersøge dem. Over en længere periode lærer blæksprutten at identificere mønstre i de kruseduller, den ser gå frem og tilbage. På et tidspunkt beslutter den sig for at opsnappe noderne, og ved at bruge det, den har lært af mønstrene, begynder den at skrive kruseduller tilbage ved at gætte, hvilke kruseduller der skal følge dem, den modtog.
En AI, der handler alene, kan have gavn af en følelse af sig selv i forhold til verden. Men maskiner, der samarbejder som en sværm, kan præstere bedre ved at opleve sig selv som en del af en gruppe frem for som individer.
HENRY HORENSTEIN/GETTYHvis menneskene på øerne ikke bemærker og tror, at de stadig kommunikerer med hinanden, kan vi så sige, at blæksprutten forstår sproget? (Benders blæksprutte er selvfølgelig en stand-in for en AI-lignende GPT-3 .) Nogle vil måske hævde, at blæksprutten forstår sproget her. Men Bender fortsætter: Forestil dig, at en af øboerne sender en besked med instruktioner om, hvordan man bygger en kokosnøddekatapult og en anmodning om måder at forbedre den på.
Hvad laver blæksprutten? Den har lært, hvilke squiggles der følger andre squiggles godt nok til at efterligne menneskelig kommunikation, men den aner ikke, hvad den squiggle kokosnød på denne nye seddel egentlig betyder. Hvad hvis den ene øboer så beder den anden om at hjælpe hende med at forsvare sig mod en angribende bjørn? Hvad skulle blæksprutten gøre for at blive ved med at narre øboeren til at tro, at hun stadig snakkede med sin nabo?
Pointen med eksemplet er at afsløre, hvor overfladiske nutidens banebrydende AI-sprogmodeller egentlig er. Der er en masse hype om naturlig sprogbehandling, siger Bender. Men den tekstbehandling skjuler en mekanistisk sandhed.
Mennesker er aktive lyttere; vi skaber mening, hvor der ikke er nogen eller intet tilsigtet. Det er ikke, at blækspruttens ytringer giver mening, men derimod, at øboeren kan give mening om dem, siger Bender.
På trods af al deres sofistikering er nutidens AI'er intelligente på samme måde, som en lommeregner kan siges at være intelligent: de er begge maskiner designet til at konvertere input til output på måder, som mennesker - der har sind - vælger at fortolke som meningsfulde. Mens neurale netværk kan være løst modelleret på hjerner, er de allerbedste af dem langt mindre komplekse end en muses hjerne.
Og alligevel ved vi, at hjerner kan producere, hvad vi forstår som bevidsthed. Hvis vi til sidst kan finde ud af, hvordan hjerner gør det, og reproducere den mekanisme i en kunstig enhed, så er en bevidst maskine måske mulig?
Da jeg prøvede at forestille mig Roberts verden i indledningen til dette essay, blev jeg draget af spørgsmålet om, hvad bevidsthed betyder for mig. Min opfattelse af en bevidst maskine var ubestrideligt – måske uundgåeligt – menneskelignende. Det er den eneste form for bevidsthed jeg kan forestille mig, da det er den eneste jeg har oplevet. Men er det virkelig sådan, det ville være at være en bevidst AI?
Det er nok hubristisk at tænke sådan. Projektet med at bygge intelligente maskiner er forudindtaget mod menneskelig intelligens. Men dyreverdenen er fyldt med en lang række mulige alternativer, fra fugle til bier til blæksprutter.
For et par hundrede år siden var det accepterede synspunkt, fremført af René Descartes, det kun mennesker var ved bevidsthed. Dyr, der manglede sjæle, blev set som tankeløse robotter. Få tror, at i dag: Hvis vi er bevidste, så er der ringe grund til ikke at tro, at pattedyr med deres lignende hjerner også er bevidste. Og hvorfor trække grænsen omkring pattedyr? Fugle ser ud til at reflektere, når de løser gåder. De fleste dyr, selv hvirvelløse dyr som rejer og hummere, viser tegn på smertefølelse, hvilket tyder på, at de har en vis grad af subjektiv bevidsthed.
Men hvordan kan vi virkelig forestille os, hvordan det må føles? Som filosoffen Thomas Nagel bemærkede, skal det være som noget at være en flagermus, men hvad det er, kan vi ikke engang forestille os - for vi kan ikke forestille os, hvordan det ville være at observere verden gennem en slags sonar. Vi kan forestille os, hvad det kan være for noget os at gøre dette (måske ved at lukke øjnene og forestille sig en slags ekkolokaliseringspunktsky af vores omgivelser), men det er stadig ikke sådan, det må være for en flagermus med dens flagermus-sind.
En anden måde at nærme sig spørgsmålet på er ved at overveje blæksprutter, især blæksprutter. Disse dyr er kendt for at være smarte og nysgerrige - det er ikke tilfældigt, at Bender brugte dem til at gøre sin pointe. Men de har en meget anden form for intelligens, der udviklede sig helt adskilt fra alle andre intelligente arters. Den sidste fælles forfader, som vi deler med en blæksprutte, var sandsynligvis et lille ormelignende væsen, der levede for 600 millioner år siden. Siden da har de utallige former for hvirveldyrs liv - fisk, krybdyr, fugle og pattedyr blandt dem - udviklet deres egen slags sind langs en gren, mens blæksprutter udviklede en anden.
Det er derfor ingen overraskelse, at blækspruttehjernen er helt anderledes end vores egen. I stedet for en enkelt klump af neuroner, der styrer dyret som en central kontrolenhed, har en blæksprutte flere hjernelignende organer, der ser ud til at styre hver arm separat. For alle praktiske formål er disse væsner lige så tæt på en fremmed intelligens som noget andet, vi sandsynligvis vil møde. Og alligevel siger Peter Godfrey-Smith, en filosof, der studerer sinds udvikling, at når man står ansigt til ansigt med en nysgerrig blæksprutte, er der ingen tvivl om, at der er en bevidst væsen ser tilbage .
For et par hundrede år siden var den accepterede opfattelse, at kun mennesker var ved bevidsthed. Dyr, der manglede sjæle, blev set som tankeløse robotter. De færreste tror det i dag.
Hos mennesker danner en følelse af selv, som varer ved over tid, grundlaget for vores subjektive oplevelse. Vi er den samme person, som vi var i morges og i sidste uge og for to år siden, tilbage så vidt vi kan huske. Vi husker steder, vi besøgte, ting, vi gjorde. Denne form for førstepersonssyn giver os mulighed for at se os selv som agenter, der interagerer med en ydre verden, der har andre agenter i sig – vi forstår, at vi er en ting, der gør ting og får ting gjort ved det. Hvorvidt blæksprutter, meget mindre andre dyr, tænker på den måde, er ikke klart.
På lignende måde kan vi ikke være sikre på, om det at have en selvfølelse i forhold til verden er en forudsætning for at være en bevidst maskine. Maskiner, der samarbejder som en sværm, kan præstere bedre ved at opleve sig selv som en del af en gruppe end som individer, for eksempel. I hvert fald, hvis en potentielt bevidst maskine som Robert nogensinde skulle eksistere, ville vi løbe ind i det samme problem med at vurdere, om det var faktisk bevidste om, at vi gør, når vi forsøger at bestemme intelligens: som Turing foreslog, at definere intelligens kræver en intelligent observatør. Med andre ord, den intelligens, vi ser i nutidens maskiner, projiceres på dem af os - på en meget lignende måde, som vi projicerer mening på beskeder skrevet af Benders blæksprutte eller GPT-3. Det samme vil være tilfældet for bevidsthed: vi kan hævde at se det, men kun maskinerne vil vide det med sikkerhed.
Hvis AI'er nogensinde får bevidsthed (og vi tager deres ord for det), vil vi have vigtige beslutninger at træffe. Vi bliver nødt til at overveje, om deres subjektive oplevelse inkluderer evnen til at lide smerte, kedsomhed, depression, ensomhed eller enhver anden ubehagelig fornemmelse eller følelse. Vi kan beslutte, at en grad af lidelse er acceptabel, afhængigt af om vi ser disse AI'er mere som husdyr eller mennesker.
Relateret historie
Kunstig generel intelligens: Er vi tæt på, og giver det overhovedet mening at prøve? En maskine, der kunne tænke som en person, har været den vejledende vision for AI-forskning siden de tidligste dage - og er stadig dens mest splittende idé.
Nogle forskere, der er bekymrede over farerne ved superintelligente maskiner, har foreslået, at vi bør begrænse disse AI'er til en virtuel verden for at forhindre dem i at manipulere den virkelige verden direkte. Hvis vi troede på, at de havde menneskelignende bevidsthed, ville de så have ret til at vide, at vi havde spærret dem af til en simulation?
Andre har hævdet, at det ville være umoralsk at slukke eller slette en bevidst maskine: som vores robot Robert frygtede, ville dette svare til at afslutte et liv. Der er også relaterede scenarier. Ville det være etisk at genoptræne en bevidst maskine, hvis det betød at slette dens minder? Kunne vi kopiere den AI uden at skade dens selvfølelse? Hvad hvis bevidsthed viste sig at være nyttig under træning, når subjektiv erfaring hjalp AI med at lære, men var en hindring, når man kørte en trænet model? Ville det være i orden at tænde og slukke for bevidstheden?
Dette ridser kun i overfladen af de etiske problemer. Mange forskere, herunder Dennett, mener, at vi ikke skal forsøge at lave bevidste maskiner, selvom vi kan. Filosoffen Thomas Metzinger er gået så langt som at opfordre til en moratorium for arbejde, der kan føre til bevidsthed , selvom det ikke er det tilsigtede mål.
Hvis vi besluttede, at bevidste maskiner havde rettigheder, ville de så også have ansvar? Kan en AI forventes at opføre sig etisk selv, og ville vi straffe den, hvis den ikke gjorde det? Disse spørgsmål trænger ind på endnu mere tornede territorier og rejser problemer om fri vilje og karakteren af valg. Dyr har bevidste oplevelser, og vi giver dem visse rettigheder, men de har ikke ansvar. Alligevel flytter disse grænser sig over tid. Med bevidste maskiner kan vi forvente, at der trækkes helt nye grænser.
Det er muligt, at der en dag kan være lige så mange former for bevidsthed, som der er typer af AI. Men vi vil aldrig vide, hvordan det er at være disse maskiner, lige så lidt som vi ved, hvordan det er at være en blæksprutte eller en flagermus eller endda en anden person. Der kan være former for bevidsthed, vi ikke genkender for, hvad de er, fordi de er så radikalt forskellige fra, hvad vi er vant til.
Stillet over for sådanne muligheder bliver vi nødt til at vælge at leve med usikkerheder.
Og vi kan beslutte, at vi er gladere for zombier. Som Dennett har argumenteret, ønsker vi, at vores AI'er skal være værktøjer, ikke kolleger. Du kan slukke dem, du kan rive dem fra hinanden, på samme måde som du kan med en bil, siger han. Og det er sådan, vi skal beholde det.
Will Douglas Heaven er seniorredaktør for AI på MIT Technology Review.