211service.com
Singulariteten og det faste punkt
Nogle fremtidsforskere som Ray Kurzweil har antaget, at vi en dag snart vil passere gennem en singularitet – det vil sige en tidsperiode med hurtige teknologiske forandringer, udover hvilken vi ikke kan forestille os samfundets fremtid. De fleste visioner af denne singularitet fokuserer på skabelsen af maskiner, der er intelligente nok til at udtænke maskiner, der er endnu mere intelligente end dem selv, og så videre rekursivt, og dermed lancere en positiv feedback-loop af intelligensforstærkning. Det er en spændende tanke. (En af de første ting, jeg ville gøre, da jeg kom til MIT som bachelor, var at bygge en robotforsker, der kunne gøre opdagelser hurtigere og bedre end nogen anden.) Selv Intels CTO, Justin Rattner, har offentligt for nylig spekuleret i, at vi er godt på vej til denne singularitet, og konferencer som Singularity Summit (hvor Jeg taler i oktober ) undersøger, hvordan sådanne transformationer kan finde sted.
Som hjerneingeniør tror jeg imidlertid, at fokus udelukkende på intelligensforøgelse som fremtidens driver udelader en kritisk del af analysen – nemlig de ændringer i motivation, der kan opstå, når intelligensen forstærkes. Kald det behovet for maskinlederevner eller maskinfilosofi – uden det kan sådan en feedback-loop hurtigt sprænge ud.
Vi ved alle, at intelligens, som almindeligt defineret, ikke er nok til at påvirke verden alene. Evnen til at forfølge et mål ihærdigt mod forhindringer og ignorere virkelighedens dystre (nogle gange endda til et punkt af vildfarelse – dvs. mod intelligens), er også vigtig. De fleste science-fiction-historier foretrækker, at deres kunstige intelligens er ekstremt motiverede til at gøre ting - for eksempel at slavebinde eller udslette mennesker, hvis Matrixen og Terminator II har noget at sige om emnet. Men jeg finder robotten Marvin, den superintelligente maskine fra Douglas Adams', lige så plausibel. Det Blafferens guide til galaksen , der brugte sin enorme intelligens primært til at sidde og klage, i mangel af noget stort mål.
Faktisk kan en virkelig avanceret intelligens, forkert motiveret, indse alle tings forgængelighed, beregne, at solen vil brænde ud om et par milliarder år, og beslutte at spille videospil resten af sin eksistens og konkludere, at opfinde en endnu smartere maskinen er meningsløs. (En følge af denne tankegang kan forklare, hvorfor vi endnu ikke har fundet udenjordisk liv: intelligenser på nippet til at opnå interstellar rejse kan være tilbøjelige til at tro, at med galakserne, der koger væk om kun 1019 år, kan det være bedre bare at blive hjemme og se tv.) Så hvis man forsøger at bygge en intelligent maskine, der er i stand til at udtænke mere intelligente maskiner, er det vigtigt at finde en måde at indbygge ikke kun motivation, men motivationsforstærkning - det fortsatte ønske om at indbygge selvopretholdende motivation, efterhånden som intelligensen forstærkes. Hvis en sådan motivation skal besiddes af fremtidige generationer af intelligens-meta-motivation, som det var - så er det vigtigt at opdage disse principper nu.
Der er et andet problem. Et intelligent væsen kan være i stand til at forestille sig mange flere muligheder end et mindre intelligent, men det fører måske ikke altid til mere effektiv handling, især hvis nogle muligheder distraherer intelligensen fra de oprindelige mål (f.eks. målet om at opbygge en mere intelligent intelligens ). Universets iboende usikkerhed kan også overvælde, eller gøre irrelevant, beslutningsprocessen for denne intelligens. For et meget højdimensionelt rum af muligheder (med akserne repræsenterer forskellige parametre for den handling, der skal udføres), kan det være meget svært at vurdere, hvilken vej der er den bedste. Sindet kan lægge planer parallelt, men handlinger er i sidste ende enhed, og givet begrænsede tilgængelige ressourcer, vil effektive handlinger ofte være sparsomme.
De sidste to afsnit gælder ikke kun for AI og ET, men beskriver også træk ved det menneskelige sind, der til tider påvirker beslutningstagningen hos mange af os – mangel på motivation og drive og lammelse af beslutningstagning i lyset af for mange mulige valg . Men det bliver værre: Vi ved, at en motivation kan blive kapret af muligheder, der simulerer den tilfredsstillelse, som motivationen er rettet mod. Stofmisbrug plager titusinder af mennesker alene i USA, og afhængighed af mere subtile ting, herunder visse former for information (såsom e-mail), er også fremtrædende. Og få kunstarter er mere udfordrende end at give motivationen videre til den næste generation, for jagten på en stor idé. Intelligenser, der opfinder mere og mere interessante og absorberende teknologier, som bedre kan fange og fastholde deres opmærksomhed, samtidig med at de reducerer indflydelse på verden, kan komme ind i det modsatte af en singularitet.
Hvad er det modsatte af en singularitet? Singulariteten afhænger af en matematisk rekursion: opfind en superintelligens, og så vil den opfinde en endnu stærkere superintelligens. Men som enhver matematikstuderende ved, er der andre resultater af en itereret proces, såsom et fast punkt. Et fikspunkt er et punkt, der, når en funktion anvendes, giver dig det samme punkt igen. Anvendelse af en sådan funktion på punkter nær det faste punkt vil ofte sende dem mod det fikserede punkt.
Et samfundsmæssigt fikspunkt kan derfor defineres som en tilstand, der selvforstærker, forbliver i status quo – hvilket i princippet kunne være fredeligt og selvopretholdende, men også kunne være ekstremt kedeligt – f.eks. involverer masser af mennesker tilsluttet internettet ser videoer for evigt. Derfor vil vi som mennesker måske snart begynde at opstille designregler for teknologier, så de vil motivere os til et eller andet højt mål eller ende – eller i det mindste væk fra blindgydede samfundsmæssige fikspunkter. Denne proces vil involvere at tænke over, hvordan teknologi kan hjælpe med at konfrontere et gammelt spørgsmål om filosofi – nemlig hvad skal jeg gøre, givet alle disse mulige veje? Måske er det tid til et empirisk svar på dette spørgsmål, afledt af egenskaberne i vores hjerne og det univers, vi lever i.