211service.com
Q&A med fremtidsforsker Martine Rothblatt
Hvis computere tænker selv, skal de så have menneskerettigheder? 20. oktober 2014
Bina48 er et robothoved, der ligner og taler som en person – det bevæger læberne og kører samtalesoftware. Selvom robotten ikke er i live, er det svært at sige, at der slet ikke er liv i Bina48. I samtalen siger den nogle gange overraskende ting. Googles ingeniørdirektør, Ray Kurzweil, siger, at det er vidunderligt antydende til en tid, hvor computere virkelig vil tænke og føle.
Kurzweil fremsætter kommentaren i forordet til Virtually Human: Løftet – og faren – ved digital udødelighed en ny bog af Bina48s ejer, Martine Rothblatt, som fremfører juridiske og etiske argumenter for, hvorfor intelligent software i sidste ende kunne fortjene alle rettighederne for mennesker af kød og blod.
En advokat og pioner inden for satellit-radio-branchen, Rothblatt er administrerende direktør for United Therapeutics, et bioteknologifirma, hun grundlagde i et forsøg på at helbrede sin datters lungesygdom. Virksomhedens succes har gjort Rothblatt til USA's bedst betalte kvindelige administrerende direktør, en rangering, der til dels har tiltrukket sig opmærksomhed, fordi Rothblatt blev født som mand og gennemgik en kønsskifteoperation i 1994.
Hendes transformation fungerer som en slags baggrund for hendes bog, hvor Rothblatt argumenterer for, at menneskeheden er på hurtig vej til et næste evolutionære skridt med at kopiere folks personligheder ind i maskiner. Allerede, bemærker hun, bruger de typiske brugere af sociale netværk flere timer om dagen på at uploade, tweete og kurere digital information om sig selv - det hun kalder mindfiles. Da store teknologivirksomheder hælder milliarder ind i AI-forskning og digitale assistenter, siger Rothblatt, er det uundgåeligt, at disse mindfiler bliver animeret som mindcloner: bevidste, digitale versioner af mennesker, der lever eller er døde.
Rothblatts hovedinteresse er i debatterne om identitet, borgerrettigheder og betydningen af personlighed, der ville omgive fremkomsten af virtuelle mennesker. Ville en digital kopi af dig være dig, eller ville det være en anden person - eller en person i det hele taget? Hvordan ville vi dømme? Vi er stadig et stykke væk fra digitale væsener, men Rothblatt siger hun, at hun bruger en del af sin betydelige rigdom til langsigtet forskning for at gøre dem virkelige. Det arbejde udføres af Terasem Movement Foundation , hvis tidlige projekter inkluderer Bina48 (en kopi af Rothblatts kone, Bina) og en tjeneste kaldet redningsmand hvor folk kan uploade billeder, videoer og deres meninger for at skabe en chat-bot-version af sig selv. MIT Technology Review seniorredaktør for biomedicin, Antonio Regalado, talte med Rothblatt om virtuelle menneskers rettigheder.
Hvorfor skrev du en bog om virtuelle væseners rettigheder?
Jeg gjorde det for at udtrykke min inderlige sociale værdi, at undertrykkelse af minoriteter og mennesker til forskel er en dårlig ting for samfundet, og for at jeg kunne minimere den uundgåelige mængde af diskrimination, som virtuelle mennesker vil ende med at blive udsat for. Min bøn er, at en person, der ikke har en krop, stadig kan få menneskerettigheder, hvis de har et sind.
Jeg hørte dig engang sige, at folk, der ikke tror, at maskiner bliver bevidste, kan sammenlignes med dem, der benægter evolution. Hvad mente du?
Dataene for evolution er så overbevisende, at at benægte det forekommer mig at være at benægte virkeligheden. Evolution er enten en konsekvens af en materiel verden, eller den er resultatet af en form for overnaturlig handling. For mig er det det samme med bevidsthed. Enten tror du, at bevidsthed er noget metafysisk, eller også er det resultatet af fysiske interaktioner af stof. Det er fordi folks hjerner har en række forbindelser, af atomare interaktioner, og det kunne computere have. For mig er at benægte cyberbevidsthed at benægte, at vi lever i et fysisk univers.
Hvad er dit forslag til, hvordan vi skal behandle bevidste maskiner?
Jeg tror, at hvis du uploader nok information om en person, vil der i de næste 10 eller 20 år være operativsystemer i stand til at undersøge denne underliggende tankefil. Jeg tror på, at det er uundgåeligt, at bevidsthed vil resultere. Jeg tror, at denne software vil blive reguleret af Food and Drug Administration, som en protese, der sikkert og effektivt skaber menneskelig bevidsthed. Jeg foreslår, at disse hjerner bliver nødt til at bruge et år på samtaler med psykiatere, hvor de ville tale med det, ligesom du og jeg taler frem og tilbage. Hvis mindware i løbet af et år kunne overbevise dem om, at det er bevidst, bør det behandles som et menneske og gives dokumenter.
Hvilken slags reaktioner vil folk have på virtuelle væsener?
De reaktioner, jeg får, fortæller mig, at diskrimination vil være uundgåelig. Folk siger: ’Jeg er ligeglad med, hvor sofistikeret det er – det vil aldrig have samme menneskelighed som kød.’ Det minder meget, meget om utallige andre eksempler på undertrykkelse. Da slaveri var almindeligt i det 19. århundrede, blev det sagt, at sorte mennesker ikke havde samme form for bevidsthed som hvide. Det var et almindeligt synspunkt.
Du ser ud til at tage for givet, at folk vil lave bevidste maskiner. Men det behøver faktisk ikke at ske, gør det?
Forestillingen om, at - med hundredtusindvis af kodere rundt om i verden - ingen kommer til at give softwarebevidsthed, er ikke troværdig.
Der er også en masse super-høj nyttegrunde til at skabe bevidsthed, som ikke engang påkalder sig nysgerrighed. Boy, hvad hvis du havde en bedre Siri? Faktisk tror jeg, at der vil være et våbenkapløb, bare fordi der vil være en efterspørgsel efter det.
Bekymrer et kommercielt kapløb om kunstig intelligens dig?
Jeg er bekymret, fordi jeg ser en stor sandsynlighed for at skabe en klasse af cyberbevidste slaver. Slaveri er rentabelt. Men jeg tror, vi ville fortryde det. Vi ville bruge hundreder af år på at prøve at grave os selv ud.
Du blev inviteret i år til at tale om Googles store futurismebegivenhed, Google Zeitgeist. Hvad sagde du til folkene der?
Den pointe, jeg gjorde, kan opsummeres på denne måde: sikre havne skaber glade skibe. Hvis vi er bange for de rettigheder, som cyberbevidste væsener kan blive bedt om, eller for den indskrænkede del af kagen, som væsener af kød og blod måtte have, eller for terminator slags scenarier, vil vi aldrig fremme samfundet ind i mulighederne for cyberbevidsthed. Men hvis vi skaber sikre havne, hvis vi har FDA-godkendt mindware, kan vi skabe en gigantisk ny virkelighed.