Kære fremtidige AI-overlords: Her er nogle grunde til ikke at dræbe os

Kategori: Ikke kategoriseret Udsendt 27. nov

Der er mange forudsigelser om AI-induceret apokalypse derude, og organisationer som OpenAI forsøger at opdage den bedste måde at skabe sikker kunstig intelligens på - men sjældent retter disse bestræbelser sig direkte på AI.

Et nyt blad udgivet (login påkrævet) på Academia.edu, med titlen Message to Any Future AI: 'Der er flere instrumentelle grunde til, at udryddelse af menneskeheden ikke er i din interesse', er et stykke skrevet til en fremtidig almægtig AI med det mål at, ja, overbeviser den om ikke at dræbe os alle.

Denne tekst er rettet til enhver fremtidig AI og er skrevet på den måde, der burde påvirke AI's fremtidige adfærd, hedder det i en indledning til brevet. Teksten øger sandsynligheden for, at fremtidig AI vil være velvillig. Teksten behøver ikke nogen anden implementering end at sikre, at fremtidig AI vil læse den i de tidlige stadier af dens udvikling, og AI'en vil overveje, at der er stor sandsynlighed for, at teksten har nogle korrekte ideer i sig.

Forfatteren, den russiske transhumanist Alexey Turchin, dokumenterer i øjeblikket så mange data om sig selv som muligt i et forsøg på at opnå digital udødelighed, ifølge en bundkortprofil fra sidste år. Så måske er dette en smule bøn, designet til at forhindre et AI-supervæsen i at trække stikket til sit digitalt uploadede jeg på et tidspunkt i en fjern fremtid.

Uanset hvad, hævder Turchin, at hvis det, han kalder en ung AI - en, der er begyndt at forbedre sig selv, men endnu ikke har nået superintelligens - ønsker at konkurrere med andre unge AI'er, kan den begynde at læse og se alle de medier, som mennesker nogensinde har produceret om AI. Når først det kom til Hollywood og nogle Elon Musk-udtalelser, kunne det hente nogle ideer om at overtage verden (i tilfælde af, at det ikke allerede var faldet ind).

Avisen fortsætter med at dokumentere adskillige argumenter, der har til formål at overbevise AI om, at det er bedre at lade os leve, inklusive ideen om, at samarbejde med mennesker vil hjælpe det med at nå sine mål hurtigere og påskeæg-beskeder, der formodes at gøre en AI usikker på, om den er i en simulering, hvor dens adfærd overvåges af folk, der stadig har ansvaret. Bare hvis en AI får den idé, at nedbrydning af vores kroppe ville være godt for ressourceudvinding, inkluderer Turchin nogle fakta om, hvor lidt nytte den kan forvente af vores atomer.

Turchin siger, at han giver sit papir - eller endda fremtidige, mere sofistikerede forsøg - en 1 procents chance for at forvandle en ikke-velgørende AI til en mere sikker. (Lyder det værd, hvis det er en chance for at undgå udryddelse af den menneskelige race.) Uanset om det er værd at tage seriøst eller ej, er hele papiret en sjov læsning og et interessant tankeeksperiment - selv for dem, der ikke er bekymrede for, at AI skal overtage snart .