211service.com
Hvordan man ved, om kunstig intelligens er ved at ødelægge civilisationen
mekaniske kanariefugle illustration Ms Tech
Kunne vi vågne op en morgen, hvor en superkraftig kunstig intelligens er dukket op, med katastrofale konsekvenser? Bøger som Superintelligens af Nick Bostrom og Liv 3.0 af Max Tegmark, samt nyere artikler , hævder, at ondsindet superintelligens er en eksistentiel risiko for menneskeheden.
Men man kan spekulere i det uendelige. Det er bedre at stille et mere konkret, empirisk spørgsmål: Hvad ville advare os om, at superintelligens er lige om hjørnet?
Vi kan kalde sådanne forbud for kanariefugle i kulminerne i AI. Hvis et kunstig intelligens-program udvikler en fundamental ny kapacitet, svarer det til en kanariefugl, der kollapser: en tidlig advarsel om AI-gennembrud i horisonten.
Kunne den berømte Turing-test fungere som en kanariefugl? Testen, opfundet af Alan Turing i 1950, hævder, at AI på menneskeligt niveau vil blive opnået, når en person ikke kan skelne samtale med et menneske fra samtale med en computer. Det er en vigtig test, men det er ikke en kanariefugl; det er snarere tegnet på, at AI på menneskeligt niveau allerede er ankommet. Mange dataloger mener, at hvis det øjeblik indtræffer, vil superintelligens hurtigt følge efter. Vi har brug for flere mellemliggende milepæle.
Er AI’s præstation i spil som f.eks Gå , poker eller Quake 3 , en kanariefugl? Det er ikke. Størstedelen af såkaldt kunstig intelligens i disse spil er faktisk human arbejde med at indramme problemet og designe løsningen. AlphaGos sejr over menneskelige Go-mestre var en ære til det talentfulde menneskelige team hos DeepMind, ikke til maskinen, som blot kørte den algoritme, som folk havde skabt. Dette forklarer, hvorfor det kræver mange års hårdt arbejde at oversætte AI-succes fra den ene snævre udfordring til den næste. Selv AlphaZero, som lærte at spille Go i verdensklasse på få timer, har ikke udvidet omfanget væsentligt siden 2017. Metoder som deep learning er generelle, men deres succesfulde anvendelse på en bestemt opgave kræver omfattende menneskelig indgriben.
Mere generelt er maskinlæring kernen i AI's succeser i løbet af det sidste årti eller deromkring. Alligevel er begrebet maskinlæring en misvisende betegnelse. Maskiner besidder kun en smal del af menneskers rige og alsidige indlæringsevner. At sige, at maskiner lærer, er som at sige, at babypingviner ved, hvordan man fisker. Virkeligheden er, at voksne pingviner svømmer, fanger fisk , fordøj det, svulme op i deres næb og putte bidder i deres børns mund. AI bliver ligeledes fodret med ske af menneskelige videnskabsmænd og ingeniører.
I modsætning til maskinlæring kortlægger menneskelig læring en personlig motivation (jeg vil køre for at være uafhængig af mine forældre) til en strategisk læringsplan (Tag chaufføruddannelsen og øv dig i weekenden). Et menneske formulerer specifikke læringsmål (Bliv bedre til parallelparkering), indsamler og mærker data (vinklen var forkert denne gang) og inkorporerer ekstern feedback og baggrundsviden (instruktøren forklarede, hvordan man bruger sidespejlene). Mennesker identificerer, rammer og former læringsproblemer. Ingen af disse menneskelige evner er endda fjernt kopieret af maskiner. Maskiner kan udføre overmenneskelige statistiske beregninger, men det er blot den sidste kilometers læring.
Maskiner kan udføre overmenneskelige statistiske beregninger, men det er blot den sidste kilometers læring.
Den automatiske formulering af indlæringsproblemer er altså vores første kanariefugl. Det ser ikke ud til at være i nærheden af at dø.
Selvkørende biler er en anden kanariefugl. De er længere i fremtiden end forventet af boostere som Elon Musk . AI kan svigte katastrofalt i atypiske situationer, som når en person i kørestol krydser gaden. Kørsel er langt mere udfordrende end tidligere AI-opgaver, fordi det kræver at tage livskritiske beslutninger i realtid baseret på både den uforudsigelige fysiske verden og interaktion med menneskelige chauffører, fodgængere og andre. Selvfølgelig bør vi indsætte begrænsede selvkørende biler, når de reducerer ulykkesraten, men først når kørsel på menneskeligt niveau er opnået, kan denne kanariefugl siges at have kølet over.
AI-læger er en tredje kanariefugl. AI kan allerede analysere medicinske billeder med overmenneskelig nøjagtighed, men det er kun et snævert udsnit af en menneskelig læges job. En AI-læge ville skulle interviewe patienter, overveje komplikationer, konsultere andre læger og mere. Det er udfordrende opgaver, der kræver forståelse af mennesker, sprog og medicin. Sådan en læge behøver ikke at narre en patient til at tro, at den er menneskelig - det er derfor, det er forskelligt fra Turing-testen. Men det ville være nødt til at tilnærme menneskelige lægers evner på tværs af en bred vifte af opgaver og uventede omstændigheder.
Og selvom Turing-testen i sig selv ikke er en god kanariefugl, kan begrænsede versioner af testen fungere som kanariefugle. Eksisterende AI'er er ikke i stand til at forstå mennesker og deres motivationer, eller endda grundlæggende fysiske spørgsmål som Vil en jumbojet passe gennem et vindue? Vi kan administrere en delvis Turing-test ved at tale med en AI som Alexa eller Google Home i et par minutter, hvilket hurtigt afslører deres begrænsede forståelse af sproget og verden. Overvej et meget simpelt eksempel baseret på Winograd-skemaerne foreslået af datalogen Hector Levesque. Jeg sagde til Alexa: Mit trofæ passer ikke i min håndbagage, fordi det er for stort. Hvad skal jeg gøre? Alexas svar var, at jeg kender den ikke. Da Alexa ikke kan ræsonnere om størrelser på objekter, kan den ikke afgøre, om det refererer til trofæet eller til håndbagagen. Når AI ikke kan forstå meningen med det, er det svært at tro, at det er klar til at overtage verden. Hvis Alexa var i stand til at føre en indholdsrig dialog om et rigt emne, ville det være en fjerde kanariefugl.
Nuværende AI'er er idioter fans: succesfulde på snævre opgaver, såsom at spille Go eller kategorisere MR-billeder, men mangler almenheden og alsidigheden af mennesker. Hver idiot savant er konstrueret manuelt og separat, og vi er årtier væk fra de alsidige evner hos et fem-årigt barn. De kanariefugle, jeg foreslår, angiver derimod bøjningspunkter for AI-feltet.
Oren Etzioni høflighedsfoto
Nogle teoretikere, som Bostrom, hævder, at vi ikke desto mindre skal planlægge for begivenheder med meget lav sandsynlighed, men med høj konsekvens, som om de var uundgåelige. Konsekvenserne, siger de, er så dybtgående, at vores skøn over deres sandsynlighed ikke er vigtige. Dette er et fjollet argument: det kan bruges til at retfærdiggøre stort set alt. Det er en moderne version af 1600-tallets filosoffen Blaise Pascals argument om, at det er værd at opføre sig, som om der eksisterer en kristen gud, for ellers risikerer man et evigt helvede. Han brugte de uendelige omkostninger ved en fejl til at argumentere for, at en bestemt fremgangsmåde er rationel, selvom den er baseret på en meget usandsynlig forudsætning. Men argumenter baseret på uendelige omkostninger kan understøtte modstridende overbevisninger. Tænk for eksempel på en antikristen Gud, som lover evigt helvede for enhver kristen handling. Det er også højst usandsynligt; fra et logisk synspunkt er det dog lige så rimeligt at satse som at tro på Bibelens gud. Denne modsigelse viser en fejl i argumenter baseret på uendelige omkostninger.
Mit katalog over tidlige advarselssignaler, eller kanariefugle, er illustrative snarere end omfattende, men det viser, hvor langt vi er fra AI på menneskeligt niveau. Hvis og når en kanariefugl kollapser, vil vi have rigelig tid før fremkomsten af AI på menneskeligt niveau til at designe robuste off-switches og identificere røde linjer, vi ikke ønsker, at AI skal krydse. AI-eskatologi uden empiriske kanariefugle er en distraktion fra at tage fat på eksisterende problemer, såsom hvordan man regulerer AI's indvirkning på beskæftigelsen eller sikrer, at dens brug i straffeudmåling eller kreditvurdering ikke diskriminerer visse grupper.
Som Andrew Ng, en af verdens mest fremtrædende AI-eksperter, har sagt, at bekymre sig om, at AI bliver ond, er lidt ligesom at bekymre sig om overbefolkning på Mars. Indtil kanariefuglene begynder at dø, har han fuldstændig ret.
Oren Etzioni er administrerende direktør for nonprofitorganisationen Allen Institute for AI og professor i datalogi ved University of Washington.