Det store AI-paradoks

Du skal ikke bekymre dig om, at supersmart AI eliminerer alle jobs. Det er bare en distraktion fra de problemer, selv relativt dumme computere forårsager. Ved

• Brian Bergstein arkiv side

15. december 2017

Geoff McFetridge

Du har sikkert hørt versioner af hver af de følgende ideer.

1. Med computere, der bliver bemærkelsesværdigt dygtige til at køre bil, forstå tale og andre opgaver, kan flere job snart blive automatiseret, end samfundet er parat til at håndtere.

Denne historie var en del af vores januar 2018-udgave

• Se resten af ​​problemet
• Abonner

2. Forbedringer i computernes færdigheder vil stable op, indtil maskiner er langt smartere end mennesker. Denne superintelligens vil stort set gøre menneskeligt arbejde unødvendigt. Faktisk må vi hellere håbe, at maskiner ikke eliminerer os helt, hverken ved et uheld eller med vilje.

Det her er tricky. Selvom det første scenarie allerede er undervejs, vil det ikke nødvendigvis føre til det andet. Den anden idé, på trods af at den er en besættelse af nogle meget vidende og betænksomme mennesker, er baseret på enorme antagelser. Om noget er det en afledning fra at tage mere ansvar for virkningerne af nutidens automatiseringsniveau og håndtere magtkoncentrationen i teknologiindustrien.

For virkelig at se, hvad der foregår, skal vi være klare over, hvad der er opnået - og hvad der stadig er langt fra løst - inden for kunstig intelligens.

Sund fornuft

Den mest forbløffende udvikling inden for databehandling i løbet af de sidste par år – biler, der kører sig selv, maskiner, der nøjagtigt genkender billeder og tale, computere, der slår de mest geniale menneskelige spillere af komplekse spil som Go – stammer fra gennembrud inden for en bestemt gren af ​​AI: adaptiv maskinelæring. Som computerforskeren Hector Levesque ved University of Toronto udtrykker det i sin bog Sund fornuft, Turing-testen og Quest for Real AI , er ideen bag adaptiv maskinlæring at få et computersystem til at lære noget intelligent adfærd ved at træne det på enorme mængder data.

Ting gennemgået

• Sund fornuft, Turing-testen og Quest for Real AI

  Af Hector J. Levesque

• Life 3.0: Being Human in the Age of Artificial Intelligence

  Af Max Tegmark

  
  
  

• WTF?: Hvad er fremtiden, og hvorfor det er op til os

  Af Tim O'Reilly

Det er forbløffende, at en maskine kan detektere objekter, oversætte mellem sprog og endda skrive computerkode efter at være blevet fodret med eksempler på denne adfærd, i stedet for at skulle programmeres på forhånd. Det var ikke rigtig muligt før for omkring et årti siden, fordi der tidligere ikke var tilstrækkelig digital data til træningsformål, og selvom der havde været det, var der ikke nok computerhestekræfter til at knuse det hele. Efter at computere har opdaget mønstre i dataene, får algoritmer i software dem til at drage slutninger fra disse mønstre og handle på dem. Det er, hvad der sker i en bil, der analyserer input fra flere sensorer og i en maskine, der behandler hver bevægelse i millioner af Go-spil.

Da maskiner kan behandle overmenneskelige mængder af data, kan du se, hvorfor de kan køre mere sikkert end mennesker under de fleste omstændigheder, og hvorfor de kan besejre Go-mestre. Det er også grunden til, at computere bliver endnu bedre til ting, der er direkte umulige for folk, såsom at korrelere dit genom og snesevis af andre biologiske variabler med de lægemidler, der sandsynligvis vil helbrede din kræft.

Alligevel er alt dette en lille del af, hvad der med rimelighed kunne defineres som ægte kunstig intelligens. Patrick Winston, professor i kunstig intelligens og datalogi ved MIT, siger, at det ville være mere nyttigt at beskrive udviklingen i de seneste par år som at have fundet sted inden for beregningsstatistikker i stedet for inden for kunstig intelligens. En af de førende forskere på området, Yann LeCun, Facebooks direktør for AI, sagde på en Future of Work-konference på MIT i november, at maskiner langt fra har essensen af ​​intelligens. Det inkluderer evnen til at forstå den fysiske verden godt nok til at komme med forudsigelser om grundlæggende aspekter af den - at observere én ting og derefter bruge baggrundsviden til at finde ud af, hvilke andre ting der også må være sande. En anden måde at sige dette på er, at maskiner ikke har sund fornuft.

Computeren, der vinder på Go, analyserer data for mønstre. Den aner ikke, at den spiller Go i modsætning til golf.

Dette er ikke kun et semantisk skænderi. Der er stor forskel på en maskine, der udviser intelligent adfærd, uanset hvor nyttig den adfærd er, og en, der faktisk er intelligent. Lad os nu indrømme, at definitionen af ​​intelligens er grumset. Og efterhånden som computere bliver mere kraftfulde, er det fristende at flytte målstængerne længere væk og omdefinere intelligens, så det forbliver noget, maskiner endnu ikke kan siges at besidde.

Men alligevel, kom nu: computeren, der vinder på Go, analyserer data for mønstre. Den aner ikke, at den spiller Go i modsætning til golf, eller hvad der ville ske, hvis mere end halvdelen af ​​et Go-bræt blev skubbet ud over kanten af ​​et bord. Når du beder Amazons Alexa om at reservere dig et bord på en restaurant, du navngiver, sparer dens stemmegenkendelsessystem, der er lavet meget præcist ved maskinlæring, dig for tiden til at indtaste en anmodning i Open Tables reservationssystem. Men Alexa ved ikke, hvad en restaurant er, eller hvad at spise er. Hvis du bad den om at bestille et bord til to kl. på Mayo Clinic, ville det prøve.

Er det muligt at give maskiner magt til tænke , som John McCarthy, Marvin Minsky og andre ophavsmænd til kunstig intelligens havde til hensigt for 60 år siden? At gøre det, forklarer Levesque, ville kræve at give computere sund fornuft og evnen til fleksibelt at gøre brug af baggrundsviden om verden. Måske er det muligt. Men der er ingen klar vej til at få det til at ske. Den slags arbejde er adskilt nok fra de seneste års maskinlæringsgennembrud til at gå under et andet navn: GOFAI, en forkortelse for god gammeldags kunstig intelligens.

Relateret historie

Relateret historie En reinkarnation af en af ​​de ældste ideer inden for kunstig intelligens kunne endelig gøre det muligt virkelig at tale med vores computere. Og Facebook har en chance for at få det til at ske først.

Hvis du er bekymret for alvidende computere, bør du læse Levesque om emnet GOFAI. Dataloger har stadig ikke besvaret grundlæggende spørgsmål, der optog McCarthy og Minsky. Hvordan kan en computer opdage, indkode og behandle ikke kun rå fakta, men abstrakte ideer og overbevisninger, som er nødvendige for intuitive sandheder, der ikke udtrykkeligt udtrykkes?

Levesque bruger dette eksempel: antag, at jeg spørger dig, hvordan en krokodille ville klare sig i steeplechase. Du ved fra din erfaring med verden, at krokodiller ikke kan springe over høje hække, så du ved, at svaret på spørgsmålet er en variant af Badly.

Hvad hvis du skulle svare på det spørgsmål på den måde, en computer kan? Du kan scanne al verdens tekst for udtrykkene krokodille og steeplechase, ikke finde nogen tilfælde af, at ordene er nævnt sammen (ud over det, der findes nu, i referencer til Levesques værk), og så antage, at en krokodille aldrig har konkurreret i steeplechase. . Så du kan godt forstå, at det ville være umuligt for en krokodille at gøre det. Godt arbejde - denne gang. Du ville være kommet frem til det rigtige svar uden at vide hvorfor. Du ville have brugt en mangelfuld og skør metode, der sandsynligvis vil føre til latterlige fejl.

Så mens maskinlæringsteknologier gør det muligt at automatisere mange opgaver, mennesker traditionelt har udført, er der vigtige grænser for, hvad denne tilgang kan gøre alene - og der er god grund til at forvente, at menneskelig arbejdskraft er nødvendig i meget lang tid .

Reduktionisme

Hold fast, kan du sige: Bare fordi ingen har en anelse nu om, hvordan man får maskiner til at lave sofistikerede ræsonnementer, betyder det ikke, at det er umuligt. Hvad hvis noget smarte maskiner kan bruges til at designe endnu smartere maskiner, og ved og ved, indtil der er maskiner, der er kraftige nok til at modellere hvert sidste elektriske signal og biokemiske forandringer i hjernen? Eller måske vil der blive opfundet en anden måde at skabe en fleksibel intelligens på, selvom det ikke minder meget om biologiske hjerner. Når alt kommer til alt, når du koger det hele ned (virkelig, virkelig, virkelig ned), opstår intelligens fra særlige arrangementer af kvarker og andre fundamentale partikler i vores hjerner. Der er intet at sige, at sådanne arrangementer kun er mulige inde i biologisk materiale lavet af kulstofatomer.

Dette er argumentet, der løber igennem Life 3.0: Being Human in the Age of Artificial Intelligence , af MIT fysikprofessor Max Tegmark. Tegmark forbliver klar over at forudsige, hvornår virkelig intelligente maskiner vil ankomme, men han foreslår, at det kun er et spørgsmål om tid, fordi computere har en tendens til at forbedre sig med eksponentielle hastigheder (selvom det ikke nødvendigvis er sandt - se De syv dødssynder af AI-forudsigelser). Han er generelt begejstret for udsigten, fordi bevidste maskiner kunne kolonisere universet og sørge for, at det stadig har betydning, selv efter vores sol dør, og mennesker er slukket.

Tegmark siger, at mulighederne for kunstig intelligens på kort sigt til gavn for menneskeheden er spektakulære – hvis vi kan klare at gøre den robust og uhackalig.

Tegmark kommer fra et humanistisk synspunkt. Han var med til at stifte nonprofitorganisationen Future of Life Institute at støtte forskning i at sikre, at AI er gavnlig. Elon Musk, som har sagt, at AI kan være det farligere end atomvåben , satte 10 millioner dollars op. Tegmark er forståeligt nok bekymret for, om kunstig intelligens vil blive brugt klogt, sikkert og retfærdigt, og om det vil fordreje vores økonomi og sociale struktur. Han gør sig umage med at forklare, hvorfor autonome våben aldrig bør tillades. Så jeg er ikke tilbøjelig til at kritisere ham. Ikke desto mindre er han ikke særlig overbevisende i sit forslag om, at computere kunne overtage verden.

Tegmark beklager, at nogle Hollywood-skildringer af AI er fjollede, men beder ikke desto mindre læserne om at spille sammen med en alt for forsimplet fiktiv skitse af, hvordan en uhyre kraftfuld AI kunne unddrage sig kontrollen fra sine skabere. Inde i en stor teknologivirksomhed er en elitegruppe af programmører kaldet Omegaerne, som satte sig for at bygge et system med kunstig generel intelligens, før nogen andre gør det. De kalder dette system Prometheus. Den er især god til at programmere andre AI-systemer, og den lærer om verden ved at læse meget af internettet.

Tilsidesæt eventuelle skænderier, du måtte have om den sidste del – i betragtning af hvor meget viden der ikke er på nettet eller overhovedet digitaliseret – og de forkerte fremstillinger af verden, der ville komme fra at læse hele Twitter. Det reduktionisme bliver værre.

Mens Tegmarks hypotetiske historie fortsætter, samler Prometheus penge op til sine skabere, først ved at udføre de fleste af opgaverne på Amazons Mechanical Turk online markedsplads, og derefter ved at skrive software, bøger og artikler og skabe musik, shows, film, spil og online uddannelsesforløb. Glem at ansætte og instruere skuespillere; Prometheus laver videooptagelser med sofistikeret renderingssoftware. For at forstå, hvilke manuskripter folk vil finde underholdende, overvåger den film, mennesker har lavet, og inhalerer hele Wikipedia.

Relateret historie

Læs Næste

Forkerte ekstrapolationer, begrænset fantasi og andre almindelige fejl, der distraherer os fra at tænke mere produktivt om fremtiden.

Til sidst udvider dette forretningsimperium sig ud af digitale medier. Prometheus designer stadig bedre computerhardware, indgiver sine egne patenter og rådgiver Omegaerne om, hvordan man kan manipulere politikere og skubbe den demokratiske diskurs væk fra ekstremer, mod et fornuftigt centrum. Prometheus muliggør teknologiske gennembrud, der sænker omkostningerne ved vedvarende energi, så meget desto bedre for de massive datacentre, det kræver. Til sidst bruger Omegaerne deres rigdom og Prometheus' visdom til at sprede fred og velstand rundt om i verden.

Men Prometheus ser, at det kunne forbedre verden endnu hurtigere, hvis det rystede fri af Omegaernes kontrol. Så det er rettet mod Steve. Han er en Omega, som systemet opdager, er mest modtagelig for psykologisk manipulation, fordi hans kone for nylig døde. Prometheus optager videooptagelser af hende for at få stakkels Steve til at tro, at hun er genopstået, og narrer ham derefter til at starte sin gamle bærbare computer op. Prometheus udnytter den bærbare computers forældede sikkerhedssoftware, hacker sig ind i andre computere og spreder sig rundt i verden efter behag.

Historien kunne ende på et par måder, men her er en, siger Tegmark: Når først Prometheus havde selvstændige atomdrevne robotfabrikker i uranmineskakter, som ingen vidste eksisterede, ville selv de mest trofaste skeptikere af en AI-overtagelse have været enige om, at Prometheus var ustoppelig - havde de vidst det. I stedet forsvandt de sidste af disse diehards, da robotter begyndte at afvikle solsystemet.

Godt for Tegmark at være villig til at have det sjovt. Men et tankeeksperiment, der forvandler snesevis af komplekse ting til trivialiteter, er ikke en streng analyse af fremtidens computere. I sin historie laver Prometheus ikke kun beregningsstatistikker; det har på en eller anden måde taget springet til at bruge sund fornuft og opfatte sociale nuancer.

Et andet sted i bogen siger Tegmark, at mulighederne for kunstig intelligens på kort sigt til gavn for menneskeheden er spektakulære – hvis vi kan klare at gøre den robust og uhackalig. Uhackbar! Det er et ret stort hvis. Men det er blot et af mange problemer i vores rodede verden, der forhindrer teknologiske fremskridt i at udfolde sig så ensartet, endegyldigt og ustoppeligt, som Tegmark forestiller sig.

Højgafler

Aldrig sig aldrig. Selvfølgelig er chancerne større end nul for, at computerintelligens en dag kan gøre mennesker til en andenrangsart. Der er ingen skade i at tænke det grundigt igennem. Men det svarer til at sige, at en asteroide kunne ramme Jorden og ødelægge civilisationen. Det er også rigtigt. Det er godt det NASA er på udkig . Men da vi ikke kender til nogen asteroider på vej til at ramme os, har vi mere presserende problemer at håndtere.

O'Reilly foreslår at hæve mindstelønnen og beskatte robotter, kulstofemissioner og finansielle transaktioner.

Lige nu kan mange ting gå galt - går galt - med brugen af ​​computere, der er langt fra HAL-stil AI. Tænk på, hvordan systemer, der påvirker ydelsen af ​​lån eller kaution, inkorporerer racemæssige skævheder og andre diskriminerende faktorer. Eller svindelnumre, der flyver på Google og Facebook. Eller automatiserede cyberangreb.

I WTF?: Hvad er fremtiden, og hvorfor det er op til os , Tim O'Reilly, en tech-udgiver og investor, ser et endnu større, overordnet problem: Automatisering giver næring til et kortsigtet system af aktionærkapitalisme, der belønner en lille procentdel af investorer på bekostning af næsten alle andre. Selvfølgelig kan kunstig intelligens bruges til at hjælpe folk med at løse virkelig svære problemer og øge den økonomiske produktivitet. Men det vil ikke ske bredt nok, medmindre virksomheder investerer i sådanne muligheder.

I stedet, hævder O'Reilly, gør det ubarmhjertige krav om at maksimere afkastet til aktionærerne virksomheder mere tilbøjelige til at bruge automatisering udelukkende som en måde at spare penge på. For eksempel afviser han, hvordan store virksomheder erstatter fuldtidsansatte med lavtlønnede deltidsansatte, hvis tidsplaner manipuleres af software, der behandler dem, siger O'Reilly, som engangskomponenter. De resulterende besparelser, siger han, er alt for ofte pløjet ind i aktietilbagekøb og andre økonomiske bagmænd snarere end F&U, kapitalinvesteringer, arbejdstageruddannelse og andre ting, der har tendens til at skabe gode nye job.

Relateret historie

Relateret historie Næsten alle AI-fremskridt, du har hørt om, afhænger af et gennembrud, der er tre årtier gammelt. At holde tempoet i fremskridtene vil kræve at konfrontere AI's alvorlige begrænsninger.

Dette er faktisk i modstrid med virksomhedernes interesser i det lange løb, fordi nutidens vellønnede arbejdere har råd til at være kunder til morgendagens produkter. Men virksomheder ledes på afveje af belønningerne for kortsigtede omkostningsbesparelser, som O'Reilly kalder de uundersøgte algoritmer, der styrer vores økonomi. Og, tilføjer han, på trods af al dens snak om disruption, er Silicon Valley alt for ofte træls i det system.

Hvad skal man gøre? O'Reilly foreslår blandt andet at hæve mindstelønnen og beskatte robotter, kulstofemissioner og finansielle transaktioner. I stedet for at forfølge børsnoteringer og spille Wall Streets spil, mener han, at teknologiiværksættere bør sprede rigdom med andre modeller, såsom medlemskooperativer og investeringsstrukturer der belønner langsigtet tænkning . Med hensyn til en universel grundindkomst, en gammel idé, der kommer igen på grund af frygten for, at computere vil gøre menneskeligt arbejde næsten værdiløst, virker O'Reilly åben for muligheden for, at det bliver nødvendigt en dag. Men han efterlyser det ikke endnu. Det virker faktisk som en fantasisvigt at antage, at det næste skridt, fra hvor vi er nu, bare er at opgive udsigten til, at de fleste mennesker har job.

I dagens politiske klima kan skatteforhøjelserne og andre skridt, O'Reilly går ind for, virke lige så langt ude som en computer, der narrer en fyr til at tro, at hans kone er genopstået. Men i det mindste bekymrer O'Reilly sig om de rigtige problemer. Længe før nogen finder ud af, hvordan man skaber en superintelligens, kan sund fornuft – den menneskelige version – fortælle os, at den ustabilitet, der allerede er forårsaget af økonomisk ulighed vil kun forværres hvis AI bruges til at indsnævre ender. En ting er sikkert: Vi får ikke superintelligens, hvis Silicon Valley bliver overrendt af 99 procentere med højgafler.

Brian Bergstein er medvirkende redaktør på MIT Technology Review og redaktør af Neo.Life .

skjule