Vi kan ikke stole på AI-systemer bygget på dyb læring alene

Genstart AI af Gary Marcus og Ernest Davis høflighed af Penguin Random House

Gary Marcus er ikke imponeret over hypen omkring deep learning. Mens NYU-professoren mener, at teknikken har spillet en vigtig rolle i at fremme AI, mener han også, at feltets nuværende overvægt på det meget vel kan føre til dets død.

Marcus, en neurovidenskabsmand af uddannelse, som har brugt sin karriere på forkant med AI-forskning, citerer både tekniske og etiske bekymringer. Fra et teknisk perspektiv kan dyb læring være god til at efterligne den menneskelige hjernes perceptuelle opgaver, såsom billed- eller talegenkendelse. Men det kommer til kort på andre opgaver, som at forstå samtaler eller årsagssammenhænge. For at skabe mere dygtige og bredt intelligente maskiner, ofte omtalt som kunstig generel intelligens, skal deep learning kombineres med andre metoder.

Når et AI-system ikke rigtig forstår sine opgaver eller verden omkring det, kan det også føre til farlige konsekvenser. Selv de mindste uventede ændringer i et systems miljø kan få det til at gå skævt. Der har allerede været utallige eksempler på dette: hadetaledetektorer, der er lette at narre, jobansøgningssystemer, der fastholder diskrimination, og selvkørende biler, der er styrtet ned og nogle gange dræbt føreren eller en fodgænger. Jagten på kunstig generel intelligens er mere end et interessant forskningsproblem. Det har meget virkelige konsekvenser.

I deres nye bog Genstarter AI , Marcus og hans kollega Ernest Davis går ind for en ny vej frem. De mener, at vi ikke er i nærheden af ​​at opnå en sådan generel intelligens, men de er også sikre på, at vi kan nå dertil til sidst.

Jeg talte med Marcus om svaghederne ved dyb læring, de erfaringer feltet kan låne fra det menneskelige sind, og hvorfor han er optimistisk.

Det følgende er blevet redigeret for længde og klarhed.

Hvorfor ønsker vi overhovedet generel intelligens? Smal AI har allerede skabt en masse værdi for os.

Gary Marcus høflighed af Gary Marcus

Det har den, og det vil generere endnu mere. Men der er masser af problemer, som snæver AI bare ikke virker særlig i stand til. Ting som samtaleforståelse af det naturlige sprog og generel assistance i den virtuelle verden eller ting som robotten Rosie, der måske kan hjælpe dig med at rydde op i dit hjem eller lave aftensmad til dig. De er lige langt uden for rækkevidden af, hvad vi kan gøre med smal AI. Det er også et interessant empirisk spørgsmål om, hvorvidt smal AI kan få os til sikre førerløse biler. Virkeligheden indtil videre er, at snæver AI har mange problemer med afvigende tilfælde, selv til kørsel, hvilket er et ret begrænset problem.

Mere generelt tror jeg, at vi alle gerne vil se AI hjælpe os med at gøre nye opdagelser inden for medicin i stor skala. Det er ikke klart, at de nuværende teknikker vil bringe os derhen, hvor vi skal være, fordi biologi er kompliceret. Du skal virkelig kunne læse litteraturen. Forskere har årsagsforståelser om, hvordan netværk og molekyler interagerer; de kan udvikle teorier om baner og planeter eller hvad som helst. Med smal kunstig intelligens kan vi ikke få maskiner til at udføre det niveau af innovation. Med generel kunstig intelligens kan vi meget vel være i stand til at revolutionere videnskab, teknologi, medicin. Så jeg synes, at arbejdet med generel kunstig intelligens i høj grad er et værdigt projekt.

Det lyder som om du bruger generel AI til at henvise til robust AI?

Generel AI handler om, at AI skal kunne tænke på farten og løse nye problemer på egen hånd. Dette er i modsætning til, lad os sige, gå, hvor problemet ikke har ændret sig i 2.000 år.

Generel kunstig intelligens burde også kunne arbejde lige så komfortabelt med at ræsonnere om politik som at ræsonnere om medicin. Det er analogen til, hvad folk har; enhver rimelig dygtig person kan mange, mange forskellige ting. Du tager en bachelor-praktikant, og inden for få dage får du dem til at arbejde på stort set alt fra et juridisk problem til et medicinsk problem. Det er fordi de har en generel forståelse af verden, og de kan læse, så de er i stand til at bidrage til en meget bred vifte af ting.

Forholdet mellem det og robust intelligens er, at hvis du ikke er robust, vil du sandsynligvis ikke rigtig være i stand til at gøre det generelle. Så for at bygge noget, der er pålideligt nok til at håndtere en verden, der konstant ændrer sig, skal du sandsynligvis i det mindste nærme dig generel intelligens.

Men du ved, det er vi ret langt fra lige nu. AlphaGo kan spille meget godt på et 19x19 bræt, men skal faktisk omskoles til at spille på et rektangulært bræt. Eller du tager dit gennemsnitlige dybe læringssystem, og det kan genkende en elefant, så længe elefanten er godt oplyst, og du kan se elefantens tekstur. Men hvis du sætter elefanten i silhuet, kan den godt nok ikke genkende den længere.

Som du nævner i din bog, kan deep learning ikke rigtig nå frem til generel AI, fordi den mangler dyb forståelse.

I kognitiv videnskab taler vi om at have kognitive modeller af ting. Så jeg sidder på et hotelværelse, og jeg forstår, at der er et skab, der er en seng, der er fjernsynet, der er monteret på en usædvanlig måde. Jeg ved, at der er alle disse ting her, og jeg identificerer dem ikke bare. Jeg forstår også, hvordan de forholder sig til hinanden. Jeg har disse ideer om, hvordan omverdenen fungerer. De er ikke perfekte. De er fejlbarlige, men de er ret gode. Og jeg drager en masse slutninger omkring dem for at guide mine hverdagshandlinger.

Den modsatte yderlighed er noget som Atari-spilsystemet, som DeepMind lavede, hvor det huskede, hvad det skulle gøre, da det så pixels på bestemte steder på skærmen. Hvis du får nok data, kan det se ud som om du har forståelse, men det er faktisk en meget overfladisk forståelse. Beviset er, at hvis du flytter ting med tre pixels, spiller det meget dårligere. Det bryder med forandringen. Det er det modsatte af dyb forståelse.

Du foreslår, at du vender tilbage til klassisk kunstig intelligens for at løse denne udfordring. Hvad er styrkerne ved klassisk AI, som vi bør forsøge at inkorporere?

Jeg er bare lidt forbløffet over, hvor lidt påskønnelse det dyblærende samfund generelt har for det.

Der er et par stykker. For det første faktisk klassisk AI er en ramme for opbygning af kognitive modeller af verden, som du så kan drage slutninger om. Den anden ting er, klassisk AI er helt fortrolig med regler. Det er en mærkelig sociologi lige nu i deep learning, hvor folk gerne vil undgå regler. De vil gøre alt med neurale netværk og gøre intet med noget, der ligner klassisk programmering. Men der er problemer, der rutinemæssigt løses på denne måde, som ingen er opmærksomme på, som at lave din rute på Google maps.

Vi har faktisk brug for begge tilgange. Maskinlæringstingene er ret gode til at lære af data, men de er meget dårlige til at repræsentere den slags abstraktion, som computerprogrammer repræsenterer. Klassisk AI er ret god til abstraktion, men det hele skal håndkodes, og der er for meget viden i verden til manuelt at indtaste alt. Så det virker indlysende, at det, vi ønsker, er en slags syntese, der blander disse tilgange.

Dette hænger sammen med kapitlet, hvor du nævner flere ting, som vi kan lære af det menneskelige sind. Den første bygger på det, vi allerede har talt om - ideen om, at vores sind består af mange forskellige systemer, der fungerer på forskellige måder.

Jeg tror, ​​der er en anden måde at gøre pointen på, som er: hvert kognitivt system, vi har, gør virkelig en anden ting. På samme måde skal modparterne i AI designes til at tackle forskellige problemer, der har forskellige karakteristika.

Lige nu forsøger folk at bruge en slags one-size-fits-all-teknologier til at tackle ting, der virkelig er fundamentalt anderledes. At forstå en sætning er fundamentalt forskellig fra at genkende et objekt. Men folk forsøger at bruge dyb læring til at gøre begge dele. Det er kvalitativt forskellige problemer fra et kognitivt perspektiv, og jeg er bare lidt forbløffet over, hvor lidt påskønnelse det dyblærende samfund generelt har for det. Hvorfor forvente, at en sølvkugle vil virke til alt det? Det er ikke realistisk, og det afslører ikke en sofistikeret forståelse af, hvad udfordringen ved AI overhovedet er.

En anden ting, du tager op, er behovet for AI-systemer til at forstå årsagssammenhænge. Tror du, det kommer fra dyb læring, klassisk kunstig intelligens eller noget helt nyt?

Det er igen et sted, hvor deep learning ikke er specielt velegnet. Deep learning giver ikke forklaringer på, hvorfor ting sker, men snarere en sandsynlighed for, hvad der kan ske under en given omstændighed.

Naturen bygger det første udkast, det grove udkast. Så reviderer læring det udkast gennem resten af ​​dit liv.

Den slags ting, vi taler om - du ser på nogle scenarier, og du har en vis forståelse for, hvorfor det sker, og hvad der kunne ske, hvis visse ting blev ændret. Jeg kan se på staffeliet, som hotelfjernsynet er tændt, og gætte på, at hvis jeg skærer det ene ben væk, vil staffeliet vælte, og fjernsynet kommer til at falde ned med det. Det er kausalt ræsonnement.

Klassisk kunstig intelligens giver os nogle værktøjer til dette. Det kan for eksempel repræsentere, hvad et støtteforhold er, og hvad der vælter. Jeg vil dog ikke oversælge det. Et problem er, at klassisk kunstig intelligens for det meste afhænger af meget fuldstændig information om, hvad der foregår, hvorimod jeg lige har lavet den konklusion uden egentlig at kunne se hele staffeliet. Så jeg er på en eller anden måde i stand til at lave genveje og udlede stykker af staffeliet, som jeg ikke engang kan se. Vi har ikke rigtig værktøjer, der kan gøre det endnu.

En tredje ting, du tager op, er ideen om, at mennesker har medfødt viden. Hvordan ser du, at det bliver indarbejdet i AI-systemer?

For mennesker, når du bliver født, er din hjerne faktisk meget udførligt struktureret. Det ligger ikke fast, men naturen bygger det første udkast, det grove udkast. Så reviderer læring det udkast gennem resten af ​​dit liv.

Et groft udkast til hjernen har allerede visse evner. En stenbukkeunge, der kun er et par timer gammel, kan klatre ned ad et bjerg uden at begå fejl. Det har tydeligvis en vis forståelse af det tredimensionelle rum, dets egen krop og sammenhængen mellem de to. Ret sofistikerede ting.

Dette er en del af grunden til, at jeg tror, ​​vi har brug for hybrider. Det er svært at se, hvordan vi kunne bygge en robot, der fungerer godt i verden uden analog viden der fra starten, i modsætning til at starte med en blank tavle og lære gennem enorm, massiv erfaring.

For mennesker kommer vores medfødte viden fra vores genomer, der har udviklet sig over tid. For AI-systemer skal de komme en anden vej. Noget af det kan komme fra regler om, hvordan vi bygger vores algoritmer. Noget af det kan komme fra regler om, hvordan vi bygger de datastrukturer, som disse algoritmer manipulerer. Og så kommer noget af det måske af viden om, at vi bare direkte underviser maskinerne.

Det er interessant, at du binder alt i din bog tilbage til ideen om tillid og opbygning af troværdige systemer. Hvorfor valgte du specielt det stel?

For jeg tror, ​​det er hele boldgaden lige nu. Jeg tror, ​​at vi lever i et mærkeligt øjeblik i historien, hvor vi giver meget tillid til software, der ikke fortjener den tillid. Jeg tror, ​​at de bekymringer, vi har nu, ikke er permanente. Om hundrede år vil AI berettige vores tillid - og måske før.

Men lige nu er AI farlig, og ikke på den måde, Elon Musk er bekymret for. Men i form af jobsamtalesystemer, der diskriminerer kvinder, uanset hvad programmørerne gør, fordi de teknikker, de bruger, er for usofistikerede.

Jeg ønsker, at vi skal have bedre AI. Jeg ønsker ikke, at vi skal have en AI-vinter, hvor folk indser, at disse ting ikke virker og er farlige, og de ikke gør noget ved det.

På en måde føles din bog faktisk meget optimistisk, fordi du antyder, at det er muligt at bygge pålidelig AI. Vi skal bare se i en anden retning.

Ja, bogen er meget kortsigtet pessimistisk og meget langsigtet optimistisk. Vi tror, ​​at ethvert problem, som vi har beskrevet i bogen, kan løses, hvis feltet anlægger et bredere blik på, hvad de rigtige svar er. Og vi tror, ​​at hvis det sker, vil verden blive et bedre sted.

For at få flere historier som denne leveret direkte til din indbakke, tilmeld dig vores Webby-nominerede AI-nyhedsbrev The Algorithm. Det er gratis.

skjule