Hvad AI stadig ikke kan

Kunstig intelligens vil ikke være særlig smart, hvis computere ikke forstår årsag og virkning. Det er noget selv mennesker har problemer med. Ved

• Brian Bergstein arkiv side

19. februar 2020

Saiman Chow

På mindre end et årti er computere blevet ekstremt gode til at diagnosticere sygdomme, oversætte sprog og transskribere tale. De kan udspille mennesker ved komplicerede strategispil, skabe fotorealistiske billeder og foreslå nyttige svar på dine e-mails.

Men på trods af disse imponerende resultater har kunstig intelligens iøjnefaldende svagheder.

Denne historie var en del af vores marts 2020-udgave

• Se resten af ​​problemet
• Abonner

Maskinlæringssystemer kan blive narret eller forvirret af situationer, de ikke har set før. En selvkørende bil bliver forvirret af et scenarie, som en menneskelig chauffør nemt kunne klare. Et AI-system møjsommeligt trænet til at udføre én opgave (f.eks. identificere katte) skal læres igen for at gøre noget andet (identificere hunde). I processen risikerer den at miste noget af den ekspertise, den havde i den oprindelige opgave. Dataloger kalder dette problem katastrofal forglemmelse.

Disse mangler har noget til fælles: de eksisterer, fordi AI-systemer ikke forstår årsagssammenhæng. De ser, at nogle begivenheder er forbundet med andre begivenheder, men de konstaterer ikke, hvilke ting der direkte får andre ting til at ske. Det er, som om du vidste, at tilstedeværelsen af ​​skyer gjorde regn mere sandsynligt, men du vidste ikke, at skyer forårsagede regn.

Elias Bareinboim: AI-systemer er uvidende, når det kommer til årsagssammenhæng.

At forstå årsag og virkning er et stort aspekt af det, vi kalder sund fornuft, og det er et område, hvor AI-systemer i dag er uvidende, siger Elias Bareinboim. Han burde vide: Som direktør for det nye Causal Artificial Intelligence Lab ved Columbia University er han på forkant med bestræbelserne på at løse dette problem.

Hans idé er at tilføre kunstig intelligens forskning med indsigt fra den relativt nye videnskab om kausalitet, et felt, der i høj grad er formet af Judea Pearl, en Turing-prisvindende forsker, der betragter Bareinboim som sin protegé.

Som Bareinboim og Pearl beskriver det, er AI's evne til at se sammenhænge - for eksempel at skyer gør regn mere sandsynligt - blot det enkleste niveau af kausal begrundelse. Det er godt nok at have drevet boomet i AI-teknikken kendt som deep learning i løbet af det sidste årti. Givet en stor mængde data om kendte situationer, kan denne metode føre til meget gode forudsigelser. En computer kan beregne sandsynligheden for, at en patient med bestemte symptomer har en bestemt sygdom, fordi den har lært, hvor ofte tusinder eller endda millioner af andre mennesker med de samme symptomer havde den sygdom.

Men der er en voksende konsensus om, at fremskridt inden for kunstig intelligens vil gå i stå, hvis computere ikke bliver bedre til at kæmpe med årsagssammenhæng. Hvis maskiner kunne forstå, at visse ting fører til andre ting, ville de ikke skulle lære alt på ny hele tiden – de kunne tage det, de havde lært på et domæne, og anvende det på et andet. Og hvis maskiner kunne bruge sund fornuft, ville vi være i stand til at stole mere på, at de kan handle på egen hånd, velvidende at de sandsynligvis ikke begår dumme fejl.

Dagens AI har kun en begrænset evne til at udlede, hvad der vil resultere af en given handling. I forstærkningslæring, en teknik, der har gjort det muligt for maskiner at mestre spil som skak og Go, bruger et system omfattende forsøg og fejl til at skelne, hvilke træk der i det væsentlige får dem til at vinde. Men denne tilgang virker ikke i mere rodede omgivelser i den virkelige verden. Det efterlader ikke engang en maskine med en generel forståelse af, hvordan den kan spille andre spil.

Et endnu højere niveau af kausal tænkning ville være evnen til at ræsonnere om, hvorfor ting skete, og stille hvad nu hvis spørgsmål. En patient dør, mens han er i et klinisk forsøg; var det forsøgsmedicinens skyld eller noget andet? Skoletestresultaterne falder; hvilke politiske ændringer ville mest forbedre dem? Denne form for ræsonnement er langt ud over den nuværende evne til kunstig intelligens.

At udføre mirakler

Drømmen om at udstyre computere med kausal begrundelse trak Bareinboim fra Brasilien til USA i 2008, efter han havde afsluttet en master i datalogi ved Federal University of Rio de Janeiro. Han kastede sig over en mulighed for at studere under Judea Pearl, en datalog og statistiker ved UCLA. Pearl, 83, er en kæmpe- det kæmpe – af kausal inferens, og hans karriere hjælper med at illustrere, hvorfor det er svært at skabe AI, der forstår kausalitet.

Selv veltrænede videnskabsmænd er tilbøjelige til at fejlfortolke sammenhænge som tegn på årsagssammenhæng - eller til at tage fejl i den modsatte retning og tøve med at kalde årsagssammenhæng, selv når det er berettiget. I 1950'erne, for eksempel, mudrede nogle få fremtrædende statistikere vandet omkring, hvorvidt tobak forårsagede kræft. De hævdede, at uden et eksperiment, der tilfældigt tildelte folk til at være rygere eller ikke-rygere, kunne ingen udelukke muligheden for, at nogle ukendte - stress, måske eller et eller andet gen - fik folk til både at ryge og få lungekræft.

Til sidst blev det endeligt fastslået, at rygning forårsager kræft, men det behøvede ikke at have taget så lang tid. Siden da har Pearl og andre statistikere udtænkt en matematisk tilgang til at identificere, hvilke fakta der kræves for at understøtte en kausal påstand. Pearls metode viser, at i betragtning af udbredelsen af ​​rygning og lungekræft, ville en uafhængig faktor, der forårsager begge dele, være yderst usandsynlig.

Omvendt hjælper Pearls formler også med at identificere, hvornår korrelationer ikke kan bruges til at bestemme årsagssammenhæng. Bernhard Schölkopf, der forsker i kausale AI-teknikker som direktør ved det tyske Max Planck Institut for Intelligente Systemer, påpeger, at man kan forudsige et lands fødselsrate, hvis man kender dets bestand af storke. Det er ikke fordi storke føder babyer, eller fordi babyer tiltrækker storke, men sandsynligvis fordi økonomisk udvikling fører til flere babyer og flere storke. Pearl har hjulpet med at give statistikere og dataloger måder at angribe sådanne problemer på, siger Schölkopf.

Judea Pearl: Hans teori om kausal ræsonnement har transformeret videnskaben.

Pearls arbejde har også ført til udviklingen af ​​kausale bayesianske netværk - software, der søger gennem store mængder data for at opdage, hvilke variabler der ser ud til at have størst indflydelse på andre variabler. For eksempel bruger GNS Healthcare, en virksomhed i Cambridge, Massachusetts, disse teknikker til at rådgive forskere om eksperimenter, der ser lovende ud.

I et projekt arbejdede GNS med forskere, der studerer myelomatose, en slags blodkræft. Forskerne ville vide, hvorfor nogle patienter med sygdommen lever længere end andre efter at have fået stamcelletransplantationer, en almindelig behandlingsform. Softwaren gennemgik data med 30.000 variabler og pegede på et par stykker, der syntes særligt sandsynligt at være årsagssammenhænge. Biostatistikere og eksperter i sygdommen fokuserede på især én: niveauet af et bestemt protein i patienters kroppe. Forskere kunne derefter køre et målrettet klinisk forsøg for at se, om patienter med proteinet faktisk havde mere gavn af behandlingen. Det er meget hurtigere end at stikke her og der i laboratoriet, siger GNS-medstifter Iya Khalil.

Ikke desto mindre har de forbedringer, som Pearl og andre forskere har opnået i kausal teori, endnu ikke gjort mange indtog i deep learning, som identificerer sammenhænge uden for meget bekymring om årsagssammenhæng. Bareinboim arbejder på at tage det næste skridt: at gøre computere til mere nyttige værktøjer til menneskelige årsagsudforskninger.

Pearl siger, at AI ikke kan være virkelig intelligent, før den har en rig forståelse af årsag og virkning, hvilket ville muliggøre den introspektion, der er kernen i kognition.

Et af hans systemer, som stadig er i beta, kan hjælpe forskere med at afgøre, om de har tilstrækkelige data til at besvare et årsagsspørgsmål. Richard McElreath, en antropolog ved Max Planck Institute for Evolutionary Anthropology, bruger softwaren til at guide forskning i, hvorfor mennesker går gennem overgangsalderen (vi er de eneste aber, der gør).

Hypotesen er, at faldet i fertiliteten hos ældre kvinder gavnede de tidlige menneskelige samfund, fordi kvinder, der lagde en større indsats i at passe børnebørn, i sidste ende fik flere efterkommere. Men hvilke beviser findes der i dag for at understøtte påstanden om, at børn har det bedre med bedsteforældre omkring sig? Antropologer kan ikke bare sammenligne de uddannelsesmæssige eller medicinske resultater af børn, der har boet hos bedsteforældre, og dem, der ikke har. Der er, hvad statistikere kalder forvirrende faktorer: bedstemødre kan være mere tilbøjelige til at bo med børnebørn, der har mest brug for hjælp. Bareinboims software kan hjælpe McElreath med at skelne, hvilke undersøgelser om børn, der voksede op hos deres bedsteforældre, der er mindst fyldt med forvirrende faktorer og kan være værdifulde til at besvare hans årsagsforespørgsel. Det er et kæmpe skridt fremad, siger McElreath.

Den sidste kilometer

Bareinboim taler hurtigt og gestikulerer ofte med to hænder i vejret, som om han forsøger at balancere to sider af en mental ligning. Det var halvvejs gennem semesteret, da jeg besøgte ham i Columbia i oktober, men det virkede, som om han knap var flyttet ind på sit kontor – næsten ikke noget på væggene, ingen bøger på hylderne, kun en lækker Mac-computer og en tavle så tæt. med ligninger og diagrammer, at det lignede en detalje fra en tegneserie om en gal professor.

Han trak på skuldrene af rummets foreløbige tilstand og sagde, at han havde haft meget travlt med at holde foredrag om begge sider af den kausale revolution. Bareinboim mener, at arbejde som hans ikke blot giver mulighed for at inkorporere kausal tænkning i maskiner, men også for at forbedre den hos mennesker.

At få folk til at tænke mere grundigt over årsagssammenhæng er ikke nødvendigvis meget nemmere end at lære det til maskiner, siger han. Forskere inden for en lang række discipliner, fra molekylærbiologi til offentlig politik, er nogle gange tilfredse med at afdække sammenhænge, ​​der faktisk ikke er forankret i årsagssammenhænge. For eksempel tyder nogle undersøgelser på, at drikke alkohol vil dræbe dig tidligt, mens andre indikerer, at moderat forbrug er fint og endda gavnligt, og stadig anden forskning har fundet ud af, at stordrikkere overlever ikke-drikkere. Dette fænomen, kendt som reproducerbarhedskrisen, dukker op ikke kun inden for medicin og ernæring, men også inden for psykologi og økonomi. Man kan se skrøbeligheden af ​​alle disse slutninger, siger Bareinboim. Vi vender resultaterne hvert par år.

Han argumenterer for, at enhver, der spørger hvad nu hvis - medicinske forskere, der opretter kliniske forsøg, samfundsforskere, der udvikler pilotprogrammer, selv webudgivere, der forbereder A/B-tests - bør starte ikke blot med at indsamle data, men ved at bruge Pearls kausale logik og software som Bareinboims til at bestemme, om de tilgængelige data kunne muligvis besvare en årsagshypotese. Til sidst forestiller han sig, at dette fører til automatiseret videnskabsmandssoftware: et menneske kunne opfinde et kausalt spørgsmål at gå efter, og softwaren ville kombinere kausal slutningsteori med maskinlæringsteknikker for at udelukke eksperimenter, der ikke ville besvare spørgsmålet. Det kan redde videnskabsmænd fra et stort antal dyre blindgyder.

Bareinboim beskrev denne vision, mens vi sad i lobbyen på MIT’s Sloan School of Management, efter en tale han holdt sidste efterår. Vi har en bygning her på MIT med, jeg ved det ikke, 200 mennesker, sagde han. Hvordan beslutter disse samfundsforskere, eller videnskabsmænd hvor som helst, hvilke eksperimenter de skal forfølge, og hvilke datapunkter der skal indsamles? Ved at følge deres intuition: De forsøger at se, hvor tingene vil føre hen, baseret på deres nuværende forståelse.

Det er en iboende begrænset tilgang, sagde han, fordi menneskelige videnskabsmænd, der designer et eksperiment, kun kan overveje en håndfuld variable i deres sind på én gang. En computer kan på den anden side se samspillet mellem hundreder eller tusinder af variabler. Indkodet med de grundlæggende principper i Pearls kausalregning og i stand til at beregne, hvad der kan ske med nye sæt af variabler, kunne en automatiseret videnskabsmand foreslå præcis, hvilke eksperimenter menneskeforskerne skulle bruge deres tid på. Måske kunne en offentlig politik, der kun har vist sig at virke i Texas, fås til at fungere i Californien, hvis nogle få årsagsrelevante faktorer blev bedre værdsat. Forskere ville ikke længere lave eksperimenter i mørket, sagde Bareinboim.

Han synes heller ikke, det er så langt ude: Det er den sidste kilometer før sejren.

Hvad hvis?

At afslutte den mil vil sandsynligvis kræve teknikker, der lige er begyndt at blive udviklet. For eksempel forsøger Yoshua Bengio, en datalog ved University of Montreal, der delte Turing-prisen 2018 for sit arbejde med dyb læring, at få neurale netværk – softwaren i hjertet af dyb læring – til at udføre meta-læring og lægge mærke til. tingenes årsager.

Som tingene ser ud nu, hvis du ville have et neuralt netværk til at registrere, når folk danser, ville du vise det mange, mange billeder af dansere. Hvis du ville have det til at identificere, hvornår folk løber, ville du vise det mange, mange billeder af løbere. Systemet vil lære at skelne løbere fra dansere ved at identificere træk, der har tendens til at være anderledes i billederne, såsom positionen af ​​en persons hænder og arme. Men Bengio påpeger, at grundlæggende viden om verden kan indhentes ved at analysere de ting, der ligner eller er uændrede på tværs af datasæt. Måske kunne et neuralt netværk lære, at bevægelser af benene fysisk forårsager både løb og dans. Måske efter at have set disse eksempler og mange andre, der viser folk kun få meter fra jorden, ville en maskine til sidst forstå noget om tyngdekraften, og hvordan den begrænser menneskelig bevægelse. Med tiden, med nok meta-læring om variabler, der er konsistente på tværs af datasæt, kunne en computer opnå kausal viden, der ville være genbrugelig i mange domæner.

Pearl siger for sin del, at AI ikke kan være virkelig intelligent, før den har en rig forståelse af årsag og virkning. Selvom kausal begrundelse ikke ville være tilstrækkelig til en kunstig generel intelligens, er det nødvendigt, siger han, fordi det ville muliggøre den introspektion, der er kernen i erkendelsen. Hvad hvis spørgsmål er byggestenene i videnskaben, af moralske holdninger, af fri vilje, af bevidsthed, fortalte Pearl mig.

Du kan ikke trække Pearl til at forudsige, hvor lang tid det vil tage for computere at få kraftfulde kausale ræsonnementer. Jeg er ikke fremtidsforsker, siger han. Men under alle omstændigheder mener han, at det første skridt bør være at udvikle maskinlæringsværktøjer, der kombinerer data med tilgængelig videnskabelig viden: Vi har en masse viden, der ligger i det menneskelige kranium, som ikke bliver udnyttet.

Brian Bergstein, en tidligere redaktør på MIT Technology Review, er viceopinionsredaktør på Boston Globe.

skjule