Vi er ikke klar til AI, siger vinderen af ​​en ny $1m AI-præmie

Rachel Wu / MIT CSAIL

Regina Barzilay , professor ved MIT's Computer Science and Artificial Intelligence Laboratory (CSAIL), er den første vinder af Squirrel AI Award for Artificial Intelligence til gavn for menneskeheden, en ny pris, der anerkender fremragende forskning i AI. Barzilay startede sin karriere med at arbejde med behandling af naturlige sprog. Efter at have overlevet brystkræft i 2014 skiftede hun fokus til maskinlæringsalgoritmer til at opdage kræft og designe nye lægemidler . Prisen uddeles i februar 2021 af Association for the Advancement of Artificial Intelligence (AAAI).

Præmiepengene på $1 million, leveret af Kinesisk online uddannelsesvirksomhed Squirrel AI , som vi tidligere har skrevet om, sætter prisen på samme økonomiske niveau som Nobelprisen og Turing-prisen i datalogi. Jeg talte med Barzilay i telefonen om prisen – og løftet og frustrationerne ved AI.

Vores samtale er blevet redigeret for længde og klarhed.

Tillykke med denne pris. Hvad betyder det for dig og for AI generelt?

Tak skal du have. Du ved, der er masser af områder, hvor AI stadig ikke gør en forskel, men kunne være det. Vi bruger hele tiden maskinoversættelses- eller anbefalingssystemer, men ingen tænker på disse som fancy teknologi, ingen spørger om dem. Men med andre områder af vores liv, der er afgørende for vores velbefindende, såsom sundhedspleje, har AI endnu ikke samfundets accept. Jeg håber, at denne pris, og den opmærksomhed, der følger med den, hjælper med at ændre folks sind og lader dem se mulighederne – og skubber AI-samfundet til at tage de næste skridt.

Hvilken slags trin?

Dengang teknologien flyttede fra dampkraft til elektricitet, var de første forsøg på at bringe elektricitet til industrien ikke særlig succesrige, fordi folk bare forsøgte at kopiere dampmaskiner. Jeg tror, ​​at noget lignende foregår nu med AI. Vi er nødt til at finde ud af, hvordan vi kan integrere det i mange forskellige områder: ikke kun sundhedspleje, men uddannelse, materialedesign, byplanlægning og så videre. Selvfølgelig er der mere at gøre på teknologisiden, herunder at lave bedre algoritmer, men vi bringer denne teknologi ind i stærkt regulerede miljøer, og vi har ikke rigtig set på, hvordan man gør det.

Lige nu blomstrer kunstig intelligens på steder, hvor omkostningerne ved fiasko er meget lave. Hvis Google finder en forkert oversættelse til dig eller giver dig et forkert link, er det fint; du kan bare gå til den næste. Men det kommer ikke til at virke for en læge. Hvis du giver patienter den forkerte behandling eller går glip af en diagnose, er der virkelig alvorlige konsekvenser. Mange algoritmer kan faktisk gøre ting bedre end mennesker. Men vi stoler altid på vores egen intuition, vores eget sind, mere end noget vi ikke forstår. Vi er nødt til at give læger grunde til at stole på AI. FDA kigger på dette problem, men jeg tror, ​​det er meget langt fra løst i USA eller andre steder i verden.

I 2014 fik du konstateret brystkræft. Ændrede det din måde at tænke på dit arbejde?

Åh, ja, absolut. En af de ting, der skete, da jeg gennemgik behandling og tilbragte uforholdsmæssigt meget tid på hospitalet, er, at de ting, jeg havde arbejdet på nu, føltes trivielle. Jeg tænkte: Folk lider. Vi kan gøre noget.

Da jeg startede behandlingen, spurgte jeg, hvad der sker med patienter som mig, med min type tumor og min alder og denne behandling. De ville sige: Åh, der var dette kliniske forsøg, men du passer ikke rigtigt til det. Og jeg tænkte, at brystkræft er en meget almindelig sygdom. Der er så mange patienter med så mange akkumulerede data. Hvorfor bruger vi det ikke? Men du kan ikke nemt få disse oplysninger ud af systemet på amerikanske hospitaler. Det er der, men det er i teksten. Så jeg begyndte at bruge NLP for at få adgang til det. Jeg kunne ikke forestille mig noget andet felt, hvor folk frivilligt smider de data, der er tilgængelige. Men det var det, der foregik inden for medicin.

Sprang hospitalerne på chancen for at gøre mere brug af disse data?

Det tog noget tid at finde en læge, der ville arbejde sammen med mig. Jeg fortalte folk, hvis du har et problem, vil jeg prøve at løse det. Jeg har ikke brug for finansiering. Bare giv mig et problem og dataene. Men det tog mig et stykke tid at finde samarbejdspartnere. Du ved, jeg var ikke en særlig populær karakter.

Fra dette NLP-arbejde gik jeg så over til at forudsige patientrisiko fra mammografi, ved at bruge billedgenkendelse til at forudsige, om du ville få kræft eller ej – hvordan din sygdom sandsynligvis vil udvikle sig.

Ville disse værktøjer have gjort en forskel, hvis de havde været tilgængelige for dig, da du fik diagnosen?

Absolut. Vi kan køre disse ting på mine mammografier fra før min diagnose, og det var der allerede - du kan tydeligt opdage det. Det er ikke en form for mirakel - kræft vokser ikke fra i går til i dag. Det er en ret lang proces. Der er tegn i vævet, men det menneskelige øje har begrænset evne til at opdage, hvad der kan være meget små mønstre. I mit tilfælde ville det have været synligt to år før.

Hvorfor så lægen det ikke?

Det er en svær opgave. Hver mammografi har hvide pletter, der måske eller måske ikke er kræft, og en læge skal beslutte, hvilke af disse hvide pletter der skal biopsieres. Lægen skal balancere at handle på intuition versus at skade en patient ved at lave biopsier, der ikke er nødvendige. Men det er præcis den type beslutning, som datadrevet AI kan hjælpe os med at træffe på en meget mere systematisk måde.

Hvilket bringer os tilbage til problemet med tillid. Har vi brug for en teknisk løsning, der gør værktøjer mere forklarlige, eller skal vi uddanne de mennesker, der bruger dem?

Det er et godt spørgsmål. Nogle beslutninger ville være virkelig nemme at forklare for et menneske. Hvis en AI opdager kræft i et billede, kan du zoome ind på det område, som modellen ser på, når den foretager forudsigelsen. Men hvis du beder en maskine, som vi i stigende grad gør, om at gøre ting, som et menneske ikke kan, hvad vil maskinen så vise dig? Det er ligesom en hund, der kan lugte meget bedre end os, der forklarer, hvordan den kan lugte noget. Den kapacitet har vi bare ikke. Jeg tror, ​​at efterhånden som maskinerne bliver meget mere avancerede, er dette det store spørgsmål. Hvilken forklaring ville overbevise dig, hvis du ikke selv kan løse denne opgave?

Så skal vi vente, indtil AI kan forklare sig fuldt ud?

Nej. Tænk på, hvordan vi besvarer spørgsmål på liv og død nu. De fleste medicinske spørgsmål, såsom hvordan du vil reagere på denne behandling eller den medicin, besvares ved hjælp af statistiske modeller, der kan føre til fejl. Ingen af ​​dem er perfekte.

Det er det samme med AI. Jeg tror ikke, det er godt at vente, indtil vi udvikler perfekt AI. Jeg tror ikke, det kommer til at ske foreløbigt. Spørgsmålet er, hvordan man bruger dens styrker og undgår dens svagheder.

Endelig, hvorfor har AI endnu ikke haft stor indflydelse på covid-19?

AI kommer ikke til at løse alle de store problemer, vi har. Men der har været nogle små eksempler. Da alle ikke-essentielle kliniske tjenester blev nedskaleret tidligere på året, brugte vi et kunstig intelligens-værktøj til at identificere, hvilke onkologiske patienter i Boston stadig skulle gå og få deres årlige mammografi.

Men hovedårsagen til, at AI ikke har været mere nyttig, er ikke manglen på teknologi, men manglen på data. Du ved, jeg er i ledergruppen af ​​MIT's J-Clinic, et center for kunstig intelligens i sundhedsvæsenet, og der var mange af os i april, der sagde: Vi vil virkelig gøre noget - hvor kan vi få dataene? Men vi kunne ikke få det. Det var umuligt. Selv nu, seks måneder senere, er det ikke indlysende, hvordan vi får data.

Den anden grund er, at vi ikke var klar. Selv under normale omstændigheder, når folk ikke er under stress, er det svært at tage AI-værktøjer ind i en proces og sikre, at det hele er korrekt reguleret. I den nuværende krise har vi simpelthen ikke den kapacitet.

Du ved, jeg forstår, hvorfor læger er konservative: folks liv står på spil. Men jeg håber, at dette vil være et wake-up-call til, hvor uforberedte vi er til at reagere hurtigt på nye trusler. Så meget som jeg tror, ​​at AI er fremtidens teknologi, medmindre vi finder ud af, hvordan vi kan stole på den, vil vi ikke se den komme videre.

skjule