En algoritme, der kan spotte årsag og virkning, kunne overlade medicinsk AI

Et billede af farvestrålende piller Joshua Coleman | Unsplash

At forstå, hvordan verden fungerer, betyder at forstå årsag og virkning. Hvorfor er det sådan her? Hvad sker der, hvis jeg gør det? Korrelationer fortæller dig, at visse fænomener hænger sammen. Kun kausale sammenhænge fortæller dig, hvorfor et system er, som det er, eller hvordan det kan udvikle sig. Korrelation er ikke årsagssammenhæng, som sloganet lyder.

Dette er et stort problem for medicin, hvor et stort antal variabler kan kædes sammen. Diagnosticering af sygdomme afhænger af at vide, hvilke tilstande der forårsager hvilke symptomer; behandling af sygdomme afhænger af at kende virkningerne af forskellige lægemidler eller livsstilsændringer. Udredning af sådanne knudrede spørgsmål sker typisk via strenge observationsstudier eller randomiserede kontrollerede forsøg.

Disse skaber et væld af medicinske data, men de er spredt over forskellige datasæt, hvilket efterlader mange spørgsmål ubesvarede. Hvis et datasæt viser en sammenhæng mellem fedme og hjertesygdomme, og et andet viser en sammenhæng mellem lavt D-vitamin og fedme, hvad er sammenhængen mellem lavt D-vitamin og hjertesygdomme? At finde ud af det kræver typisk et andet klinisk forsøg.

Hvordan udnytter vi denne stykvise information bedre? Computere er gode til at opdage mønstre - men det er kun sammenhæng. I de sidste par år har dataloger opfundet en håndfuld algoritmer, der kan identificere årsagssammenhænge inden for enkelte datasæt. Men at fokusere på enkelte datasæt er som at se gennem nøglehuller. Det, der er brug for, er en måde at tage hele udsigten ind på.

Forskerne Anish Dhir og Ciarán Lee ved Babylon Health, en britisk-baseret digital sundhedsudbyder, har fundet frem til en teknik til at finde kausale sammenhænge på tværs af forskellige datasæt . Dette kunne gøre det muligt at udvinde store databaser med uudnyttede medicinske data for årsager og virkninger - og muligvis opdagelsen af ​​nye årsagssammenhænge.

Babylon Health tilbyder en chatbot-baseret app, der beder dig om at liste dine symptomer, før du reagerer med en foreløbig diagnose og råd om behandling. Formålet er at bortfiltrere personer, der faktisk ikke behøver at gå til læge. Tjenesten sparer i princippet både patienters og lægers tid, hvilket giver overanstrengte sundhedsprofessionelle mulighed for at hjælpe dem, der har størst behov.

Men det har appen komme under lup . Læger har advaret om, at den nogle gange savner tegn på alvorlig sygdom, for eksempel. Adskillige andre virksomheder – inklusive Ada og Your.MD – tilbyder også diagnose-by-chatbot, men Babylon Health har udpeget sig selv for kritik delvist på grund af dets overdrevne påstande. For eksempel annoncerede virksomheden i 2018, at dens AI kunne diagnosticere medicinske tilstande bedre end en menneskelig læge. En undersøgelse i The Lancet et par måneder senere konkluderede ikke kun, at det var så usandt, men det det kan fungere væsentligt dårligere.

Alligevel fortjener Dhir og Lees nye arbejde om årsagssammenhænge at blive taget alvorligt. Det er blevet peer-reviewet og vil blive vist på den respekterede Association for Advancement of Artificial Intelligence-konference i New York i denne uge. I princippet kunne teknikken overlade den service, Babylon Health tilbyder.

Evnen til at identificere årsagssammenhænge i medicinske data ville forbedre den diagnostiske AI bag dens chatbot. At retfærdiggøre svar ved at pege på underliggende årsag og virkning – i stedet for skjulte sammenhænge – burde også give folk mere tillid til appen, siger Lee, som også arbejder med maskinlæring og kvanteberegning på University College London. Sundhedspleje er et højrisikodomæne. Vi ønsker ikke at indsætte en sort boks, siger han.

Parret indså hurtigt, at de blev nødt til at starte fra bunden. Da vi kiggede viste det sig, at ingen rigtig havde løst dette problem, siger Lee. Udfordringen er at fusionere flere datasæt, der deler fælles variabler, og udtrække så meget information om årsag og virkning fra de kombinerede data som muligt.

Metoden bruger ikke maskinlæring, men er i stedet inspireret af kvantekryptografi, hvor en matematisk formel kan bruges til at bevise, at ingen aflytter din samtale. Dhir og Lee behandler datasæt som samtaler og variabler, der påvirker disse datasæt på en kausal måde som aflytning. Ved hjælp af matematikken fra kvantekryptografi kan deres algoritme identificere, om disse effekter eksisterer eller ej.

De testede systemet på datasæt, hvor årsagssammenhængene allerede var kendt, såsom to sæt, der målte størrelsen og teksturen af ​​brysttumorer. AI fandt korrekt, at størrelse og tekstur ikke havde en årsagssammenhæng med hinanden, men at begge blev bestemt af, om tumoren var ondartet eller godartet.

Hvis de rå data er tilgængelige, hævder parret, kan deres algoritme identificere årsagssammenhænge mellem variabler såvel som et klinisk studie kunne. I stedet for at lede efter årsager ved at køre et nyt randomiseret kontrolleret forsøg, kan softwaren muligvis gøre dette ved at bruge eksisterende data. Lee indrømmer, at folk vil have brug for overbevisning og håber, at algoritmen i det mindste vil blive brugt i starten til at supplere forsøg, måske ved at fremhæve potentielle årsagssammenhænge til undersøgelse. Alligevel bemærker han, at officielle organer såsom US Food and Drug Administration allerede godkender nye lægemidler på basis af forsøg, der kun viser sammenhæng. Den måde, hvorpå lægemidler gennemgår randomiserede kontrollerede forsøg, er mindre overbevisende end at bruge disse algoritmer, siger han.

skjule