Deep Learning er en sort boks, men sundhedspleje vil ikke have noget imod det

Jon Han

Tidligere i 2017 viste kunstig intelligens-forsker Sebastian Thrun og kolleger ved Stanford University, at en dyb læringsalgoritme var i stand til at diagnosticere potentielt kræftfremkaldende hudlæsioner lige så præcist som en bestyrelsescertificeret hudlæge.

Kræftfundet, rapporteret i Natur, var en del af en strøm af rapporter, der giver et tidligt indblik i, hvad der kunne være en ny æra for diagnosticering ved hjælp af software, hvor kunstig intelligens hjælper læger - eller endda konkurrerer med dem.

Eksperter siger, at medicinske billeder, såsom fotografier, røntgenbilleder og MRI'er, er et næsten perfekt match til styrkerne ved deep-learning software, som i de sidste par år har ført til gennembrud i genkendelse af ansigter og objekter i billeder.

Virksomheder er allerede på jagt. Sandelig, Alphabets life science arm, gik sammen med Nikon december sidste år for at udvikle algoritmer til at opdage årsager til blindhed hos diabetikere. Området for radiologi er i mellemtiden blevet døbt medicinens Silicon Valley på grund af antallet af detaljerede billeder, det genererer.

Black-box medicin

Selvom forudsigelserne fra Thruns team var meget nøjagtige, var ingen sikker på, præcis hvilke træk ved en muldvarp, som dyb-læringsprogrammet brugte til at klassificere den som kræftfremkaldende eller godartet. Resultatet er den medicinske version af det, der er blevet kaldt deep learnings sorte boks-problem.

I modsætning til mere traditionel vision-software, hvor en programmør definerer regler - for eksempel har et stopskilt otte sider - i deep learning finder algoritmen selv reglerne, men ofte uden at efterlade et revisionsspor for at forklare sine beslutninger.

I tilfælde af black-box medicin kan læger ikke vide, hvad der foregår, fordi ingen gør det; det er i sagens natur uigennemsigtigt, siger Nicholson Price, en juridisk forsker fra University of Michigan, der fokuserer på sundhedslovgivning.

Relateret historie

Læs Næste Hvorfor reagerer de fleste patienter ikke på de nyeste kure?

Alligevel siger Price, at det måske ikke udgør en alvorlig hindring i sundhedsvæsenet. Han sammenligner dyb læring med stoffer, hvis fordele kommer til ved ukendte midler. Lithium er et eksempel. Dets nøjagtige biokemiske mekanisme til at påvirke humøret er endnu ikke klarlagt, men lægemidlet er stadig godkendt til behandling af bipolar lidelse. Mekanismen bag aspirin, den mest udbredte medicin nogensinde, blev ikke forstået i 70 år.

På samme måde, siger Price, vil black-box-problemet ikke udgøre et problem for U.S. Food and Drug Administration, som udover at godkende nye lægemidler også regulerer software, hvis formålet er at behandle eller forebygge sygdom.

I en erklæring siger FDA, at den i løbet af de sidste 20 år har godkendt en række billedanalyseapplikationer, der er afhængige af en række forskellige mønstergenkendelses-, maskinlærings- og computersynsteknikker. Agenturet bekræftede, at det ser mere software drevet af deep learning og bemærker, at virksomheder har lov til at holde detaljerne i deres algoritmer fortrolige.

FDA har allerede givet grønt lys til mindst én deep-learning-algoritme. I januar godkendte FDA software udviklet af Arterys, et privatejet medicinsk billedbehandlingsfirma med base i San Francisco, til salg. Dens algoritme, DeepVentricle, analyserer MRI-billeder af de indre konturer af hjertets kamre og beregner mængden af ​​blod, som en patients hjerte kan holde og pumpe. Den beregning er gennemført på mindre end 30 sekunder, siger Arterys, hvorimod konventionelle metoder typisk tager en time.

FDA krævede, at Arterys lavede omfattende test for at sikre, at resultaterne fra dens algoritme var på niveau med dem, der blev genereret af læger. Du skal bevise statistisk, at din algoritme følger, hvad end dens tilsigtede brug er, eller [hvad] marketingpåstandene siger, den gør, siger John Axerio-Cilies, virksomhedens teknologichef.

Stor efterspørgsel

For at træne deres software gav holdet ledet af Thrun, en tidligere vicepræsident hos Google, der arbejdede på førerløse biler der, det 129.405 billeder af hudsygdomme vurderet af eksperter. Disse dækkede 2.032 forskellige sygdomme og omfattede 1.942 billeder af bekræftede hudkræftformer.

Relateret historie

Mere om Sebastian Thrun Sebastian Thrun var med til at sætte gang i hypen omkring massive online åbne college-kurser – men har vendt sin egen opstart til at fokusere på erhvervsuddannelse i stedet.

Til sidst var softwaren i stand til at overgå 21 hudlæger i at identificere, hvilke modermærker der var potentielt kræftfremkaldende.

Når hudlæger ser potentialet i denne teknologi, tror jeg, at de fleste vil omfavne den, siger Robert Novoa, der er Stanford-hudlæge og forfatter til undersøgelsen. Han og andre teammedlemmer afviste at sige, om de planlægger at kommercialisere softwaren.

Enhver bekymring for, at læger snart er uden arbejde, er også malplaceret, siger Allan Halpern, en Memorial Sloan Kettering-hudlæge og præsident for International Society for Digital Imaging of the Skin. Jeg tror, ​​truslen er den modsatte, siger han. Algoritmer kan øge efterspørgslen efter dermatologiske tjenester dramatisk.

Det skyldes, at en positiv på en screeningstest stadig kræver en biopsi. Deep-learning software kunne finde en rolle i primære plejekontorer, siger Halpern, men hvis det blev gjort tilgængeligt som en befolkningsdækkende screeningstest eller gennem en forbrugerapp, ville der ikke være hudlæger nok til at følge op på leads .

Axerio-Cilies siger, at virksomheder vil blive fristet til at tilbyde deep-learning værktøjer direkte til forbrugerne. For eksempel kan folk scanne deres egne modermærker for at se, om de har brug for at besøge en læge. Nogle ikke-AI-mobiltelefon-apps, f.eks Mole Mapper , giver allerede folk mulighed for at spore mistænkelige modermærker og registrere eventuelle ændringer over tid.

Halpern siger dog, at han ikke tror, ​​at forbrugerne er klar til at håndtere diagnostiske systemer, der kan fortælle dem, at en muldvarp har 5 procents chance eller 50 procents chance for at være kræft.

Vi er ikke gode til at bruge sandsynligheder, siger han.

skjule