AI kunne gøre sundhedsvæsenet mere retfærdigt – ved at hjælpe os med at tro på, hvad patienterne siger

Ms Tech

I de sidste par år har forskning vist, at dyb læring kan matche ydeevne på ekspertniveau i medicinske billedbehandlingsopgaver som tidlig opdagelse af kræft og øjensygdomsdiagnose . Men der er også grund til forsigtighed. Anden forskning har vist, at deep learning har en tendens til fastholde diskrimination . Med et sundhedssystem, der allerede er fyldt med uligheder, kan sjuskede anvendelser af deep learning gøre det værre.

Nu et nyt papir udgivet i Nature Medicine foreslår en måde at udvikle medicinske algoritmer, der kan hjælpe med at vende, snarere end at forværre, eksisterende ulighed. Nøglen, siger Ziad Obermeyer, en lektor ved UC Berkeley, der overvågede forskningen, er at stoppe med at træne algoritmer til at matche menneskelig ekspertpræstation.

Papiret ser på et specifikt klinisk eksempel på de forskelle, der findes i behandlingen af ​​knæartrose, en lidelse, der forårsager kroniske smerter. At vurdere sværhedsgraden af ​​denne smerte hjælper læger med at ordinere den rigtige behandling, herunder fysioterapi, medicin eller operation. Dette gøres traditionelt ved, at en radiolog gennemgår et røntgenbillede af knæet og scorer patientens smerte på Kellgren-Lawrence-graden (KLG), som beregner smerteniveauer baseret på tilstedeværelsen af ​​forskellige radiografiske træk, såsom graden af ​​manglende brusk eller strukturelle skader.

Men data indsamlet af National Institute of Health viste, at læger, der bruger denne metode, systematisk scorer sorte patienters smerter så langt som langt mindre alvorlige, end hvad de siger, de oplever. Patienter rapporterer selv deres smerteniveauer ved hjælp af en undersøgelse, der spørger, hvor meget det gør ondt at gøre forskellige ting, såsom at rette deres knæ helt ud. Men disse selvrapporterede smerteniveauer ignoreres til fordel for radiologens KLG-score ved ordinering af behandling. Med andre ord, sorte patienter, der viser den samme mængde manglende brusk som hvide patienter, rapporterer selv højere niveauer af smerte.

Dette har konsekvent irriteret medicinske eksperter. En hypotese er, at sorte patienter kunne rapportere højere niveauer af smerte for at få lægerne til at behandle dem mere seriøst. Men der er en alternativ forklaring. Selve KLG-metoden kunne være partisk. Det blev udviklet for flere årtier siden med hvide britiske befolkninger. Nogle medicinske eksperter hævder, at listen over radiografiske markører, den fortæller klinikere at kigge efter, muligvis ikke inkluderer alle de mulige fysiske kilder til smerte inden for en mere forskelligartet befolkning. Sagt på en anden måde, kan der være radiografiske indikatorer for smerte, der forekommer mere almindeligt hos sorte mennesker, som simpelthen ikke er en del af KLG-rubrikken.

Relateret historie

Læger bruger AI til at triage covid-19 patienter. Værktøjerne er måske kommet for at blive Stillet over for personalemangel og overvældende patientbelastninger, henvender et stigende antal hospitaler sig til automatiserede værktøjer for at hjælpe dem med at håndtere pandemien.

For at teste denne mulighed trænede forskerne en dyb-læringsmodel til at forudsige patienters selvrapporterede smerteniveau fra deres knæ-røntgen. Hvis den resulterende model havde frygtelig nøjagtighed, ville dette tyde på, at selvrapporteret smerte er ret vilkårlig. Men hvis modellen havde en rigtig god nøjagtighed, ville dette give bevis for, at selvrapporteret smerte faktisk er korreleret med radiografiske markører i røntgenbilledet.

Efter at have kørt adskillige eksperimenter, herunder nogle designet til at udelukke eventuelle forstyrrende faktorer, fandt forskerne ud af, at modellen var meget mere præcis end KLG til at forudsige selvrapporterede smerteniveauer for både hvide og sorte patienter, men især for sorte patienter. Det reducerede raceforskellen på hvert smerteniveau med næsten det halve.

Målet er ikke nødvendigvis at begynde at bruge denne algoritme i et klinisk miljø. Men ved at udkonkurrere KLG-metoden afslørede det, at standardmetoden til at måle smerte er mangelfuld, til en meget større pris for sorte mennesker. Dette skulle tippe det medicinske samfund til at undersøge, hvilke radiografiske markører algoritmen kan se, og opdatere deres scoringsmetode.

Det fremhæver faktisk en virkelig spændende del af, hvor den slags algoritmer kan passe ind i processen med medicinsk opdagelse, siger Obermeyer. Det fortæller os, om der er noget her, der er værd at se på, som vi ikke forstår. Det sætter scenen for, at mennesker derefter træder ind og ved hjælp af disse algoritmer som værktøjer, forsøger at finde ud af, hvad der foregår.

Det fede ved dette papir er, at det tænker på tingene fra et helt andet perspektiv, siger Irene Chen, en forsker ved MIT, der studerer, hvordan man kan reducere sundhedsplejeuligheder i maskinlæring og var ikke involveret i papiret. I stedet for at træne algoritmen på veletableret ekspertviden, siger hun, valgte forskerne at behandle patienternes selvvurdering som sandhed. Derigennem afdækkede den vigtige huller i, hvad det medicinske område normalt anser for at være det mere objektive smertemål.

Det var netop hemmeligheden, er enig Obermeyer. Hvis algoritmer kun bliver trænet til at matche ekspertpræstationer, siger han, vil de simpelthen fastholde eksisterende huller og uligheder. Denne undersøgelse er et glimt af en mere generel pipeline, som vi i stigende grad er i stand til at bruge i medicin til at generere ny viden.

skjule