Dette er Stanford-vaccinealgoritmen, der udelukkede læger i frontlinjen

Yichuan Cao/Sipa USA





Da fastboende læger ved Stanford Medical Center - hvoraf mange arbejder i frontlinjen af ​​covid-19-pandemien - fandt ud af, at kun syv ud af over 1.300 af dem var blevet prioriteret til de første 5.000 doser af covid-vaccinen, blev de chokerede . Så, da de så, hvem der ellers havde lavet listen, inklusive administratorer og læger, der så patienter fjernt hjemmefra, blev de vrede.

Under en planlagt fotooptagelse for at fejre de første vaccinationer, der finder sted fredag ​​den 18. december, mindst 100 beboere mødte op for at protestere. Hospitalsledelsen undskyldte for ikke at prioritere dem og skyldte fejlene på en meget kompleks algoritme.

Vores algoritme, som etikerne, eksperter i infektionssygdomme arbejdede på i ugevis … virkede tydeligvis ikke rigtigt, fortalte Tim Morrison, direktøren for det ambulante plejeteam, til beboerne ved begivenheden i en video, der blev lagt ud online .



Stanford-beboere protesterer mod en fotooptagelse for at fejre ankomsten af ​​en vaccine.

Stanford-beboere protesterer mod en fotooptagelse for at fejre ankomsten af ​​en vaccine.

TILLATELSE AF WILLIAM FITZGERALD

Mange så det som en undskyldning, især da hospitalsledelsen havde blev gjort opmærksom på problemet tirsdag - da kun fem beboere kom på listen - og svarede ikke ved at rette algoritmen, men ved at tilføje yderligere to beboere for i alt syv.

En af kerneattraktionerne ved algoritmer er, at de tillader de magtfulde at give en sort boks skylden for politisk uattraktive resultater, som de ellers ville være ansvarlige for, skrev Roger McNamee, en fremtrædende Silicon Valley-insider, der blev kritiker, på Twitter. Men *folk* besluttede, hvem der ville få vaccinen, tweeted Veena Dubal, professor i jura ved University of California, Hastings, som forsker i teknologi og samfund. Algoritmen udførte netop deres vilje.



Men hvad var egentlig Stanfords vilje? Vi tog et kig på algoritmen for at finde ud af, hvad den skulle gøre.

Sådan fungerer algoritmen

Sliden, der beskriver algoritmen, kom fra beboere, der havde modtaget den fra deres afdelingsleder. Det er ikke en kompleks maskinlæringsalgoritme (som ofte omtales som sorte bokse), men en regelbaseret formel til at beregne, hvem der ville få vaccinen først hos Stanford. Den betragter tre kategorier: medarbejderbaserede variabler, som har at gøre med alder; jobbaserede variabler; og retningslinjer fra California Department of Public Health. For hver kategori fik personalet et vist antal point, med en samlet mulig score på 3,48. Jo højere score, jo højere er personens prioritet i kø. (Stanford Medical Center svarede ikke på flere anmodninger om kommentarer til algoritmen i weekenden.)

Medarbejdervariablerne øger en persons score lineært med alderen, og der lægges ekstra point til dem over 65 eller under 25. Dette prioriterer det ældste og yngste personale, hvilket er til ulempe for beboere og andre frontmedarbejdere, der typisk er midt i alderen rækkevidde.



Jobvariabler bidrager mest til den samlede score. Algoritmen tæller udbredelsen af ​​covid-19 blandt medarbejderes jobroller og afdeling på to forskellige måder, men forskellen mellem dem er ikke helt klar. Hverken beboerne eller to ikke-tilknyttede eksperter, vi bad om at gennemgå algoritmen, forstod, hvad disse kriterier betød, og Stanford Medical Center reagerede ikke på en anmodning om kommentar. De betragter også andelen af ​​test, der tages efter jobrolle, som en procentdel af lægehusets samlede antal indsamlede tests.

Vi har muligvis kun uger til at handle, før en variant af coronavirus dominerer USA. En stamme af covid-19, der ser ud til at sprede sig hurtigere, kolliderer med kampagnen for at vaccinere amerikanere.

Hvad disse faktorer ikke tager højde for, er eksponering for patienter med covid-19, siger beboere. Det betyder, at algoritmen ikke skelnede mellem dem, der havde fanget covid fra patienter, og dem, der fik det fra samfundsspredning - inklusive medarbejdere, der arbejder eksternt. Og som først rapporteret af ProPublica fik beboerne at vide, at fordi de roterer mellem afdelinger i stedet for at opretholde en enkelt opgave, mistede de point, der var knyttet til de afdelinger, hvor de arbejdede.

Algoritmens tredje kategori refererer til California Department of Public Healths retningslinjer for vaccinetildeling . Disse fokuserer på eksponeringsrisiko som den højeste enkeltfaktor for vaccineprioritering. Retningslinjerne er primært beregnet til, at amter og kommuner skal beslutte, hvordan vaccinen skal prioriteres, frem for hvordan der skal prioriteres mellem et hospitals afdelinger. Men de inkluderer specifikt beboere, sammen med de afdelinger, hvor de arbejder, i det højest prioriterede niveau.



Det kan være, at CDPH rækkeviddefaktoren giver beboerne en højere score, men stadig ikke høj nok til at modvirke de øvrige kriterier.

Hvorfor gjorde de det på den måde?

Stanford forsøgte at medregne mange flere variabler end andre medicinske faciliteter, men Jeffrey Kahn, direktør for Johns Hopkins Berkman Institute of Bioethics, siger, at tilgangen var overkompliceret. Jo mere der er forskellige vægte for forskellige ting, så bliver det sværere at forstå – ’Hvorfor gjorde de det på den måde?’ siger han.

Kahn, som sad i Johns Hopkins' 20-medlemmers udvalg for vaccinetildeling, siger, at hans universitet tildelte vacciner udelukkende baseret på job og risiko for eksponering for covid-19.

Han siger, at beslutningen var baseret på diskussioner, der målrettet inkluderede forskellige perspektiver - inklusive beboernes - og i koordinering med andre hospitaler i Maryland. Andre steder, University of California San Franciscos plan er baseret på en lignende vurdering af risikoen for eksponering for virussen. Mass General Brigham i Boston kategoriserer medarbejdere i fire grupper baseret på afdeling og jobplacering, ifølge en intern e-mail gennemgået af MIT Technology Review.

Der er så lidt tillid omkring så meget relateret til pandemien, vi kan ikke spilde den.

Det er virkelig vigtigt [for] enhver tilgang som denne at være gennemsigtig og offentlig ... og ikke noget virkelig svært at finde ud af, siger Kahn. Der er så lidt tillid omkring så meget relateret til pandemien, vi kan ikke spilde den.

Algoritmer bruges almindeligvis i sundhedsvæsenet til at rangere patienter efter risikoniveau i et forsøg på at fordele pleje og ressourcer mere retfærdigt. Men jo flere variable der bruges, jo sværere er det at vurdere, om beregningerne kan være fejlbehæftede.

I 2019 f.eks. en undersøgelse offentliggjort i Science viste, at 10 udbredte algoritmer til fordeling af pleje i USA endte med at favorisere hvide patienter frem for sorte. Problemet, viste det sig, var, at algoritmernes designere antog, at patienter, der brugte mere på sundhedspleje, var mere syge og havde brug for mere hjælp. I virkeligheden er højere brugere også rigere og mere tilbøjelige til at være hvide. Som et resultat tildelte algoritmen mindre pleje til sorte patienter med de samme medicinske tilstande som hvide.

Irene Chen, en MIT ph.d.-kandidat, der studerer brugen af ​​retfærdige algoritmer i sundhedsvæsenet, formoder, at dette er, hvad der skete på Stanford: Formlens designere valgte variabler, som de mente ville tjene som gode proxyer for en given medarbejders niveau af covid-risiko. Men de bekræftede ikke, at disse fuldmagter førte til fornuftige resultater, eller reagerede på en meningsfuld måde på samfundets input, da vaccineplanen kom frem i lyset tirsdag i sidste uge. Det er ikke en dårlig ting, at folk havde tanker om det bagefter, siger Chen. Det er, at der ikke var en mekanisme til at rette det.

En kanariefugl i kulminen?

Efter protesterne udstedte Stanford en formel apologi , og sagde, at det ville revidere sin distributionsplan.

Hospitalsrepræsentanter svarede ikke på spørgsmål om, hvem de ville inkludere i nye planlægningsprocesser, eller om algoritmen fortsat ville blive brugt. En intern e-mail, der opsummerer medicinstudiets svar, delt med MIT Technology Review, siger, at hverken programledere, afdelingsformænd, behandlende læger eller plejepersonale var involveret i det oprindelige algoritmedesign. Nu presser nogle fakulteter imidlertid på for at få en større rolle, eliminerer algoritmernes resultater fuldstændigt og giver i stedet divisionschefer og formænd autoritet til at træffe beslutninger for deres egne teams.

Andre afdelingsformænd har opfordret beboerne til først at blive vaccineret. Nogle har endda bedt fakultetet om at tage beboere med, når de bliver vaccineret, eller forsinke deres skud, så andre kunne gå først.

Nogle beboere går helt uden om universitetets sundhedsvæsen. Nuriel Moghavem, en neurologisk beboer, som var den første til at offentliggøre problemerne i Stanford, tweetede fredag ​​eftermiddag, at han endelig havde modtaget sin vaccine - ikke på Stanford, men på et offentligt amtshospital i Santa Clara County.
Jeg blev vaccineret i dag for at beskytte mig selv, min familie og mine patienter, tweetede han . Men jeg havde kun muligheden, fordi mit offentlige amtshospital mener, at beboerne er kritiske frontlinjeudbydere. Taknemmelig.

skjule