Prejudecățile dintr-un algoritm comun de îngrijire a sănătății îi rănește în mod disproporționat pe pacienții de culoare

Un algoritm utilizat pe scară largă care ajută spitalele să identifice pacienții cu risc ridicat care ar putea beneficia cel mai mult de accesul la programe speciale de îngrijire a sănătății este părtinitor din punct de vedere rasial, arată un studiu.

Eliminarea părtinirii rasiale din acel algoritm ar putea mai mult decât dubla procentul de pacienți de culoare eligibili automat pentru programe specializate care vizează reducerea complicațiilor cauzate de problemele cronice de sănătate, cum ar fi diabetul, anemia și hipertensiunea arterială, raportează cercetătorii în 25 octombrie. Ştiinţă.

Această cercetare „arată cum, odată ce deschideți algoritmul și înțelegeți sursele părtinirii și mecanismele prin care funcționează, îl puteți corecta”, spune bioeticianul de la Universitatea Stanford, David Magnus, care nu a fost implicat în studiu.

Pentru a identifica pacienții care ar trebui să primească îngrijire suplimentară, sistemele de îngrijire a sănătății din ultimul deceniu au ajuns să se bazeze pe algoritmi de învățare automată, care studiază exemplele din trecut și identifică modele pentru a învăța cum să realizeze o sarcină.

Primii 10 algoritmi de îngrijire a sănătății de pe piață – inclusiv Impact Pro, cel analizat în studiu – folosesc costurile medicale anterioare ale pacienților pentru a prezice costurile viitoare.. Costurile estimate sunt folosite ca proxy pentru nevoile de îngrijire a sănătății, dar este posibil ca cheltuielile să nu fie cea mai precisă măsură. Cercetările arată că, chiar și atunci când pacienții negri sunt la fel de bolnavi sau mai bolnavi decât pacienții albi, ei cheltuiesc mai puțin pentru îngrijirea sănătății, inclusiv vizite la medic și medicamente eliberate pe bază de rețetă. Această diferență există din mai multe motive, spun cercetătorii, inclusiv accesul inegal la serviciile medicale și o neîncredere istorică în rândul persoanelor de culoare față de furnizorii de servicii medicale. Această neîncredere provine în parte din evenimente precum experimentul Tuskegee (SN: 3/1/75), în care sute de bărbați de culoare cu sifilis li s-a refuzat tratamentul timp de zeci de ani.

Ca urmare a acestei valori defectuoase, „persoanele greșite sunt prioritizate pentru acestea [health care] programe”, spune coautorul studiului Ziad Obermeyer, expert în învățarea automată și în politicile de sănătate la Universitatea din California, Berkeley.

Preocupările cu privire la părtinirea algoritmilor de învățare automată – care ajută acum la diagnosticarea bolilor și la prezicerea activității criminale, printre alte sarcini – nu sunt noi (SN: 9/6/17). Dar izolarea surselor de părtinire s-a dovedit o provocare, deoarece cercetătorii au rareori acces la datele utilizate pentru antrenarea algoritmilor.

Obermeyer și colegii, însă, lucrau deja la un alt proiect cu un spital academic (pe care cercetătorii refuză să-l numească) care folosea Impact Pro și și-au dat seama că datele folosite pentru a pune în funcțiune acel algoritm erau disponibile pe serverele spitalului.

Așadar, echipa a analizat datele despre pacienții cu medici primari din acel spital din 2013 până în 2015 și a mărit pe 43.539 de pacienți care s-au autoidentificat ca albi și 6.079 care s-au identificat ca fiind negri. Algoritmul a dat tuturor pacienților, care erau asigurați prin asigurări private sau Medicare, un scor de risc bazat pe costurile anterioare de îngrijire a sănătății.

Pacienții cu aceleași scoruri de risc ar trebui, teoretic, să fie la fel de bolnavi. Dar cercetătorii au descoperit că, în eșantionul lor de pacienți albi și negri, pacienții de culoare cu aceleași scoruri de risc ca și pacienții albi au avut, în medie, mai multe boli cronice. Pentru scorurile de risc care au depășit percentila 97, de exemplu, punctul în care pacienții ar fi identificați automat pentru înscrierea în programe specializate, pacienții de culoare neagră au avut cu 26,3% mai multe boli cronice decât pacienții albi – sau o medie de 4,8 boli cronice în comparație cu pacienții albi. „3.8. Mai puțin de o cincime dintre pacienții peste percentila 97 erau de culoare.

Obermeyer compară evaluarea părtinitoare a algoritmului cu pacienții care așteaptă la coadă pentru a intra în programe specializate. Toată lumea se aliniază în funcție de scorul de risc. Dar „din cauza părtinirii”, spune el, „pacienții albi mai sănătoși ajung să treacă la rând înaintea pacienților de culoare, chiar dacă acei pacienți de culoare continuă să fie mai bolnavi”.

Când echipa lui Obermeyer a clasat pacienții după numărul de boli cronice în loc de cheltuielile pentru îngrijirea sănătății, pacienții de culoare au trecut de la 17,7 la sută dintre pacienți peste percentila 97 la 46,5 la sută.

Echipa lui Obermeyer este în parteneriat cu Optum, producătorul Impact Pro, pentru a îmbunătăți algoritmul. Compania a replicat independent noua analiză și a comparat problemele cronice de sănătate în rândul pacienților alb-negru într-un set național de date de aproape 3,7 milioane de asigurați. În ceea ce privește scorurile de risc, pacienții de culoare neagră au avut cu aproape 50.000 de afecțiuni cronice mai multe decât pacienții albi, dovadă a părtinirii rasiale. Reantrenarea algoritmului pentru a se baza atât pe costurile anterioare de îngrijire a sănătății, cât și pe alte valori, inclusiv pe afecțiunile preexistente, a redus cu 84 la sută diferența dintre afecțiunile cronice de sănătate între pacienții de culoare neagră și cei albi la fiecare scor de risc.

Deoarece infrastructura pentru programe specializate este deja în vigoare, această cercetare demonstrează că repararea algoritmilor de îngrijire a sănătății ar putea conecta rapid cei mai nevoiași pacienți la programe, spune Suchi Saria, cercetător în domeniul învățării automate și al îngrijirii sănătății la Universitatea Johns Hopkins. „Într-un interval scurt de timp, puteți elimina această disparitate.”