Inovativní přístup postupuje do vlastního kapitálu ve zdravotnictví

Tým výzkumných pracovníků na lékařské fakultě ICAHN na Mount Sinai vyvinul novou metodu pro identifikaci a snížení zkreslení v datových sadách používaných k trénování algoritmů strojového učení, které se zaměřuje na kritický problém, který může ovlivnit diagnostickou přesnost a rozhodnutí o léčbě. Zjištění byla zveřejněna v online čísle září Journal of Medical Internet Research (Doi: 10.2196/71757).

Pro řešení problému vyvinuli vyšetřovatelé aequity, nástroj, který pomáhá detekovat a korigovat zkreslení v datových souborech zdravotní péče dříve, než budou použity k tréninku umělé inteligence (AI) a modelů strojového učení. Vyšetřovatelé testovali schopnost na různých typech zdravotních údajů, včetně lékařských obrázků, záznamů pacientů a hlavního průzkumu veřejného zdraví, průzkumu národního zdravotního a výživného průzkumu pomocí různých modelů strojového učení. Tento nástroj byl schopen spatřit jak známá, tak dříve přehlížená zkreslení napříč těmito datovými sadami.

Nástroje AI se stále více používají ve zdravotnictví na podporu rozhodnutí, od diagnózy až po predikci nákladů. Tyto nástroje jsou však jen tak přesné jako data použitá k jejich tréninku. Některé demografické skupiny nemusí být úměrně zastoupeny v datovém souboru. Kromě toho může mnoho podmínek vystupovat odlišně nebo být přehnané napříč skupinami, říkají vyšetřovatelé. Systémy strojového učení vyškoleného na takových datech mohou udržovat a zesilovat nepřesnosti a vytvořit zpětnou vazbu suboptimální péče, jako jsou zmeškané diagnózy a nezamýšlené výsledky.

Naším cílem bylo vytvořit praktický nástroj, který by mohl pomoci vývojářům a zdravotnickým systémům zjistit, zda v jejich datech existuje zkreslení, a poté podniknout kroky ke zmírnění. Chceme pomoci zajistit, aby tyto nástroje fungovaly dobře pro všechny, nejen pro skupiny nejvíce zastoupené v datech. “

Faris Gulamali, MD, první autor

Výzkumný tým uvedl, že aequity je přizpůsobitelná široké škále modelů strojového učení, od jednodušších přístupů až po pokročilé systémy, jako jsou ty, které pohánějí modely velkých jazyků. Může být použity na malé i složité datové sady a může posoudit nejen vstupní data, jako jsou laboratorní výsledky nebo lékařské obrázky, ale také výstupy, včetně předpokládaných diagnóz a skóre rizik.

Výsledky studie dále naznačují, že pro vývojáře, výzkumné pracovníky i regulační orgány by mohla být cenná. Může být použit během vývoje algoritmů, v autech před nasazením nebo jako součást širšího úsilí o zlepšení spravedlnosti ve zdravotnictví AI.

„Nástroje, jako je aequity, jsou důležitým krokem k budování spravedlivějších systémů AI, ale jsou pouze součástí řešení,“ říká senior odpovídající autor Girish N. Nadkarni, MD, MPH, předseda oddělení umělecké inteligence a lidským zdravotnictvím v Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthur M. Arthor v Icahn v rámci hosty na Mourous of the Mourd of the Mourd of the Mourd of the Singani. Systém Mount Sinai Health. „Pokud chceme, aby tyto technologie skutečně sloužily všem pacientům, musíme spárovat technický pokrok s širšími změnami v tom, jak jsou údaje shromažďovány, interpretovány a aplikovány ve zdravotnictví. Základ záleží na základech a začíná to s údaji.“

„Tento výzkum odráží zásadní vývoj v tom, jak si myslíme o AI ve zdravotnictví, ne jako o rozhodovacím nástroji, ale jako motor, který zlepšuje zdraví v mnoha komunitách, kterým sloužíme,“ říká David L. Reich MD, hlavní klinický ředitel zdravotnického systému Mount Sinai a prezident nemocnice Mount Sinai. „Identifikací a nápravou přirozené zkreslení na úrovni datového souboru se zabýváme kořenem problému dříve, než dopadne na péči o pacienty. Takto budujeme širší důvěru v komunitu v AI a zajišťujeme, aby výsledné inovace zlepšovaly výsledky pro všechny pacienty, nejen ty nejlépe zastoupené v datech.

Příspěvek je s názvem „Detekce, charakterizace a zmírňování implicitních a explicitních rasových předsudků v datových sadách zdravotní péče s učení podskupiny: Vývoj algoritmů a validační studie“.

Autoři studie, jak je uvedeno v časopise, jsou Faris Gulamali, Ashwin Shreekant Sawant, Lora Liharska, Carol Horowitz, Lili Chan, Patricia Kovatch, Ira Hofer, Karandeep Singh, Lynne Richardson, Emmanuel Mensah, Alexander Charney, Axander Charney, a Girish Nandish.

Studie byla financována Národním střediskem pro pokrok v oblasti překladatelských věd a Národních zdravotnických ústavů.