Pochopení toho, jak a kdy může technologie AI pomoci lékařům zachraňovat životy

Zatímco technologie umělé inteligence se stále více využívá – formálně i neformálně – k podpoře lékařských diagnóz, její využití v pohotovostních lékařských zařízeních zůstává otevřenou otázkou. Může umělá inteligence podpořit lékaře v situacích, kdy rozhodování ve zlomku vteřiny může znamenat rozdíl mezi životem a smrtí? Výzkumníci z Drexel University se touto otázkou zabývali s lékaři z Children’s National Medical Center ve Washingtonu, DC, aby lépe pochopili, jak a kdy jim tato technologie může pomoci zachránit životy.

Tým vedený Angelou Mastrianni, PhD, absolventkou Drexelu, která je postdoktorandkou na NYU Langone Health, a Aleksandrou Sarcevic, PhD, profesorkou na Drexel’s College of Computing & Informatics a ředitelkou výzkumné laboratoře Interactive Systems for Healthcare Research Lab, zkoumal dva typy scénářů, ve kterých se technologie AI používá k podpoře lékařů na pohotovosti při rozhodování.

V prvním scénáři byly syntetizovány klíčové informace používané při rozhodování – včetně věku pacienta, jak k poranění došlo a vitálních funkcí – a prezentovány týmu v reálném čase. Ve druhém scénáři byla kromě syntetizovaných informací poskytnuta doporučení pro léčbu.

V experimentu, do kterého se zapojilo 35 poskytovatelů pohotovostní péče ze šesti zdravotnických systémů, vědci zjistili, že účastníci s větší pravděpodobností učiní správná rozhodnutí, když byly poskytnuty informace i doporučení AI, ve srovnání s tím, že nedostali žádnou podporu AI.

Zjistili však také, že účastníci byli rozděleni v názorech na přijímání doporučení od asistenta AI během lékařských pohotovostí. Ačkoli se nejvíce preferovalo přijímání doporučení a syntézy umělé inteligence, někteří lékaři měli obavy, že by tato doporučení mohla narušit jejich rozhodování o agenturách a zkreslení.

Autoři nedávno prezentovali svá zjištění na konferenci American Computing Machinery’s Conference on Computer-Supported Cooperative Work & Social Computing (CSCW).

Přestože naše studie zahrnovala malý vzorek poskytovatelů zdravotní péče, toto je druh dotazu, který bude důležitý, protože komunita pohotovostních lékařů zvažuje, jak může technologie AI podpořit její život zachraňující práci. Není pochyb o tom, že tato technologie může rozšířit práci lidí v lékařském prostředí, ale pochopení, kdy a kde je vhodná a přijatá, bude klíčem k navigaci při jejím přijetí.“

Aleksandra Sarcevic, PhD, profesorka Drexelovy vysoké školy výpočetní techniky a informatiky

Aby tým dospěl ke svým zjištěním, nejprve navrhl prototyp displeje pro podporu rozhodování s umělou inteligencí – nazvaný „DecAide“ – pro použití v prostředí dětské traumatické resuscitace. Průzkumem a rozhovory s různými poskytovateli pohotovostní lékařské péče tým získal pochopení typů informací, které poskytovatelé používají k podpoře rozhodování během resuscitace, a jak je nejlépe prezentovat.

Díky těmto pokynům získal displej podobu stručného seznamu klíčových informací o pacientovi, zvýrazňujících abnormality a barevného kódování jakýchkoli změn vitálních funkcí. Jedna verze předkládala pouze tyto informace, zatímco druhá také nabízela doporučení – jako je krevní transfuze nebo neurochirurgický postup – spolu s pravděpodobností úspěchu na základě modelu výpočtu rizika čerpajícího z údajů o resuscitaci z primárního výzkumného pracoviště, Dětské národní nemocnice.

Tým vyhodnotil interakci účastníků se systémem vytvořením 12 skriptovaných vinětových scénářů, během kterých byly postupně prezentovány informace o pacientech s traumatem. V časovaném virtuálním cvičení byly 35 poskytovatelům předloženy tyto scénáře za tří podmínek: v jedné vinětě displej pro podporu rozhodování nenabízel žádné informace ani pokyny od AI; během dalšího nabízela informace syntetizované umělou inteligencí a ve třetí byly nabízeny informace syntetizované pomocí umělé inteligence a doporučení. Účastníci byli požádáni, aby provedli hodnocení v reálném čase v každém scénáři a rozhodli, zda pacient potřebuje život zachraňující zásah, jako je krevní transfuze, operace mozku, dekomprese hrudní sondou nebo jehlou, intubace nebo operace hrudníku.

Tým zaznamenal každé rozhodnutí v léčbě účastníků a diagnóza Proces – celkem více než 800 instancí – porovnává je se základními pravdivými daty, ze kterých byly viněty vytvořeny, za účelem stanovení diagnostické přesnosti. Každý účastník také vyplnil průzkum o tom, jak využíval informační displej. Aby otestovali účinek informační důvěry a zaujatosti v rozhodovacím procesu, v jednom z osmi rozhodnutí předložených účastníkům vědci naprogramovali displej tak, aby poskytoval nesprávné doporučení.

Účastníci učinili správná rozhodnutí v 64,4 % scénářů, když byla poskytnuta jak syntéza informací AI, tak doporučení. Míra klesla na 56,3 %, když byla poskytnuta pouze syntéza informací bez doporučení, a 55,8 %, když nebyla poskytnuta žádná podpora.

Nezdálo se, že by technologie zpomalovala rozhodování, protože čas, který účastníci potřebovali k rozhodování, zůstal relativně konzistentní ve všech třech podmínkách zobrazení v experimentu. A v mnoha případech se účastníci rozhodli ještě předtím, než se na displeji zobrazilo doporučení pro umělou inteligenci.

Použití a vnímání podpory rozhodování se však značně lišilo. Osmnáct účastníků poznamenalo, že zvažovali doporučení, ale až poté, co se již rozhodli. Dvanáct účastníků doporučení AI zcela ignorovalo, buď proto, že jim chyběly nuance, nebo účastníci nedůvěřovali systému, protože nebyla poskytnuta data, která by vedla k jejich doporučení. Celkově účastníci vyjádřili méně obav ohledně prezentace informací syntetizovaných AI.

„Zaznamenáváme postupné osvojování systémů podpory rozhodování v lékařských odbornostech jako např radiologieale stále existuje určité váhání při používání této nové technologie v dynamických a časově kritických lékařských prostředích, jako je urgentní medicína,“ řekl Mastrianni. „I když existují důkazy, že modely umělé inteligence dokážou diagnostikovat onemocnění s vysokou úrovní přesnosti, víme, že je zapotřebí více výzkumu, abychom pochopili, jak ji nejlépe integrovat do klinického prostředí, aby poskytovatelé začali této nové technologii důvěřovat a používat ji.“

Tým navrhuje, že pokračující výzkum v této oblasti by měl zahrnovat větší skupiny účastníků se zástupci širšího spektra lékařských specializací a typů nemocnic. Berou na vědomí, že před přijetím jakýchkoli takových nástrojů je zapotřebí dalších informací a podpory pro vedoucí lékařů, kteří se rozhodnou, zda a jak je zavést a jak vytvořit jasné zásady týkající se jejich použití.