Odborníci na mrtvice volají po etických mantinelech, protože AI se rozšiřuje v klinickém výzkumu

Vzhledem k tomu, že používání umělé inteligence (AI) stále roste téměř ve všech odvětvích, je důležité vytvořit ochranné zábradlí, aby bylo zajištěno, že technologie je používána eticky a zodpovědně. To platí zejména v oblasti medicíny, kde mohou být chyby otázkou života a smrti a informace o pacientech je třeba chránit.

Skupina lékařů, výzkumníků a zástupců průmyslu diskutovala o současném využití a budoucnosti umělé inteligence v designu klinických studií iktu na zasedání akademického průmyslového kulatého stolu pro léčbu mrtvice 28. března. Vědci pod vedením Josepha Brodericka, MD z University of Cincinnati, publikovali článek v časopise Mrtvice 30. září shrnující diskuzi skupiny.

Lékaři po mozkové příhodě již používají AI k podpoře klinického rozhodování, zejména při analýze zobrazování mozku a cév. Také upozorňuje lékaře na potenciální účastníky klinických studií.

Ale s těmito a dalšími rozšířenými způsoby využití AI Broderick a jeho kolegové zdůraznili důležitost navrhování systémů „člověk ve smyčce“, které vyžadují lidský vstup a odborné znalosti při výcviku a používání modelů AI.

Myslete na umělou inteligenci jako na batole, které se učí jezdit na kole. Jezdit na kole je úžasný výkon, ale při učení je spousta pádů (chyb). Je užitečné mít odborníka, a dokonce i cvičná kolečka, která mu pomohou podepřít kolo, zatímco se dítě učí. Děti se nakonec naučí jezdit na kole velmi dobře.“

Joseph Broderick, MD, profesor na UC’s College of Medicine, hlavní poradce na UC Gardner Neuroscience Institute a ředitel NIH StrokeNet National Coordinating Center

Broderick a jeho kolegové porovnali využití strojového učení (ML) s generativní AI v aplikacích na mrtvici.

Strojové učení trénuje modely umělé inteligence na strukturovaném a lidmi spravovaném souboru dat, aby klasifikovaly nebo předpovídaly výsledky známé jako „základní pravda“. I když trénovat tyto modely s velkými datovými sadami vyžaduje více lidského úsilí, většinu strojového učení lze efektivně provádět se standardním výpočetním výkonem.

„Hlavní výhodou těchto modelů ML je to, že jejich metody jsou obecně lépe interpretovatelné a jejich rozhodovací proces transparentnější, takže je lze pochopit a vysledovat, což je rozhodující pro lékařské ověření a biologickou věrohodnost,“ napsali spoluautoři.

Generativní umělá inteligence je trénována na masivních, neoznačených textech z internetu, knih a časopisů, než je doladěna na specializovanější sady dat. To obecně znamená menší zásah člověka do tréninku modelu, ale vyžaduje to masivní výpočetní výkon a elektřinu.

„Samotné (generativní AI) modely mají miliardy nebo biliony parametrů, ale fungují jako „černá skříňka“, takže je obtížné plně pochopit, jak nebo proč byl generován konkrétní výstup,“ uvedli spoluautoři. „Vysvětlitelnost velkých jazykových modelů je aktivní oblastí výzkumu.“

Ať už používají strojové učení nebo generativní modely, výzkumníci mrtvice budou muset být proaktivní při zajišťování robustnosti datových souborů a zohlednění dat od různých výrobců skenerů, institucí a pacientů, aby se zlepšila zobecnění.

„Pokud použijeme špatná nebo omezená data a lidští experti neopraví špatná data nebo klasifikace, umělá inteligence může vytvářet nepřesná a nesprávná doporučení,“ řekl Broderick. „Nejvíc mě znepokojuje, když je AI trénována na špatných datech a dává odpovědi, které mohou ublížit.“

Výzkumníci budou také muset vyvinout přísné protokoly a záruky, aby informace o pacientech používané k výcviku modelů zůstaly soukromé a vyhovující HIPAA. Mohlo by to vypadat tak, že nezávislé třetí strany, jako je American Heart Association, centrálně shromažďují anonymizovaná data pacientů před tím, než jsou předána do modelů umělé inteligence, nebo trénují modely s údaji pouze z každé jednotlivé instituce před širším sdílením naučených parametrů.

„Ochrana soukromí pacientů představuje velkou výzvu pro použití klinických dat pro výcvik umělé inteligence ve zdravotnictví a sdílení dokonce i neidentifikovaných dat mezi zeměmi je ztíženo různými zákony týkajícími se sdílení dat v různých zemích,“ napsali spoluautoři. „Nové metody vývoje modelů jsou příslibem, že některé z těchto obav o soukromí vyřeší.“

Poté, co lidé vyvinuli a ověřili robustní modely mrtvice AI, Broderick řekl, že potenciální aplikace zahrnují lepší identifikaci potenciálních účastníků studie, sdělování návrhů zkoušek pacientům v laickém jazyce, překlad informací ze zkoušek do různých jazyků pro neanglicky mluvící pacienty a pomoc při identifikaci nejlepší léčby pro každého jednotlivého pacienta.

„Už nějakou dobu mluvíme o přesné medicíně, ale umělá inteligence je významným krokem vpřed, abychom toho dosáhli,“ řekl.

Kromě umělé inteligence autoři diskutovali o nových designech klinických studií, jako jsou například testy na platformě, které mohou efektivněji testovat několik výzkumných otázek najednou a přidávat nové otázky, když jsou zodpovězeny starší otázky. Dalším hlavním zaměřením do budoucna jsou pragmatické studie, jejichž cílem je zhodnotit účinnost léčby, když je implementována do běžné klinické péče spíše než za idealizovaných podmínek.

Porovnáním existujících léčebných postupů, začleněním zkušebních postupů do běžných klinických pracovních postupů a využitím dat z elektronických zdravotních záznamů mohou výzkumníci a organizace snížit náklady spojené s těmito typy pragmatických zkoušek a zjednodušit svou infrastrukturu. Pragmatické návrhy doufejme zvyšují šance, že pokus bude proveden úspěšně, včas a levně.

A konečně, komunita zabývající se výzkumem mrtvice potřebuje více komunity a zapojení pacientů. To by mělo zahrnovat informace od lékařského personálu na místě (EMT, lékařů v převážejících a přijímacích zařízeních a koordinátorů studií), kteří zapisují a léčí pacienty s mrtvicí v klinických studiích.

Měly by být stanoveny společné cíle pro studii, aby se minimalizovala zátěž pacientů a zkoušejících účastí ve studii, aby se účast ve studii rozšířila na komunitní prostředí, kdykoli je to možné, a aby se výsledky studie rychle rozšířily mezi pacienty, lékaře a veřejnost.

„Budoucnost je jasná a s těmito novými nástroji uděláme velký pokrok ve výzkumu,“ řekl Broderick. „Skutečnou zkouškou našeho současného věku s rychlým rozšířením umělé inteligence do našeho každodenního života je zároveň rozpoznání přesných dat a pravdy v moři slov, obrázků a videí, které mohou být špatné, škodlivé nebo nepřesné.“

„Oheň může spálit dům stejně snadno, jako zahřeje tělo nebo uvaří jídlo,“ pokračoval. „AI je oheň, který se rychle šíří, ale my se teprve začínáme učit, jak jej nejlépe používat bezpečně a moudře.“