Podle nové studie kolektivy člověka – Ai vytvářejí nejpřesnější lékařské diagnózy

Umělá inteligence (AI) může efektivně podporovat lékaře při diagnóze. Dělá odlišné chyby než lidé – a tato komplementarita představuje dříve nevyužitá síla. Mezinárodní tým nyní poprvé systematicky prokázal, že kombinace lidských odborností s modely AI vede k nejpřesnějším otevřeným diagnózám. Jejich papír je Publikováno v Sborník Národní akademie věd.

Diagnostické chyby patří mezi nejzávažnější problémy v každodenní lékařské praxi. Systémy AI-zejména velké jazykové modely (LLM), jako jsou ChatGPT-4, Gemini nebo Claude 3-nabízejí nové způsoby, jak efektivně podporovat lékařské diagnózy. Tyto systémy však také zahrnují značná rizika – například mohou „halucinovat“ a generovat nepravdivé informace. Kromě toho reprodukují stávající sociální nebo lékařské předpojatosti a dělají chyby, které jsou často matoucí pro lidi.

Mezinárodní výzkumný tým vedený Institutem pro lidský rozvoj Maxe Plancka a ve spolupráci s partnery z projektu Human Diagnóza (San Francisco) a Institutem kognitivních věd a technologií Italské národní rady pro výzkum (CNR-ISTC Řím), zkoumal, jak mohou lidé a AI nejlépe spolupracovat.

Výsledek: Hybridní diagnostické kolektivy – skupiny sestávající z lidských odborníků a AI systémů – jsou výrazně přesnější než kolektivy sestávající pouze z lidí nebo AI. To platí zejména pro složité, otevřené diagnostické otázky s mnoha možnými řešeními, spíše než jednoduchá rozhodnutí ano/ne.

„Naše výsledky ukazují, že spolupráce mezi lidmi a modely AI má velký potenciál ke zlepšení bezpečnost pacienta“říká hlavní autor Nikolas Zöller, postdoktorandský výzkumný pracovník v Centru pro adaptivní racionalitu Institutu pro lidský rozvoj Maxe Plancka.

Vědci použili data z projektu lidské diagnostiky, který poskytuje klinické viněty – zkroužkové popisy lékařských případových studií – spolu se správnými diagnózami. Studie s použitím více než 2 100 těchto viněta porovnávala diagnózy provedené lékaři s diagnózami s diagnózami s pěti předními modely AI.

V centrálním experimentu byly simulovány různé diagnostické kolektivy: jednotlivci, lidské kolektivy, modely AI a smíšené kolektivy člověka – AI. Celkově vědci analyzovali více než 40 000 diagnóz. Každý byl klasifikován a hodnocen podle mezinárodních lékařských standardů (Snomed CT).

Lidé a stroje se navzájem doplňují – dokonce i ve svých chybách

Studie ukazuje, že kombinace více modelů AI zlepšila diagnostickou kvalitu. Kolektivy AI v průměru překonaly 85% lidských diagnostiků. Bylo však mnoho případů, kdy lidé vedli lépe. Je zajímavé, že když AI selhala, lidé často znali správnou diagnózu.

Největším překvapením bylo, že kombinace obou světů vedla k významnému zvýšení přesnosti. Dokonce i přidání jediného modelu AI do skupiny lidských diagnostiků – nebo naopak – výsledek vylepšilo. Nejspolehlivější výsledky pocházely z kolektivních rozhodnutí zahrnujících více lidí a více AI.

Vysvětlení je, že lidé a AI systematicky odlišují chyby. Když AI selhala, lidský profesionál mohl tuto chybu kompenzovat – a naopak. Tato takzvaná komplementarita chyby způsobuje, že hybridní kolektivy jsou tak výkonné. „Nejde o nahrazení lidí stroji. Spíše bychom měli vnímat umělou inteligenci jako doplňkový nástroj, který odvíjí svůj plný potenciál v kolektivu rozhodování“říká spoluautor Stefan Herzog, senior výzkumný vědec z Institutu pro lidský rozvoj Maxe Plancka.

Vědci však také zdůrazňují omezení jejich práce. Studie zvažovala pouze textové viněty založené na případech-ne skutečnými pacienty v reálném klinickém prostředí. To, zda lze výsledky převést přímo do praxe, zůstává otázkou pro budoucí studie, která se má zabývat. Stejně tak se studie zaměřila pouze na diagnostiku, nikoliv léčbu a správná diagnóza nutně zaručuje optimální léčbu.

Rovněž zůstává nejisté, jak budou podpůrné systémy založené na AI v praxi přijímány zdravotnickým personálem a pacienty. Potenciální rizika zkreslení a diskriminace AI i lidí, zejména ve vztahu k etnickým, sociálním nebo genderovým rozdílům, také vyžadují další výzkum.

Široká řada aplikací pro hybridní kolektivy člověka – Ai

Studie je součástí hybridního lidského umělého kolektivní inteligence v projektu Open-End rozhodování (HACID), jehož cílem je podpořit rozvoj budoucích systémů na podporu klinického rozhodování prostřednictvím inteligentní integrace lidské a strojové inteligence. Vědci vidí zvláštní potenciál v regionech, kde je přístup k lékařské péči omezený. Hybridní kolektivy člověka – AI by mohli v takových oblastech zásadně přispět k většímu spravedlnosti.

„Přístup lze také převést do jiných kritických oblastí – například právní systém, reakce na katastrofu nebo klimatická politika—Vára, kde jsou zapotřebí složitá, vysoce riziková rozhodnutí. Například projekt HACID vyvíjí také nástroje pro zlepšení rozhodování v přizpůsobení se klimatu, “říká Vito Trianni, spoluautor a koordinátor projektu HACID.