„Doktorské roboty“ by mohly vynechat vážné nemoci, varování hlavních studií

Zpráva přichází, když vláda oznamuje větší využití AI ve zdravotnictví v rámci svého desetiletého plánu.

V prvním prvním soudním řízení bylo požádáno 1 298 členů veřejnosti, aby se zabývaly deseti běžnými scénáři zdravotního stavu – jako je bolest na hrudi nebo břišní problémy – pomocí předního AI chatbota (jako je GPT -4o Chatgpt) nebo tradiční zdroje, jako je Google nebo web NHS.

Boti, když byli testováni samostatně, fungovali působivě – správně identifikovali zdravotní stav 95 % času.

Ale když je skuteční lidé použili na pomoc, výsledky byly znepokojivě chudé. Diagnóza byla pouze správná jUST 34,5 % případů a většinu času, 56 % případů, nesprávné rozhodnutí o tom, co dělat – jako je jít do A&E nebo zůstat doma – bylo učiněno pouze.

Neúspěch, řekněme vědci z hlavních akademických institucí, nespočívá v lékařských znalostech robotů, ale s tím, jak interagují s lidmi.

Uživatelé často poskytovali roboty neúplné nebo vágní informace, zatímco roboti, i když technicky korektní, nedokázali jasně vysvětlit, co dělat dál.

Výsledky vyvolávají vážné obavy pro vládní a technologické firmy propagující AI ve zdravotnictví.

Nejnovější vývoj:

Robert Dingwall, profesor v sociálních vědách na Nottingham Trent University, řekl: „Toto je pouze jedna studie, ale je to užitečná připomínka, že to, co funguje v modelech, simulacích a představách technologických vývojářů, zřídka převádí jako úspěšně do skutečného života.

„Ministerstvo zdravotnictví a sociální péče by se mělo starat o to, aby se farma nesadila na zlato bláznů.“

A profesor Carl Heneghan, praktický lékař urgentní péče a ředitel medicíny založeného na důkazech Oxford University, uvedli: „Lékaři musí trénovat po dobu deseti let, aby byli konzultanty, rozvíjeli zkušenosti a odborné znalosti, aby uznali vážné a život ohrožující nemoci ze světských.

„Zatímco AI hraje roli v oblastech, jako je interpretace rentgenových paprsků a EKG, není to náhrada za důkladnou historii a vyšetření, pokud jde o diagnostiku onemocnění. Rozsáhlé zavádění netestovaných AI může plýtvat zdroji a, jak ukazuje tato studie, poškodit pacienty, kteří hledají diagnózu.“

Minulý týden vláda zveřejnila svůj desetiletý plán přesunout NHS z léčby nemoci k tomu, aby ji zabránila-strategie silně závislá na digitálních nástrojích, aplikacích a umělé inteligenci, která posílí pacienty.

Ve svém manifestu zveřejněném ve čtvrtek uvedl: „Plán jej přivede (NHS) do digitálního věku, což zajistí, že zaměstnanci budou mít prospěch z výhod a efektivity dostupných z nové technologie….

„Vláda bude také používat digitální telefonii, takže všechny telefonní hovory na praktiky GP budou zodpovězeny rychle. Pro ty, kteří to potřebují, dostanou digitální nebo telefonní konzultaci ve stejný den, kdy o to požádají.“

Tento výzkum však ukazuje mezeru mezi výkonem AI v laboratoři a jejím využitím v reálném světě.

Autoři varují, že současné benchmarky jsou zavádějící a že nástroje AI musí být testovány nejen na znalostech, ale také o tom, jak dobře komunikují s neexperty.

„JUST, protože chatbot může složit lékařskou zkoušku, neznamená, že vám může pomoci, když jste nemocní, “řekl jedna ze studie vede.„ Je to jako dát někomu stetoskop a očekávat, že provedou operaci srdce. “

Vědci tvrdí, že budoucí nástroje AI musí být mnohem aktivnější – klást jasné, vést otázky a aktivně řídit konverzaci, místo aby se spoléhali na uživatele, aby věděli, jaké podrobnosti jsou lékařsky důležité.

Zjištění Echo dřívější výzkum ukazují, že ani vyškolení lékaři se nezlepšily při diagnostice pacientů s AI pomocí. Nyní víme, že to samé platí pro širokou veřejnost.

Odborníci před nasazením AI ve zdravotnictví požadují přísné uživatelské zkoušky, zejména pokud jde o přímé rady pro pacienty.

Bez toho existuje riziko, že by lidé mohli být ukončeni do falešného pocitu bezpečnosti, odvrátit vidění lékaře – nebo zbytečně spěchat do A&E.