Umělá inteligence Google je obviněna z poskytování nesprávných lékařských rad, které mohou být smrtelné
Osoba používá Google. Foto od Unsplash
Souhrnná funkce společnosti Google založená na umělé inteligenci byla podle vyšetřování deníku The Guardian obviněna z poskytování zavádějících lékařských pokynů pacientům s rakovinou slinivky břišní a onemocněním jater, což potenciálně ohrožuje životy.
Vyšetřování zveřejněné 2. ledna zjistilo, že nepřesné a matoucí lékařské informace objevující se v souhrnech umělé inteligence (AI) společnosti Google mohou uživatele vystavit vážným zdravotním rizikům.
V jednom případě, který odborníci označili za „opravdu nebezpečný“, Google doporučil pacientům s rakovinou slinivky, aby se vyhýbali potravinám s vysokým obsahem tuku. Lékařští specialisté uvedli, že tento návod přímo odporuje doporučeným léčebným protokolům a může zvýšit riziko úmrtí.
Anna Jewell, ředitelka pro služby, výzkum a ovlivňování ve společnosti Pancreatic Cancer UK, varovala: „Pokud se někdo řídil tím, co mu řekl výsledek vyhledávání, pak by nemusel přijmout dostatek kalorií, mít potíže s přibíráním na váze a nebyl by schopen tolerovat ani chemoterapii, ani potenciálně život zachraňující operace.“
Dalším příkladem byl nástroj AI poskytující vysvětlení klíčových ukazatelů jaterních funkcí, které odborníci považovali za „nebezpečné“, protože by mohly u některých lidí s vážným onemocněním jater mylně věřit, že jsou zdraví.
Bylo také zjištěno, že výsledky vyhledávání Google související s gynekologickými screeningovými testy rakoviny obsahují informace, které lékaři označili za „zcela mylné“.
Odborníci řekli The Guardian že takové nepřesnosti by mohly způsobit, že se pacienti uspokojí a budou ignorovat skutečné varovné signály.
Dodali, že upřednostnění zavádějících informací na nejvýraznější pozici na stránkách s výsledky vyhledávání představuje přímou hrozbu pro veřejné zdraví.
V reakci na obvinění mluvčí Google uvedl, že uvedené příklady byly pouze „neúplné snímky obrazovky“. Technologická společnost uvedla, že její výsledky vyhledávání vždy citují renomované zdroje a obsahují doporučení ke konzultaci s lékařskými odborníky.
Google tvrdil, že přehledy AI, jeho generativní funkce umělé inteligence určená ke shrnutí klíčových informací k tématu nebo otázce, jsou většinou přesné a užitečné a že společnost neustále zlepšuje kvalitu, Digitální hodinky.
