Emocionální podpora je stále častějším důvodem, proč se lidé obracejí ke generativním chatbotům s umělou inteligencí a wellness aplikacím, ale těmto nástrojům v současné době chybí vědecké důkazy a nezbytná nařízení k zajištění bezpečnosti uživatelů, podle nového zdravotního doporučení Americké psychologické asociace.
APA Health Advisory on the use of generative AI Chatbots and Wellness Applications for Mental Health zkoumal technologie zaměřené na spotřebitele, na které se lidé spoléhají při poradenství a léčbě duševního zdraví, i když to není jejich zamýšlený účel. Tyto nástroje jsou však snadno dostupné a mají nízké náklady, což z nich činí přitažlivou volbu pro lidi, kteří se snaží najít nebo si dovolit péči od licencovaných poskytovatelů duševního zdraví.
„Jsme uprostřed velké krize duševního zdraví, která vyžaduje systémová řešení, nejen technologické prostoje,“ řekl generální ředitel APA Arthur C. Evans Jr., PhD.
Ačkoli se zdá, že chatboti jsou snadno dostupní, aby uživatelům nabídli podporu a ověření, schopnost těchto nástrojů bezpečně vést někoho, kdo prochází krizí, je omezená a nepředvídatelná.“
Arthur C. Evans Jr., CEO, APA
Poradenství zdůrazňuje, že zatímco technologie má obrovský potenciál pomoci psychologům řešit krizi duševního zdraví, nesmí odvádět pozornost od naléhavé potřeby opravit základy amerického systému péče o duševní zdraví.
Zpráva nabízí doporučení pro veřejnost, tvůrce politik, technologické společnosti, výzkumné pracovníky, klinické lékaře, rodiče, pečovatele a další zúčastněné strany, aby jim pomohla pochopit jejich roli v rychle se měnícím technologickém prostředí, aby zátěž spojená s procházením nevyzkoušených a neregulovaných digitálních prostorů nepadla pouze na uživatele. Mezi hlavní doporučení patří:
- Vzhledem k nepředvídatelné povaze těchto technologií nepoužívejte chatboty a wellness aplikace jako náhradu za péči od kvalifikovaného odborníka na duševní zdraví.
- Zabraňte nezdravým vztahům nebo závislostem mezi uživateli a těmito technologiemi
- Zavést zvláštní záruky pro děti, dospívající a další zranitelné skupiny obyvatel
„Vývoj technologií umělé inteligence předčil naši schopnost plně porozumět jejich účinkům a schopnostem. V důsledku toho jsme svědky zpráv o značném poškození dospívajících a dalších zranitelných skupin obyvatelstva,“ řekl Evans. „Pro některé to může být život ohrožující, což podtrhuje potřebu zapojení psychologů a psychologické vědy do každé fáze vývojového procesu.“
Dokonce ani generativní nástroje umělé inteligence, které byly vyvinuty s vysoce kvalitní psychologickou vědou a využívající osvědčené postupy, nemají dostatek důkazů, které by prokázaly, že jsou účinné nebo bezpečné pro použití v péči o duševní zdraví, podle doporučení. Výzkumníci musí vyhodnotit generativní chatboty AI a wellness aplikace pomocí randomizovaných klinických studií a longitudinálních studií, které sledují výsledky v průběhu času. Aby to však bylo možné, technologické společnosti a tvůrci politik se musí zavázat k transparentnosti toho, jak jsou tyto technologie vytvářeny a používány.
Vzhledem k tomu, že současné regulační rámce nejsou adekvátní k řešení reality AI v péči o duševní zdraví, doporučení vyzývá tvůrce politik, zejména na federální úrovni, aby:
- Modernizovat předpisy
- Vytvořte standardy založené na důkazech pro každou kategorii digitálních nástrojů
- Řešit mezery v dohledu Úřadu pro potraviny a léčiva
- Propagujte legislativu, která zakazuje AI chatbotům vydávat se za licencované profesionály
- Přijměte komplexní právní předpisy o ochraně osobních údajů a „bezpečné výchozí nastavení“.
Poradenství uvádí, že mnoho lékařů postrádá odborné znalosti v oblasti umělé inteligence a nabádá profesní skupiny a zdravotnické systémy, aby je školily v oblasti umělé inteligence, zkreslení, ochrany osobních údajů a odpovědného používání nástrojů umělé inteligence v praxi. Samotní lékaři by se také měli řídit dostupnými etickými pokyny a proaktivně se pacientů ptát na jejich používání chatbotů AI a wellness aplikací.
„Umělá inteligence bude hrát klíčovou roli v budoucnosti zdravotní péče, ale nemůže splnit tento slib, pokud nebudeme čelit také dlouhodobým výzvám v oblasti duševního zdraví,“ řekl Evans. „Musíme prosazovat systémovou reformu, aby byla péče dostupnější, přístupnější a včasnější – a abychom zajistili, že lidské profesionály budou podporovány, nikoli nahrazeny umělou inteligencí.“
