Třetina Britů se obrátila na umělou inteligenci, aby pomohla s problémy duševního zdraví
Přetížené služby nutí jednotlivce, aby se obrátili na AI chatboty pro podporu duševního zdraví, varovala charitativní organizace.
Vyplývá to z průzkumu, který odhalil, že více než třetina dospělých využívá technologii pro své zdraví.
Mental Health UK vyzvala k naléhavým zárukám a trvala na tom, že AI musí čerpat informace pouze z renomovaných zdrojů, jako je NHS a další důvěryhodné organizace.
Bez této ochrany, varovala charita, existuje riziko „vystavení zranitelných lidí vážné újmě“. Průzkum 2 000 lidí, který pro Mental Health UK provedla společnost Censuswide, zjistil, že 37 procent použilo chatbota s umělou inteligencí pro duševní zdraví nebo pohodu.
Mezi těmi, kteří používali umělou inteligenci na podporu duševního zdraví, jeden z pěti uvedl, že jim pomohla vyhnout se potenciální krizi duševního zdraví, zatímco podobný podíl uvedl, že je chatboti poslali na linky pomoci poskytující informace o sebevražedných myšlenkách.
Nicméně asi 11 procent lidí uvedlo, že obdrželi škodlivé informace o sebevraždě, přičemž 9 procent uvedlo, že chatbot vyvolal sebepoškozování nebo sebevražedné myšlenky.
Většina lidí používala univerzální platformy, jako je ChatGPT, Claude nebo Meta AI (66 procent), spíše než programy specifické pro duševní zdraví, jako jsou Wysa a Woebot.
Brian Dow, generální ředitel společnosti Mental Health UK, řekl: „AI by mohla být brzy záchranou pro mnoho lidí, ale s běžnými chatboty, které se používají mnohem více než ti, kteří jsou navrženi speciálně pro duševní zdraví, riskujeme, že vystavíme zranitelné lidi vážné újmě.
„Tempo změn bylo fenomenální, ale musíme postupovat stejně rychle, abychom zavedli ochranná opatření, která zajistí, že umělá inteligence podporuje blaho lidí.
„Pokud se vyvarujeme chyb z minulosti a vyvineme technologii, která se vyhýbá škodám, pak by pokrok AI mohl změnit hru, ale nesmíme věci zhoršit.
„Jak jsme tragicky viděli v některých dobře zdokumentovaných případech, existuje zásadní rozdíl mezi někým, kdo hledá podporu na renomovaných webových stránkách během potenciální krize duševního zdraví, a interakcí s chatbotem, který může čerpat informace z nespolehlivého zdroje nebo dokonce vybízet uživatele ke škodlivé akci.
„V takových případech může umělá inteligence působit jako druh kvaziterapeuta, který hledá ověření od uživatele, ale bez příslušných záruk.“
Na otázku, proč používají chatboty tímto způsobem, přibližně čtyři z 10 lidí uvedli, že je to kvůli snadnému přístupu, zatímco téměř čtvrtina uvedla dlouhé čekání na pomoc na NHS.
Dvě třetiny považovaly platformy za přínosné, zatímco 27 procent uvedlo v průzkumu, že se cítí méně sami.
Průzkum také zjistil, že muži častěji používají AI chatboty tímto způsobem než ženy.
Pan Dow dodal: „Tato data odhalují obrovský rozsah, v jakém se lidé obracejí na umělou inteligenci, aby jim pomohla spravovat své duševní zdraví, často proto, že služby jsou přetížené.“
Řekl, že společnost Mental Health UK nyní „vyzývá tvůrce politik, vývojáře a regulační orgány, aby zavedli bezpečnostní standardy, etický dohled a lepší integraci nástrojů umělé inteligence do systému duševního zdraví, aby lidé mohli věřit, že se mohou bezpečně obrátit“.
„A nikdy nesmíme ztratit ze zřetele lidské spojení, které je jádrem dobré duševní péče,“ dodal pan Dow.
„To nejen ochrání lidi, ale také vybuduje důvěru v AI, což pomůže prolomit bariéry, které některým stále brání v jejím používání.
„To je zásadní, protože, jak ukazuje tento průzkum, AI má potenciál být transformačním nástrojem při poskytování podpory lidem, pro které je tradičně obtížnější oslovit pomoc, když ji potřebují.“
