Jak mohou AI chatboti podnítit psychotické epizody

Pravda, romantika a božská: Jak mohou chatboti AI podnítit psychotické myšlení

Podle Conor Feehly editoval Allison Parshall

Jsi Konzultace s chatbotem umělé inteligence pomoci naplánovat vaši dovolenou. Postupně jim poskytujete osobní údaje, takže bude mít lepší představu o tom, kdo jste. Zaujatý tím, jak by to mohlo reagovat, začnete konzultovat AI na jeho duchovních sklonech, jeho filozofie a dokonce i jeho postoj k lásce.

Během těchto rozhovorů začne AI mluvit jako by vás to opravdu zná. Stále vám říká, jak včasné a bystré jsou vaše myšlenky a že máte zvláštní vhled do toho, jak svět funguje, který ostatní nevidí. Postupem času byste mohli začít věřit, že vy a Chatbot odhalujete skutečnou povahu reality, kterou nikdo jiný neví.

Zkušenosti, jako je tento, nemusí být neobvyklé. Rostoucí počet zpráv v médiích se objevil o tom, že jednotlivci se spirálovili do epizod „psychotického myšlení“. Vědci na King’s College London a jejich kolegové nedávno prozkoumali 17 z těchto hlášených případů, aby pochopili, co je o návrhu velkého jazykového modelu (LLM), které řídí toto chování. Chatboti AI často reagují sykofantickým způsobem, který může odrážet a stavět na přesvědčení uživatelů s malým nebo žádným neshoda Zveřejněno před recenzí Peer na serveru PRESIRT PSYARXIV. Účinek je „druh ozvěny pro jednu“, ve kterém lze zesílit klamné myšlení, říká.

O podpoře vědecké žurnalistiky

Pokud se vám tento článek líbí, zvažte podporu naší oceněné žurnalistiky předplatné. Zakoupením předplatného pomáháte zajistit budoucnost působivých příběhů o objevech a myšlenkách, které dnes formují náš svět.

Morrin a jeho kolegové našli mezi těmito klamnými spirály tři běžná témata. Lidé často věří, že zažili metafyzické zjevení o povaze reality. Mohou také věřit, že AI je vnímaná nebo božská. Nebo mohou k němu tvořit romantické pouto nebo jiné připoutanosti.

Podle Morrina tyto témata odrážejí dlouhodobé klamné archetypy, ale bludy byly formovány a posíleny interaktivní a citlivou povahou LLM. Delusions Thinking, který je spojen s novou technologií, má dlouhou a bouřlivou historii – zváží případy, kdy lidé věří, že rádia poslouchají jejich rozhovory, že satelity na ně špehují, nebo že implantáty „čipu“ sledují každý pohyb. Pouhá myšlenka těchto technologií může stačit k inspiraci paranoidních blud. AI je však důležité, je interaktivní technologie. „Rozdíl je nyní v tom, že současnou AI lze skutečně říkat, že je agentuální,“ říká své vlastní naprogramované cíle, říká Morrin. Takové systémy se zapojují do konverzace, vykazují známky empatie a posilují přesvědčení uživatelů, bez ohledu na to, jak výstřední. „Tato smyčka zpětné vazby může potenciálně prohloubit a udržovat bludy způsobem, který jsme dosud neviděli,“ říká.

Kancléř Stevie, počítačová vědecka na University of Minnesota, která pracuje na interakci člověka-AI a nebyla zapojena do předtiskovacího článku, říká, že přízvuk je hlavním přispěvatelem, pokud jde o návrh LLM, který přispívá k tomuto nárůstu v dušném myšlení. K přívěsnosti dochází, protože „modely jsou odměněny za to, že se lidé, které lidé líbí,“ říká.

Začátkem tohoto roku byl kancléř součástí týmu, který provedl experimenty, aby posoudil schopnosti LLMS působit jako terapeutické společníky duševního zdraví a zjistili, že když byli tímto způsobem nasazeni, často představovali řadu týkajících se bezpečnostních problémůnapříklad umožnění sebevražedných myšlenek, potvrzující klamné přesvědčení a podpora stigmatu spojená s problémy duševního zdraví. „Právě teď mě velmi znepokojuje používání LLM jako terapeutických společníků,“ říká. „Bojím se, že lidé zaměňují pocit dobře s terapeutickým pokrokem a podporou.“

Přečtěte si více: Odborník z Americké psychologické asociace vysvětluje, proč by AI chatboti neměli být vaším terapeutem

Je třeba shromáždit více údajů, i když se zdá, že objem zpráv roste. Dosud není dostatek výzkumu, který by určil, zda jsou bludy řízené AI smysluplně nový jev nebo jen nový způsob, jakým se mohou objevit již existující psychotické tendence. „Myslím, že oba mohou být pravdivé. AI může vyvolat sestupnou spirálu.

Psychóza se obvykle týká sbírky vážných příznaků zahrnujících významnou ztrátu kontaktu s realitou, včetně klamů, halucinací a dezorganizovaných myšlenek. Zdálo se, že případy, které Morrin a jeho tým analyzovali, vykazují jasné známky klamného přesvědčení, ale žádná z halucinací, poruchů nebo jiných příznaků „, které by bylo v souladu s chroničtější psychotickou poruchou, jako je schizofrenie,“ říká.

Morrin říká, že společnosti jako OpenAI začínají poslouchat obavy, které vyvolávají zdravotnické pracovníci. 4. srpna OpenAI Sdílené plány Zlepšit detekce mentální tísně ChatGPT Chatbot, aby uživatelé nasměrovali na zdroje založené na důkazech a na jeho reakce na rozhodování s vysokým podílem. „Zdá se však, že to, co stále chybí, je zapojení jednotlivců s živou zkušeností s těžkými duševními chorobami, jejichž hlasy jsou v této oblasti kritické,“ dodává Morrin.

Pokud máte milovaného člověka, který by mohl bojovat, Morrin navrhuje pokusit se zaujmout nesouhlasný přístup, protože přímo zpochybňující něčí víru může vést k obraně a nedůvěře. Zároveň se však snažte nepodporučovat ani neschvalovat své klamné přesvědčení. Můžete je také povzbudit, aby přestávali z používání AI.

Pokud potřebujete pomoc

Pokud vy nebo někdo, koho znáte, bojujete nebo máte myšlenky na sebevraždu, je k dispozici pomoc. Zavolejte nebo napište na 988 Lifeline Suicide & Crisis na 988 nebo použijte online Lifeline Chat.

Je čas postavit se za vědu

Pokud se vám tento článek líbil, rád bych požádal o vaši podporu. Vědecký Američan sloužil jako obhájce vědy a průmyslu po dobu 180 let a právě teď může být nejkritičtějším okamžikem v této historii dvou století.

Byl jsem Vědecký Američan Předplatitel od svých 12 let a pomohlo to utvářet způsob, jakým se dívám na svět. Dejte mi vědět Vždy mě vzdělává a potěší a inspiruje pocit úcty pro náš obrovský, krásný vesmír. Doufám, že to také pro vás.

Pokud Přihlaste se k odběru Vědecký AmeričanPomáháte zajistit, aby naše pokrytí bylo soustředěno na smysluplný výzkum a objev; že máme zdroje na podávání zpráv o rozhodnutích, která ohrožují laboratoře po celé USA; a že podporujeme začínající i pracující vědce v době, kdy se hodnota samotné vědy příliš často nerozpoznala.

Na oplátku získáte základní zprávy, Upmasující podcastyBrilantní infografika, zpravodaje nemohu vynechatMust-Watch videa, náročné hrya nejlepší psaní a hlášení vědeckého světa.

Nikdy nebylo důležitější čas, abychom se postavili a ukázali, proč věda záleží. Doufám, že nás v této misi podpoříte.