OpenAI říká, že milion uživatelů ChatGPT mluví o sebevraždě

Data od výrobce ChatGPT OpenAI naznačují, že více než milion lidí používajících jeho generativního chatbota AI projevilo zájem o sebevraždu.

V blogovém příspěvku zveřejněném v pondělí společnost AI odhaduje, že přibližně 0,15 procenta uživatelů má „konverzace, které zahrnují explicitní indikátory potenciálního sebevražedného plánování nebo úmyslu“.

Vzhledem k tomu, že OpenAI uvádí, že více než 800 milionů lidí používá ChatGPT každý týden, to znamená asi 1,2 milionu lidí.

Společnost také odhaduje, že přibližně 0,07 procenta aktivních týdenních uživatelů vykazuje možné známky mimořádných událostí v oblasti duševního zdraví souvisejících s psychózou nebo mánií, což znamená o něco méně než 600 000 lidí.

Tento problém se dostal do popředí poté, co kalifornský teenager Adam Raine zemřel na začátku tohoto roku sebevraždou. Jeho rodiče podali žalobu a tvrdili, že mu ChatGPT poskytl konkrétní rady, jak se zabít.

OpenAI od té doby posílila rodičovskou kontrolu pro ChatGPT a zavedla další mantinely, včetně rozšířeného přístupu ke krizovým horkým linkám, automatického přesměrování citlivých konverzací na bezpečnější modely a jemných připomenutí pro uživatele, aby si během prodloužených relací udělali přestávky.

OpenAI uvedla, že také aktualizovala svého chatbota ChatGPT, aby lépe rozpoznávala a reagovala na uživatele, kteří zažívají mimořádné události v oblasti duševního zdraví, a spolupracuje s více než 170 odborníky na duševní zdraví na výrazném snížení problematických reakcí.

(Těm, kteří jsou v nouzi nebo mají sebevražedné myšlenky, doporučujeme, aby vyhledali pomoc a radu na telefonním čísle linky pomoci zde)