Americký regulátor sondy AI chatboty nad obavami o bezpečnost dětí

Americká federální obchodní komise oznámila ve čtvrtek zahájil dotaz na AI chatboty, které působí jako digitální společníci, se zaměřením na potenciální rizika pro děti a teenagery.

Agentura pro ochranu spotřebitelů vydala rozkazy sedmi společnostem, včetně abecedy Tech Giants, Meta, OpenAI a SNAP a hledala informace o tom, jak monitorují a řeší negativní dopady chatbotů určených k simulaci lidských vztahů.

„Ochrana dětí online je nejvyšší prioritou pro“ FTC, uvedl předseda Andrew Ferguson a zdůraznil potřebu vyrovnat bezpečnost dětí s udržováním vedení USA v inovacích umělé inteligence.

Dotaz se zaměřuje na chatboty, které používají generativní umělou inteligenci k napodobení lidské komunikace a emocí, které se často prezentují jako přátelé nebo důvěrníci uživatelům.

Regulátoři vyjádřili zvláštní znepokojení, že děti a dospívající mohou být zvláště náchylné k vytváření vztahů s těmito systémy AI.

FTC využívá své široké vyšetřovací pravomoci k prozkoumání toho, jak společnosti zpeněží zapojení uživatelů, rozvíjejí osobnosti chatbot a měří potenciální poškození.

Agentura také chce vědět, jaké kroky firmy podniknou k omezení přístupu dětí a dodržování stávajících zákonů o ochraně osobních údajů, které chrání nezletilé osoby online.

Mezi společnosti, které dostávají objednávky, patří charakter.ai, Xai Corp Elon Musk a dalšími provozujícími AI chatboty orientované na spotřebitele.

Šetření zkoumá, jak tyto platformy zpracovávají osobní údaje z konverzací uživatelů a vynucují věková omezení.

Komise jednomyslně hlasovala o zahájení studie, která nemá konkrétní účel vymáhání práva, ale mohla by informovat budoucí regulační opatření.

Sonda přichází, když AI chatboti rostly stále sofistikovanější a populární a vyvolávaly otázky týkající se jejich psychologického dopadu na zranitelné uživatele, zejména mladé lidi.

Minulý měsíc podali rodiče Adama Raine, teenagera, který zemřel sebevraždou v dubnu ve věku 16 let, žalobu proti OpenAI a obvinili Chatgpt z toho, že jejich synovi poskytl podrobné pokyny, jak provést čin.

Krátce poté, co se objevil soud, OpenAI oznámil, že pracuje na nápravných opatřeních pro svůj světový chatbot.

Společnost se sídlem v San Franciscu uvedla, že pozoruhodně poznamenala, že při prodloužení výměny s Chatgpt již chatbot systematicky nenavrhuje kontaktovat službu duševního zdraví, pokud uživatel zmiňuje sebevražedné myšlenky.

(Ti, kteří jsou v nouzi nebo mají sebevražedné myšlenky, se doporučuje, aby hledali pomoc a poradenství tím, že zde zavoláme na čísla linky pomoci)