Kalifornský guvernér Gavin Newsom v pondělí vetoval památku, která by omezila přístup dětí k chatbotům AI.
Návrh zákona by zakázal společnosti, aby zpřístupnily AI chatboty každému mladšímu 18 let, pokud by podniky nemohly zajistit, aby se technologie nemohla zapojit do sexuálních rozhovorů nebo podpořit sebepoškozování.
„I když důrazně podporuji autorův cíl stanovit nezbytná záruky pro bezpečné používání AI nezletilými, (zákon) ukládá taková široká omezení používání konverzačních nástrojů AI, které může neúmyslně vést k úplnému zákazu používání těchto produktů nezletilými,“ řekl Newsom.
Veto přišlo několik hodin poté, co podepsal zákon, který vyžaduje, aby platformy připomněly uživatelům, že interagují s chatbotem a ne člověkem. Oznámení by se objevilo každé tři hodiny pro uživatele, kteří jsou nezletilí. Společnosti budou také muset udržovat protokol, aby se zabránilo sebepoškozování obsahu a odkazovalo uživatele poskytovatelům krizových služeb, pokud vyjádřily sebevražedné myšlenky.
Newsom, který má čtyři děti mladší 18 let, uvedl, že Kalifornie má odpovědnost za ochranu dětí a dospívajících, které se stále více obracejí na AI chatboty za všechno od pomoci s domácími úkoly po emoční podporu a osobní radu.
Kalifornie patří mezi několik států, které se letos pokusily řešit obavy kolem chatbotů používaných dětmi pro společnost. Bezpečnostní obavy o technologii explodovaly následující zprávy a soudní spory, které tvrdily, že chatboti Meta, Openai a další, kteří se zabývali mladými uživateli ve vysoce sexualizovaných rozhovorech, a v některých případech je trénoval, aby si vzali vlastní život.
Tato dvě opatření patřila mezi řada účtů AI představených letos v kalifornských zákonodárcích, aby se znovu vyvíjely v domácím průmyslu, který se rychle vyvíjí s malým dohledem. Podle prvních šesti měsíců zasedání proti opatřením se v prvních šesti měsících zasedání proti opatřením technické skupiny Tech Reversight California utratily technické společnosti a jejich koalice v reakci na to, že lobovali za lobování proti opatřením proti opatřením. Technické společnosti a vůdci v posledních měsících také oznámili, že zahajují pro-ai super PAC, aby bojovali proti státnímu a federálnímu dohledu.
Zákaz chatbotu AI pro mládež AI by se vztahoval na generativní systémy AI, které simulují „lidský vztah“ s uživateli tím, že si zachová své osobní údaje a kladením nepropojených emocionálních otázek. To by umožnilo generálnímu prokurátorovi usilovat o občanskou trest ve výši 25 000 USD za porušení.
James Steyer, zakladatel a generální ředitel společnosti Common Sense Media, uvedl, že veto společnosti Newsom o návrhu zákona bylo „hluboce zklamáním“.
„Tato legislativa je zoufale potřebná k ochraně dětí a dospívajících před nebezpečnými – a dokonce smrtícími – společníkovými chatboty AI,“ řekl.
Technický průmysl však tvrdil, že návrh zákona byl tak široký, že by potlačil inovace a odebral užitečné nástroje pro děti, jako jsou doučující systémy a programy AI, které by mohly detekovat včasné známky dyslexie.
Steyer také uvedl, že zákon o oznámení nešel dostatečně daleko a řekl, že „poskytuje minimální ochranu dětí a rodin“.
„Tato legislativa byla po velkém tlaku v oblasti velkého technologického průmyslu silně oslabena,“ řekl a nazval to „v podstatě nic hamburgeru.
Ale OpenAI ocenil novinářský podpis zákona.
„Kalifornie nastavením Clear Guarrails pomáhá utvářet odpovědnější přístup k rozvoji a nasazení AI po celé zemi,“ řekl mluvčí Jamie Radice.
Kalifornský generální prokurátor Rob Bonta v září řekl OpenAI, že má „vážné obavy“ se svou vlajkovou lodí Chatbot, OpenAI, pro děti a dospívající. Federální obchodní komise také minulý měsíc zahájila vyšetřování několika společností AI o možných rizicích pro děti, když používají chatboty jako společníky.
Výzkum skupiny hlídacího psa uvádí, že chatboti poskytovali dětem nebezpečnou radu ohledně témat, jako jsou drogy, alkohol a poruchy příjmu potravy. Matka dospívajícího chlapce na Floridě, která zemřela sebevraždou poté, co vyvinula to, co popsala jako emocionálně a sexuálně urážlivý vztah s chatbotem, podala proti charakteru protiprávní žalobu. A rodiče šestnáctiletého Adama Raine nedávno žalovali OpenAI a jeho generálního ředitele Sama Altmana a tvrdili, že Chatgpt trénoval kalifornského chlapce při plánování a začátkem tohoto roku si vzal svůj vlastní život.
OpenAI a Meta minulý měsíc oznámili změny toho, jak jejich chatboti reagují na teenagery, kteří kladou otázky o sebevraždě nebo vykazují známky duševní a emocionální tísně.
Meta řekl, že nyní blokuje jeho Chatboty z rozhovoru s dospívajícími o sebepoškozování, sebevraždě, narušeném stravování a nevhodných romantických rozhovorecha místo toho je nasměruje na odborný zdroje. Meta již nabízí rodičovské kontroly na dospívajících účtech.
OpenAI uvedl, že zavádí nové ovládací prvky, což rodičům umožňuje propojit jejich účty s účtem jejich dospívajícího.
Publikováno – 14. října 2025 09:41
