OpenAI se připojuje k dětské bezpečnostní skupině pro iniciativu kalifornského hlasování o chatbotech

Obhájce bezpečnosti dětí Common Sense Media a tvůrce ChatGPT OpenAI se dnes spojili, aby prosadili volební opatření, které by pozměnilo kalifornskou ústavu s cílem chránit děti před doprovodnými chatboty online.

Ti dva dříve plánovali předložit voličům konkurenční iniciativy, přičemž každá z nich stanovila, že vyhraje ta, která získala nejvíce hlasů „ano“. Návrh OpenAI do značné míry odrážel stávající zákony, zatímco opatření týkající se zdravého rozumu zahrnovalo nové zákazy toho, k jakým systémům AI mohou děti přistupovat.

Sloučené opatření je známé jako Zákon o AI pro rodiče a děti. Mimo jiné by to:

• Vyžadovat, aby vývojáři chatbotů používali technologii k odhadu věkového rozmezí uživatele a aplikovali filtry a ochranná nastavení pro lidi, jejichž věk je předpokládaný pod 18 let
• Požadovat, aby systémy umělé inteligence prošly nezávislými audity za účelem zjištění rizik pro bezpečnost dětí a jejich nahlášení generálnímu prokurátorovi v Kalifornii
• Zakázat reklamu cílenou na děti a prodej nebo sdílení dat dětí bez souhlasu rodičů
• Zastavte manipulaci prostřednictvím emoční závislosti tím, že zabráníte systémům umělé inteligence podporovat izolaci od rodiny nebo přátel, simulovat romantické vztahy s dětmi nebo tvrdit, že jsou vnímavé.

Mluvčí Zdravého rozumu uvedl, že opatření bylo podáno ve čtvrtek odpoledne. Jeho na webu nejvyšší státní zástupkyně zatím není k vidění ale můžeš přečtěte si kopii získanou společností CalMatters zde. Jak popsáno v tiskové zprávěkombinované opatření ruší zákaz studentských chytrých telefonů ve školách K-12 v Kalifornii a zákaz nezletilých používat chatboty schopné zapojit se do erotických nebo sexuálně explicitních rozhovorů, které byly součástí původní iniciativy Common Sense Media.

Iniciativa musí získat 546 651 podpisů, aby se v listopadu dostala k voličům. Ministryně zahraničí Kalifornie Shirley Weberová musí do 25. června rozhodnout, zda dosáhne této hranice nebo se kvalifikuje do hlasování.

Common Sense předložil svou původní volební iniciativu, California Kids AI Safety Act, loni na podzim, nedlouho poté Guvernér Gavin Newsom vetoval návrh zákona, jehož autorem byla nezisková organizace a který obsahoval podobná ustanovení.

V reakci na to v prosinci 2025 OpenAI předložilo konkurenční volební opatření, které zrcadlí zákon, který Newsom podepsal loni v říjnuvyžaduje, aby poskytovatelé doprovodných chatbotů zavedli protokol pro sebevražedné myšlenky a každé tři hodiny informovali lidi, že mluví s AI. Kritici označili tento krok za manipulativní a navržený tak, aby mařil silnější ochranu dětí.

Výzkum Common Sense Media zjistil, že sedm z 10 dospívajících používá doprovodné chatboty a že tato technologie je příliš nebezpečné na to, aby je používali nezletilí. Při propagaci své původní volební iniciativy skupina varovala, že bez akce by tato technologie mohla vést k větším škodám a závislosti pro mladé lidi. V jednom dobře propagovaný případrodiče kalifornského dospívajícího Adama Rainea zažalovali OpenAI a tvrdili, že Raine byl trénován ChatGPT OpenAI ke spáchání sebevraždy.

Ochota OpenAI ke kompromisům je v kontrastu s tím, jak se technologické společnosti spojily, aby prosadily svou cestu v politickém boji v roce 2020. V tomto roce hlavní hráči koncertní ekonomiky jako DoorDash, Instacart, Lyft a Uber utratili 200 milionů dolarů financování úspěšné volební iniciativy regulující koncertní činnost, návrh 22. Fakticky je osvobodila od státního zákona, který by vyžadoval, aby společnosti poskytovaly svým řidičům plné zaměstnanecké výhody.

Senátor Steve Padilla, demokrat z Chula Vista, který nesl návrh zákona o chatbotech podepsaný Newsomem, označil sloučené volební opatření za významný průlom. Dodal ale, že si myslí, že by tuto záležitost měli řešit zákonodárci a hejtman, nikoli přímo voliči. Vzhledem k tomu, že volební iniciativa by pozměnila ústavu státu, Padilla řekl, že by to „vytvořilo zbytečně vysokou laťku pro revizi a aktualizaci tohoto zákona v budoucnu. Legislativní slyšení navíc poskytnou širší veřejnosti příležitost vyjádřit se k této důležité otázce a poskytnout jí informace.“

V posledních týdnech Padilla navrhl návrh zákona se čtyřletým moratoriem na prodej hraček s doprovodnými chatboty uvnitř. OpenAI podepsalo partnerství s výrobcem Barbie Mattel ale zatím nevyrábí žádné produkty.

Boj OpenAI u kalifornské volební urny se neomezuje pouze na problémy s online bezpečností dětí. Jedna navrhovaná volební iniciativa by dala státní komisi pravomoc zpomalit nebo zastavit vývoj modelu umělé inteligence, pokud by členové komise měli podezření na katastrofální riziko poškození Kalifornie. Dva další návrhy se zaměřují na firemní konverze z neziskových na ziskové společnosti, jak OpenAI plánovala. Tyto iniciativy nutí neziskové organizace, které se restrukturalizují takovým způsobem, aby věnovaly veškerý svůj majetek veřejnému prospěchu lidstva. K dosažení tohoto cíle by iniciativy vytvořily komisi, která má pravomoc vypnout modely umělé inteligence a která pořádá soutěže, které vyzývají veřejnost, aby navrhla způsoby, jak může umělá inteligence pomoci lidstvu. V rámci jedné z iniciativ by komise měla také pravomoc zrušit převody neziskových organizací.

OpenAI byla založena asi před deseti lety s chartou, která uvádí, že jejím účelem je prospívat lidstvu. Její plány na přeměnu na obecně prospěšnou společnost vedly k tvrdá kritika ze strany neziskových organizací a prověřování generálními prokurátory v Kalifornii a Delaware. Oba státy nakonec uzavřely dohody s OpenAI o umožnění restrukturalizace poté, co společnost souhlasila s umístěním zhruba 25 % svých aktiv do neziskové organizace.