Stručně řečeno
Gov. Gavin Newsom schválil povinné monitorování a připomenutí, když děti používají chatboty. Návrh zákona podporovaný dětskými obhájci však byl ponechán nepodepsán.
Gov. Newsom dnes oznámeno že podepsal Senát Bill 243, právní předpisy, které přidávají zábradlí chatbotům poháněným AI, které působí ve státě.
Legislativa rozdělila zástupce technického průmyslu a obhájce bezpečnosti dětí. Newsom opustil nepodepsaný další návrh zákona, který reguloval takové roboty, Bill Assembly Bill 1064, který obhájci dítěte argumentovali lépe chráněné děti.
Podle SB 243 by byly společnosti, které nabízejí chatboty, jako je Chatgpt OpenAI, vyžadovány, aby zavedly konkrétní záruky. Mezi nimi by patřily požadavky na sledování chatů pro známky sebevražedných myšlenek a podniknout kroky k tomu, aby se uživatelům zabránila v tom, aby se sami ublížili, například jejich odkazem na vnější pomoc v oblasti duševního zdraví.
Tvůrci chatbotů by také byli povinni připomenout uživatelům, že odpovědi jsou uměle generovány, a aby vytvořili „přiměřená opatření“, aby zabránili dětem vnímat sexuálně explicitní obsah při používání robotů. Děti, které používají roboty, by také získaly připomenutí k přestávce.
Legislativa, mezi první v národě regulujícím chatboty, přichází po řadě rušivých zpráv. Příběhy po celé zemi zdůraznily, jak mohou chatboti Zdánlivě krmení bludynebo selhat Vyzvedněte si známky sebevražedných nápadů. Meta, mateřská společnost Facebooku, letos čelila vůli Únik kopie Z jeho pravidel Chatbot odhalila, že společnost umožnila svým robotům „smyslné“ rozhovory s dětmi.
SB 243 obdržela podporu od měnící se mix podporovatelů, přičemž technický průmysl skupiny The Computer and Communications Industry Association skončila ji podporou. Poté, co se původně postavila proti legislativě, skupina po změnách uvedla, že „poskytne bezpečnější prostředí pro děti, a zároveň nevytváří zákaz AI na produkty AI“.
Avšak obhájci bezpečnosti dětí po původně podporovali SB 243, po těchto změnách zakysali právní předpisy a uvedli, že příliš přiznali technologický průmysl. Dvě skupiny, technické dohled a média zdravého rozumu, místo toho vyvolaly podporu za AB 1064 a uvedly, že návrh zákona „stanoví kritická předpisy pro rozvoj a používání systémů umělé inteligence, které interagují s dětmi“.
Podle AB 1064 by chatbots nebylo povoleno, aniž by technologické společnosti prokázaly, že „nejsou schopny“ poškodit dítě, například podporou sebepoškozování.
„Viděli jsme několik opravdu strašlivých a tragických příkladů mladých lidí poškozených neregulovanou technikou a nebudeme stát, zatímco společnosti budou pokračovat bez nezbytných limitů a odpovědnosti,“ uvedl ve svém prohlášení oznámení o podpisu SB 243.
Prohlášení nezmínilo žádné kroky k AB 1064. Guvernér má až do konce dne, aby vetoval nebo podepsal návrh zákona, ačkoliv to, že se neozvalo, naznačovalo, že jeho kancelář s touto legislativou pravděpodobně nebude postupovat vpřed.
Zdrojový odkaz
