Kalifornské novinářské podepisování zákon vyžadující informaci o bezpečnosti AI

Kalifornský guvernér Gavin Newsom se v pondělí podepsal do státního práva požadavek, aby vývojář Chatgpt OpenAI a další velcí hráči zveřejnili, jak plánují zmírnit potenciální katastrofická rizika ze svých špičkových modelů AI. Kalifornie je domovem nejlepších společností AI, včetně OpenAI, Alphabet’s Google, Meta Platformy, NVIDIA a Antropic a s tímto zákonem se snaží vést regulaci průmyslu kritického pro jeho ekonomiku, řekl Newsom.

„Kalifornie prokázala, že můžeme stanovit předpisy na ochranu našich komunit a zároveň zajistit, aby rostoucí průmysl AI nadále prosperoval,“ uvedl Newsom v tiskové zprávě.

Newsomova kancelář uvedla, že zákon, známý jako SB 53, vyplňuje mezeru, kterou zbývá americkým kongresem, který dosud neprošel širokou právní předpisy AI, a poskytuje USA model.

Pokud jsou zavedeny federální standardy, řekl Newsom, státní zákonodárce by měl „zajistit v souladu s těmito standardy – to vše při zachování vysokého baru vytvořeného SB 53.“ V loňském roce se Newsom vetoval první kalifornský pokus o legislativu AI, který čelil tvrdému odvětví. Návrh zákona by vyžadoval, aby společnosti, které utratily na své modely AI více než 100 milionů dolarů, aby si každoročně najaly auditory třetích stran, aby přezkoumaly hodnocení rizik a umožnily státu vybírat pokuty ve stovkách milionů dolarů.

Nový zákon vyžaduje, aby společnosti s příjmy s více než 500 miliony dolarů na posouzení rizika, že jejich špičková technologie by se mohla uvolnit kontrola člověka nebo napomáhat rozvoji biologií, a zveřejnit tato hodnocení veřejnosti. Umožňuje pokuty až 1 milion USD za porušení.

Jack Clark, spoluzakladatel společnosti AI Company Anthropic, označil zákon „silným rámcem, který vyrovnává veřejnou bezpečnost s pokračující inovací“. Toto odvětví stále doufá ve federální rámec, který by nahradil kalifornský zákon, a také další, jako je nedávno v Coloradu a New Yorku. V loňském roce byla v Senátu 99-1 hlasována nabídka některých republikánů v americkém kongresu, aby zablokovala státy v regulaci AI.

„Největším nebezpečím SB 53 je to, že stanoví precedens pro státy, spíše než federální vládu, aby se ujali vedení při vládnutí národního trhu AI – vytvářet patchwork 50 režimů dodržování předpisů, které začínají, nemají zdroje k navigaci,“ řekl Collin McCune, vedoucí vládních záležitostí ve společnosti Silicon Valley Venture, firmu areessen horowitz.

Americký zástupce Jay Obernolte, kalifornský republikán, pracuje na právních předpisech AI, která by mohla zabránit některým státním zákonům, uvedl jeho úřad, i když se odmítl dále komentovat čekající legislativy. Někteří demokraté také diskutují o tom, jak přijmout federální standard.

„Není to, zda budeme regulovat AI, chcete to udělat 17 států, nebo chcete, aby to Kongres udělal?“ Americký zástupce Ted Lieu, demokrat z Los Angeles, uvedl na nedávném slyšení o právních předpisech AI v americkém domě reprezentantů.