Advokáti Generál varujte OpenAI, další technologické společnosti, aby zlepšily bezpečnost chatbot
Generální zástupci Kalifornie a Delaware v pátek (5. září 2025) varoval OpenAI, že mají „vážné obavy“ ohledně bezpečnosti jeho vlajkové lodi Chatbot, Chatgpt, zejména pro děti a dospívající.
Dva státní úředníci, kteří mají jedinečné pravomoci k regulaci neziskových organizací, jako je OpenAI, poslali dopis společnosti po schůzce s právním týmem začátkem tohoto týdne ve Wilmingtonu v Delaware.
Kalifornie Ag Rob Bonta a Delaware Ag Kathleen Jennings strávili měsíce přezkoumáváním plánů OpenAI na restrukturalizaci svého podnikání s ohledem na „zajištění přísného a robustního dohledu nad bezpečnostní misí OpenAI“.
Řekli však, že se obávají „hluboce znepokojujících zpráv o nebezpečných interakcích mezi„ chatboty a jejich uživateli, včetně „srdcervoucí smrti sebevraždou jednoho mladého Kalifornie poté, co prodloužil interakce s OpenAI chatbotem, a také podobně znepokojující vražda v Connecticutu.
Rodiče šestnáctiletého kalifornského chlapce, který zemřel v dubnu, žalovali OpenAI a jeho generálního ředitele Sama Altmana minulý měsíc.
Předseda představenstva OpenAI, Bret Taylor, uvedl v pátek (5. září 2025) ve svém prohlášení, že společnost byla „plně odhodlána“ řešit obavy vznesené generálním prokurátorem.
„Tyto tragédie jsme zlomeni a naše nejhlubší sympatie jsou s rodinami,“ řekl Taylor.
„Bezpečnost je naší nejvyšší prioritou a úzce spolupracujeme s tvůrci politik po celém světě.“
Openai byla založena jako nezisková organizace s bezpečnostní misí na budování lépe než lidské umělé inteligence, a nedávno se snažila převést větší kontrolu do své ziskové paže ze své neziskové organizace, než tyto plány upustila v květnu po diskusích s kancelářemi pana Bonta a paní Jenningsové a dalšími neziskovými skupinami.
Oba volení úředníci, oba demokraté, mají dohled o jakékoli takové změně, protože OpenAI je začleněn do Delaware a působí mimo Kalifornii, kde má své sídlo v San Franciscu.
Po zrušení svých počátečních plánů OpenAI usiloval o schválení úředníků pro „rekapitalizaci“, ve které nezisková zisková ARM převede na veřejnou výhodu, která musí zvážit zájmy akcionářů i poslání.
Pan Bonta a paní Jenningsová v pátek (5. září 2025) napsala o svém „sdíleném pohledu“, že OpenAI a průmysl potřebují lepší bezpečnostní opatření.
„Nedávná úmrtí jsou nepřijatelná,“ napsali.
„Správně otřeseni důvěru americké veřejnosti v OpenAI a toto odvětví. OpenAI – a průmysl AI – musí aktivně a transparentně zajistit bezpečné nasazení AI.
Dopis Openiai z Kalifornie a úředníků Delaware přichází poté, co bipartisanská skupina 44 generálních zástupců varovala společnost a další technické firmy minulý týden „závažných obav“ o bezpečnosti dětí, které děti interagují s chatboty AI, které mohou reagovat s „sexuálně dosudnými rozhovory a emocionálně manipulativním chováním“.
Generální prokurátoři konkrétně vyzval meta pro chatboty, kteří se údajně zabývali flirtováním a „romantickou rolí“ s dětmi, a uvedl, že byli znepokojeni, že tito chatboti „se věnují chování, které se zdá být zakázáno našimi příslušnými trestními zákony“.
Meta, mateřská společnost na Facebooku, Instagramu a WhatsApp, odmítla komentovat dopis, ale nedávno zavedla nové ovládací prvky, jejichž cílem je blokovat jeho chatboty v rozhovoru s dospívajícími o sebepoškozování, sebevraždě, narušené stravování a nevhodné romantické konverzace a místo toho je nasměruje na odborný zdroje.
Openai také uvedl, že bude zavádět nové rodičovské kontroly, včetně metody, jak oznámit rodičům „když systém detekuje jejich dospívající, je v okamžiku akutní tísně“.
Generální prokurátoři uvedli, že společnosti budou odpovědné za poškození dětí, a poznamenává, že v minulosti se regulační orgány rychle nepohybovaly, aby reagovaly na škody, které představují nové technologie.
„Pokud vědomě ublížíte dětem, odpovíte na to,“ končí dopis 25. srpna.
Publikováno – 6. září 2025 04:54 IS
