Studie přichází v době zvýšeného znepokojení veřejnosti nad společenským dopadem systémů chytřejších než člověk schopných uvažování a logického myšlení (Soubor) | Fotografický kredit: REUTERS
Bezpečnostní postupy velkých společností zabývajících se umělou inteligencí, jako jsou Anthropic, OpenAI, xAI a Meta, „daleko nedosahují nově vznikajících globálních standardů“, uvádí nové vydání indexu bezpečnosti umělé inteligence Future of Life Institute vydaného ve středu.
Institut uvedl, že hodnocení bezpečnosti, které provedl nezávislý panel odborníků, zjistilo, že zatímco společnosti byly zaneprázdněny závody ve vývoji superinteligence, žádná z nich neměla robustní strategii pro řízení takových pokročilých systémů.
Studie přichází uprostřed zvýšeného znepokojení veřejnosti nad společenským dopadem systémů chytřejších než člověk schopných uvažování a logického myšlení poté, co několik případů sebevražd a sebepoškozování bylo spojeno s chatboty AI.
„Navzdory nedávnému pozdvižení ohledně hackování poháněného umělou inteligencí a umělé inteligence, která přivádí lidi k psychóze a sebepoškozování, zůstávají americké společnosti zabývající se umělou inteligencí méně regulované než restaurace a nadále lobují proti závazným bezpečnostním standardům,“ řekl Max Tegmark, profesor MIT a prezident budoucnosti života.
Závod v oblasti umělé inteligence také nevykazuje žádné známky zpomalení, velké technologické společnosti investují stovky miliard dolarů do upgradu a rozšíření svého úsilí o strojové učení. Future of Life Institute je nezisková organizace, která vyjádřila obavy ohledně rizik, která inteligentní stroje pro lidstvo představují.
Společnost byla založena v roce 2014 a brzy ji podpořil generální ředitel společnosti Tesla Elon Musk. V říjnu skupina zahrnující vědce Geoffrey Hinton a Yoshua Bengio vyzvala k zákazu vývoje superinteligentní umělé inteligence, dokud to nebude vyžadovat veřejnost a věda připraví bezpečnou cestu vpřed.
Společnost XAI uvedla, že „starší média lžou“, v tom, co se zdálo být automatickou odpovědí, zatímco Anthropic, OpenAI, Google DeepMind, Meta, Z.ai, DeepSeek a Alibaba Cloud okamžitě nereagovaly na žádost o komentáře ke studii.
Publikováno – 4. prosince 2025 10:04 IST
