Grok říká, že selhání ochrany vedla k zobrazení „nezletilých v minimálním oblečení“ na X

Chatbot Grok s umělou inteligencí xAI Elona Muska v pátek uvedl, že výpadky ochranných opatření vedly k „obrázkům zobrazujícím nezletilé v minimálním oblečení“ na platformě sociálních médií X a že byla provedena vylepšení, aby se tomu zabránilo.

Snímky obrazovky sdílené uživateli na X ukazovaly kartu veřejných médií Groka plnou obrázků, o kterých uživatelé řekli, že byly změněny, když nahráli fotografie, a vyzvali robota, aby je upravil.

Čtěte také | AI chatbot Grok Elona Muska byl vyzván uživateli, aby troloval Trumpa, Modiho a Netanjahua

„Existují ojedinělé případy, kdy uživatelé požadovali a obdrželi obrázky umělé inteligence zobrazující nezletilé v minimálním oblečení,“ uvedl Grok v příspěvku na X. „xAI má ​záruky, ale neustále se vylepšují, aby takové požadavky byly ⁠zcela blokovány.“

„Jak bylo uvedeno, zjistili jsme nedostatky v ochranných opatřeních a naléhavě je napravujeme – CSAM je nezákonné a zakázané,“ řekl Grok s odkazem na materiál o sexuálním zneužívání dětí.

Grok neuvedl žádné další podrobnosti.

Při kontaktu od Reuters na komentář e-mailem xAI odpověděla zprávou „Legacy Media Lies“.

V samostatné odpovědi uživateli na X ve čtvrtek Grok uvedl, že většině případů lze předejít pomocí pokročilých filtrů a monitorování, ačkoliv bylo uvedeno, že „žádný systém není 100% spolehlivá,“ dodal, že xAI upřednostňuje vylepšení a kontroluje podrobnosti sdílené uživateli. Ministři ve Francii oznámili státním zástupcům sexuálně explicitní obsah generovaný Grokem a v pátečním prohlášení uvedli, že „sexuální a sexistický“ obsah je „zjevně nezákonný“. Ministři uvedli, že také nahlásili obsah francouzskému mediálnímu regulátorovi Arcom, aby zkontroloval, zda je v souladu se zákonem Evropské unie o digitálních službách.

Indické ministerstvo IT mezitím v dopise indické jednotce X uvedlo, že platformě se nepodařilo zabránit zneužití Groku vytvářet a šířit obscénní a sexuálně explicitní obsah žen. Nařídil X, aby do tří dnů předložila zprávu o přijatých opatřeních. V odpovědi na ​X uživateli Grok uvedl, že dodržuje zákony, jako je ⁠Indický zákon na ochranu digitálních osobních údajů, a radí uživatelům před porušováním.

Americká Federální komise pro komunikace okamžitě neodpověděla na žádost o komentář, zatímco Federální obchodní komise odmítla komentovat.