Stále více se prověřují generativní nástroje umělé inteligence, které dokážou produkovat realistické obrázky, zvuk a text, a obavy, že stávající ochranná opatření nedokážou zabránit jejich zneužití. Soubor | Fotografický kredit: AP
Malajské úřady v úterý (13. ledna 2026) podniknou právní kroky proti sociální mediální platformě X Elona Muska a její jednotce xAI pro umělou inteligenci, přičemž společnosti obviňují, že nezajišťují bezpečnost uživatelů jejich chatbota Grok.
Tento krok přišel jen několik dní poté, co se Malajsie a Indonésie staly prvními zeměmi, které zablokovaly přístup ke Groku, protože rostou obavy, že je zneužíván k vytváření sexuálně explicitních a nesouhlasných obrázků.
Malajská komise pro komunikace a multimédia v prohlášení uvedla, že identifikovala zneužití Groku k vytváření a distribuci škodlivého obsahu, včetně sexuálně explicitního, neslušného, extrémně urážlivého, stejně jako nesouhlasně manipulovaných obrázků.
Uvedla, že tento měsíc zaslala X a xAI oznámení o odstranění škodlivého obsahu, ale nebyly podniknuty žádné kroky.
„Obsah údajně zahrnující ženy a děti vzbuzuje velké znepokojení. Takové chování je v rozporu s malajsijským právem a podkopává bezpečnostní závazky,“ uvedly společnosti. Komise jmenovala právníka a uvedla, že soudní řízení bude brzy zahájeno.
Stále více se prověřují generativní nástroje umělé inteligence, které dokážou produkovat realistické obrázky, zvuk a text, a obavy, že stávající ochranná opatření nedokážou zabránit jejich zneužití.
Grok, který byl uveden na trh v roce 2023, je zdarma k použití na X. Funkce generátoru obrázků, Grok Imagine, byla přidána minulý rok a zahrnovala takzvaný „pikantní režim“, který může generovat obsah pro dospělé.
Grok byl kritizován za generování manipulovaných obrázků, včetně zobrazení žen v bikinách nebo sexuálně explicitních pózách, stejně jako obrázků zahrnujících děti.
Grok se dostal pod tlak v Evropské unii, Indii a Spojeném království, které v pondělí (12. ledna 2026) uvedlo, že se chystají kriminalizovat „aplikace nudifikace“. Britský mediální regulátor také zahájil vyšetřování, zda Grok porušil zákon tím, že uživatelům umožnil sdílet sexualizované obrázky dětí.
Minulý týden Grok omezil generování a úpravy obrázků na platící uživatele po globálním odporu proti sexualizovaným deepfakeům lidí, ale kritici tvrdí, že tento problém plně nevyřešil.
Pan Musk a jeho společnosti se k omezením v jihovýchodní Asii veřejně nevyjádřily. xA1 poskytuje automatickou odpověď na dotazy médií, které uvádějí: „Legacy Media Lies“.
Publikováno – 13. ledna 2026 18:16 IST
