KUALA LUMPUR, Malajsie – Malajské úřady v úterý oznámily, že proti nim podniknou právní kroky Platforma sociálních médií X Elona Muska a její jednotka pro umělou inteligenci xAI, obviňující společnosti z toho, že nezajišťují bezpečnost uživatelů svého chatbota Grok.
Tento krok přišel jen několik dní poté, co se Malajsie a Indonésie staly prvními zeměmi, které zablokovaly přístup ke Groku, protože rostou obavy, že zneužito k vytváření sexuálně explicitních a nekonsensuálních obrázků.
Malajská komise pro komunikace a multimédia v prohlášení uvedla, že identifikovala zneužití Groku k vytváření a distribuci škodlivého obsahu, včetně sexuálně explicitního, neslušného, extrémně urážlivého, stejně jako nesouhlasně manipulovaných obrázků.
Uvedla, že tento měsíc zaslala X a xAI oznámení o odstranění škodlivého obsahu, ale nebyly podniknuty žádné kroky.
„Obsah údajně zahrnující ženy a děti vzbuzuje velké znepokojení. Takové chování je v rozporu s malajsijským právem a podkopává bezpečnostní závazky,“ uvedly společnosti. Komise jmenovala právníka a uvedla, že soudní řízení bude brzy zahájeno.
Stále více se prověřují generativní nástroje umělé inteligence, které dokážou produkovat realistické obrázky, zvuk a text, a obavy, že stávající ochranná opatření nedokážou zabránit jejich zneužití.
Grok, který byl uveden na trh v roce 2023, je zdarma k použití na X. Funkce generátoru obrázků, Grok Imagine, byla přidána v loňském roce a zahrnuta takzvaný pikantní režim které mohou generovat obsah pro dospělé.
Grok byl kritizován za generování manipulovaných obrázků, včetně zobrazení žen v bikinách nebo sexuálně explicitních pózách, stejně jako obrázků zahrnujících děti.
Grok se dostal pod tlak v Evropské unii, Indii a Spojeném království, které v pondělí uvedlo, že se přiklání ke kriminalizaci „aplikací na navyšování“.
Britský mediální regulátor také zahájil vyšetřování, zda Grok porušil zákon tím, že uživatelům umožnil sdílet sexualizované obrázky dětí.
Minulý týden Grok omezil generování a úpravy obrázků na platící uživatele po globálním odporu proti sexualizovaným deepfakeům lidí, ale kritici tvrdí, že tento problém plně nevyřešil.
Musk a jeho společnosti se k omezením v jihovýchodní Asii veřejně nevyjádřily. xA1 poskytuje automatickou odpověď na dotazy médií, které uvádějí: „Legacy Media Lies“.
