Muskův chatbot Grok omezuje generování obrázků po globální reakci na sexualizované deepfakes

AI chatbot Grok od Elona Muska brání většině uživatelů generovat nebo upravovat obrázky po a globální odpor, který propukl poté, co začal chrlit sexualizované deepfakes lidí.

Chatbot, který je přístupný přes platformu X pana Muska pro sociální média, v posledních několika týdnech vyhověl vlně, podle výzkumníků, zákeřných požadavků uživatelů na úpravu obrázků, včetně umístění žen do bikin nebo do sexuálně explicitních pozic.

Vědci varovali, že v několika případech se zdálo, že některé obrázky zobrazují děti. Vlády po celém světě platformu odsoudily a zahájily vyšetřování platformy.

V pátek (9. ledna 2026) Grok reagoval na žádosti o úpravu obrázků zprávou: „Vytváření a úpravy obrázků jsou v současné době omezeny na platící předplatitele. Chcete-li tyto funkce odemknout, můžete se přihlásit k odběru.“

Zatímco čísla předplatitelů pro Grok nejsou veřejně dostupná, došlo ke znatelnému poklesu počtu explicitních deepfakes, které Grok nyní generuje ve srovnání s předchozími dny.

Evropská unie kritizovala Groka za „nezákonné“ a „otřesné“ chování, zatímco úředníci ve Francii, Indii, Malajsii a brazilský zákonodárce vyzvali k vyšetřování.

Ve čtvrtek (8. ledna 2026) britský premiér Keir Starmer pohrozil blíže nespecifikovanou akcí proti X.

„To je hanebné. Je to nechutné. A to se nesmí tolerovat,“ řekl Starmer na rádiu Greatest Hits. „X to musí pochopit.“

Řekl, že mediální regulátor Ofcom „má naši plnou podporu k přijetí opatření“ a že jsou na stole „všechny možnosti“.

„Je to nechutné. X se musí dát dohromady a dostat tento materiál dolů. Budeme v tom jednat, protože to prostě není tolerovatelné.“

Ofcom a britský regulátor ochrany osobních údajů tento týden uvedli, že kontaktovali X a společnost xAI pana Muska pro umělou inteligenci s žádostí o informace o opatřeních, která přijali, aby vyhověli britským předpisům.

Grok je zdarma k použití pro uživatele X, kteří mu mohou klást otázky na platformě sociálních médií. Mohou jej označit buď v příspěvcích, které přímo vytvořili, nebo v odpovědích na příspěvky jiných uživatelů.

Grok byl uveden na trh v roce 2023. Loni v létě společnost přidala funkci generátoru obrázků Grok Imagine, která zahrnovala takzvaný „pikantní režim“, který může generovat obsah pro dospělé.

Problém je umocněn jednak tím, že pan Musk představuje svého chatbota jako podrážděnější alternativu k soupeřům s více ochrannými prvky, jednak proto, že Grokovy obrázky jsou veřejně viditelné, a lze je tedy snadno šířit.