Britský regulátor otevírá sondu do X přes sexualizované snímky AI

Britský mediální regulátor Ofcom v pondělí zahájil formální vyšetřování Elona Muska X kvůli funkci vytváření obrázků jeho AI chatbota Groka, která byla použita k vytváření sexualizovaných deepfakes.

Grok čelí rostoucí mezinárodní reakci za to, že umožňuje uživatelům vytvářet a sdílet sexualizované obrázky žen a dětí pomocí jednoduchých textových výzev.

Ofcom popsal zprávy jako „hluboce znepokojující“.

To uvedlo v prohlášení, že svlečené obrázky lidí „může představovat zneužívání intimních obrázků nebo pornografii – a sexuální obrázky dětí… mohou představovat materiál týkající se sexuálního zneužívání dětí“.

X kontaktovaný AFP okamžitě neodpověděl.

Ofcom uvedl, že 5. ledna kontaktoval X a požádal ho, aby vysvětlil kroky, které podnikl na ochranu britských uživatelů.

Bez sdílení podrobností o výměně regulátor řekl, že X odpověděl v daném časovém rámci.

Formální vyšetřování určí, zda X „nesplnila své zákonné povinnosti“.

Podle britského zákona o online bezpečnosti, který vstoupil v platnost v červenci, jsou webové stránky, sociální média a platformy pro sdílení videí hostující potenciálně škodlivý obsah povinny zavést přísné ověřování věku pomocí nástrojů, jako jsou snímky obličeje nebo kontroly kreditních karet.

Je také nezákonné, aby mediální stránky vytvářely nebo sdílely nesouhlasné intimní obrázky nebo materiály týkající se sexuálního zneužívání dětí, včetně sexuálních deepfakes vytvořených pomocí AI.

Ofcom má pravomoc ukládat pokuty ve výši 10 procent celosvětových příjmů za porušení těchto pravidel.

Zdá se, že Grok odvrátil mezinárodní kritiku novou politikou monetizace na konci minulého týdne, když na X zveřejnil, že tento nástroj je nyní „omezený na platící předplatitele“, spolu s odkazem na prémiové předplatné.

Britský premiér Keir Starmer tento krok odsoudil jako urážku obětí a „nejedná se o řešení“.

V sobotu se Indonésie stala první zemí, která odepřela veškerý přístup k tomuto nástroji, v neděli ji následovala Malajsie.

Evropská komise uvedla, že stížnosti na Groka prověřuje.