Uživatel Grok, který vytváří nelegální obsah, ponese stejné následky jako nahrávání takového obsahu: Elon Musk

Stránky pro mikroblogování X majitel Elon Musk v sobotu (3. ledna 2026) uvedl, že lidé využívající služby AI Grok platformy k vytváření nelegálního obsahu budou čelit stejným následkům jako ti, kteří nahrávají nelegální obsah.

Prohlášení od pana Muska přichází den poté, co ministerstvo elektroniky a IT nařídilo X okamžitě odstranit veškerý vulgární, obscénní a nezákonný obsah, zejména generovaný aplikací AI Grok, nebo čelit žalobě podle zákona.

„Každý, kdo použije Grok k vytváření nelegálního obsahu, ponese stejné následky, jako kdyby nahrál nelegální obsah,“ řekl Musk X v reakci na příspěvek o „nevhodných obrázcích“.

V příspěvku bylo napsáno: „Někteří lidé říkají, že Grok vytváří nevhodné obrázky. Ale to je jako obviňovat pero z toho, že píše něco špatného. Pero nerozhoduje o tom, co se píše. O tom, co se píše, rozhoduje osoba, která ho drží. Grok funguje stejným způsobem. To, co dostanete, závisí hodně na tom, co do něj vložíte. Přemýšlejte o tom!“

Meity režíroval X podniknout kroky proti urážlivému obsahu, uživatelům a účtům.

Ministerstvo nařídilo firmě sociálních médií se sídlem v USA, aby do 72 hodin od data vydání příkazu předložila podrobnou zprávu o provedených akcích (ATR).

Příkaz uvedl, že čas od času obdržel, mimo jiné prostřednictvím veřejných diskusí a prohlášení různých zúčastněných stran v parlamentu, že určité kategorie obsahu kolujícího na X nemusí být v souladu s platnými zákony týkajícími se slušnosti a obscénnosti.

Směr vlády následoval dopis členky Rajya Sabha Priyanka Chaturvedi ministrovi Unie Ashwinimu Vaishnawovi, který žádá naléhavou intervenci v souvislosti s narůstajícími případy zneužití aplikace AI Grok k vytváření vulgárních fotografií žen a jejich zveřejňování na sociálních sítích.

Vládní nařízení uvádělo službu „Grok AI“ vyvinutou společností X je uživateli zneužíván k vytváření falešných účtů k hostování, generování, publikování nebo sdílení obscénních obrázků nebo videí žen hanlivým nebo vulgárním způsobem za účelem jejich neslušného očerňování.

Dne 29. prosince požádala společnost Meity společnosti sociálních médií, aby okamžitě přezkoumaly svůj rámec dodržování předpisů a zasáhly proti obscénnímu a nezákonnému obsahu na své platformě, v opačném případě mohou čelit stíhání podle zákonů dané země.

Toto doporučení následovalo po Meity a všimlo si, že platformy sociálních médií striktně nejednají s obscénním, vulgárním, nevhodným a nezákonným obsahem.