Ministerstvo IT nařídilo X, aby „auditovala“ a zastavila morfované obrázky žen v chatbotu Grok

Ministerstvo elektroniky a informačních technologií v pátek (2. ledna 2026) nařídilo platformě sociálních médií X, aby provedla „komplexní technickou, procedurální a správní kontrolu“ svého chatbota Grok, který údajně reagoval na požadavky uživatelů svléknout nebo změnit oblečení na fotografiích ženShiv Sena (UBT) Poslankyně Rajya Sabha Priyanka Chaturvedi vyvolala poplach o této záležitosti v dopise ministrovi IT Ashwini Vaishnawovi dříve během dne.

X, dříve Twitter, neměl na problém okamžitou odpověď. Grok funguje jako samostatná firma zabývající se umělou inteligencí pod holdingovou firmou X, ale udržuje si účet na platformě sociálních médií a automaticky komunikuje s uživateli. Elon Musk, miliardář vlastníka X, často chválil Grokovy relativně nefiltrované odpovědi, které zahrnují několik záruk, které jiné Big Tech firmy zahrnuly do svých velkých jazykových modelů.

Ve čtyřstránkovém dopise řediteli pro dodržování předpisů X pro Indii ministerstvo IT napsalo, že „bylo pozorováno, že (Grok) je uživateli zneužíván k vytváření falešných účtů k hostování, generování, publikování nebo sdílení obscénních obrázků nebo videí žen hanlivým nebo vulgárním způsobem, aby je neslušně očerňoval. V dopise se uvádí, že „soulad se zákonem o IT a pravidly IT pro rok 2021 není dobrovolný a že zákonné výjimky podle § 79 zákona o IT jsou podmíněny přísným dodržováním povinností náležité péče“.

Ministerstvo poukázalo na to, že i mimo zákon o IT mohou činy této povahy „nezávisle vyvolat trestní stíhání“, uvedlo ministerstvo, že společnost X bude muset „bezodkladně odstranit nebo znemožnit přístup k veškerému obsahu, který již byl vytvořen nebo šířen v rozporu s platnými zákony, v přísném souladu s časovými harmonogramy předepsanými v pravidlech IT, 2021, aniž by jakýmkoli způsobem narušila důkazy“.

Do pondělí (5. ledna 2026) musí firma v reakci na tyto pokyny odeslat zprávu o opatřeních, uvedl list. „Opakujeme, že nesoulad s výše uvedenými požadavky je třeba brát vážně a může mít za následek přísné právní důsledky vůči vaší platformě, jejím odpovědným představitelům a uživatelům na platformě, kteří porušují zákon, a to bez dalšího upozornění podle zákona o IT, pravidel IT, BNSS, BNS a dalších platných zákonů.“

Dříve v ten den pan Vaishnaw řekl, že společnosti sociálních médií musí „převzít odpovědnost“ za obsah na svých platformách. Pan Vaishnaw také poukázal na to, že Stálý parlamentní výbor pro IT doporučil přísný zákon pro obscénní obsah na sociálních sítích. Ministerstvo IT zaslalo začátkem tohoto týdne všem platformám sociálních médií doporučení, které jim nařídilo, aby proaktivně odstranily „obscénní“ a „pornografický“ obsah.