Grok z X svlékal bollywoodské herce, uživatelky sociálních sítí prostřednictvím fotografií

AI chatbot Grok na X (dříve Twitter) byl používán komentátory k digitálnímu svlékání skutečných žen tím, že upravovali jejich fotografie, přičemž morfované obrázky byly veřejně viditelně přes Grokovu vlastní rukojeť.

V reakci na fotografii dvou bollywoodských herců, kterou sdílela žurnalistika na X 30. prosince, uživatelé vyzvali Groka, aby nahradil dámské šaty bikinami, přiměl je políbit, zprůhlednit oblečení nebo provést explicitní činy.

Grok často vyhověl ilegálním požadavkům uživatelů a vytvářel fotografie žen ve stavech částečné nahoty.

Tyto akty nesouhlasného svlékání se však neomezovaly pouze na známé osobnosti. Uživatelé také označili Groka pod fotografiemi náhodných uživatelů sociálních sítí, instruovat chatbota, aby svlékl ženy nebo přeměnil jejich těla za účelem vytvoření explicitních obrázků.

Namísto odmítnutí žádostí Grok často vyhověl a skončil vytvořením sexuálních deepfakes žen, které se pak staly součástí jeho vlastního profilu.

Zatímco centrum nápovědy X uvádí, že uživatelé „nesmějí zveřejňovat nebo sdílet intimní fotografie nebo videa někoho, která byla vytvořena nebo distribuována bez jejich souhlasu“, takové obrázky stále generoval Grok.

Majitel X Elon Musk použil Groka k vytvoření videí fiktivních žen, které nosí sotva nějaké oblečení, což povzbuzuje jeho více než 230 milionů sledujících, aby tento nástroj také vyzkoušeli.

Hinduisté oslovili bezpečnostní a mediální týmy xAI s žádostí o vyjádření a od svého tiskového e-mailového ID obdrželi automatickou zprávu „Legacy Media Lies“.