Poslankyně RS Priyanka Chaturvedi označila na sociálních sítích „hrubé zneužívání“ umělé inteligence, píše ministru IT Vaishnawovi

Poslankyně Shiv Sena (UBT) Priyanka Chaturvedi ve čtvrtek (1. ledna 2025) napsala ministryni Unie pro elektroniku a informační technologie Ashwini Vaishnawové a vyjádřila znepokojení nad údajným zneužíváním nástrojů umělé inteligence (AI) na platformách sociálních médií k zveřejňování závadných obrázků žen používajících falešné účty.

Řekla, že takové praktiky představují vážné porušení soukromí žen a naléhala na centrum, aby přijalo naléhavá opatření k ochraně jejich práv. „Funkce jako Grok musí zavést zábradlí, aby nenarušovaly důstojnost žen. Velké technologické firmy musí převzít břemeno,“ řekla paní Chaturvedi.

V dopise paní Chaturvedi upozornila na „nový trend, který se objevil na sociálních sítích“, zejména na X, prostřednictvím zneužití její funkce AI Grok, kde muži „používají falešné účty ke zveřejňování fotografií žen a zasouvají do Groku výzvy, aby minimalizovali své oblečení a sexualizovali je“.

„Neomezuje se pouze na sdílení fotografií prostřednictvím falešných účtů, ale zaměřuje se také na ženy, které zveřejňují své vlastní fotografie. To je nepřijatelné a hrubé zneužití funkce AI,“ řekla.

Dále dodala: „Horší je, že Grok toto chování umožňuje dodržováním takových požadavků. Jedná se o porušení práva žen na soukromí a neoprávněné použití jejich fotografií, což je nejen neetické, ale také trestné.“

Paní Chaturvedi dále vyzvala unijního ministra pro elektroniku a informační technologie, aby podnikl rozhodné kroky proti platformě sociálních médií X a zavedl ochranná opatření v nástrojích řízených umělou inteligencí k zajištění bezpečnosti žen online.

V dopise paní Chaturvedi uvedla, že Indie nemůže zůstat přihlížejícím, zatímco důstojnost žen je veřejně a digitálně porušována pod rouškou kreativity a inovace. Upozornila na rostoucí obavy z podobných nekontrolovaných vzorů napříč hlavními technologickými platformami a zdůraznila, že takové praktiky představují kriminální chování.

„Naše země nemůže přihlížet veřejnému a digitálnímu porušování ženské důstojnosti s nulovými důsledky pod rouškou kreativity a inovace, které přehlížejí takové výzvy. Vidíme, že se podobné vzorce objevují i ​​na jiných velkých technologických platformách, které jsou absolutně nekontrolované. Jako národ to musíme vzít jako prioritu, abychom zajistili, že ženy nebudou obětí takových otevřeně kriminálních praktik,“ a dále je vytlačujeme z dopisů, které čtou a dále mlčí.

Zdůraznila potřebu naléhavého zásahu a uvedla, že vláda musí zajistit, aby ženy nebyly umlčovány nebo vytlačovány z digitálních prostorů.

Paní Chaturvedi dodala, že Indie sice vítá umělou inteligenci a její výhody, ale nebude tolerovat šíření ponižujícího obsahu zaměřeného na ženy, a vyjádřila naději, že ministerstvo bude tento problém řešit s velkými technologickými společnostmi.

Odsoudila muže, kteří vedou tyto falešné účty. „Přála bych si, aby muži, kteří se oddávají takovému chování, byli lépe vzděláváni ve svých domovech a školách, aby se v dospělosti nestali tak nemocnými zvrhlíky,“ řekla.

(Se vstupy ANI)