jáVe věku umělé inteligence (AI) je technologie dvousečná zbraň a uživatelé se potýkají s kompromisy mezi pohodlím a soukromím. Zatímco Indie má normativní rámec ochrany osobních údajů, pokud jde o Puttaswamy rozsudek (2017); zákon o informačních technologiích, 2000 a jeho zprostředkující směrnice; a zákonem o ochraně osobních údajů z roku 2023 a pravidly, realita soukromí zůstává neprůhledná.
Nyní žijeme ve společnosti akvárií, kde posuzujeme „škodu“ krátkozrakým objektivem soukromí a důstojnosti namísto temnoty. Jak poznamenává Meredith Broussard ve své knize Umělá neinteligencepřílišné spoléhání společnosti na technologie nás nechává špatně připravené vyrovnat se se samotnými systémy, které jsme vybudovali. To nejen vystavuje jednotlivce rizikům narušení dat, ale také je zatlačuje do neznáma, zejména v případech nekonsensuálního zneužívání intimního obrazu (NCII), kdy algoritmy generují hluboce falešné pornografické obrázky bez vědomí nebo kontroly. Regulace takového útoku je naléhavým právním a politickým imperativem. Konvenční rámce pro řešení takového zneužívání jsou nedostatečné. Tradiční přístupy často popisují rizika takového sledování jako ztrátu soukromí, i když ve skutečnosti jde o mnohem více věcí: úzkost, chronický strach z toho, že budou sledováni, obviňování a zahanbování obětí, společenské stigma, stagnace v kariéře, trvalá ztráta autonomie a tělesné integrity.
Zákony nestačí
Překvapivě, přestože kybernetická kriminalita je na vzestupu, neexistují žádné současné údaje o NCII. Údaje Národního úřadu pro evidenci kriminality (NCRB) řadí všechny kybernetické zločiny do jedné kategorie, bez podrobné klasifikace konkrétních trestných činů. Dne 3. října 2025 jsme podali žádost o právo na informace s žádostí o informace o počtu případů registrovaných v předchozím roce, které se týkaly konkrétně kyberšikany a kybervoyeurismu, spolu s genderovým rozdělením obětí. Po více než měsíci ministerstvo odpovědělo, že „právo a pořádek“ a „policie“ spadají pod státní seznam, a proto by nejvhodnějším orgánem pro poskytování takových informací byly příslušné státní vlády.
To ukazuje, že pouhá zákonná ustanovení nestačí k řešení skutečného zneužívání online. Přístupnost, informovanost a společenská akceptace těchto zákonů hrají stejně zásadní roli při určování jejich účinnosti. Značná část mladých žen si není vědoma toho, jaké trestné činy, jako je voyeurismus nebo falešné porno, legálně znamenají. Nedostatek digitální gramotnosti je spojen s hluboce zakořeněným společenským stigmatem, studem a strachem z viny, které oběti často odrazují od nahlášení. V extrémních případech to některé přeživší dohnalo k sebepoškozování.
Přesahující SOP
Dne 11. listopadu 2025 vydalo ministerstvo elektroniky a informačních technologií standardní operační postupy (SOP) k omezení oběhu NCII. Tyto pokyny nařizují, že takový obsah musí být odstraněn do 24 hodin od nahlášení, a snaží se chránit „digitální důstojnost“ a soukromí žen tím, že nabízejí různé platformy pro stížnosti. To je vítaný a dlouho očekávaný krok. SOP je však pouze výchozím bodem. Jeho účinnost závisí na podpoře silných programů budování kapacit, konzultací se zúčastněnými stranami a posílení donucovacích orgánů.
Klíčové omezení spočívá v absenci genderově neutrálního rámce. Studie ukazují, že transgender osoby, zejména transženy, jsou neúměrně terčem obtěžování založeného na hloubkovém podvodu. Přesto SOP o transgender obětech mlčí a přehlíží, že Nejvyšší soud uznal transgender osoby jako „třetí pohlaví“ s nárokem na rovná práva. Dále nestanovuje jasné mechanismy odpovědnosti, nedefinuje výši trestu ani neformuluje konkrétní předpisy pro vytváření, šíření a sledování hluboce falešných zpráv. Proto je potřeba mít vyhrazený zákon o NCII – zákon, který jde nad rámec tradičního zaměření na actus reus a mens rea a klade důraz na explicitní povinnosti platforem, vývojářů AI a zprostředkovatelů, konkrétnější a komplexnější než novela pravidla pro informační technologie (pokyny pro zprostředkovatele a kodex etiky digitálních médií) z roku 2025.
S rozšiřováním deepfakes generovaných umělou inteligencí, které se používají hlavně k obtěžování, zahanbování a umlčování obětí (většinou žen), je soukromí stále více utvářeno a ohrožováno spíše technologickými možnostmi než právní ochranou. Nedostatek procesních záruk, norem sledovatelnosti a mechanismů nezávislého dohledu umožnil, aby tyto trestné činy zůstaly neohlášené a nepotrestané po léta, i když se jejich frekvence a závažnost stupňují. Tyto výzvy vyvolávají důležitou otázku: Je SOP dostačující?
Nedostatek povědomí o právech nebo dokonce o tom, co „voyeurismus“ nebo „porno pomsty“ právně představuje, nedostatečná senzibilizace policejních úředníků, obviňování obětí a nedostatečná kapacita kybernetického vyšetřování dále oslabují dopad stávajících zákonů. Jak zdůrazňují nevládní organizace a výzkumné studie, po celé Indii jsou denně podány tisíce případů, ale počet odsouzení zůstává neúměrně nízký. V této souvislosti, zatímco SOP je zásadním prvním krokem, smysluplná reakce na NCII a hluboce falešné škody vyžaduje genderově neutrální reformy, policejní školení, budování kapacit, odpovědnost platforem, záruky specifické pro umělou inteligenci a silnější právní mechanismy zaměřené na oběti.
Aastha Tiwari, odborný asistent (právo) a doktorand, Maharashtra National Law University Mumbai; Shweta Bhuyan, výzkumný asistent (právo) a doktorand, Maharashtra National Law University Mumbai
Publikováno – 3. prosince 2025 02:03 IST
