„CSAM je vážnou hrozbou pro právo dítěte na život a důstojnost“ | Foto kredit: Getty Images/IStockphoto
Nedávno Ministerstvo pro vědu, inovace a technologii britské vlády spolu s bezpečnostním institutem AI (nyní nazývané bezpečnostní institut AI) vydalo vůbec první mezinárodní zprávu o bezpečnosti AI 2025 (aktualizováno 18. února 2025). Označuje bezprostřední riziko výroby, držení a šíření materiálu sexuálního zneužívání dětí (CSAM) pomocí nástrojů umělé inteligence (AI). Spojené království navíc dělá první legislativní pokus zaměřit se na hrozby, které představují nástroje AI, které mohou generovat CSAM. CSAM odkazuje na materiál (zvuk, video a obrázky), který zobrazuje sexuálně explicitní zobrazení dítěte. V podobném duchu Světové ekonomické fórum v článku 2023 zdůraznilo, jak generativní AI může vytvářet životně podobné obrazy, zejména u dětí. Nadace Internet Watch Foundation navíc ve své zprávě zveřejněné v říjnu 2024 zdůraznila proliferaci CSAM na otevřeném webu. Indická vláda musí změnit stávající zákony, aby se zabývaly vznikajícími hrozbami a zajistily dlouhodobou účinnost.
Nedávný vývoj
Nadcházející britská legislativa bude nezákonná vlastnit, vytvářet nebo distribuovat nástroje AI, které mohou generovat CSAM. Kromě toho bude nezákonné vlastnit pedofilní příručky, které mohou jednotlivce vést při používání nástrojů AI pro generování CSAM. To znamená progresivní posun od „obžalovaného“ a „soustředěného“ k „nástrojovému“ přístupu při řešení těchto odporných zločinů.
Existující zákony se zaměřují zcela na „kdo“, co “, co je menší nebo žádný důraz na„ nástroj/médium “používaný k spáchání uvedeného„ akt “. Například zákon o ochraně dětí z roku 1978 trestných činů z roku 1978 pořizuje, distribuuje a má neslušnou fotografii nebo pseudophotograf dítěte. Kromě toho zákon o koronerech a spravedlnosti z roku 2009 kriminalizuje držení zakázaného obrazu dítěte, včetně nefotografických materiálů. Naproti tomu navrhovaný zákon zakazuje i držení a používání takových nástrojů AI, což je odrazující a holistický. Za druhé, umožní donucovacím orgánům zadržet pachatele v samotné fázi přípravy. Zatřetí, může omezit počáteční vlnící účinek způsobený šířením CSAM na duševní zdraví dětí. Začtvrté, řeší legislativní mezeru týkající se CSAM generované jako čistě AI snímky, které byly dříve omezeny na obrazy „skutečného dítěte“.
O tom, zda je Indie připravena budoucnost
Podle zprávy Národního úřadu pro záznamy o zločinech (NCRB) 2022 se počítačové zločiny proti dětem podstatně zvýšily ve srovnání se statistikami předchozího roku. Navíc národní portál pro hlášení kybernetické kriminality (NCRP), pod záštitou prevence kybernetické kriminality proti ženám a dětem (CCPWC), zaznamenal 1,94 lakh dětské pornografické incidenty od dubna 2024. V roce 2019 NCRB podepsal Memorandum o porozumění s porozuměním s porozuměním a porozuměním k porozumění s porozuměním a porozuměním při porozumění CSAMAM. Od března 2024 bylo sdíleno 69,05 Lakh Cyber Tip-Line s dotyčnými státy a územími odborů. Statistiky podtrhují závažnost CSAM jako vážnou hrozbu pro právo dítěte na život a důstojnost v Indii.
V současné době oddíl 67B zákona z roku 2000 potrestá ty, kteří publikují nebo přenášejí materiál v elektronické podobě zobrazující děti v sexuálně explicitních činech. Dále, oddíly 13, 14 a 15 zákona o ochraně dětí před sexuálními trestnými činy z roku 2012 (POCSO) zakazují používání dětí pro pornografické účely, ukládá dětskou pornografii v jakékoli podobě a používá dítě pro sexuální uspokojení. Oddíl 294 Bharatiya Nyaya Sanhita navíc penalizuje prodej, distribuci nebo veřejnou výstavu obscénních materiálů, zatímco oddíl 295 činí nezákonné prodávat, distribuovat nebo vystavovat takové obscénní předměty dětem. Stávající legislativní rámec však postrádá přiměřené záruky k řešení CSAM generovaného AI.
Editorial | Je to trestný čin: Na objasnění nejvyššího soudu o online zneužívání sexuálního zneužívání dětí
Plán následovat
Stávající legislativní a politický rámec v Indii se musí přizpůsobit futuristickým výzvám tím, že provádí vhodné změny. Zaprvé, jak navrhuje poradenství NHRC v říjnu 2023, musí být definice „dětské pornografie“ podle zákona PoCSO nahrazena větou „CSAM“, aby byla expanzivní. Za druhé, pojem „sexuálně explicitní“ podle oddílu 67b zákona IT musí být definován tak, aby umožnil identifikaci a blokování CSAM v reálném čase. Zatřetí, definice „zprostředkovatele“ podle IT zákona musí výslovně zahrnovat virtuální soukromé sítě, virtuální soukromé servery a cloudové služby, aby jim uložila zákonnou odpovědnost, aby dodržovala ustanovení související s CSAM v indických zákonech. Začtvrté, k integraci rizik vyplývajících z objevujících se technologických pokroků jsou zapotřebí zákonné změny. Za páté, Indická vláda musí uskutečnit přijetí návrhu OSN o „proti využití informačních a komunikačních technologií pro trestní účely“ Valným shromážděním OSN. Zejména ministerstvo elektroniky a informačních technologií navrhlo zákon o digitální Indii 2023, v současné době v potrubí, aby nahradil dvouleté zákon o IT. A konečně, navrhovaný zákon o digitální Indii musí proto čerpat inspiraci z nadcházejících právních předpisů Spojeného království, aby zahrnovala ustanovení konkrétně zaměřená na AI generovaný CSAM.
Shivang Tripathi je doktorským výzkumníkem na právnické fakultě, na Hindské univerzitě Banaras. Neha Singh je doktorským výzkumníkem na právnické fakultě, Hindská univerzita Banaras
Publikováno – 3. dubna 2025 12:08
