Vytváření snímků zneužívání dětí s umělou inteligencí je nyní v Argentině zločinem, Po rozhodnutí nejvyššího soudu v jihoamerickém národě uprostřed nárůstu obsahu sexuálního zneužívání dětí dostupného online.
Vrchní soud v argentinské provincii Buenos Aires tento měsíc rozhodl, že použití fotografií a videí zneužívání dětí generovaných AI je trestním trestným činem, i když žádné skutečné, identifikovatelné oběti a bez ohledu na to, zda byly obrázky zcela nebo částečně vyrobeny AI.
„Je to bezprecedentní rozhodnutí v Latinské Americe,“ řekl právník Hernan Navarro, zakladatel péče o Grooming Argentina, nezisková organizace, která se zabývá péčí o děti.
„I když se jedná o zločiny, kde není ve skutečnosti žádná zjevná oběť, je zde interpretováno, že společnost jako celek je obětí,“ řekl Navarro, odborník na pedofilní zločiny.
Rozhodnutí pramení z případu člověka obviněného z publikování a distribuce AI generovaných obrázků a videí dětí ve věku 3 až 13 let.
Zatímco soudci uznali, že snímky nelze vysledovat skutečné děti, uvedli, že nedokáže kriminalizovat obsah generovaný AI by „vedl k normalizaci“ pedofilie a poškodil „sexuální integritu“ dětí.
Rozsudek soudu se přímo zabývá právním vakuem kolem nezákonného obsahu generovaného AI a aktivisté uvedli, že doufají, že právní precedens pomůže bojovat proti online vykořisťování dětí a zneužití nástrojů AI.
„V rukou pedofilů může být technologie AI zbraň, protože se stává snadno dostupným nástrojem pro výrobu vydíracího materiálu,“ řekl Navarro.
Použití technologie umožňuje doktoring obrazů dětí, které původně neměly žádnou sexuální konotaci, svlékli je nebo jejich změnu k vytvoření sexualizovaného obsahu.
To lze použít k ohrožení nebo vydírání oběti svou publikací, řekl Navarro.
Právní odborníci však varovali, že rozhodnutí by se dalo odvolat, zejména pokud následuje odsouzení a vedou k nové interpretaci.
Konkrétní legislativa je proto nezbytná k zajištění robustnějších a jasnějších prostředků pro řešení těchto otázek v novém trestním zákoně, řekl Lucas Moyano, státní zástupce v oblasti počítačové kriminality v provincii Buenos Aires.
„Rozsudek soudu je správné, ale otázkou je, kdy to bude legislativováno,“ řekl Moyano.
„Se zákonem, který jej jasně definuje, by rozhodnutí bylo definitivně vyřešeno a neexistoval by prostor pro další interpretace.“
Obrázky generované AI je obtížné odlišit od skutečných, což ztěžuje identifikaci a stíhání zločinců a vytváří celkové klima, které ohrožuje děti, dodal.
„I když obraz nezobrazuje skutečné dítě, materiál sexuálního zneužívání dítěte AI stále přispívá k objektivizaci a sexualizaci dětí jako celku a podporuje sexuální touhu vůči nim,“ řekl.
Přeshraniční povaha počítačové kriminality v mnoha případech přidává další vrstvu složitosti ke sledování a trestání pachatelů, poznamenal státní zástupce.
Celosvětově došlo k prudkému nárůstu videí sexuálního zneužívání dětí generovaných AI online, poháněným rychle se rozvíjející technologií, snadno dostupnými modely AI a rostoucí sofistikovaností nástrojů pro tvorbu videa.
V červenci nadace Internet Watch Foundation (IWF), britský hlídací pes se sídlem ve Velké Británii, uvedla, že videa AI zneužívání „překročila prahovou hodnotu“, že je téměř nerozeznatelná od skutečných snímků.
V prvních šesti měsících roku 2025 IWF ověřila 1 286 videí vyrobených AI s materiálem sexuálního zneužívání dětí ve srovnání s pouhými dvěma ve stejném období loňského roku.
Většina videí představovala zneužívání „kategorie A“, klasifikaci pro nejzávažnější typ materiálu.
Začátkem tohoto roku zatkli Europol a místní úřady desítky lidí ve téměř 20 zemích ve velkém měřítku globálního bodnutí známého jako „Operace Cumberland“, jeden z prvních hlavních případů, kdy se týká materiálu sexuálního zneužívání dětí generovaného AI.
Operace se řídila zatčením dánského muže za údajné produkci materiálu zneužívání dětí generovaného AI a účtování uživatelů za online předplatné.
V Británii právníci právníci připisovali nové zákony přijaté v boji proti zneužívání a vykořisťování dětí online.
V únoru byla Británie nezákonná používat nástroje AI, které vytvářejí obrazy sexuálního zneužívání dětí, a stala se první zemí na světě, která představila nové trestný čin AI sexuálního zneužívání.
Výsledkem je, že vlastnit, pořizování, vytváření, zobrazování nebo distribuce explicitních obrazů dětí je v Anglii a Walesu zločinem.
V uplynulém roce Spojené státy také zvýšily stíhání proti obsahu zneužívání dětí generovaného AI.
Ministerstvo spravedlnosti USA v roce 2024 přineslo nejméně dva trestní případy týkající se používání generativních systémů AI, které vytvářejí text nebo obrázky v reakci na uživatelské výzvy, aby vytvořily explicitní obrazy dětí.
Navzdory takovému úsilí přetrvává po celém světě mnoho právních mezer, které umožňují záplavu nezákonného materiálu.
Nárůst AI významně změnil povahu, rozsah a dosah zločinů pedofily, řekl Navarro.
„AI je nesmírně mocný nástroj, který nyní mají jako spojenec,“ řekl.
Publikováno – 25. července 2025 02:33
