Poté, co Kentucky teenager letos zemřel sebevraždou, Jeho rodiče zjistili, že obdržel ohrožující texty, které požadovaly 3 000 $, aby potlačil jeho nahý obrázek generovaný AI.
Tragédie zdůrazňuje, jak tzv. Sextotové podvody zaměřené na děti rostou po celém světě, zejména s rychlým rozšířením aplikací „nudify“: AI nástroje, které digitálně odstraňují oblečení nebo vytvářejí sexuální snímky.
Elijah Heacock, 16, byl jen jedním z tisíců amerických nezletilých zaměřených takovým digitálním vydírání, který pobídl výzvu k dalším krokům z technologických platforem a regulačních orgánů.
Jeho rodiče nám řekli médiím, že textové zprávy mu nařídily zaplatit, nebo zjevně nahá fotka vygenerovaná AI bude poslána jeho rodině a přátelům.
„Lidé, kteří jsou po našich dětech, jsou dobře organizovaní,“ řekl John Burnett, otec chlapce, v rozhovoru CBS News.
„Jsou dobře financováni a jsou vytrvalí. Nepotřebují, aby byly fotografie skutečné, mohou generovat vše, co chtějí, a pak je používají k vydírání dítěte.“
Američtí vyšetřovatelé se dívali do případu, který přichází, když aplikace Nudify, které se zvýšily na význam zaměřené na celebrity, jsou stále více vyzbrojeny proti dětem.
FBI vykázala „strašlivý nárůst“ v případech Sextotu, které se zaměřují na americké nezletilé, přičemž oběti obvykle muži ve věku 14 a 17 let. Hrozba vedla k „alarmujícímu počtu sebevražd“, agentura varovala.
V nedávném průzkumu, Thorn, nezisková organizace zaměřená na prevenci online vykořisťování dětí, zjistila, že šest procent amerických dospívajících bylo přímou obětí hlubokých aků.
„Zprávy o padělcích a hlubokých – z nichž mnohé jsou generovány pomocí těchto„ nudifikačních “služeb, se zdají být úzce spojeny se zprávami o finančním sexmatu nebo vydírání se sexuálně explicitními obrazy,“ uvedla v loňském roce ve zprávě British Watchdog Internet Watch Foundation (IWF).
„Pachatelé již nemusí získávat intimní obrazy od dětí, protože obrázky, které jsou dostatečně přesvědčivé, aby byly škodlivé – možná i tak škodlivé jako skutečné obrazy v některých případech – lze vytvořit pomocí generativní AI.“
IWF identifikoval jednoho „pedofilního průvodce“ vyvinutého predátory, který výslovně povzbuzoval pachatele, aby používali nudifikační nástroje k generování materiálu pro vydírání dětí. Autor průvodce tvrdil, že úspěšně vydíral některé 13leté dívky.
Nástroje jsou lukrativním obchodem.
Nová analýza 85 webových stránek prodávajících služby NUDIFICE zjistila, že mohou mít společně až 36 milionů dolarů ročně.
Analýza z indikátoru, americká publikace zkoumající digitální podvod, odhaduje, že 18 webů vyrobilo mezi 2,6 miliony a 18,4 milionu USD za šest měsíců do května.
Většina webů se spoléhá na technickou infrastrukturu od společnosti Google, Amazon a Cloudflare a zůstává zisková navzdory zásahům platforem a regulačních orgánů, uvedl Indicator.
Proliferace nástrojů AI vedlo k novým formám zneužívání, které ovlivňují děti, včetně skandálů pornografie na univerzitách a školách po celém světě, kde teenageři vytvořili sexuální obrazy svých vlastních spolužáků.
Nedávný průzkum Save the Children zjistil, že jeden z pěti mladých lidí ve Španělsku byl oběťmi hlubokých akcí, přičemž tyto obrázky byly sdíleny online bez jejich souhlasu.
Začátkem tohoto roku španělští státní zástupci uvedli, že vyšetřují tři nezletilé ve městě Puertollano za to, že se údajně zaměřují na své spolužáky a učitele s pornografickým obsahem generovaným AI a distribuovali je ve své škole.
Ve Spojeném království vláda letos učinila sexuálně explicitní hluboké trestný čin, přičemž pachatelé čelili až dva roky ve vězení.
A v květnu americký prezident Donald Trump podepsal bipartisan „sundat to“ akt “, který kriminalizuje nekonsunsuální publikaci intimních obrázků a zároveň nařizuje jejich odstranění z online platforem.
Meta také nedávno oznámila, že podává žalobu proti společnosti v Hongkongu za aplikací NUDIFY s názvem Crush AI, která podle něj opakovaně obcházela pravidla technického gigantu, aby zveřejňovala reklamy na svých platformách.
Ale navzdory takovým opatřením vědci tvrdí, že weby AI nudifikují zůstávají odolné.
„K dnešnímu dni byl boj proti AI nudifiers hrou Whack-A-Mole,“ řekl Indicator a nazval aplikace a weby „přetrvávající a škodlivé protivníky“.
Ti v nouzi nebo mají sebevražedné tendence může hledat pomoc a poradenství voláním těchto linek hellpionů.
Publikováno – 17. července 2025 09:14
