Stránky povolující obrázky zneužívání dětí generované umělou inteligencí pořízené offline v Austrálii

Tři webové stránky, které uživatelům umožňují vytvářet materiál pro sexuální zneužívání dětí pomocí umělé inteligence, byly v Austrálii mimo provoz, uvedl ve čtvrtek tamní internetový regulátor.

Canberra’s eSafety uvedl, že stránky obdrželo více než 100 000 návštěv z Austrálie a byly spojeny s řadou vysoce profilovaných případů materiálů o sexuálním zneužívání dětí generovaných umělou inteligencí studentů místních škol.

AFP chápe, že webové stránky provozuje společnost Itai Tech se sídlem ve Spojeném království, která minulý týden dostala pokutu od britského regulátora Ofcom za to, že nezahrnula opatření na ověřování věku.

Komisařka pro eSafety Julie Inman Grantová uvedla, že web „nepodařilo se zavést ochranná opatření, která by zabránila tomu, aby jeho služby byly využívány k vytváření materiálů týkajících se sexuálního zneužívání dětí“, a jsou marketingovými funkcemi, které uživatelům umožňují svléknout „jakékoli dívky“.

„Věříme, že tento významný poskytovatel blokuje jejich používání Australany, že to bude mít hmatatelný dopad na počet australských školních dětí, které se stanou obětí sexuálního vykořisťování dětí generovaného umělou inteligencí,“ řekl Inman Grant.

Společnost eSafety zaslala v září formální varování a hrozila pokutou až 49,5 milionu AUD (32,3 milionu USD) za „alarmující“ funkce jasně zaměřené na děti.

Šíření nástrojů umělé inteligence vedlo k novým formám zneužívání ovlivňujících děti, včetně pornografických skandálů na univerzitách a školách po celém světě, kde teenageři vytvářejí sexualizované obrázky svých spolužáků.

Letošní průzkum Save the Children zjistil, že jeden z pěti mladých lidí ve Španělsku se stal obětí falešných aktů, přičemž tyto snímky byly sdíleny online bez jejich souhlasu.

Austrálie je v čele celosvětového úsilí o omezení škod na internetu, zejména těch, které jsou zaměřeny na děti.

Příští měsíc vstoupí v platnost významné zákony, které omezují přístup na sociální sítě osobám mladším 16 let, jeden z nejtvrdších zátahů na světě na populárních webech jako Tiktok, Snapchat a Youtube.