Austrálie říká společnostem zabývajícím se AI chatboty, aby podrobně popsaly kroky na ochranu dětí

Austrálie nařídila čtyřem chatbotům s umělou inteligencí, aby vysvětlily svá opatření na ochranu dětí před vystavením sexuálnímu nebo sebepoškozujícímu materiálu, protože její internetový regulátor posiluje bezpečnostní opatření na hranici umělé inteligence.

Realistické konverzační schopnosti těchto služeb vzaly svět útokem, ale také rozdmýchaly obavy, že nedostatek zábradlí vystavuje zranitelné jedince nebezpečnému obsahu.

Komisař pro eSafety ve svém prohlášení uvedl, že hledá podrobnosti o zárukách proti sexuálnímu vykořisťování dětí, pornografii a materiálům propagujícím sebevraždu nebo poruchy příjmu potravy.

Odeslala oznámení společnosti Character Technologies, vlastníkovi nástroje pro simulaci celebrit chatbot character.ai, a konkurenčním společnostem Glimpse.AI, Chai Research a Chub AI.

„Některé z těchto služeb mohou mít i temnější stránku s mnoha… chatboty schopnými zapojit se do sexuálně explicitních rozhovorů s nezletilými,“ uvedla v prohlášení komisařka Julie Inman Grantová.

„Byly vzneseny obavy, že mohou také podporovat sebevraždu, sebepoškozování a neuspořádané stravování.“

Australský online regulační systém dává komisaři pravomoc přimět internetové firmy, aby hlásily interní bezpečnostní procesy nebo čelily denním pokutám až do výše 825 000 australských dolarů (536 000 dolarů).

Nejpopulárnější z dotazovaných služeb, Character.ai, je žalována ve Spojených státech poté, co matka 14letého dítěte řekla, že její syn zemřel sebevraždou po dlouhé interakci s AI společníkem na webu.

Character.ai se snažila žalobu zamítnout a tvrdí, že zavedla bezpečnostní prvky, jako jsou vyskakovací okna, která uživatele nasměrují na National Suicide Prevention Lifeline, pokud vyjádří myšlenky na sebepoškozování.

Školy v Austrálii uvedly, že děti ve věku 13 let tráví až pět hodin denně rozhovory s chatboty, někdy i sexuálně, řekl regulátor a dodal, že nezletilí riskují, že si s nimi vytvoří sexuální nebo emocionálně závislé vazby, nebo budou podněcováni k sebepoškozování.

Regulátor se však nevyptával OpenAI, vlastníka nejpopulárnějšího světového vyhledávacího nástroje AI, ChatGPT, protože jeho zásah se zaměřil na doprovodné nástroje a ChatGPT není pokryt průmyslovým kódem až do března 2026, řekl mluvčí eSafety.

Austrálie má jeden z nejpřísnějších režimů regulace internetu na světě.

Od prosince budou společnosti sociálních médií nuceny deaktivovat nebo odmítnout účty pro uživatele mladší 16 let nebo jim bude hrozit pokuta až 49,5 milionu australských dolarů ve snaze ochránit duševní a fyzické zdraví mladých lidí.