Tento zvuk je generován automaticky. Pokud máte, dejte nám vědět zpětná vazba.
Potápěčský přehled:
- Společnost ve středu oznámila, že dětem a dospívajícím bude brzy zakázáno používat primární chatovací funkci v oblíbené aplikaci Character.AI, která uživatelům umožňuje rozvíjet vztahy se společníky s umělou inteligencí.
- Character.AI uvedla, že do 25. listopadu postupně ukončí možnost pro uživatele mladší 18 let zapojit se do otevřeného chatu s postavami AI na její platformě. Tento krok přichází v době, kdy jsou organizace zabývající se bezpečností médií a duševním zdravím mládeže vyvěšování červených vlajek o sociálních doprovodných aplikacích AI.
- Tento krok také přichází v době, kdy probíhá několik soudních sporů proti Character.AI ze společnosti Právní centrum pro oběti sociálních sítí jménem rodin, které tvrdí, že doprovodná aplikace AI vedla k sebevraždě nebo pokusu o sebevraždu jejich dětí.
Statistiky potápění:
Nedávný výzkum signalizoval vznik problematických vztahů, které někteří studenti rozvíjejí pomocí doprovodných nástrojů AI. A zastánci mládeže důrazně doporučují, aby se kdokoli mladší 18 let vyhýbal aplikacím jako Character.AI, které pro studenty představují vážná rizika pro duševní zdraví.
Přibližně 42 % studentů uvedlo, že oni nebo jejich přátelé používali AI pro podporu duševního zdraví, jako přítele nebo společníka nebo jako způsob, jak uniknout z reálného života během školního roku 2024-25, podle průzkumu neziskové organizace. Centrum pro demokracii a technologii. Podle výsledků průzkumu CDT zveřejněných v říjnu téměř 20 % studentů uvedlo, že používají AI k romantickému vztahu.
Samostatný červencový průzkum společnosti Common Sense Media také zjistil, že 1 ze 3 dospívajících uvedl, že používá AI společníky „pro sociální interakci a vztahy, včetně hraní rolí, romantických interakcí, emocionální podpory, přátelství nebo konverzace“.
Aby uživatelé mladší 18 let neměli přístup k primární funkci chatu Character.AI, společnost uvedla, že zavede „funkci zajištění věku“. navíc Character.AI ve středu uvedl, že spustí a bude financovat AI Safety Lab, nezávislou neziskovou organizaci zaměřenou na bezpečnostní inovace pro nové zábavní nástroje AI.
A zatímco dospívající nebudou moci používat otevřený chat AI společnosti, brzy budou mít přístup k dalším způsobům použití aplikace, například vytvářením videí, příběhů a streamů s postavami AI.
Charakter.AI řekl, že všechny tyto změny se dějí „ve světle vyvíjejícího se prostředí kolem AI a dospívajících“. Společnost dodala, že nedávné zprávy a regulační orgány vznesly otázky o tom, jak může otevřený chat s umělou inteligencí obecně ovlivnit dospívající „i když ovládání obsahu funguje perfektně“.
„Chceme vytvořit precedens, který upřednostňuje bezpečnost mladistvých a zároveň mladým uživatelům stále nabízí příležitosti objevovat, hrát si a tvořit,“ uvedl Character.AI ve svém středečním oznámení. „Budeme pokračovat ve spolupráci s bezpečnostními experty, regulačními orgány a dalšími zúčastněnými stranami, abychom zajistili, že bezpečnost uživatelů zůstane prvořadá, protože vyvíjíme inovativní nové funkce, které podporují kreativitu, objevování a komunitu.“
Odborníci na duševní zdraví mládeže tvrdí, že rozšířené používání umělé inteligence mezi studenty zvyšuje naléhavost škol vyvinout celookresní strategii umělé inteligence, která také zahrnuje lekce o gramotnosti umělé inteligence.
Předsedkyně National Parents Union Keri Rodriguesová ve středečním prohlášení vyzvala k odpovědnosti a zákonům v této oblasti, včetně „zábradlí se zuby, které kladou bezpečnost a duševní zdraví dětí na první místo“ – a před ziskem.
„Krok od Character.AI vykopnout ze své platformy děti mladší 18 let je dobrý začátek, ale řekněme si to jasně: Silicon Valley nezíská zlatou hvězdu za to, že konečně udělalo naprosté minimum,“ řekl Rodrigues. „Rodiče ze střech křičeli o nebezpečích neregulované umělé inteligence a toto rozhodnutí ukazuje, že se technologický průmysl teprve nyní probouzí.“
