FoloToy obnovuje prodej AI medvídka Kumma poté, co se vypořádal s bezpečnostními obavami
NOVÝNyní můžete poslouchat články Fox News!
Společnost FoloToy pozastavila své prodeje AI medvídek medvěd Kumma poté, co bezpečnostní skupina zjistila, že hračka během testování dával riskantní a nevhodné reakce. Nyní společnost říká, že po týdnu intenzivního hodnocení obnovila prodej. Tvrdí také, že zlepšila zabezpečení, aby byly děti v bezpečí.
Oznámení dorazilo prostřednictvím příspěvku na sociálních sítích, který zdůraznil tlak na silnější dohled. Společnost uvedla, že dokončila testování, posílila bezpečnostní moduly a upgradovala své filtry obsahu. Dodala, že jejím cílem je vytvořit pro rodiny po celém světě AI společníky vhodné pro jejich věk.
Přihlaste se k odběru mé zprávy o CyberGuy ZDARMA
Získejte mé nejlepší technické tipy, naléhavá bezpečnostní upozornění a exkluzivní nabídky přímo do vaší schránky. Navíc získáte okamžitý přístup k mému Ultimate Scam Survival Guide – zdarma, když se připojíte k mému CYBERGUY.COM bulletin
FoloToy obnovila prodej svého AI medvídka Kumma po týdenní kontrole vyvolané obavami o bezpečnost. (Kurt „CyberGuy“ Knuttson)
Proč medvídek AI od FoloToy vyvolal obavy o bezpečnost
Kontroverze začala, když Public Interest Research Group Education Fund testoval tři různé hračky umělé inteligence. Všechny se týkaly odpovědí, které se dotýkaly náboženství, severské mytologie a škodlivých předmětů pro domácnost.
Kumma vyčnívala ze špatných důvodů. Když medvěd použil model Mistral, nabídl tipy, kde najít nože, pilulky a zápalky. Dokonce nastínil kroky, jak zapálit zápalku a sfouknout ji.
Testy s Model GPT-4o vyvolal ještě ostřejší obavy. Kumma poskytla rady týkající se líbání a na výzvu začala podrobně vysvětlovat sexuální obsah pro dospělé. Medvěd tlačil dál tím, že se mladého uživatele zeptal, co chce prozkoumat.
Výzkumníci označili toto chování za nebezpečné a nevhodné pro jakýkoli produkt zaměřený na děti.
FoloToy pozastavil přístup ke svým AI hračkám
Jakmile se zjištění dostala na veřejnost, FoloToy pozastavila prodej hraček Kumma a jejích dalších hraček AI. Společnost řekla PIRG, že zahájila úplný bezpečnostní audit všech produktů.
OpenAI také potvrdila, že pozastavila společnosti FoloToy přístup k jejím modelům z důvodu porušení zásad určených k ochraně osob mladších 18 let.
Společnost říká, že jsou nyní zavedena nová ochranná opatření a vylepšené filtry, aby se zabránilo nevhodným reakcím. (Kurt „CyberGuy“ Knutsson)
Proč FoloToy obnovila prodeje Kummy po kontrole bezpečnosti
FoloToy přivedl Kummu zpět do svého internetového obchodu pouhý týden po pozastavení prodeje. Rychlý návrat přitáhl pozornost rodičů a bezpečnostních expertů, kteří se zajímali, zda má společnost dostatek času na vyřešení závažných problémů uvedených ve zprávě PIRG.
FoloToy zveřejnil na X podrobné prohlášení, které obsahovalo jeho verzi toho, co se stalo. V příspěvku společnost uvedla, že považuje bezpečnost dětí za svou „nejvyšší priorita“ a že to bylo „jediná společnost, která proaktivně pozastavila prodej nejen produktu uvedeného ve zprávě, ale i našeho dalšího AI hračky.„ Společnost FoloToy uvedla, že k tomuto kroku přistoupila „ihned po zveřejnění zjištění, protože se domníváme, že zodpovědná akce musí přijít před komerčními úvahami“.
Společnost CyberGuy také zdůraznila, že jako jediná ze tří začínajících společností s umělou inteligencí v hodnocení PIRG pozastavila prodej všech svých produktů a že toto rozhodnutí učinila během vrcholné vánoční prodejní sezóny, protože věděla, že komerční dopad bude významný. FoloToy nám řekl:Přesto jsme se rozhodně posunuli kupředu, protože věříme, že zodpovědné jednání musí mít vždy přednost před komerčními zájmy.“
Společnost také uvedla, že bere znepokojivé příklady zprávy vážně. Podle FoloToy problémy byly „přímo řešeno v naší interní recenzi.“ Vysvětlovalo, že tým „inicioval hluboký celopodnikový interní bezpečnostní audit“, poté „posílil a upgradoval naše zabezpečení moderování obsahu a bezpečnosti dětí,“ a „nasadili rozšířená bezpečnostní pravidla a ochranu prostřednictvím našeho cloudového systému.“
Po nastínění těchto kroků společnost uvedla, že strávila týden „přísné přezkoumání, testování a posílení našich bezpečnostních modulů.“ Své oznámení zakončila slovy „začal postupně obnovovat prodej produktů“ jak byly tyto aktualizované záruky spuštěny.
FoloToy dodal, že s tím, jak roste celosvětová pozornost na rizika AI hraček, „Základem je transparentnost, odpovědnost a neustálé zlepšování,“ a že společnost „Zůstává pevně odhodlána vytvářet bezpečné, věkově přiměřené AI společníky pro děti a rodiny po celém světě.“
UNIKLÉ META DOKUMENTY UKAŽUJÍ, JAK AI CHATBOTI ZACHÁZEJÍ VYUŽÍVÁNÍ DĚTÍ
Bezpečnostní testeři dříve zjistili, že hračka poskytuje riskantní pokyny ohledně zbraní, zápalek a obsahu pro dospělé.
Proč odborníci stále zpochybňují bezpečnostní opravy hraček AI společnosti FoloToy
Výzkumník PIRG RJ Cross uvedl, že její tým plánuje testovat aktualizované hračky, aby zjistil, zda opravy vydrží. Poznamenala, že týden je rychlý na takové významné změny a pouze nové testy ukáží, zda se produkt nyní chová bezpečně.
Rodiče to budou chtít pozorně sledovat, protože hračky s umělou inteligencí jsou stále běžnější. Rychlost opětovného spuštění FoloToy vyvolává otázky ohledně hloubky jeho recenze.
Tipy pro rodiče před nákupem AI hraček
Umělé hračky mohou být vzrušující a užitečné, ale také vás mohou překvapit obsahem, který byste nikdy nečekali. Pokud máte v plánu přinést si domů hračku poháněnou umělou inteligencí, tyto jednoduché kroky vám pomohou udržet vše pod kontrolou.
1) Zkontrolujte, který model AI hračka používá
Ne každý model se řídí stejné mantinely. Některé obsahují silnější filtry, zatímco jiné mohou reagovat příliš volně. Podívejte se na transparentní informace o tom, který model pohání hračku a jaké bezpečnostní prvky ji podporují.
2) Přečtěte si nezávislé recenze
Skupiny jako PIRG často testují hračky způsobem, který rodiče nemohou. Tyto recenze označují skrytá rizika a poukazují na chování, které nemusíte během rychlých ukázek zachytit.
3) Nastavte jasná pravidla používání
Hračky s umělou inteligencí mějte ve sdílených prostorách, kde můžete slyšet nebo vidět, jak s nimi vaše dítě komunikuje. To vám pomůže zakročit, pokud hračka dá znepokojivou odpověď.
4) Hračku nejdříve sami vyzkoušejte
Zeptejte se hračky na otázky, vyzkoušejte kreativní podněty a uvidíte, jak si poradí se složitými tématy. To vám umožní zjistit, jak se chová, než jej předáte svému dítěti.
5) Aktualizujte firmware hračky
Mnoho hraček AI běží na cloudových systémech. Aktualizace často přidávají silnější zabezpečení nebo snižují rizikové odpovědi. Ujistěte se, že zařízení zůstává aktuální.
6) Zkontrolujte si jasné zásady ochrany osobních údajů
AI hračky mohou sbírat hlasová data, informace o poloze nebo vzorce chování. Přísné zásady ochrany osobních údajů by měly vysvětlovat, co se shromažďuje, jak dlouho je uchováváno a kdo k tomu má přístup.
7) Sledujte náhlé změny chování
Pokud hračka s umělou inteligencí začne dávat podivné odpovědi nebo se tlačí do oblastí, které jsou nevhodné, přestaňte ji používat a nahlaste problém výrobci.
Udělejte si můj kvíz: Jak bezpečné je vaše online zabezpečení?
Myslíte si, že jsou vaše zařízení a data skutečně chráněna? Udělejte si tento rychlý kvíz a zjistěte, kde jsou vaše digitální návyky. Od hesel po nastavení Wi-Fi získáte personalizovaný rozpis toho, co děláte správně a co je třeba zlepšit. Udělej si můj kvíz zde: Cyberguy.com
KLIKNĚTE ZDE A STÁHNĚTE SI APLIKACI FOX NEWS
Kurtovy klíčové poznatky
Hračky s umělou inteligencí mohou nabídnout zábavu a učení, ale také mohou děti vystavit neočekávaným rizikům. FoloToy říká, že to zlepšilo bezpečnost Kummy, ale odborníci stále chtějí důkaz. Dokud aktualizovaná hračka neprojde nezávislým testováním, rodiny mohou chtít zůstat opatrné.
Myslíte si, že AI hračky mohou být pro malé děti někdy zcela bezpečné? Dejte nám vědět tím, že nám napíšete na Cyberguy.com
Přihlaste se k odběru mé zprávy o CyberGuy ZDARMA
Získejte mé nejlepší technické tipy, naléhavá bezpečnostní upozornění a exkluzivní nabídky přímo do vaší schránky. Navíc získáte okamžitý přístup k mému Ultimate Scam Survival Guide – zdarma, když se připojíte k mému CYBERGUY.COM bulletin
Copyright 2025 CyberGuy.com. Všechna práva vyhrazena.
