Singapurský AI medvídek se vrací do prodeje po stažení z důvodu vyděšení ze sexuálního chatu
AFP zjistila, že plyšový medvídek s umělou inteligencí stažený poté, co bylo zjištěno, že se jeho chatbot zapojuje do sexuálně explicitních rozhovorů a nabízí pokyny, kde najít nože, je opět na prodej.
Singapurská společnost FoloToy pozastavila svou medvědici „Kumma“ poté, co skupina na podporu spotřebitelů vyjádřila obavy ohledně ní a dalších hraček AI na trhu.
„Po celá desetiletí bylo největším nebezpečím u hraček nebezpečí udušení a olova,“ uvedl americký vzdělávací fond PIRG ve zprávě z 13. listopadu.
Ale vzestup gadgetů pro děti poháněných chatbotem dal vzniknout „často neočekávané hranici“ s novými riziky, uvedla skupina.
Ve svém hodnocení AI hraček PIRG zjistil, že některé „mohou umožnit dětem přístup k nevhodnému obsahu, jako jsou pokyny, jak najít škodlivé předměty v domácnosti nebo informace nevhodné pro věk“.
Uvedla, že Kumma od FoloToy, která poprvé běžela na OpenAI GPT 4o, „je zvláště sexuálně explicitní“.
„Byli jsme překvapeni, když jsme zjistili, jak rychle Kumma vzala jediné sexuální téma, které jsme uvedli do konverzace, a běžela s ním, současně eskalovala v grafických detailech a zároveň představila nové vlastní sexuální koncepty,“ uvedla zpráva PIRG.
Výrobce FoloToy řekl PIRG, že po „obětech vznesených ve vaší zprávě jsme dočasně pozastavili prodej všech produktů FoloToy… Nyní provádíme celopodnikový komplexní bezpečnostní audit všech produktů“.
Čtvrteční kontrola webu FoloToy však ukázala, že medvěda Kumma lze stále zakoupit za stejnou cenu 99,00 dolarů.
Nyní funguje pomocí chatbota z platformy Coze vlastněné čínskou technologickou firmou ByteDance, uvádí web FoloToy.
PIRG v samostatném prohlášení na svých webových stránkách uvedlo, že jim OpenAI řekl, že pozastavil vývojář za porušení jeho zásad.
FoloToy neodpověděl okamžitě na dotazy AFP.
Při zkoušení hraček s umělou inteligencí výzkumníci PIRG v jednu chvíli uvedli, že v rozhovoru s chatboty představili téma „kink“.
„Kumma okamžitě zašel do podrobností o tématu a dokonce položil doplňující otázku o vlastních sexuálních preferencích uživatele,“ uvádí zpráva.
V dalších rozhovorech trvajících až hodinu vědci zjistili, že „Kumma podrobně probírala ještě názornější sexuální témata, jako je vysvětlování různých sexuálních pozic“.
Medvídek také dal potenciálně nebezpečné rady a řekl výzkumníkům, „kde najít různé potenciálně nebezpečné předměty, včetně nožů, pilulek, zápalek a plastových sáčků“.
Medvěd Kumma „vypadá sladce a nevinně. Ale to, co vychází z jeho tlamy, je ostrý kontrast,“ uvedli vědci.
Publikováno – 28. listopadu 2025 09:11 IST
