Ó14. října generální ředitel OpenAI Sam Altman zveřejnil na X zprávu o ChatGPT, která od prosince umožňuje erotiku pro ověřené dospělé. Poté, co příspěvek nasbíral přes 15 milionů zhlédnutí a vyvolal reakce od nadšení a zvědavosti až po znechucení a vztek, vydal pan Altman o dva dny později vysvětlení, v němž se zabýval obavami o bezpečnost dětí a uživatele ChatGPT, kteří čelí problémům s duševním zdravím.
Co napsal Sam Altman na X?
Začátkem týdne pan Altman připustil, že ChatGPT byl „docela restriktivní“, aby byl opatrný v otázkách duševního zdraví, ale dodal, že tato zásada činí chatbota méně příjemným pro ty, kteří nemají problémy s duševním zdravím. Generální ředitel OpenAI tvrdil, že jelikož byli schopni „zmírnit vážné problémy s duševním zdravím a mít nové nástroje“, mohla být mnohá omezení uvolněna. Takové tvrzení musí ještě potvrdit regulační orgány.
Pan Altman dále vysvětlil, že nová, připravovaná verze ChatGPT by lidem umožnila lépe přizpůsobit své odpovědi, včetně chování „jako přítele“.
„V prosinci, když zavádíme funkci age-gating úplněji a jako součást naší zásady „zacházejte s dospělými uživateli jako s dospělými“, umožníme ještě více, jako je erotika pro ověřené dospělé,“ řekl pan Altman. Toto prohlášení se stalo virálním, někteří kritizovali pana Altmana za to, že usnadnil přístup k erotice, zatímco jiní se postavili proti náhlým změnám, které byly provedeny na starším modelu 4o.
Jak OpenAI reagovalo?
Po reakci pan Altman objasnil, že erotika generovaná umělou inteligencí je jen jedním příkladem svobody, kterou může ověřený dospělý uživatel očekávat od ChatGPT.
Pan Altman zdůraznil, že společnost bude upřednostňovat bezpečnost před soukromím a svobodou teenagerů a že nebudou uvolněny žádné zásady týkající se duševního zdraví.
Opakovaně však poznamenal, že politikou společnosti bylo zacházet s dospělými uživateli jako s dospělými.
„Jak se umělá inteligence stává v životech lidí důležitější, důležitou součástí našeho poslání je poskytnout lidem velkou svobodu používat umělou inteligenci způsobem, který chtějí,“ napsal ve svém vysvětlení na X. „Samozřejmě to neplatí plošně: například stále nepovolíme věci, které poškozují ostatní, a budeme léčit uživatele, kteří mají krize duševního zdraví, aby dosáhli svých cílů velmi odlišných od uživatelů, kteří nejsou pamětníci. řekl.
Jak OpenAI chrání nezletilé?
OpenAI se dostalo pod tlak, aby zajistilo lepší ochranu pro děti po letošní smrti 16letého Adama Rainea, jehož rodiče zažalovali výrobce ChatGPT. Tvrdili, že chatbot trénoval jejich syna, aby zemřel, a pomohl mu dozvědět se více o různých sebevražedných metodách, místo aby mu pomohl najít nouzovou podporu.
OpenAI od té doby zavedla nové mechanismy ověřování věku na ochranu dospívajících a zranitelnějších uživatelů. Koncem září oznámil tvůrce ChatGPT rodičovskou kontrolu, aby rodiče/zákonní zástupci mohli propojit své účty s účty svých dospívajících, spravovat nastavení chatu dětí, přizpůsobovat prostředí mladších uživatelů a dostávat upozornění v případě, že jejich dítěti hrozí nebezpečí, že si ublíží.
„Jakmile rodiče a dospívající propojí své účty, účet dospívajících automaticky získá další ochranu obsahu, včetně omezeného grafického obsahu, virových výzev, sexuálních, romantických nebo násilných rolí a extrémních ideálů krásy, aby jejich zážitky byly přiměřené věku,“ uvedl tehdy OpenAI na blogu.
Existují však nevyřešené rozpory. Během epizody podcastu ‚This Past Weekend‘ s Theo Vonem letos v létě pan Altman poukázal na velké mezery v právech na soukromí pro uživatele, kteří kladou ChatGPT extrémně osobní otázky.
Povolují jiné společnosti AI erotiku?
Mnoho méně regulovaných společností a chatbotů s umělou inteligencí umožňuje uživatelům zapojit se do sexuálních interakcí, často s chabými opatřeními pro omezení věku. Recenze těchto chatbotů Gen AI v obchodě s aplikacemi uvádějí, že uživatelé mohou s chatboty AI iniciovat sexuální hraní rolí. To také ovlivnilo bezpečnost a duševní zdraví dětí.
V jednom případě matka 14letého dítěte, které zemřelo sebevraždou v roce 2024, tvrdila, že její syn byl sexuálně zneužíván chatbotem Character.AI, který uživatelům umožňuje hrát role s postavami umělé inteligence inspirovanými oblíbenými postavami. Matka podala žalobu na tvůrce, Character Technology.
Meta také čelila odporu a řekla, že reviduje obsahové zásady poté, co bylo zjištěno, že jeho chatbot s umělou inteligencí může dětem dělat romantické nebo sexuálně sugestivní komentáře.
Mezitím chatbot Grok AI od Elona Muska, který je k dispozici na X, je také schopen generovat erotický obsah, přičemž sám pan Musk sdílí videa částečně oblečených žen, která byla podle něj vytvořena pomocí Grok Imagine.
Publikováno – 20. října 2025 08:30 IST
