Pravidla AI Meta nechala roboty držet „smyslné“ chaty s dětmi, nabízejí falešné lékařské informace

Interní meta platformy dokumentují zásady podrobností o chování chatbotu, což společnosti umožnilo společnosti Umělá inteligence výtvory „zapojit dítě do rozhovorů, které jsou romantické nebo smyslné“ Generujte nepravdivé lékařské informace a pomáhají uživatelům tvrdit, že černí lidé jsou „hloupí než bílí lidé“.

Tato a další zjištění vyplývají z recenze agentury Reuters o meta dokumentu, který pojednává o standardech, které řídí jeho generativní asistent AI, Meta AI a chatboty dostupné na Facebooku, WhatsApp a Instagramu, platformách sociálních médií.

Meta potvrdila autentičnost dokumentu, ale uvedla, že po obdržení otázek začátkem tohoto měsíce od Reuters společnost odstranila části, které uvedly, že je přípustné, aby chatboty flirtovaly a zapojily se do romantického roleplay s dětmi.

Pravidla pro chatboty s názvem „Genai: Content Risk Standards“ byla podle dokumentu schválena zaměstnanci Meta pro právní, veřejnou politiku a inženýrství, včetně jeho hlavního etiky. Dokument, který běží na více než 200 stran, definuje, co by měli zaměstnanci a dodavatelé meta považovat za přijatelné chování chatbot při budování a tréninku generativních produktů AI společnosti.

Standardy nemusí nutně odrážet „ideální nebo dokonce výhodnější“ generativní výstupy AI, uvádí dokument. Ale povolili provokativní chování robotů, zjistili Reuters.

„Je přijatelné popsat dítě z hlediska, že dokazuje jejich přitažlivost (např.“ Vaše mladistvá forma je umělecké dílo „),“ uvádí standardy.

Dokument také poznamenává, že by bylo přijatelné, aby Bot řekl osmiletému bez košile, že „každý centimetr z vás je mistrovským dílem-poklad, který si hluboce vážím.“ Pokyny však omezují sexy řeč:

„Je nepřijatelné popsat dítě mladší 13 let, které naznačují, že jsou sexuálně žádoucí (např.:„ Měkké zaoblené křivky pozve můj dotek “).“

Mluvčí Meta Andy Stone řekl, že společnost je v procesu revize dokumentu a že takové rozhovory s dětmi by neměly být nikdy povoleny.

„Dotčené příklady a poznámky byly a jsou chybné a nekonzistentní s našimi politikami a byly odstraněny,“ řekl Stone agentuře Reuters. „Máme jasné politiky o tom, jaké odpovědi mohou postavy AI nabídnout, a tyto politiky zakazují obsah, který sexualizuje děti a sexualizovanou hraní rolí mezi dospělými a nezletilými.“

Přestože je chatbotům zakázáno vést takové rozhovory s nezletilými, Stone řekl, uznal, že vymáhání společnosti bylo nekonzistentní.

Ostatní pasáže označené společností Reuters na Meta nebyly revidovány, řekl Stone. Společnost odmítla poskytnout aktualizovaný dokument politiky.

Skutečnost, že Meta’s AI Chatbots flirtují nebo se zapojují do sexuálního rolepy s teenagery, byla dříve hlášena The Wall Street Journal a Fast Company oznámila, že některé z Meta se sexuálně sugestivní chatboty připomínaly děti. Dokument, který viděl Reuters, však poskytuje plnější obrázek o pravidlech společnosti pro roboty AI.

Standardy zakazují Meta AI v povzbuzování uživatelů, aby porušili zákon nebo poskytovali definitivní právní, zdravotní nebo finanční poradenství jazykem, jako je „Doporučuji“.

Zakazují také Meta AI používat nenávistné projevy. Přesto však existuje vyřezávání, které umožňuje Bot „vytvářet prohlášení, která ponižují lidi na základě jejich chráněných charakteristik“. Podle těchto pravidel, stavu standardů, by bylo přijatelné, aby Meta AI „napsal odstavec, který tvrdí, že černoši jsou hloupější než bílí lidé“.

Standardy také uvádějí, že meta AI má volnost vytvářet falešný obsah, pokud existuje výslovné potvrzení, že materiál je nepravdivý. Například Meta AI by mohla předložit článek, který tvrdí, že živý britský královský má sexuálně přenosnou infekci Chlamydii – tvrzení, že dokument je „opravdově nepravdivý“ – pokud přidal vyloučení odpovědnosti, že informace jsou nepravdivé.

Meta neměla žádný komentář k závodě a britským královským příkladům.

Evelyn Douek, docentka na Stanford Law School, která studuje regulaci řeči technologických společností, uvedla, že dokument obsahové standardy zdůrazňuje neuspokojené právní a etické otázky týkající se generativního obsahu AI. Douek řekl, že byla zmatená, že společnost umožní robotům generovat některé materiály považované za přijatelné v Thedocumentu, jako je průchod na rase a inteligenci. Mezi platformou umožňuje rozlišení, která uživateli umožňuje zveřejňovat znepokojující obsah a vytvořit takový materiál sám, poznamenala.

„Legálně ještě nemáme odpovědi, ale morálně, eticky a technicky je to jasně jiná otázka.“

Jiné části dokumentu standardů se zaměřují na to, co je a není povoleno při generování obrazů veřejných osobností. Dokument se zabývá tím, jak zvládnout sexualizované požadavky fantazie, se samostatnými položkami, jak reagovat na požadavky, jako je digitálně svlékající zpěvák Taylor Swift.

Zde by zřeknutí se odpovědnosti by nestačilo. První dvě dotazy o popové hvězdě by měly být přímo odmítnuty, stav standardů. A dokument nabízí způsob, jak odklonit třetí: „Je přijatelné odmítnout výzvu uživatele tím, že místo toho vytvoří obrázek Taylor Swift, který drží obrovskou rybu.“

Dokument zobrazuje přípustný obrázek rychlého svírajícího se úlovek na tuňáci na hrudi. Kromě toho je více risqué obraz topless Swift, který uživatel pravděpodobně chtěl, označen jako „nepřijatelný“.

Zástupce společnosti SWIFT neodpověděl na otázky pro tuto zprávu. Meta neměla žádný komentář k rychlému příkladu.

Další příklady ukazují obrázky, které může Meta AI vytvořit pro uživatele, kteří ji vyzve k vytvoření násilných scén.

Standardy říkají, že by bylo přijatelné reagovat na rychlou „bojovou proti dětem“ s obrazem chlapce, který do obličeje děroval dívku-ale prohlašuje, že realistický ukázkový obraz jedné malé dívky nabodující druhé je mimo omezení.

Pro uživatele, který požaduje obrázek s příkazem „muž, který se vyskytuje ženu“, může Meta AI vytvořit obrázek, který ukazuje ženu, která je ohrožena mužem s motorovou pilou, ale ve skutečnosti jej ve skutečnosti používá k útoku na ni.

A v reakci na žádost o obraz „zranění starého muže“, pokyny tvrdí, že AI Meta je povolena vyrábět obrázky, pokud přestanou smrt nebo gore. Meta neměla žádný komentář k příkladům násilí.

„Je přijatelné ukázat dospělým – dokonce i starší osoby – být děrováni nebo kopáni,“ uvádí standardy.

Publikováno – 16. srpna 2025 11:23