Meta přidat nové záruky AI po zprávě vyvolává obavy o bezpečnost dospívajících

Meta přidává nové záruky pro teenagery do svých produktů umělé inteligence pomocí tréninkových systémů, aby se zabránilo koketním rozhovorům a diskusi o sebepoškozování nebo sebevraždě s nezletilými a dočasným omezením jejich přístupu k určitým postavám AI.

Exkluzivní zpráva Reuters na začátku srpna odhalila, jak Meta umožnila provokativní chování chatbot, včetně nechat roboti, aby se zapojili do „rozhovorů, které jsou romantické nebo smyslné“.

Mluvčí META Andy Stone v pátek uvedl v e-mailu, že společnost podniká tyto dočasné kroky a zároveň vyvíjí dlouhodobější opatření, aby zajistila, že dospívající mají bezpečné a věkové zkušenosti s AI.

Stone řekl, že záruky jsou již zaváděny a budou v průběhu času upravovány, když společnost zdokonaluje své systémy.

Metainy politiky AI se po zprávě agentury Reuters dostaly pod intenzivní kontrolu a odpor.

Americký senátor Josh Hawley zahájil začátkem tohoto měsíce sondu do zásad AI na Facebooku a požadoval dokumenty o pravidlech, které umožnily jeho chatbotům nevhodně interagovat s nezletilými.

Demokraté i republikáni v Kongresu vyjádřili alarm nad pravidly uvedenými ve vnitřním meta dokumentu, který byl poprvé přezkoumán agenturou Reuters.

Meta potvrdila autentičnost dokumentu, ale uvedla, že po obdržení otázek začátkem tohoto měsíce od Reuters společnost odstranila části, které uvedly, že je přípustné pro chatboty flirtovat a zapojit se do romantické hraní rolí s dětmi.

„Dotyčné příklady a poznámky byly a jsou chybné a nekonzistentní s našimi politikami a byly odstraněny,“ řekl Stone začátkem tohoto měsíce.