Čína vydává návrhy pravidel pro regulaci umělé inteligence s interakcí podobnou lidské

Čínský kybernetický regulátor v sobotu vydal návrh pravidel pro veřejné komentáře, která by se měla zpřísnit dohled nad službami umělé inteligence navrženými tak, aby simulovaly lidské osobnosti a zapojovaly uživatele do emocionální interakce.

Tento krok podtrhuje snahu Pekingu utvářet rychlé zavádění umělé inteligence pro spotřebitele posílením bezpečnostních a etických požadavků.

Navrhovaná pravidla by se vztahovala na produkty a služby umělé inteligence nabízené ​veřejnosti v Číně, které ⁠prezentují simulované lidské osobnostní rysy, vzorce myšlení a komunikační styly a emocionálně interagují s uživateli prostřednictvím ​textu, obrázků, zvuku, videa⁠nebo jinými prostředky.

Návrh stanoví regulační přístup, který by od poskytovatelů vyžadoval, aby varovali uživatele před nadměrným užíváním a zasahovali, když uživatelé vykazují známky závislosti.

Podle návrhu by poskytovatelé služeb byli povinni převzít odpovědnost za bezpečnost během celého životního cyklu produktu a zavést systémy pro kontrolu algoritmů, zabezpečení dat a ochranu osobních informací.

Návrh se zaměřuje i na potenciální psychologická rizika. Od poskytovatelů by se očekávalo, že identifikují stavy uživatelů a posoudí emoce uživatelů a míru jejich závislosti na službě. Pokud se zjistí, že uživatelé projevují extrémní emoce nebo návykové chování, poskytovatelé by měli přijmout nezbytná opatření, aby zasáhli.

Opatření stanovují obsah ⁠a vedou červené linie, uvádějící, že služby nesmí generovat obsah, který ohrožuje národní bezpečnost, šíří fámy nebo propaguje násilí či obscénnost.