Čínské ministerstvo zahraničí neodpovědělo okamžitě na žádost agentury Reuters o vyjádření k nálezům OpenAI.

OpenAI pravidelně vydává zprávy o škodlivé aktivitě, kterou detekuje na své platformě (soubor) | Foto kredit: Reuters

OpenAI vidí rostoucí počet čínských skupin Použití své technologie umělé inteligence pro skryté operace, kterou výrobce Chatgpt popsal ve zprávě zveřejněné ve čtvrtek.

Zatímco rozsah a taktika používaná těmito skupinami se rozšířila, detekované operace byly obecně malé v měřítku a zaměřené na omezené publikum, uvedl spuštění založené na San Franciscu.

Od doby, kdy se Chatgpt na scéně na konci roku 2022 propukl, došlo k obavám o potenciální důsledky generativní technologie AI, která může rychle a snadno produkovat lidský text, snímky a zvuk.

OpenAI pravidelně vydává zprávy o škodlivé činnosti, kterou detekuje na své platformě, jako je vytváření a ladění malwaru nebo generování falešného obsahu pro webové stránky a platformy sociálních médií.

V jednom příkladu OpenAI zakázala Chatgpt účty, které generovaly příspěvky na sociálních médiích o politických a geopolitických tématech relevantních pro Čínu, včetně kritiky videohry zaměřené na Tchaj-wanu, falešných obvinění proti pákistánskému aktivistovi a obsahu související s uzavřením USAID.

Některý obsah také kritizoval zametací tarify amerického prezidenta Donalda Trumpa a generoval X příspěvků, například „tarify způsobují, že dovážené zboží je neuvěřitelně drahé, přesto vláda potlačí zámořskou pomoc. Kdo má pokračovat v jídle?“.

V jiném příkladu použili herci s hrozbami vázanými na Čínu AI k podpoře různých fází svých kybernetických operací, včetně výzkumu s otevřeným zdrojovým kódem, úpravy skriptů, konfigurací systému odstraňování problémů a vývoje nástrojů pro vynucení hesla a automatizaci sociálních médií.

Třetím příkladem OpenAI byla nalezena operace vlivu v Číně a původu, která vytvořila polarizovaný obsah sociálních médií podporující obě strany dělících témat v americkém politickém diskurzu, včetně textu a profilových obrázků generovaných AI.

Čínské ministerstvo zahraničí neodpovědělo okamžitě na žádost agentury Reuters o vyjádření k nálezům OpenAI.

Openai upevnil svou pozici jedné z nejcennějších soukromých společností na světě poté, co oznámil kolo financování ve výši 40 miliard USD, která společnost ocenila na 300 miliard USD.