Šéf britských špionů varuje před nebezpečím umělé inteligence, ne však před katastrofou

Systémy umělé inteligence fungující bez lidské kontroly by jednoho dne mohly představovat bezpečnostní hrozbu, řekl ve čtvrtek šéf britské špionážní agentury MI5.i když řekl, že nepředpovídá scénáře zkázy, jak je vykreslují sci-fi filmy.

Techničtí lídři varovali před nebezpečím nekontrolované umělé inteligence a že by se lidé měli obávat budoucnosti „Terminátoru“, jak je vidět ve filmové sérii o systému umělé inteligence, který si začne uvědomovat sám sebe a snaží se vyhladit lidstvo.

Šéf MI5 Ken McCallum ve svém každoročním projevu o hrozbách pro Británii uvedl, že AI používají britské bezpečnostní služby k zefektivnění jejich práce, zatímco teroristé ji využívají k propagandě a průzkumu cílů a státní aktéři k manipulaci voleb a vyostřování kybernetických útoků.

„Ale v roce 2025, zatímco budeme bojovat s dnešními hrozbami, musíme také pokrýt další hranice: potenciální budoucí rizika z nehumánních autonomních systémů umělé inteligence, které se mohou vyhnout lidskému dohledu a kontrole,“ řekl.

„Vzhledem k riziku humbuku a strašení budu svá slova volit opatrně. Nepředpovídám scénáře hollywoodských filmů… Ale vzhledem k tomu, že schopnosti umělé inteligence jsou stále vpředu, očekávali byste, že organizace jako MI5… dnes hluboce přemýšlejí o tom, jak by ‚Defending the Realm‘ mohla vypadat v příštích letech,“ řekl.

„Umělá inteligence nám nikdy nemusí ‚ublížit‘,“ řekl McCallum. „Ale bylo by bezohledné ignorovat možnost, že to způsobí škodu. Jsme na případu.“