OpenAI podporuje spuštění s cílem blokovat biologické zbraně s umělou inteligencí

Tvůrce ChatGPT OpenAI ve čtvrtek uvedl, že bude investovat do startupu zaměřeného na blokování špatných herců ve vytváření biologických zbraní poháněných umělou inteligencí.

OpenAI je hlavním investorem počátečního kola v hodnotě 15 milionů dolarů v roce , který se snaží zajistit, aby obrana průmyslu AI rostla alespoň tak rychle jako ti, kteří se snaží zneužívat modely k poškození lidí, řekl spoluzakladatel startupu Hannu Rajaniemi.

Investice je součástí širší snahy OpenAI investovat do startupů, které se snaží omezit rizika, která AI představuje. Minulý měsíc společnost podpořila Valthos, newyorský startup zaměřený na biologickou bezpečnost. Ředitel pro strategii OpenAI Jason Kwon řekl, že OpenAI zváží investice do jiných startupů zaměřených na podobné problémy.

„Chceme zvýšit celkovou odolnost celkového ekosystému,“ řekl Kwon v rozhovoru. „Jedním z nejlepších způsobů, jak se vypořádat se zmírňováním rizik, je více technologií.“

Výzkumníci a zastánci bezpečnosti tvrdí, že technologie AI by mohla brzy urychlit vývoj léků nebo navrhnout nové vakcíny. Ale tytéž schopnosti by mohly usnadnit špatným aktérům vývoj nových a výkonných biologických zbraní.

Red Queen Bio vznikla z Helix Nano, společnosti zabývající se léčbou mRNA v klinické fázi, která více využívá AI při navrhování léků. Helix Nano také spolupracoval s OpenAI na vytvoření testů k určení biologických rizik AI, řekl Kwon.

Generální ředitel OpenAI Sam Altman a členka představenstva Nicole Seligmanová, kteří dříve investovali do Helix Nano, získají v rámci transakce akcie společnosti Red Queen Bio. Kwon byl nepřímo investorem prostřednictvím Y Combinator, startupového inkubátoru v Silicon Valley. Jeho podíl je oceněn na méně než 2 500 $, uvedl OpenAI.

Manažeři se nepodíleli na schvalování investice OpenAI do Red Queen Bio, řekl mluvčí společnosti. Investici zkontrolovali a schválili ředitel pro dodržování předpisů OpenAI a nekonfliktní členové představenstva OpenAI.

Red Queen Bio se bude spoléhat na modely umělé inteligence a také na tradičnější laboratorní experimenty, aby odhalila nová rizika a vyvinula novou obranu. Název startupu pochází ze scény v knize Lewise Carrolla Through the Looking-Glass.

„Bylo jasné, že biologické schopnosti postupují rychleji, než jsme předpokládali,“ řekl Rajaniemi. „Cítili jsme, že musíme začít vyvíjet obranu.“

Dalšími investory do Red Queen Bio jsou Cerberus Ventures, Fifty Years a Halcyon Futures.