Jak blízko jsou dnešní modely umělé inteligence k AGI – ak sebezdokonalování v superinteligenci?

Vidíme první kroky k superinteligenci umělé inteligence?

Podle Deni Ellis Béchardová upravil Eric Sullivan

Matrix, Terminátor– tolik naší sci-fi je postaveno na nebezpečích superinteligentních umělá inteligence: systém, který překonává nejlepší lidi téměř ve všech kognitivních doménách. CEO OpenAI Sam Altman a generální ředitel společnosti Meta Mark Zuckerberg předpověděli, že takové AI dosáhneme v nadcházejících letech. Ale strojů, jako jsou ty, které v těchto filmech bojují s lidstvem, by muselo být mnohem víc pokročilejší než ChatGPTnemluvě o schopnějším vytváření tabulek Excelu než Microsoft Copilot. Jak si tedy někdo může myslet, že jsme si vzdáleně blízcí umělá superinteligence?

Jedna odpověď sahá až do roku 1965, kdy statistik Irving John Good představil myšlenku „ultrainteligentní stroj.“ Napsal, že jakmile bude dostatečně sofistikovaný, počítač se sám rychle zlepší. Pokud se vám to zdá přitažené za vlasy, zvažte, jak byl postaven AlphaGo Zero – systém umělé inteligence vyvinutý v DeepMind v roce 2017 pro hraní staré čínské deskové hry Go. Nepoužívat žádná data z lidských her, AlphaGo Zero hrál sám sebe milionkrát a během dní dosáhl zlepšení, které by člověku trvalo celý život a které mu umožnilo porazit předchozí verze AlphaGo, které již porazily nejlepší světové lidské hráče. Goodova myšlenka byla, že každý systém, který je dostatečně inteligentní na to, aby se sám přepsal, by vytvořil iterace sebe sama, z nichž každá by byla chytřejší než předchozí a ještě schopnější vylepšování, což by vyvolalo „explozi inteligence“.

Otázkou tedy je, jak blízko jsme tomu prvnímu systému, který je schopen autonomní sebezdokonalování. Ačkoli tu ještě nejsou systémy, které jsou na útěku, popsané Goodem, sebelepší počítače ano – alespoň v úzkých oblastech. AI už na sobě spouští kód. OpenAI’s Codex a Anthropic’s Claude Code mohou pracovat nezávisle hodinu nebo více při psaní nového kódu nebo aktualizaci stávajícího kódu. Pomocí Codexu jsem si nedávno na procházce nahrál výzvu do telefonu a než jsem dorazil domů, vytvořil funkční web. V rukou zkušených kodérů dokážou takové systémy mnohem více, od reorganizace velkých kódových základen až po načrtnutí zcela nových způsobů, jak vytvořit software.

O podpoře vědecké žurnalistiky

Pokud se vám tento článek líbí, zvažte podporu naší oceňované žurnalistiky předplatné. Zakoupením předplatného pomáháte zajistit budoucnost působivých příběhů o objevech a nápadech, které formují náš dnešní svět.

Proč se tedy model pohánějící ChatGPT tiše nezakódoval do ultrainteligence? Háček je ve větě výše: „v rukou zkušených kodérů“. Navzdory působivým vylepšením umělé inteligence naše současné systémy stále spoléhají na lidi, kteří stanovují cíle, navrhují experimenty a rozhodují, které změny se považují za skutečný pokrok. Nejsou ještě schopny se samostatně vyvíjet robustním způsobem, což způsobuje, že některé řeči o hrozící superinteligenci se zdají přemrštěné – pokud ovšem současné systémy umělé inteligence nejsou blíže, než se zdá, že by se mohly zdokonalovat ve stále širších oblastech svých schopností.

Jednou z oblastí, ve které už vypadají nadlidsky, je to, kolik informací dokážou absorbovat a manipulovat s nimi. Nejpokročilejší modely jsou trénovány na mnohem větším množství textu, než by kdokoli mohl přečíst za život – od poezie přes historii až po vědu. Při práci mohou také sledovat mnohem delší úseky textu. Již nyní s komerčně dostupnými systémy, jako je ChatGPT a Gemini, mohu nahrát hromadu knih a nechat je AI syntetizovat a kritizovat způsobem, který by člověku zabral týdny. To neznamená, že výsledek je vždy správný nebo srozumitelný – ale v zásadě to znamená, že systém jako tento by mohl číst svou vlastní dokumentaci, protokoly a kód a navrhovat změny rychlostí a rozsahem, kterému se žádný technický tým nevyrovná.

Důvodem však je, kde tyto systémy zaostávají – i když to již v určitých zaměřených oblastech neplatí. AlphaDev společnosti DeepMind a související systémy již našly nové, efektivnější algoritmy pro úkoly, jako je třídění, výsledky, které se nyní používají v reálném kódu a které přesahují jednoduché statistické mimikry. Jiné modely vynikají ve formální matematice a vědeckých otázkách na postgraduální úrovni, které odolávají jednoduchému porovnávání vzorů. Můžeme diskutovat o hodnotě jakéhokoli konkrétního měřítka – a výzkumníci přesně to dělají – ale není pochyb o tom, že některé systémy umělé inteligence se staly schopnými objevovat řešení, která lidé dříve nenašli.

Pokud systémy již tyto schopnosti mají, co je tedy chybějící část? Jednou z odpovědí je umělá všeobecná inteligence (AGI), druh dynamického, flexibilního uvažování, které lidem umožňuje učit se z jedné oblasti a aplikovat ji na ostatní. Jak jsem již dříve psaldržíme posun našich definic AGI, protože stroje zvládají nové dovednosti. Ale co se týče otázky superinteligence, nezáleží na nálepce, kterou přikládáme; jde o to, zda systém dokáže využít své schopnosti ke spolehlivému přepracování a upgradu.

A to nás přivádí zpět k Goodově „exploze inteligence“. Pokud budeme budovat systémy s tímto druhem flexibilního lidského uvažování v mnoha doménách, co je bude oddělovat od superinteligence? Pokročilé modely jsou již vyškoleny ve více vědě a literatuře než kterýkoli člověk, mají mnohem lepší pracovní paměť a vykazují mimořádné schopnosti uvažování v omezených oblastech. Jakmile bude tato chybějící část flexibilního uvažování zavedena a jakmile umožníme takovým systémům nasadit tyto dovednosti na vlastní kód, data a tréninkové procesy, mohl by být skok k plně nadlidskému výkonu kratší, než si představujeme?

Ne všichni souhlasí. Někteří badatelé se domnívají, že ještě musíme v podstatě pochopit inteligenci a že vytvoření tohoto chybějícího kusu bude trvat déle, než se očekávalo. Jiní hovoří o dosažení AGI během několika let, což vede k dalšímu pokroku daleko za hranice lidských schopností. V roce 2024 Altman veřejně navrhl, že by superinteligence mohla dorazit „za pár tisíc dní.“

Pokud to zní příliš jako sci-fi, zvažte, že společnosti s umělou inteligencí pravidelně provádějí bezpečnostní testy na svých systémech, aby se ujistily, že se nemohou dostat do zaběhnuté smyčky sebezdokonalování. METRnezávislá bezpečnostní skupina AI hodnotí modely podle toho, jak dlouho dokážou spolehlivě udržet složitý úkol, než dojde k selhání. Letos v listopadu přišly její testy GPT-5.1-Codex-Max přibližně za dvě hodiny a 42 minut. Toto je obrovský skok oproti několika minutám takového výkonu GPT-4 na stejné metrice, ale není to situace, kterou popsal Good.

Antropické provádí podobné testy na svých systémech AI. „Aby bylo jasno, nejsme ještě u ‚sebe-zdokonalující se AI‘,“ napsal spoluzakladatel společnosti a vedoucí politiky Jack Clark. v říjnu„ale jsme ve fázi AI, která vylepšuje kousky další AI, s zvýšení autonomie.’“

Pokud se dosáhne AGI a přidáme úsudek na lidské úrovni k obrovské informační základně, rozsáhlé pracovní paměti a mimořádné rychlosti, Goodova myšlenka rychlého sebezdokonalování začíná méně připomínat sci-fi. Skutečnou otázkou je, zda se zastavíme u „pouhých lidí“ – nebo budeme riskovat přestřelení.

Je čas postavit se za vědu

Pokud se vám tento článek líbil, rád bych vás požádal o podporu. Scientific American sloužil jako obhájce vědy a průmyslu již 180 let a právě teď může nastat nejkritičtější okamžik v této dvousetleté historii.

Byl jsem a Scientific American předplatitel od mých 12 let a pomohlo mi to utvářet můj pohled na svět. SciAm vždy mě vzdělává a těší a vzbuzuje úctu k našemu obrovskému, krásnému vesmíru. Doufám, že to udělá i vám.

Pokud vy přihlásit se k odběru Scientific Americanpomáháte zajistit, aby se naše pokrytí soustředilo na smysluplný výzkum a objevy; že máme zdroje na podávání zpráv o rozhodnutích, která ohrožují laboratoře v USA; a že podporujeme začínající i pracující vědce v době, kdy hodnota samotné vědy příliš často zůstává nepoznaná.

Na oplátku získáte zásadní zprávy, strhující podcastyskvělá infografika, nepřehlédnutelné newsletteryvidea, která musíte vidět, náročné hrya nejlepší vědecké psaní a zpravodajství. Můžete dokonce darovat někomu předplatné.

Nikdy nebyl důležitější čas, abychom vstali a ukázali, proč na vědě záleží. Doufám, že nás v této misi podpoříte.