Meta AI je první krok k superintelligence – a Zuckerberg již nebude uvolňovat nejsilnější systémy pro veřejnost
Vědci z Meta tvrdí, že pozorovali společnost Umělá inteligence (AI) Systémy se zlepšují bez lidského vstupu.
„Během několika posledních měsíců jsme začali vidět záblesky našich systémů AI, které se zlepšují,“ řekl generální ředitel Meta Mark Zuckerberg v politickém dokumentu zveřejněném 30. července na webových stránkách společnosti. „Zlepšení je prozatím pomalé, ale nepopiratelné.“
Zuckerberg dodal, že samostatná AI je prvním krokem k dosažení Umělá superintelligence (ASI) – Umělá inteligence, která je schopna překonat kognitivní schopnosti lidí.
Obecně řečeno, vědci AI zvažují schopnosti AI ve třech vrstvách. Zatímco současné modely AI mohou dosáhnout mimořádných nadlidských výkonů, jako predikce proteinových strukturTyto schopnosti jsou extrémně úzké. V takových případech může systém překonat pouze lidi v jedné konkrétní oblasti, ale postrádá obecnou inteligenci pro tuto schopnost aplikovat v různých oborech.
Další úroveň se nazývá Umělá obecná inteligence (AGI) a odkazuje na modely, které dokážou porozumět, učit se a přizpůsobovat se téměř stejným způsobem jako lidský mozek.
ASI je konečný stav, na který Zuckerberg odkazoval na blogový příspěvek, a týká se modelů, které se vyvinuly, aby daleko překročily lidský potenciál – a mohly by se zlepšit exponenciálním tempem, což vedlo k „explozi zpravodajství“.
Vědci odkazují na hypotetický okamžik, který dosahujeme AGI jako Technologická jedinečnost.
Související: AI vstupuje do „bezprecedentního režimu“. Měli bychom to zastavit – a můžeme – před tím, než nás to zničí?
Zuckerbergův odkaz na chytání pohledu na AI se sebepochybnění není poprvé, kdy byl tento jev spatřen. V říjnu 2024 vydala vědci na University of California Santa Barbara příspěvek na předvolek arxiv Databáze se soustředila na pojem sebepovídání.
V něm definovali, vytvořili a testovali rámec AI na základě myšlenky stroje Gödel – teoretické zařízení schopné se zlepšit přepisem vlastního kódu a pokynů. Důležité je, že stroj by implementoval změnu, pokud by mohl předložit formální důkaz, že změna by byla prospěšná.
Tým experimentoval s rámcem AI založený na tomto konceptu a prokázal, že jejich agent Gödel by mohl zlepšit svůj vlastní výkon v různých úkolech, včetně kódování, vědy, matematiky a uvažování.
Téměř všechny modely nejsou obvykle zmocněny k přepsání vlastního kódu. Agent Gödel mohl přistupovat nejen k celé své kódové základně, ale také kód používaný k vývoji vylepšení, a zároveň prokázat, že tato vylepšení byla prospěšná.
AI neustále vykazovala lepší výkon v klíčových oblastech než agenti navržená člověkem, kterým byla porovnána, podle studie. Zuckerberg uvedl, že ASI může představovat transformační krok v technologickém pokroku lidstva a že by to mohlo vést k „objevu nových věcí, které si dnes nelze představit“.
To znamená, že dodal, že Meta bude mnohem opatrnější ohledně toho, které modely se společnost rozhodne uvolnit veřejnost v rámci s otevřeným zdrojovým rámcem – což znamená, že k němu může mít kdokoli přístup.
„Jsem velmi optimistický, že superintelligence pomůže lidstvu urychlit naše tempo pokroku. Ale možná ještě důležitější je, že superintelligence má potenciál začít novou éru osobního posílení, kde lidé budou mít větší agenturu ke zlepšení světa ve směrech, které si vyberou,“ napsal Zuckerberg.
„Stejně hluboká jako hojnost, kterou vytvoří AI, může být jednoho dne, ještě smysluplnější dopad na naše životy pravděpodobně přijde od každého, kdo má osobní superintelligenci, která vám pomůže dosáhnout vašich cílů, vytvořit to, co chcete vidět ve světě, zažít jakékoli dobrodružství, být lepším přítelem těch, na kterých vám záleží, a růst, aby se stal osobou, na kterou se snažíte být.“
