Současné modely AI „slepá ulička“ pro zpravodajství na úrovni člověka, vědci souhlasí
Aktuální přístupy k Umělá inteligence (AI) Je nepravděpodobné, že by podle nedávného průzkumu odborníků v oboru vytvořily modely, které mohou odpovídat lidské inteligenci.
Z 475 vědců AI se dotazovalo na průzkum, 76% uvedlo, že škálování velkých jazykových modelů (LLM) bylo „nepravděpodobné“ nebo „velmi nepravděpodobné“ dosáhnout Umělá obecná inteligence (AGI), hypotetický milník, kde se systémy strojového učení mohou učit jako efektivně nebo lepší než lidé.
Jedná se o pozoruhodné propuštění předpovědí technického průmyslu, které od generativního AI rozmachu z roku 2022 tvrdily, že současné nejmodernější modely AI potřebují pouze více dat, hardwaru, energie a peněz na zatmění lidské inteligence.
Nyní, jak se vydává nedávná model objevit se na stagnovatVětšina vědců dotázaných Asociace pro pokrok umělé inteligence Věřte, že technologické společnosti dorazily na slepé uličky – a peníze je z toho nedostanou.
„Myslím, že to bylo zřejmé od brzy po vydání GPT-4, zisky z škálování byly přírůstkové a drahé,“ Stuart RussellLive Science řekl počítačový vědec na University of California, Berkeley, který pomohl zorganizovat zprávu. „(Společnosti AI) již investovaly příliš mnoho a nemohou si dovolit přiznat, že udělali chybu (a) být z trhu několik let, když musí splácet investory, kteří vložili stovky miliard dolarů. Takže vše, co mohou udělat, je zdvojnásobit.“
Snižující se návraty
Překvapivá vylepšení LLMS v posledních letech je částečně dlužena jejich podkladové architektuře transformátoru. Jedná se o typ hluboké učební architektury, poprvé vytvořené v roce 2017 vědci Google, která roste a učí se absorbujícími tréninkovými údaji z lidského vstupu.
To umožňuje modelům generovat pravděpodobnostní vzorce z jejich neuronových sítí (sbírky algoritmů strojového učení uspořádané tak, aby napodobovaly způsob, jakým se lidský mozek učí) je krmí vpřed, když je dán výzvou, s jejich odpovědimi, které se zlepšují v přesnosti s více údaji.
Pokračující škálování těchto modelů však vyžaduje množství peněz a energie. Generativní průmysl AI vzrostl 56 miliard dolarů pouze v rizikovém kapitálu po celém světě v roce 2024, přičemž většina z toho jde do budování obrovských komplexů datového centra, jejichž emise uhlíku mají TRIPLED od roku 2018.
Projekce také ukazují konečné údaje generované člověkem nezbytné pro další růst budou s největší pravděpodobností vyčerpány Na konci této dekády. Jakmile k tomu dojde, alternativy budou začít snižovat soukromá data od uživatelů nebo nakrmit „syntetická“ data generovaná AI zpět do modelů, která, které by je mohl vystavit riziku kolapsu Z chyb vytvořených poté, co spolkly svůj vlastní vstup.
Omezení současných modelů však pravděpodobně nejen proto, že jsou hladoví, říkají odborníci na průzkum, ale kvůli základním omezením v jejich architektuře.
„Myslím, že základní problém se současnými přístupy je, že všichni zahrnují školení velkých dopředných obvodů,“ řekl Russell. „Obvody mají základní omezení jako způsob, jak reprezentovat koncepty. To znamená, že obvody musí být obrovské, aby takové koncepty reprezentovaly i přibližně – v podstatě jako glorifikovaná vyhledávací tabulka – což vede k rozsáhlým požadavkům na data a částečné reprezentace s mezerami. Proto například obyčejní lidští hráči mohou snadno porazit Programy „nadlidské“.
Budoucnost rozvoje AI
Všechny tyto úzká místa představovaly společnosti, které společnosti pracují na zvýšení výkonnosti AI, což způsobuje skóre na hodnotících benchmarcích, což způsobuje skóre AI na plošina A Openaiho se říkala modelu GPT-5, aby se nikdy neobjevil, uvedli někteří respondenti průzkumu.
Předpoklady, že vylepšení by mohla být vždy provedena měřítkem, byla letos také podřízena čínskou společností Deepseek, která odpovídala výkonu drahých modelů Silicon Valley za zlomek nákladů a energie. Z těchto důvodů 79% respondentů průzkumu uvedlo, že vnímání schopností AI neshoduje realitu.
„Existuje mnoho odborníků, kteří si myslí, že se jedná o bublinu,“ řekl Russell. „Obzvláště když jsou přiměřeně vysoce výkonné modely rozdávány zdarma.“
To však neznamená, že pokrok v AI je mrtvý. Ukázalo se, že modely uvažování – specializované modely, které věnují více času a výpočetní síly – produkují – produkují přesnější odpovědi než jejich tradiční předchůdci.
Podle respondentů je spárování těchto modelů s jinými systémy strojového učení, zejména poté, co jsou destilovány na specializované měřítka, vzrušující cestou vpřed. A Deepseekův úspěch ukazuje Mnohem více prostoru pro inženýrské inovace v tom, jak jsou navrženy systémy AI. Odborníci také poukazují na pravděpodobnostní programování, které má potenciál stavět blíže k AGI než na současné modely obvodu.
„Průmysl dává velkou sázku, že budou existovat vysoce hodnotné aplikace generativní AI,“ Thomas DietterichProfesor Emeritus of Computer Science na Oregonské státní univerzitě, který ke zprávě přispěl, řekl Live Science. „V minulosti vyžadoval velký technologický pokrok 10 až 20 let, aby ukázal velké výnosy.“
„První dávka společností často selhává, takže by mě nepřekvapilo, když jsem viděl, jak mnoho z dnešních startupů Genai selhává,“ dodal. „Ale zdá se pravděpodobné, že někteří budou divoce úspěšní. Přál bych si, abych věděl, které z nich.“
