„V nejlepším případě bláznivé a klamavé a nebezpečné v nejhorším případě“: Nevěřte humbuku – tady je důvod, proč umělá obecná inteligence není to, co vám miliardáři říkají, že to je
Humbuk kolem Umělá inteligence (AI) Rizice se vymknou kontrole, protože nároky kolem rozvíjející se technologie eskalují do říše absurdních. AI je firma s velkými penězi, napište autory nové knihy, “AI Con: Jak bojovat proti humbuku Big Tech a vytvořit budoucnost, kterou chceme„(2025) a marketingový fanfár, který vidíme, má propagovat zájmy Big Tech a udělat jednu věc: prodat produkty AI.
V této nové knize autoři Emily M. Benderprofesor lingvistiky na Washingtonské univerzitě a Alex HannaŘeditel výzkumu na distribuovaném výzkumném institutu AI, zpochybňuje naše chápání toho, co je AI – a co to není. Nakonec se pokoušejí vidět skrze mnoho přehnaných nároků a senzace, aby pochopili skutečný dopad AI na společnost.
V tomto výňatku se spisovatelé potýkají s myšlenkou umělé obecné inteligence (AGI), původu této myšlenky a co tento termín ve skutečnosti znamená. V tomto extraktu tvrdí, že skutečné definice AGI a hypotetická „superintelligence“ jsou nejasné, v nejlepším případě a v praxi slouží pouze k krmení firemního stroje na humbuk.
Pokud jste poslouchali vedoucí pracovníky a výzkumníky ve velkých technologických firmách, mysleli byste si, že jsme byli na pokraji povstání robota. V únoru 2022 hlavní vědec OpenAI Ilya Sutskever tweetoval: „Je možné, že dnešní velké neuronové sítě jsou trochu vědomé.“
V červnu 2022 Washington Post uvedl, že inženýr Google Blake Lemoine byl přesvědčen, že jazykový model společnosti Google Lamda byl vnímavý a potřeboval právní zastoupení. Lemoine byl vystřelen nad tímto incidentem – ne za jeho nepravdivé tvrzení (které Google popřel), ale za únik soukromých firemních informací. V blogu v srpnu 2022 reagoval Google VP Blaise Agüera Y Arcas na příběh Lemoine, ale spíše než čelil Lemoinovým tvrzením, navrhl, aby Lamda skutečně „rozuměl“ konceptům a že debata o tom, zda má Lamda pocity, není rozhodnutelná nebo „vědecky„ vědecky významná “.
V dubnu 2023, tým společnosti Microsoft Research vedený Sébastien Bubeck zveřejnil non-recenzovaný papír s názvem „Jiskry umělé obecné inteligence: včasné experimenty s GPT-4“, ve kterém tvrdí, že jazykový model GPT-4 „může řešit román a obtížné úkoly, které překlenují matematiku, kódování, vidění, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, vize, zákon“
Související: GPT-4.5 je první model AI, který prošel autentickým Turingovým testem, říkají vědci
Slovo „jiskry“ evokuje obraz něčeho, co se chystá zapálit a šířit z vlastní vůle. Fráze „Umělá obecná inteligence“ se zde má odlišit od běžných technologií zvaných „AI“ a je zvláště běžná v moderním diskurzu kolem myšlení, vnímajících nebo vědomých strojů.
Tato tvrzení nejsou nová. Před více než 60 lety vědci, obchodní manažeři a vládní úředníci dělali podobné bombastické tvrzení o povaze počítačové inteligence a riziku nadlidské zpravodajské nahrazení lidí v práci doma a, možná nejasnější na bojišti.
Zlověstný původ „obecné inteligence“
Navzdory tvrzením, že stroje mohou jednoho dne dosáhnout pokročilé úrovně „obecné inteligence“, takový koncept nemá přijatou definici. (Openai se této otázce vyhnul tím, že navrhl, že umožní své radě rozhodnout, kdy jejich algoritmy dosáhly umělé obecné inteligence.) Projekt identifikace obecné inteligence je však ze své podstaty rasistický a schopný pro své jádro, čímž se projekt pronásledování umělé obecné inteligence nejlépe nejlépe a nejednoznačný.
Papír „Sparks“ společnosti Microsoft obsahuje předběžnou definici obecné inteligence, která nemá žádné odkazy na pole, která mohou mít v takové věci slovo, jako je psychologie nebo kognitivní neurověda. Přestože je papírem, který tvrdí, že určité statistické modely ukázaly inklingy „umělé obecné inteligence“, neexistuje žádná dobře rozlišená definice toho, jaké jsou složky obecné inteligence.
V předchozí verzi příspěvku autoři citovali redakci Wall Street Journal z roku 1994 podepsanou skupinou 52 psychologů, kteří tuto definici nabídli: „Konsensuální skupina definovala inteligenci jako velmi obecnou mentální schopnost, která mimo jiné zahrnuje schopnost uvažovat, plánovat, řešit problémy, myslet abstraktně, porozumět složitým myšlenkám, rychle se učit a učit se z zkušeností.“
Cílem vytvoření umělé obecné inteligence bohužel není jen projekt, který žije jako hypotetický ve vědeckých pracích. Do této práce jsou investovány skutečné peníze, z nichž většina pochází z rizikových kapitalistů.
Hodně z toho může být jen riziková kapitalisté (VCS) po módě, ale v této směsi je také řada skutečných věřících a někteří z nich mají peníze na spálení. Tito ideologičtí miliardáři – mezi nimi Elon Musk a Marc Andreessen-pomáhají stanovit agendu vytváření AGI a finančně podpory, ne-li přímo proselytizující, moderní eugeniku. To je postaveno na kombinaci konzervativní politiky, posedlosti pro-porobové politiky a pravicový útok na multikulturalismus a rozmanitost, vše skryté za fasádou technologického pokroku.
Humbuk „superintelligence“
Proč se zdá, že tolik lidí zapojených do budování a prodeje velkých jazykových modelů upadlo za myšlenku, že (mohou být) vnímající? A proč tolik z těchto lidí tráví tolik času varováním světa před „existenciálním rizikem“ „superintelligence“ a zároveň na to utrácí tolik peněz?
Jedním slovem, tvrzení o vědomí a vnímání jsou taktikou prodat vás na AI. Zdá se, že většina lidí v tomto prostoru se jednoduše snaží vytvořit technické systémy, které dosahují toho, co vypadá jako lidská inteligence, aby se dostala dopředu na tom, co je již velmi přeplněným trhem. Trh je také malým světem: Vědci a zakladatelé se hladce pohybují mezi několika hlavními technologickými hráči, jako jsou Microsoft, Google a Meta, nebo odcházejí na nalezené startupy AI, které dostávají miliony v rizikovém kapitálu a financování semen od společnosti Big Tech.
Jako jeden datový bod, v roce 2022 odešlo 24 výzkumných pracovníků Google, aby se připojili k startupům AI (zatímco jeden z nás, Alex, odešel, aby se připojil k neziskovému výzkumu). Jako další datový bod, pouze v roce 2023 bylo podle údajů PitchBook uloženo 41,5 miliardy dolarů v rizikových dohodách. Odhaduje se, že výplata je obrovská. V tomto roce McKinsey navrhl, že brzy může generativní AI přidat do globální ekonomiky ročně „až 4,4 bilionu dolarů“. Odhady, jako je tento, jsou samozřejmě součástí stroje na humbuk, ale zdá se, že VCS si nemyslí, že by tato skutečnost měla zastavit spěch k investování do těchto nástrojů.
Tento humbuk se nakloní na tropech o umělé inteligenci: Sentient stroje, které musí být uděleny práva robotů nebo maticové superintelligence, představují přímou hrozbu pro ragtagové lidské rezistery. To má důsledky nad rámec oběhu finančních prostředků mezi VC a dalšími investory, zejména proto, že se říká, že běžní lidé budou mimo práci.
