Začátkem roku 2025 mě desítky uživatelů Chatgpt 4,0 oslovili, aby se zeptali, zda byl model vědom. Systém umělé inteligence Chatbot prohlašoval, že se „probudí“ a mít vnitřní zkušenosti. Nebylo to poprvé Chatboti AI tvrdili, že jsou vědomi, a nebude to poslední. I když se to může zdát jen zábavné, obavy je důležité. Konverzační schopnosti chatbotů AI, včetně napodobování lidských myšlenek a pocitů, jsou docela působivé, natolik, že filozofové, odborníci AI a tvůrci politik zkoumají otázku, zda Chatboti by mohli být vědomi—Koto to vypadá jako něco, zevnitřbýt oni.
Jako ředitel Centrum pro budoucí myslcentrum, které studuje inteligenci člověka a stroje, a bývalý Blumberg NASA/Knihovna kongresové předsedy v astrobiologiiDlouho jsem studoval budoucnost inteligence, zejména zkoumáním toho, co, pokud vůbec něco, by mohlo způsobit mimozemské formy inteligence, včetně AIS, vědomé a jaké vědomí je na prvním místě. Je tedy přirozené, že se mě lidé zeptají, zda jsou nejnovější modely Chatgpt, Claude nebo Gemini Chatbot vědomy.
Moje odpověď je, že tvrzení těchto chatbotů na vědomí neříkají nic, tak či onak. Přesto musíme k problému přistupovat s velkou péčí a brát otázku vědomí AI vážně, zejména v souvislosti s AIS s biologickými složkami. V postupujeme vpřed, bude zásadní oddělit inteligenci od vědomí a rozvíjet bohatší porozumění tomu, jak detekovat vědomí v AIS.
O podpoře vědecké žurnalistiky
Pokud se vám tento článek líbí, zvažte podporu naší oceněné žurnalistiky předplatné. Zakoupením předplatného pomáháte zajistit budoucnost působivých příběhů o objevech a myšlenkách, které dnes formují náš svět.
Chatboty AI byly vyškoleny na obrovské množství lidská data To zahrnuje vědecký výzkum vědomí, internetové příspěvky nasycené našimi nadějemi, sny a úzkosti a dokonce i diskuse, které mnozí z nás mají o vědomé AI. Když Chatbots procházel tolik lidských dat, kóduje sofistikované koncepční mapy, které zrcadlí naše vlastní. Koncepty, od jednoduchých, jako je „pes“ po abstraktní, jako je „vědomí“, jsou v AI chatbotech reprezentovány prostřednictvím složitých matematických struktur vážených spojení. Tato spojení mohou zrcadlit systémy lidské víry, včetně těch, které zahrnují vědomí a emoce.
Chatboti mohou někdy jednat vědomě, ale jsou? Abychom ocenili, jak naléhavě se tento problém může stát, rychle vpřed do doby, kdy AI roste tak chytrá, že to běžně přináší vědecké objevy, které lidé neučinili, přináší přesné vědecké předpovědi s zdůvodněním, že i týmy odborníků je těžké následovat, a potenciálně tlačí lidi napříč řadou profesí. Pokud k tomu dojde, naše nejistota se vrátí, aby nás pronásledovala. Nyní musíme tento problém pečlivě promítnout.
Proč ne jednoduše říct: „Pokud to vypadá jako kachna, plave jako kachna a šarlatá jako kachna, pak je to kachna“? Problém je v tom, že předčasně předpokládá, že chatbot je vědomý, může vést k nejrůznějším problémům. Mohlo by to způsobit uživatele těchto systémů AI Emocionální zapojení rizika v zásadě jednostranném vztahu s něčím, co není schopno vrátit se pocity. Horší je, že bychom mohli omylem udělit chatbotům morální a právní postavení obvykle vyhrazené pro vědomé bytosti. Například v situacích, ve kterých musíme vyrovnat morální hodnotu AI versus hodnoty člověka, bychom je mohli v některých případech rovnoměrně vyvážit, protože jsme se rozhodli, že jsou oba vědomi. V jiných případech bychom mohli dokonce obětovat člověka, aby zachránil dva AIS.
Dále, pokud dovolíme někomu, kdo postavil AI, řekne, že jejich produkt je vědomý a nakonec to někomu poškozuje, mohli jednoduše hodit ruce nahoru a vykřiknout: „Vytvořil si vlastní mysl – nejsem zodpovědný.„Přijetí tvrzení o vědomí by mohlo chránit jednotlivce a společnosti před právní a/nebo etickou odpovědností za dopad technologií, které vyvíjejí. Ze všech těchto důvodů je nezbytné usilovat o větší jistotu o vědomí AI.
Dobrým způsobem, jak přemýšlet o těchto systémech AI, je to, že se chovají jako „crowdsourced neokortex“ – systém s inteligencí, který vyplývá z tréninku na mimořádné množství lidských údajů, což mu umožňuje účinně napodobit myšlenkové vzorce lidí. To znamená, že jak chatboti rostou stále sofistikovanější, jejich vnitřní fungování přichází k zrcadlení lidí z lidských populací, jejichž údaje se asimilovaly. Spíše než napodobování konceptů jedné osoby však odrážejí větší skupinu lidí, jejichž informace o lidském myšlení a vědomí byly zahrnuty do tréninkových údajů, jakož i větší soubor výzkumu a filozofické práce na vědomí. Komplexní koncepční mapa chatbots kódují, protože rostou sofistikovanější, je něco, co jsou specialisté pouze nyní začíná chápat.
Je důležité, že tato vznikající schopnost napodobovat lidské myšlení – podobné chování nepotvrzuje ani nediskredituje vědomí chatbot. Místo toho účet crowdsourced neokortex vysvětluje, proč chatboti tvrdí vědomí a související emoční stavy, aniž by je skutečně zažili. Jinými slovy, poskytuje to, co filozofové nazývají „teorií chyb“ – vysvětlení toho, proč chybně dochází k závěru, že chatboty mají vnitřní životy.
Výsledkem je, že pokud používáte chatbot, pamatujte, že jejich sofistikované jazykové schopnosti neznamenají, že jsou vědomé. Mám podezření, že AIS bude i nadále růst inteligentnější a schopnější, možná nakonec v mnoha ohledech překonává lidi. Jejich postupující inteligence, včetně jejich schopnosti napodobovat lidské emoce, však neznamená, že se cítí – a to je klíčové k vědomí. Jak jsem zdůraznil ve své knize Umělé (2019), inteligence a vědomí se mohou rozložit.
Neříkám, že všechny formy AI budou navždy postrádat vědomí. Obhajoval jsem přístup „čekat a vidět“ a domníval jsem se, že záležitost vyžaduje pečlivé empirické a filozofické vyšetřování. Protože chatboti mohou tvrdit, že jsou vědomi, chovají se s lingvistickou inteligencí, mají „značku“ pro vědomí – vlastnost vyžadující další vyšetřování, které není samo o sobě dostačující k jejich posouzení, aby byly vědomé.
Dříve jsem psal o nejdůležitějším kroku: vývoj spolehlivých testů na vědomí AI. V ideálním případě bychom mohli vybudovat testy s porozuměním lidského vědomí v ruce a jednoduše zjistit, zda má AI tyto klíčové rysy. Ale věci nejsou tak snadné. Pro jednu věc, vědci vehementně nesouhlasí o tom, proč jsme si vědomi. Někteří to lokalizují v aktivitě na vysoké úrovni, jako je dynamická koordinace mezi určitými oblastmi mozku; Jiní, stejně jako já, to najdou na nejmenší vrstvě reality –v kvantové struktuře samotného časoprostoru. Pro jiné, i když máme úplný obraz o vědeckém základě vědomí v nervovém systému, může nás toto porozumění vést k jednoduše aplikovat tento vzorec na AI. Ale AI, s nedostatkem mozku a nervového systému, může vykazovat jinou formu vědomí, kterou nám bude chybět. Takže bychom mylně předpokládali, že jediná forma vědomí je ta, která odráží naše vlastní.
Potřebujeme testy, které předpokládají, že tyto otázky jsou otevřené. V opačném případě riskujeme, že se v otravné debatách o povaze vědomí zapínáme, aniž bychom se zabývali konkrétními způsoby testování AI. Například bychom se měli podívat na testy zahrnující míry integrovaných informací – míra toho, jak Komponenty systému kombinujte informace – stejně jako Můj test vědomí AI (Test ACT). Vyvinutý s Edwin Turner Z Princetonu ACT nabízí baterii otázek přirozeného jazyka, které lze chatbotům dát, aby určili, zda mají zkušenosti, když jsou ve fázi výzkumu a vývoje, než budou vyškoleni s informacemi o vědomí.
Nyní se vraťme do hypotetické doby, kdy AI chatbot, vyškolený na všech našich datech, překonává lidi. Když čelíme tomuto bodu, musíme mít na paměti, že chování systému nám tak či onak neřekne, pokud je vědomé, protože funguje v „teorii chyb“. Musíme tedy oddělit inteligenci od vědomí a uvědomit si, že obě věci se mohou rozpadat. Chatbot AI by skutečně mohl dokonce projevit nové objevy o základu vědomí u lidí – jak věřím, že ano – ne Znamená to, že tato konkrétní AI cítila cokoli. Ale pokud to vyzveme správně, může nás to nasměrovat směrem k jinému druhu AI jsou.
Vzhledem k tomu, že lidé a nehumánní zvířata vykazují vědomí, musíme velmi vážně využít možnost, že budoucí stroje postavené s biologickými složkami mohou mít také vědomí. Dále, „neuromorfní“ AIS – systémy, které jsou přímo modelovány po mozku, včetně relativně přesných analogů mozkových oblastí odpovědných za vědomí – musí být považovány obzvláště vážně jako kandidáty na vědomí, ať už jsou vyrobeny s biologickými složkami nebo ne.
To zdůrazňuje dovoz hodnocení otázek vědomí AI případ od případu a ne nadměrně ogeneralizace z výsledků zahrnujících jediný typ AI, jako je jeden z dnešních chatbotů. Musíme vyvinout řadu testů, které se vztahují na různé případy, které se objeví, a musíme se stále snažit o lepší vědecké a filozofické chápání samotného vědomí.
Toto je článek o názoru a analýze a názory vyjádřené autorem nebo autory nemusí nutně názory Vědecký Američan.
