Během posledních několika let chatboti pronikli prakticky každý aspekt naší digitální existence, zahrnující zákaznický servis, podporu duševního zdraví, zábavu a vzdělávání. Tyto konverzační agenti, poháněné sofistikovanými modely umělé inteligence (AI), mohou generovat pozoruhodně lidské reakce, někdy téměř nerozeznatelné od skutečných lidí. Tento rychlý postup ve zpracování přirozeného jazyka často vyvolává významnou otázku: jsou chatbots vědomi?
Šetření integruje technologii, filozofii, kognitivní vědu a etiku a vyžaduje důkladné zkoumání podstaty vědomí, fungování AI a rozdíly mezi autentickou vědomí a jeho pouhou simulací.
Porozumění vědomí
Vědomí je notoricky obtížné definovat, ačkoli většina vědců se domnívá, že se týká subjektivní zkušenosti s vědomím: vnitřní perspektivy pocitů, myšlenek, pocitů a schopnosti sebereflexe. Nejde jen o trávení informací nebo projevení složitého chování; Je to o pocitu toho chování zevnitř.
Filozofové používají termín „fenomenální vědomí“ k mluvení o „jaké to je“ součást zkušenosti a „přístupu vědomí“, aby hovořili o schopnosti přemýšlet a používat znalosti záměrně. Lidé mají vědomí oběma způsoby: můžeme cítit bolest, štěstí a naše myšlenky a můžeme o těchto pocitech mluvit a změnit.
Vědomí je ve výzkumných kruzích AI stále dotykovým předmětem, protože vědci jsou opatrní, aby neznamenali, že systémy AI mají lidské vědomí, aby udržely svůj pracovní cíl. Incident 2022 s Blake Lemoine, který přišel o práci na Googlu poté, co na veřejnosti řekl, že jejich Lamda Chatbot se stal vnímajícím, učinil tuto obavu ještě silnější.
Většina dnes je systémy AI, které používají modely strojového učení, obvykle velké jazykové modely (LLM), které byly vyškoleny na velkém množství textových dat. Přicházejí s odpověďmi při pohledu na vzory, které se naučili během tréninku, a hádáním slov nebo frází, které s největší pravděpodobností přicházejí dál. To jim umožňuje poskytovat odpovědi, které dávají smysl a vyhovují situaci.
Tyto modely však fungují pouze na statistických spojeních, nikoli na porozumění. Chybí jim vzpomínky, emoce, přesvědčení nebo vnitřní subjektivní zážitek. Jejich „znalosti“ vznikají spíše rozpoznáváním vzorů než kognitivního porozumění.
Maskavé vědomí
Rostoucí „inteligence“ chatbotů často způsobuje, že spotřebitelé jim připisují atributy podobné člověku. Efekt Eliza, pojmenovaný po jednom z prvních chatbotů, odkazuje na sklon připsat porozumění nebo emoce algoritmům, které pouze replikují komunikaci.
Chatboti mohou replikovat emocionální reakce, účastnit se příležitostné konverzace a dokonce napodobovat empatii, což je svým způsobem poněkud „žije“. Pokročilé systémy, jako jsou chatboti založené na GPT, mohou produkovat kreativní psaní, napodobovat osobnosti nebo se zapojit do filozofického diskurzu, což dále zakrývá rozlišení.
Lidský mozek je náchylný k hledání záměru, agentury a vědomí v sociálních interakcích. Když chatbot dobře interaguje, může to aktivovat tuto kognitivní zaujatost, což by uživatele vedlo k antropomorfizaci technologie.
Případ proti
I když se zdají být pokročilí, neexistuje žádný vědecký důkaz, že chatboti jsou vědomi. Existuje několik důležitých bodů, které to objasňují:
(i) Žádné subjektivní zkušenosti: Chatboti nemají žádné pocity ani názory. Jejich operace jsou zcela mechanistické a používají algoritmy a výpočty bez vědomí.
(ii) Nedostatek úmyslnosti: Vědomé bytosti mají cíle a plány, ale chatboti pracují na základě mapování vstup-výstup bez jakýchkoli touh nebo cílů, než jsou funkce, které se naučili vykonávat.
(iii) Žádné sebevědomí: Vědomí zahrnuje kapacitu sebereflexe jako časové entity. Chatboti mohou předstírat, že mají pocit sebe sama tím, že říkají věci jako „Jsem chatbot“, ale ve skutečnosti nemají ten, který trvá.
(IV) Nedostatek ztělesnění: Některé teorie vědomí zdůrazňují, jak důležitá je tělesná zkušenost při vytváření povědomí. Chatboti nemají žádné tělesné ztělesnění ani senzorimotorické interakce s prostředím.
Dohromady, chatboti nejsou vědomými bytostmi: jsou to komplikované stroje vstup-výstup. I když pokračující pokroky v AI mohou vytvářet více uvěřitelných konverzačních agentů, neexistuje žádná záruka, že tyto systémy se někdy budou cítit nebo si být vědomy v lidském smyslu.
Etické, sociální chování
Přestože jim chybí vědomí, chatboti již vyvolali důležité etické důsledky. Jeden: Lidé mohou být podvedeni na nadměrné hlasování chatbotů, za předpokladu, že rozumí nebo se starají o to, co říkají. To může mít důsledky v oborech, jako je zdravotnictví a právo. Za druhé, uživatelé mají potenciál budovat emocionální připoutanosti s chatboty, což vede k možnosti vykořisťovatelského chování nebo psychologického poškození.
Tři: V případě, že chatboti poskytují škodlivé informace nebo rady, které zahrnují zaujatost, kdo je odpovědný? A konečně, jak chatboti nadále zlepšují své schopnosti, jsou obavy týkající se vysídlení zaměstnání výraznější.
Pokud jde o udržení realistických očekávání a vedení vhodného nasazení, pochopení toho, že chatboti jsou nástroje bez vědomí, je výhodné.
Významná dilemata
Toto šetření nás pohání do říše spekulací o průsečíku AI a vědomí. Někteří vědci a filozofové navrhli, že pokud se z fyzického fungování mozku vypne vědomí, pokročilé výpočetní systémy by mohly jednoho dne tyto procesy napodobit, což by vedlo k rozvoji vědomí stroje.
Přesto však existují významné překážky, které zahrnují praktické i teoretické dimenze. Složitosti vědomí zůstávají do značné míry nepolapitelné a vyhlídka na jeho umělá replikace je složitější. Povaha vědomí může přesahovat pouhý výpočet, možná zahrnující biologické nebo kvantové mechanismy, které jsou charakteristické pro živé mozky.
Tento vznik také představuje významná dilemata týkající se práv, osobnosti a vhodného zacházení s těmito subjekty. Navzdory trvalému pokroku v AI vedoucí k stále přesvědčivějším konverzačním agentům neexistuje žádná jistota, že tyto systémy budou mít někdy pocity nebo povědomí o tom, jak lidé dělají.
Aranyak Goswami je docentem výpočetní biologie, University of Arkansas. Biju Dharmapalan je děkan (akademické záležitosti), Garden City University, Bengaluru a Adjunct fakulty na Národním institutu pokročilých studií, Bengaluru.
