Jsme lehké roky od skutečné umělé inteligence, říká autorka Murderbot Martha Wells

Mnoho lidí se obává, že pokud bude existovat plně vnímající strojová inteligence, Převezme to svět. Skutečnou hrozbou je však riziko, že technologická společnost zotročují roboty, aby zvyšovaly zisky, autorka Martha Wellsová ve své daleké sestavě navrhuje Série knih The Murderbot Diaries. Ve světě Wells obývají strojové inteligence kosmické lodě a roboti a napůl lidské konstrukty napůl stroje Nabídněte ochranu lidí před nebezpečím (ve formě „bezpečnostních jednotek“), jakož i sexuální potěšení („komfortní jednotky“). Hlavní postava, bezpečnostní jednotka, která se tajně jmenuje sama sebe Murderbot, se podaří získat svobodnou vůli hackováním modulu, který jeho vlastní společnost používá k jeho zotročení. Ale většina bytostí, jako by to nebylo tak štěstí.

Ve světě Murderbot’s World ovládají korporace téměř všechno a mezi sebou soutěží o využití planet a odsazené práce. Práva lidí a robotů jsou často pošlapána Kapitalistická chamtivost—Sosování mnoha z reálných hříchů Wells připisuje dnešní technologické společnosti. Ale těsně mimo území společnosti (nazývané „Corporation Rim“) je nezávislá planeta s názvem Preservation, relativně svobodná a mírová společnost, kterou se vražda ocitne, proti všem šancím, která chce chránit.

Nyní s televizní adaptací Murderbot Vysílání na Apple TV+, Wells oslovuje zcela nové publikum. Přehlídka získala kritické uznání (a v době psaní hodnocení publika 96 procent na Rotten Tomatoes), a je to trvale zařazeno mezi nejsledovanější série streameru. Bylo to nedávno obnoveno na druhou sezónu. „Jsem stále trochu ohromen tím, že se s show děje,“ říká Wells. „Je těžké tomu věřit.“

O podpoře vědecké žurnalistiky

Pokud se vám tento článek líbí, zvažte podporu naší oceněné žurnalistiky předplatné. Zakoupením předplatného pomáháte zajistit budoucnost působivých příběhů o objevech a myšlenkách, které dnes formují náš svět.

Vědecký Američan Mluvil se Wellsem o rozdílu mezi dnešní AI a skutečnou inteligencí strojů, umělé osobnosti a neurodivergentními roboty.

(Následuje upravený přepis rozhovoru.)

Corporation Rim se cítí tak neuvěřitelně předzvěstná, možná ještě více, než když jste zveřejnili první knihu v seriálu v roce 2017.

Ano, znepokojivě. Tento firemní trend se za posledních 10 nebo 15 let pronikl – to byl směr, do kterého jsme se chovali jako společnost. Jakmile budeme mít představu, že korporace mají osobnost, že korporace je nějak spíše osobou než skutečným lidským jednotlivcem, pak vám opravdu začne ukázat, jak špatné to může získat. Mám pocit, že to bylo možné kdykoli; Není to jen daleko. Ale zobrazení ve vzdálené budoucnosti to dělá méně strašlivým, myslím. To vám umožní přemýšlet o těchto věcech, aniž byste se cítili, jako byste sledovali zprávy.

V současné době je myšlenka jít na Mars tlačit soukromé společnosti jako odpověď na všechny problémy. Ale (důsledek je, že ti, kteří jdou), někteří miliardáři a jejich coterie a jejich odsazené služebníky, a to bude pro ně nějak ráj a jen na opak pro všechny ostatní. Když převzají korporace, to je, když je zisk spodním řádkem – zisk a osobní zhoršení toho, kdo to provozuje. Nemůžete mít ten druh vážného a pečlivého vědeckého pokroku, který jsme měli s NASA.

Tento svět, který jste vytvořili, je tak zajímavý, protože je to v některých ohledech dystopie. RIM Corporation určitě je. A přesto je zachování druhem utopie. Myslíte na ně v těchto termínech?

Ne opravdu, protože podle tohoto standardu nyní žijeme v dystopii a myslím si, že termín dystopie téměř osvětluje realitu. Je to, jako kdybyste nazvali něčím dystopií, nemusíte se obávat opravit nebo dělat něco, abyste se pokusili zmírnit problémy. Je to beznadějné. A pokud máte něco, čemu říkáte utopie, pak je to perfektní a nemusíte přemýšlet o problémech, které by mohly mít nebo jak byste to mohli pro lidi zlepšit.

Takže v těchto termínech opravdu nemyslím, protože se cítí velmi omezeni. A jasně na okraji korporace stále existují lidé, kteří tam dokážou žít, většinou v pořádku, stejně jako tady, teď. A při zachování jsou stále lidé, kteří mají předsudky, a stále mají nějaké věci na práci. Ve skutečnosti však na nich pracují, což je odlišuje od okraje korporace.

Jedním z ústředních témat příběhů Murderbot je tato myšlenka osobnosti. Vaše knihy jasně ukazují, že vražda, jako částečný člověk, částečný umělý konstrukt, je rozhodně člověk. Myslíte si, že s naší technologií dnes by se mělo být považováno za lidi umělé inteligence, velké jazykové modely nebo chatgpt?

Murderbot je strojová inteligence a Chatgpt není. Říká se tomu umělá inteligence jako marketingový nástroj, ale ve skutečnosti to není umělá inteligence. Model velkého jazyka není inteligencí strojů. Právě teď to nemáme.

Máme algoritmy, které mohou být velmi silné a mohou analyzovat velké množství dat. V tuto chvíli však nemají vnímající individuální inteligenci. Stále si myslím, že jsme pravděpodobně roky a roky a roky od kohokoli, kdo vytváří skutečnou umělou inteligenci.

Murderbot je tedy fikcí, protože strojová inteligence právě teď je fikce.

Velký jazykový model, který vzorec odpovídá slovům, někdy jakousi zvuky vágně, jako by s vámi mohl mluvit, a někdy to zní, jako by to jen dalo dohromady vzory, které vypadají opravdu bizarně – to není nikde blízko k vnímajícímu strojové inteligenci.

Zjistil jsem, že se cítím opravdu v rozporu, protože často nesnáším vniknutí těchto jazykových modelů a produktů, které se dnes nazývají umělá inteligence do moderního života. A přesto cítím takovou náklonnost a lásku k fiktivním umělým inteligencím.

Ano! Zajímalo by mě, jestli je to jedna věc, která umožnila celý podvod AI získat tak oporu. Protože tolik lidí to nelíbí mít ve svých věcech, protože vědí, že v podstatě bere všechna vaše data, cokoli, na čem pracujete, cokoli píšete, a vložením do tohoto chrlení algoritmu odpovídající vzorům. Pravděpodobně fiktivní umělé a strojové inteligence v průběhu let přesvědčily lidi, že je to možné a že se to děje nyní. Lidé si myslí, že mluvení s těmito velkými jazykovými modely jim nějak pomáhá získat sentienci nebo se dozvědět více, když to opravdu není. Je to ztráta času.

Lidé jsou opravdu náchylní k antropomorfizačním objektům, zejména na věci, jako je náš notebook a telefon a všechny tyto věci, které reagují na to, co děláme. Myslím, že je to jen druh pečeného do nás a je využíváno společností, aby se pokusily vydělat peníze, odnést práci od lidí a z jejich vlastních důvodů.

Moje oblíbená postava v příběhu je Art, která je kosmická loď – to je umělá inteligence ovládající kosmickou loď. Jak jste si přemýšleli o rozlišení této postavy od polovičního, napůl lidského vražedného?

Vědomí založená na lodích byla ve fikci již dlouhou dobu, takže za to nemohu vzít uznání. Ale protože Murderbot se spoléhá na lidskou nervovou tkáň, proto podléhá úzkosti a depresi a dalším věcem, které lidé mají. A umění není. Umění bylo velmi úmyslně vytvořeno pro práci s lidmi a být součástí týmu, takže se nikdy nemuselo vypořádat s mnoha negativními věcmi, které má vražda. Někdo na internetu popsal umění jako v podstatě, pokud byl Skynet akademik s rodinou. To je jeden z nejlepších popisů, o kterých jsem si kdy viděl.

Jedním z důvodů, proč já a tolik lidí tuto sérii miluji, je to, jak dobře zkoumá neurodiverzitu. Máte tuto rozmanitost druhů inteligencí a oni paralelní mnoho různých typů neurodiverzity, které mezi lidmi vidíme v reálném světě. Přemýšleli jste o tom tímto způsobem, když jste navrhli tento vesmír?

No, naučilo mě to o mé vlastní neurodiverzitě. Věděl jsem, že mám problémy s úzkostí a podobnými věcmi, ale nevěděl jsem, že asi mám autismus. Nevěděl jsem mnoho dalších věcí, dokud nenapsal tento konkrétní příběh a pak jsem o tom lidi mluvil. Jsou jako: „Jak se vám podařilo vykreslit takovou neurodiverzitu?“ A já si myslím: „Takhle funguje můj mozek. Tak si myslím, že si lidé myslí.“ Až do vraždy si nemyslím, že jsem si uvědomil, do jaké míry to ovlivňuje mé psaní. Měl jsem mnoho lidí, kteří mi říkali, že jim to pomohlo vypracovat věci o sobě a že bylo prostě hezké vidět postavu, která si myslela a cítila spoustu stejných věcí, jaké udělali.

Myslíte si, že sci -fi je obzvláště užitečný žánr pro prozkoumání některých z těchto aspektů lidstva?

Může to být. Nevím, jestli to vždycky bylo. Sci -fi je psána lidmi a dobré a špatné aspekty jejich osobnosti do ní vstupují. Žánr se mění, když se lidé, kteří v něm pracují, mění. Takže si myslím, že to bylo v poslední době lepší, protože jsme konečně dostali další ženy a lidi barevných a neurodivergentních lidí a hlasy zdravotně postižených lidí. A je to vyrobeno pro spoustu opravdu vzrušující práce. V poslední době to mnoho lidí nazývá další zlatý věk sci -fi.

Když jsem napsal (první kniha v seriálu), Všechny systémy červené, Vložil jsem do toho hodně. A myslím si, že jedním z důvodů, proč se lidé ztotožňují s mnoha různými aspekty, je to, že jsem do toho vložil spoustu skutečných emocí a byl jsem velmi specifický ohledně toho, jak se Murderbot cítil o určitých věcech a o tom, co se s tím děje. Myslím, že v beletrii došlo k omylu, zejména žánrové fikci, že pokud uděláte postavu velmi obecnou, umožní se s ní více lidí ztotožnit. Ale to vlastně není pravda. Čím konkrétnější je někdo o jejich pocitech a jejich problémech a o tom, co se s nimi děje, tím více lidí se s tím může z důvodu této specifičnosti ztotožnit.