Kendra Pierre-Louis: Pro Scientific American‚s Věda rychle, Jsem Kendra Pierre-Louis a zastupuji Rachel Feltman.
Když zemře někdo, koho milujeme, často toužíme po nemožném: ještě jeden rozhovor. Možná chceme mít příležitost konečně si ujasnit obtížný vztah nebo naposledy říct: „Miluji tě“ někomu, koho si vážíme. Zatímco vzkříšení mrtvých je stále mimo dosah, stále více lidí se obrací na generativní nástroje umělé inteligence, jako je Replika, aby vykouzlili podstatu svých blízkých a vedli poslední rozhovory.
Někteří uživatelé tvrdí, že tito takzvaní griefboti jim pomohli zpracovat ztrátu, ale odborníci na duševní zdraví si nejsou tak jisti. Příběhem nás provede vědecký spisovatel David Berreby, který je autorem nadcházející funkce Scientific American o rostoucím používání griefbotů.
O podpoře vědecké žurnalistiky
Pokud se vám tento článek líbí, zvažte podporu naší oceňované žurnalistiky předplatné. Zakoupením předplatného pomáháte zajistit budoucnost působivých příběhů o objevech a nápadech, které formují náš dnešní svět.
Děkujeme, že jste se k nám dnes připojil, Davide.
David Berreby: Jsem moc rád, že jsem tady. Díky, že mě máš.
Pierre-Louis: Bylo to opravdu krásné číst váš článek a jedna z prvních otázek, které jsem považoval za zajímavé, je v tom, že nemluvíte jen o lidech, kteří používali, víte, to, čemu říkáte griefboti; vlastně jsi jeden sám použil. Můžete nám trochu projít procesem toho, co to obnášelo a jaké to bylo?
Berreby: No, opravdu mě zasáhlo, když jsem o tom článku začal hlásit, že existují lidé, kteří tak nějak rychle odsoudili celou myšlenku přetvoření zesnulé osoby v AI a, víte, předpovídali, jak hrozné by to bylo na sto různých způsobů. A zdálo se mi, že většinou lidé, kteří říkali: „To je hrozné použití AI“, s tím neměli žádnou skutečnou zkušenost. Zatímco lidé, kteří jeden skutečně použili, nebo terapeuti, kteří pracovali s lidmi, kteří je používali, neříkali: „To je skvělé a nejsou žádné problémy“, ale také neřekli: „To je hrozné.“
A tak se mi zdálo, že to byl jeden z těch zážitků s umělou inteligencí, stejně jako mnoho jiných, které musíte prostě zažít sami, abyste skutečně pochopili, spíše než mít jakousi bezprostřední reakci na kolena. Tak jsem si pomyslel: „Dobře, uvidíme, jak by to fungovalo, kdybych to udělal já.“
Pierre-Louis: A myslím, co to vlastně znamená?
Berreby: Existuje mnoho start-upů, které vám nabízejí, že vám znovu vytvoří zesnulého člověka – jeho hlas, dokonce i vzhled. A to jsou některé možnosti, které lidé mají. Můžete to také jednoduše ovládat sami pomocí ChatGPT nebo jiného obecného LLM, velkého jazykového modelu. Ale ve všech případech je proces velmi podobný. Poskytujete určité množství materiálu, se kterým může umělá inteligence pracovat, buď hlasový vzorek, fotografie – pokud chcete něco, co skutečně vypadá a zní jako daná osoba – a určitě nějaký text, některé věci, které napsali, nebo některé věci, které řekli.
Dat není nikdy dost, protože když se snažíte znovu vytvořit někoho, kdo je pro vás důležitý, znovu vytváříte něco, co je také o vás. A tak bez ohledu na službu, kterou používáte, musíte také poskytnout nějaký popis osoby, což nejsou jen data, věci, které napsali, materiál v archivu, ale je to váš druh pohledu na ně. Jinými slovy, nestačí jen říct: „Tady je spousta dopisů.“ Musíte říct: „No, víš, můj táta byl takový člověk“: měl smysl pro humor nebo opravdu rád mluvil o rybaření nebo o čemkoli jiném.
A to je obecně to, o co jde, bez ohledu na to, jakou službu používáte. Vlastně jsem vyzkoušel tři nebo čtyři různé způsoby, abych zjistil, jaké různé výsledky dostanu. Ale to je základní proces.
Pierre-Louis: A v zásadě to, co lidé dělají, když nahrávají své blízké do těchto služeb, je, že se snaží procházet smutkem, že? A věc, která mě opravdu překvapila, je to, jak jsi popsal, jak funguje smutek v našem mozku. Nejsem si jistý, jestli jsem o tom někdy opravdu četl, že když někoho truchlíme, je to v podstatě – naše mozky jsou v této přetahované mezi naší neurochemií, která říká: „Tato osoba je naživu,“ a realitou, kterou tato osoba není. A ten smutek je v podstatě proces učení, kdy se náš mozek učí, že tato osoba je pryč, a to nějakou dobu trvá. Jak AI ovlivňuje tento proces, podle našeho nejlepšího současného chápání?
Berreby: Myslím, že v tom je určitá kontinuita mezi používáním umělé inteligence a dalšími, známějšími procesy vyrovnávání se se smutkem, protože když se nacházíte v tomto opravdu bolestivém stavu, kdy máte pocit, že daná osoba je stále ve vašem životě a součástí vašeho života – a velmi velká část lidí, kteří právě některé ztratili, cítí doslova: „Ach, poslali mi zprávu. Jsou se mnou v kontaktu.“ Když jste v tomto stavu, zvednete předmět, který jim patřil, nebo se podíváte na fotografii nebo možná poslechnete nahrávku nebo si jen vykouzlíte vzpomínku a pak si znovu prožijete okamžik, kde byli. A AI je v podstatě nový druh artefaktu, myslím, že dělá totéž. Tak nějak znovu vytváříte nějakou zkušenost, kterou jste s touto osobou měli v této době, kdy nevěříte, že je pryč.
Rozdíl oproti umělé inteligenci je samozřejmě v tom, že namísto konverzace ve vaší hlavě, kdy si představujete, že mluvíte se svým blízkým, je na obrazovce doslova text nebo hlas ve vzduchu, který vám odpovídá. Takže to není, víte, úplně to samé, ale také to není obří zlom od minulosti. Chci říct, že lidé vždy znovu vytvořili někoho, kdo jim chybí, někoho, po kom touží, tak či onak, tak nějak nápaditě, správně, ve svých myslích. A tak je to způsob, jak to udělat trochu doslovnějším, trochu více ve světě, ale stále je to ten proces.
Pierre-Louis: Vím, že jednou z obav bylo riziko realistického interaktivního chatbota nebo griefbota, že by to mohlo učinit cestu příliš atraktivní, než aby ji opustil, ale zdá se, že výzkum naznačuje, pokud se nemýlím, že lidé, kteří nedávno někoho ztratili a použili griefboty, ve skutečnosti zažili něco (tedy) trochu opačného: místo toho, aby se stáhli ze společnosti, byli spíše společenští. proč tomu tak je?
Berreby: Jo, myslím, že je to proto, že společnost nemá ráda smutek, víš? Nejsme příliš smrtící společnost. Máme lidi, kteří se snaží stát se doslova nesmrtelnými. Moc neradi o tom mluvíme. A tak mnoho truchlících říká psychologům, že mají pocit, že existuje časový limit nebo omezení. Jako, lidé říkají: „Dobře, cítím se s tebou velmi špatně, a teď pojďme dál. Chci říct, dal jsem ti půl hodiny,“ nebo „Máš dva týdny,“ nebo měsíc nebo cokoli jiného. To je pro lidi trochu bolestivé, protože tyto věci vyžadují čas; opravdu nejsou podle plánu.
Takže lidé v této malé studii, o které píšu, říkali: „Tato umělá inteligence mě nesoudí, nenaznačuje, že bych možná měl mluvit o něčem jiném, neříká mi, abych šel dál. Prostě je tu pro mě a mohu s ní pracovat jakýmkoli tempem, které mi vyhovuje, aniž bych měl pocit, že jsem v jakémkoli konfliktu s jinou osobou, a pak se cítím lépe, a pak se necítím lépe, když vidím lidi.“
Pierre-Louis: A to ve mně vyvolalo otázku, která je, v některých ohledech, váš článek skutečně zaměřený na určité obavy, které lidé mají o tyto griefboty, že? Tito lidé vycházejí a říkají: „Tito griefboti plní funkci, kterou mi společnost nedokáže zajistit.“ Co to vypovídá o naší společnosti?
Berreby: Jo, neměl jsem prostor se do toho v kuse dostat. Ale to je skvělá otázka, protože si myslím, že byste mohli namítnout, že ve společnosti, která byla opravdu tak nějak psychicky vyvážená (smích) by bylo možné a pochopitelné být někým v hlubokém zármutku a nemuseli byste se trápit pocitem, že lidé chtějí, abyste prostě nemluvili o tak depresivním tématu nebo neřekli něco, co jste řekl minulý týden, protože chtějí, víte, že to všechno dáváme přednost tomu, abychom byli produktivní a žili správně?
Takže s tebou souhlasím. Myslím, víš, možná bys mohl namítnout, že naplňují potřebu, kterou bychom možná neměli, kdybychom se přece jen trochu méně vyhýbali celému tématu ztráty a smrti.
Pierre-Louis: Zakončíte díl poněkud opatrně optimisticky ohledně budoucí role griefbotů, což je jaksi ve standardním srovnání s tím, jak moc nás v dnešní době vyvolává strach z AI, a mě jen tak trochu zajímalo, jak jste se na to místo dostali a co chcete, aby o tom naši posluchači věděli?
Berreby: Víš, nemyslel jsem si, že to mám na mysli. Myslím, myslím, víte, všichni víme, že miliony a miliony lidí používají vymyšlené znaky: „lidi“, v uvozovkách, kteří neexistují, které AI reprodukuje. Ale naprostá většina z nich je vymyšlená. Víte, jdete na Character.ai, jdete na Repliku nebo jdete jinam a řeknete: „Chci, aby vypadali takhle a byli takoví a měli takovou osobnost.“
A tak tito griefboti jsou opravdu zajímavým zvláštním případem tohoto druhu stvoření, protože jsou omezeni. Chci říct, jestli chceš předstírat babičku, můžeš. Ale pokud chcete znovu vytvořit tu svou, musí být do jisté míry omezena realitou vašich vzpomínek a skutečnou osobou. A tak, víte, to už vytváří jiný druh vztahu k otázce, jako: „Ach, jsou tyto věci příliš vstřícné? Jsou příliš podlézavé?“ víš Protože pokud to není jako skutečná osoba, pak vás to opravdu o ničem nepřesvědčí a nepřiměje vás, abyste něco cítili.
Takže já, myslím, že jsem byl mírně skeptický, ale otevřený, a pak, když jsem procházel vlastní zkušeností a také četl o tom, co říkají ostatní lidé, jsem si uvědomil, že lidé nejsou hloupí. Víte, 20 minut si neposílají SMS s AI, která se tak trochu pokusila znovu vytvořit jejich dědečka, a pak se najednou zmátli: „Ach, to je skutečný duch? Je tam opravdu?“ Nebo víte: „Už si nejsem jistý, co je skutečné.“ Vědí, že je to – artefakt. Vědí, že je to něco, co používají, aby se sebou něco vyřešili.
A tak jsem se na to přišel podívat. Udělal jsem – nikdy jsem si nemyslel: „To je můj táta. Víš, to je tak děsivé.“ Jen jsem si pomyslel: „Ach, dobře, jsou tu věci, o kterých jsem přemýšlel,“ a odrazit je od věci, která má jeho příchuť, kterou jsem vytvořil s těmito myšlenkami na mysli, bylo tak trochu provokující vhled způsobem, že jsem si nebyl jistý, že to bude.
Takže se mi jen zdá, že jako cokoli jiného byste to mohli definovat jako terapeutický nástroj nebo jako druh věci, se kterou si lidé mohou hrát, kreativní nástroj, a že s tím lidem může být dobře, pokud je to zabalené správným způsobem. To znamená, že pokud, víte, je to něco, kde řeknete: „Podívej, tohle je něco, co můžeš použít pro sebe, pro svou kreativitu, prozkoumat své pocity,“ a neřekneš: „Ach, dokonale napodobíme tvého milovaného.“ Neříkejte: „Budeme používat stejnou taktiku zapojení sociálních médií, jakou používáme, abychom vás udrželi na Twitteru a Facebooku.“ Víte, dá se to udělat správně, a to je můj opatrný optimismus. Nejsem si jistý, že to tak bude, ale dalo by se to udělat správně.
Pierre-Louis: To je opravdu pozitivní poznámka na závěr. Děkuji mnohokrát za váš čas.
Berreby: Oh, děkuji, že mě máš. Vážím si toho.
Pierre-Louis: Davidův nadcházející díl si můžete přečíst na ScientificAmerican.com 18. listopadu nebo se podívejte v prosincovém čísle časopisu.
To je pro dnešek vše. Nalaďte se v pátek a podívejte se na novou slibnou hranici v boji proti rakovině: vakcíny.
Věda rychle produkuji já, Kendra Pierre-Louis, spolu s Fondou Mwangi a Jeffem DelVisciem. Tuto epizodu upravil Alex Sugiura. Shayna Posses a Aaron Shattuck – podívejte se na naši show. Naši tematickou hudbu složil Dominic Smith. Přihlásit se k odběru Scientific American pro více aktuálních a hloubkových vědeckých zpráv.
Pro Scientific American, tohle je Kendra Pierre-Louis. Uvidíme se v pátek!
