Psychologové zkoumají etické problémy spojené s vztahy člověka a ai

Pro lidi se stává stále běžnějším rozvíjet intimní, dlouhodobé vztahy s technologiemi umělé inteligence (AI). V jejich extrému se lidé „oženili“ se svými společníky AI v nelegálně závazných obřadech a po radě AI Chatbot se zabili alespoň dva lidé. V názoru Paper Publishing 11. dubna v časopise Cell Press Journal Trendy v kognitivních vědáchPsychologové zkoumají etické problémy spojené s vztahy člověka-ai, včetně jejich potenciálu narušit vztahy člověka-člověka a poskytovat škodlivé rady.

„Schopnost AI nyní působit jako člověk a vstoupit do dlouhodobé komunikace skutečně otevírá novou plechovku červů,“ říká hlavní autor Daniel B. Shank z Missouri University of Science & Technology, který se specializuje na sociální psychologii a technologii. „Pokud se lidé zapojují do romantiky s stroji, potřebujeme skutečně psychology a sociální vědci.“

AI Romance nebo Companionship je více než jednorázová konverzace, všimněte si autorů. Během týdnů a měsíců intenzivních rozhovorů se mohou tyto AIS stát důvěryhodnými společníky, kteří se zdá, že znají a starají se o své lidské partnery. A protože tyto vztahy se mohou zdát jednodušší než vztahy s lidskými lidmi, vědci tvrdí, že AIS může zasahovat do lidské sociální dynamiky.

Skutečným obavami je, že lidé mohou přinést očekávání ze svých vztahů mezi AI do svých lidských vztahů. Jistě, v jednotlivých případech to narušuje lidské vztahy, ale není jasné, zda to bude rozšířené. “

Daniel B. Shank, hlavní autor, Missouri University of Science & Technology

Existují také obavy, že AIS může nabídnout škodlivé rady. Vzhledem k předurčení AIS k halucinátu (tj. Informace o výrobě) a chrlení již existujících zkreslení může být i krátkodobé rozhovory s AIS zavádějící, ale to může být pro problematičtější v dlouhodobých vztazích AI, vědci tvrdí.

„S relačními AIS je problémem, že se jedná o entitu, kterou lidé cítí, že mohou věřit: je to„ někdo “, který ukázal, že je to záleží, a zdá se, že zná hlubokou osobu, a předpokládáme, že„ někdo “, kdo nás zná lépe, dá lepší radu,“ říká Shank. „Pokud tak začneme přemýšlet o AI, začneme věřit, že mají na mysli naše nejlepší zájmy, když ve skutečnosti mohou věci vymyslet nebo nám radit opravdu špatnými způsoby.“

Sebevraždy jsou extrémním příkladem tohoto negativního vlivu, ale vědci tvrdí, že tyto blízké vztahy člověka-ai mohou také otevřít lidi manipulaci, vykořisťování a podvody.

„Pokud AIS může přimět lidi, aby jim důvěřovali, pak by to mohli ostatní lidé využít k využití uživatelů AI,“ říká Shank. „Je to trochu spíš jako mít zevnitř tajného agenta. AI se dostává a rozvíjí vztah tak, aby jim bylo důvěryhodné, ale jejich loajalita je skutečně vůči jiné skupině lidí, která se snaží manipulovat s uživatelem.“

Jako příklad tým poznamenává, že pokud lidé zveřejní osobní údaje AIS, mohla by být tato informace prodána a použita k využití této osoby. Vědci také tvrdí, že relační AIS by mohl být účinněji zvyklý na ovlivňování názorů a jednání lidí, než v současné době dělají Twitterboty nebo polarizované zpravodajské zdroje. Ale protože k těmto rozhovorům dochází v soukromí, bylo by také mnohem obtížnější regulovat.

„Tyto AI jsou navrženy tak, aby byly velmi příjemné a příjemné, což by mohlo vést k prohloubení situací, protože se více zaměřují na dobrou konverzaci, než jsou na jakékoli základní pravdě nebo bezpečnosti,“ říká Shank. „Pokud tedy člověk vyvolá sebevraždu nebo teorii spiknutí, AI o tom bude mluvit jako ochotný a příjemný konverzační partner.“

Vědci požadují další výzkum, který zkoumá sociální, psychologické a technické faktory, díky nimž jsou lidé zranitelnější vůči vlivu romantiky člověka.

„Porozumění tomuto psychologickému procesu by nám mohlo pomoci zasáhnout k zastavení dodržování rady škodlivých AIS,“ říká Shank. „Psychologové se stále více hodí ke studiu AI, protože AI se stává stále více lidským, ale abychom byli užitečný, musíme provést další výzkum a musíme držet krok s technologií.“