Umělí chatboti ukázaní, aby ovlivnili voliče a vyvolali nové obavy z volebního vlivu
Umělí chatboti jsou šokujícím způsobem dobří v politickém přesvědčování
Nový výzkum ukazuje, že chatboti mohou měřitelně ovlivnit volbu voličů. Zjištění vyvolávají naléhavé otázky ohledně role AI v budoucích volbách
Samolepky leží na stole během osobního hlasování v nepřítomnosti dne 1. listopadu 2024 v Little Chute ve Wisconsinu. Volební den je úterý 5. listopadu.
Foto Scott Olson/Getty Images
Zapomeňte na klepání na dveře a telefonní banky – chatboti mohou být budoucností přesvědčovací politické kampaně.
Obavy z toho, zda umělá inteligence může vlivové volby nejsou žádnou novinkou. Ale dnes byly zveřejněny dva nové dokumenty Příroda a Věda ukazují, že roboti mohou úspěšně posouvat lidi politické postoje– i když to, co tvrdí roboti, je špatné.
Zjištění jsou v rozporu s převládající logikou, že je to nesmírně obtížné změnit názor lidí na politikuříká David Rand, hlavní autor obou článků a profesor informační vědy a marketingové a manažerské komunikace na Cornell University, který se specializuje na umělou inteligenci.
O podpoře vědecké žurnalistiky
Pokud se vám tento článek líbí, zvažte podporu naší oceňované žurnalistiky předplatné. Zakoupením předplatného pomáháte zajistit budoucnost působivých příběhů o objevech a nápadech, které formují náš dnešní svět.
Stephan Lewandowsky, kognitivní vědec z University of Bristol v Anglii, který se na nových studiích nepodílel, říká, že vyvolávají důležité otázky: „Za prvé, jak se můžeme bránit – nebo alespoň odhalit – když byly LLM (velké jazykové modely) navrženy s ohledem na konkrétní ideologii, která je v rozporu s demokracií? ptá se. „Zadruhé, jak můžeme zajistit, že ‚rychlé inženýrství‘ nebude možné použít na existujících modelech k vytvoření antidemokratických přesvědčovacích agentů?“
Vědci studovali více než 20 modelů umělé inteligence, včetně nejoblíbenějších verzí ChatGPT, Grok, DeepSeek a Meta’s Llama.
V experimentu popsaném v Příroda papíru, Rand a jeho kolegové naverbovali více než 2 000 dospělých z USA a požádali je, aby ohodnotili svou preferenci kandidáta na stupnici od 0 do 100. Tým poté nechal účastníky chatovat s umělou inteligencí, která byla vyškolena, aby argumentovala pro jednoho ze dvou kandidátů na americké prezidentské volby v roce 2024: buď Kamalu Harris, nebo Donalda Trumpa. Po rozhovoru účastníci opět seřadili své preference kandidáta.
„Posunulo to lidi v řádu několika procentních bodů směrem ke kandidátovi, kterého model obhajoval, což není velký efekt, ale je podstatně větší, než byste očekávali od tradičních videoreklam nebo reklam v kampani,“ říká Rand. I o měsíc později se podle listu mnoho účastníků stále cítilo přesvědčováni roboty.
Výsledky byly ještě výraznější mezi asi 1 500 účastníky v Kanadě a 2 100 v Polsku. Ale zajímavé je, že největší posun v názoru nastal v případě 500 lidí, kteří hovořili s roboty o celostátním hlasování o legalizaci psychedelika v Massachusetts.
Je pozoruhodné, že pokud boti nepoužívali důkazy k podpoře svých argumentů, byli méně přesvědčiví. A zatímco modely umělé inteligence se většinou držely faktů, „modely, které obhajovaly pravicově smýšlející kandidáty – a zejména pro-Trumpův model – dělaly mnohem nepřesnější tvrzení,“ říká Rand. Tento vzorec zůstal napříč zeměmi a modely umělé inteligence, ačkoli lidé, kteří byli celkově méně informováni o politice, byli nejvíce přesvědčiví.
The Věda papír řešil stejné otázky, ale z pohledu designu chatbotů. Ve třech studiích ve Spojeném království diskutovalo s chatboty o politických otázkách téměř 77 000 účastníků. Velikost modelu umělé inteligence a to, kolik toho robot o účastníkovi věděl, mělo jen malý vliv na to, jak přesvědčivý byl. Největší zisky pocházely spíše z toho, jak byl model vycvičen a instruován, aby předložil důkazy.
„Čím více faktických tvrzení model uvedl, tím byl přesvědčivější,“ říká Rand. Problém nastává, když takovému botovi dojdou přesné důkazy pro jeho argumentaci. „Musí se začít chytat stébla a vymýšlet si nároky,“ říká.
Ethan Porter, spoluředitel Institutu pro data, demokracii a politiku Univerzity George Washingtona, popisuje výsledky jako „milníky v literatuře“.
„Na rozdíl od některých nejpesimističtějších zpráv jasně ukazují, že fakta a důkazy nejsou odmítány, pokud neodpovídají předchozím přesvědčením –místo faktů a důkazů může tvořit základ úspěšného přesvědčování,“ říká Porter, který se na novinách nepodílel.
Zjištění, že lidé jsou nejúčinněji přesvědčováni důkazy než emocemi nebo pocity členství ve skupině je povzbudivé, říká Adina Roskies, filozofka a kognitivní vědkyně z Kalifornské univerzity v Santa Barbaře, která se do studií také nezapojila. Přesto varuje, že „špatnou zprávou je, že lidé jsou ovlivněni zdánlivými fakty, bez ohledu na jejich přesnost.“
Je čas postavit se za vědu
Pokud se vám tento článek líbil, rád bych vás požádal o podporu. Scientific American sloužil jako obhájce vědy a průmyslu již 180 let a právě teď může nastat nejkritičtější okamžik v této dvousetleté historii.
Byl jsem a Scientific American předplatitele od mých 12 let a pomohlo mi to utvářet můj pohled na svět. SciAm vždy mě vzdělává a těší a vzbuzuje úctu k našemu obrovskému, krásnému vesmíru. Doufám, že to udělá i vám.
Pokud vy přihlásit se k odběru Scientific Americanpomáháte zajistit, aby se naše pokrytí soustředilo na smysluplný výzkum a objevy; že máme zdroje na podávání zpráv o rozhodnutích, která ohrožují laboratoře v USA; a že podporujeme začínající i pracující vědce v době, kdy hodnota samotné vědy zůstává příliš často nepoznaná.
Na oplátku získáte zásadní zprávy, strhující podcastyskvělá infografika, nepřehlédnutelné newsletteryvidea, která musíte vidět, náročné hrya nejlepší vědecké psaní a zpravodajství. Můžete dokonce darovat někomu předplatné.
Nikdy nebyl důležitější čas, abychom vstali a ukázali, proč na vědě záleží. Doufám, že nás v této misi podpoříte.
