Vědci AI provedli tajný experiment na uživateli Reddit – a výsledky jsou strašidelné
Reddit hrozí, že bude žalovat skupinu vědců, kteří použili Umělá inteligence (Ai) Chatbots, aby tajně experimentovali s jeho uživateli.
Vědci z University of Curych uvolnili armádu AI robotů na populárním fóru Reddit R/ChangemyView – kde se téměř 4 miliony uživatelů shromažďují k debatě o sporných tématech – aby prozkoumaly, zda lze technologii použít k ovlivnění veřejného mínění.
K dosažení těchto cílů zanechali roboti více než 1700 komentářů napříč subredditem pomocí a Různé předpokládané podobnosti včetně oběti znásilnění mužského znásilnění snižující trauma jeho útoku; Poradce pro domácí násilí, který tvrdí, že nejzranitelnější ženy jsou ty, které jsou „chráněny nadměrně ochrannými rodiči“; a černoch se proti hnutí Black Lives Matter. Tito roboti pracovali spolu s dalšími, které prozkoumaly uživatelské profily, aby přizpůsobily své odpovědi na maximální přesvědčivost.
Vědci z Curychu poté odhalili experiment moderátorům fóra „jako součást kroku zveřejňování studie“ spolu s odkazem na první návrh jeho výsledků.
„Tým CMV MO musí informovat komunitu CMV o neoprávněném experimentu prováděném vědci z University of Curych na uživateli CMV,“ moderátoři Subreddit napsal v příspěvku Oznámení uživatelů. „Myslíme si, že to bylo špatně. Nemyslíme si, že“ to se dříve nestalo „, je výmluva k takovému experimentu.“
Zjištění návrhu, která měřila úspěšnost robotů prostřednictvím funkce webu, která uživatelům umožňuje udělit ocenění komentářům, které mění jejich mysl, naznačují, že odpovědi AI byly mezi třemi a šestikrát přesvědčivějšími než zjištění lidí.
Související: Použití AI snižuje vaše dovednosti kritického myšlení, varuje mikrosoft studie
A autoři, kteří (jít proti standardnímu akademickému postupu) nechali svá jména v návrhu nezveřejněna, poznamenali, že v průběhu zkoušky nevědomí uživatelé „nikdy nevyvolávali obavy, že by AI mohla generovat komentáře zveřejněné našimi účty“.
Příspěvek se setkali s IRE uživateli a Ben Lee, hlavním právním ředitelem Redditovi, který v a Komentář pod příspěvkem Používání uživatelského jména Traceroo oznámilo, že web bude provádět formální právní kroky proti University of Curych.
„To, co tento tým University of Curych udělal, je hluboce špatné na morální i legální úrovni,“ napsal Lee. „Porušuje akademický výzkum a normy v oblasti lidských práv a kromě pravidel subreddit je zakázána uživatelskou dohodou a pravidly Reddit.“
V reakci na to University of Curych řekl 404 médií že vědci by nezveřejnili výsledky studie a že v budoucnu by jeho etická komise pro ně přijala přísnější proces přezkumu, zejména koordinace s online komunitami, než se stanou nevědomými předměty hromadného experimentu.
Ať už následují jakékoli legální wranglings, experimenty, jako je tento, zdůrazňují rostoucí schopnost chatbotů infiltrovat online diskurs. V březnu, Vědci odhalili Tento model GPT-4,5 OpenAI GPT-4,5 byl již schopen projít Turingovým testem a úspěšně oklamat účastníky zkoušky, aby si mysleli, že mluví s jiným člověkem 73% času.
Rovněž to propůjčuje určitou důvěru představě, že pokud zůstanou nekontrolovaní, AI chatboti mají potenciál vytlačit lidi při vytváření většiny obsahu internetu. Nazývá se teorie „mrtvého internetu“, tato myšlenka je Jen teorie spiknutí – alespoň prozatím.
