Umělá inteligence (AI) Mohlo by narušit dovednosti kritického myšlení uživatelů a přimět je, aby je narušili, nová studie varovala.
Výzkum – průzkum pracovníků v oblasti podnikání, vzdělávání, umění, správy a výpočetní techniky prováděných Microsoft a Carnegie Mellon University – zjistil, že ti, kteří nejvíce důvěřovali přesnosti asistentů AI, přemýšleli o závěrech těchto nástrojů méně kriticky.
To samo o sobě to není tak překvapivé, ale odhaluje to past číhající v rostoucí přítomnosti AI v našich životech: protože nástroje strojového učení získávají více důvěry, mohly by produkovat nebezpečný obsah, který sklouzne bez povšimnutí. Vědci představí svá zjištění na Chi konference o lidských faktorech ve výpočetních systémech Později tento měsíc a zveřejnili a papírkterý dosud nebyl na webových stránkách Microsoft recenzován.
„Použité nesprávně, technologie mohou a mohou mít za následek zhoršení kognitivních fakult, které by měly být zachovány,“ uvedli ve studii vědci. „Klíčovou ironií automatizace je, že mechanizací rutinních úkolů a ponecháním výjimečného manipulace s lidským uživatelem připravujete uživatele rutinní příležitosti k procvičování svého úsudku a posílení jejich kognitivní svaloviny a ponecháte je, když dojde k výjimkám.“
Pro provedení studie vědci oslovili 319 znalostních pracovníků (odborníci, kteří vytvářejí hodnotu prostřednictvím svých odborných znalostí) prostřednictvím plodné platformy crowdsourcingu.
Související: Vědci objevují hlavní rozdíly v tom, jak lidé a AI „myslí“ – a důsledky by mohly být významné
Respondenti – jejichž pracovní role se pohybovaly od sociální práce po kódování – byli požádáni, aby se ve své práci podělili o tři příklady toho, jak používali generativní nástroje AI, jako je Chatgpt. Poté byli dotázáni, zda se zapojili do schopností kritického myšlení při dokončení každého úkolu a (pokud ano), jak to udělali. Byli také dotazováni na úsilí, které by dokončilo úkol, bez AI, a na jejich důvěru v práci.
Výsledky odhalily výrazné snížení kontroly hlášené samostatně použité na výstup AI, přičemž účastníci uvedli, že pro 40% svých úkolů nepoužívali vůbec žádné kritické myšlení.
To není zdaleka jediný pramen důkazů, který poukazuje na škodlivé dopady digitální závislosti na lidském poznání. Ukázalo se, že nejčastější uživatelé Chatgptu rostli tak závislý na chatbotu, že trávení času od něj může způsobit Příznaky odběruZatímco videa s krátkými formami, jako jsou videa nalezená na Tiktoku snížit Pozornost se rozprostírá a Kastujte růst nervových obvodů souvisejících se zpracováním informací a výkonnou kontrolou.
Tyto problémy se zdají být více prominentní u mladších lidímezi nimiž je adopce AI převládajícís AI běžně používaným jako prostředek k Napište eseje a obejít potřebu uvažovat kriticky.
To není nový problém – efekt Googlečímž uživatelé zadávají své znalosti pro vyhledávač, je zaznamenán již desetiletí – ale zdůrazňuje důležitost vykonávání určitého rozlišování o duševních úkolech, které delegujeme Stroje náchylné k halucinaciAbychom neztratili schopnost je provádět úplně.
„Data ukazují posun v kognitivním úsilí, protože znalostní pracovníci se stále více přecházejí od provádění úkolů k dohledu při používání Genai,“ napsali vědci. „Překvapivě, i když AI může zlepšit účinnost, může také snížit kritické zapojení, zejména v rutinních nebo nižších úkolech, ve kterých se uživatelé jednoduše spoléhají na AI a vyvolávají obavy ohledně dlouhodobé spoléhání se a sníží nezávislé řešení problémů.“
