AI Slop podněcuje rekordní požadavky na imaginární deníky
Mezinárodní výbor Červeného kříže varoval, že modely umělé inteligence tvoří výzkumné články, časopisy a archivy
Alexander Spatari/Getty Images
Nikdy jsem o tom neslyšel Journal of International Relief nebo International Humanitarian Digital Repository? To proto, že neexistují.
Podle nového Mezinárodního výboru Červeného kříže (ICRC) to však nebrání některým z nejpopulárnějších světových modelů umělé inteligence v tom, aby posílali uživatele, kteří hledali záznamy, jako jsou tyto. prohlášení.
Modely ChatGPT od OpenAI, Gemini od Googlu, Copilot od Microsoftu a další modely matou studenty, výzkumníky a archiváře tím, že generují „nesprávné nebo vymyšlené archivní reference“, uvádí ICRC, který provozuje některé z nejpoužívanějších výzkumných archivů na světě. (Scientific American požádal vlastníky těchto modelů AI o vyjádření.)
O podpoře vědecké žurnalistiky
Pokud se vám tento článek líbí, zvažte podporu naší oceňované žurnalistiky předplatné. Zakoupením předplatného pomáháte zajistit budoucnost působivých příběhů o objevech a nápadech, které formují náš dnešní svět.
Modely umělé inteligence nejen nasměrují některé uživatele na falešné zdroje, ale také způsobují problémy výzkumníkům a knihovníkům, kteří nakonec ztrácejí čas hledáním požadovaných neexistujících záznamů, říká Sarah Falls, vedoucí oddělení výzkumných pracovníků Library of Virginia. Její knihovna odhaduje, že 15 procent žádostí se nyní týká citací s halucinacemi, a to jak u publikovaných děl, tak u jedinečných primárních zdrojových dokumentů. „Pro naše zaměstnance je mnohem těžší dokázat, že jedinečný záznam neexistuje,“ říká.
Není to poprvé, co byla AI přistižena při vymýšlení nepravdivé citace. MVČK doporučuje, aby se lidé poradili online katalogy nebo odkazy v existujících publikované vědecké práce najít odkazy na skutečné studie místo toho, abychom předpokládali, že cokoli citované umělou inteligencí je skutečné, bez ohledu na to, jak autoritativní to může znít. Knihovna Virginie bude žádat vědce, aby prověřili své zdroje pro tyto požadavky, říká Falls, a aby zveřejnili, zda zdroj pochází z AI. „Pravděpodobně také dáme našim uživatelům vědět, že musíme omezit čas, který strávíme ověřováním informací.“
Je čas postavit se za vědu
Pokud se vám tento článek líbil, rád bych vás požádal o podporu. Scientific American sloužil jako obhájce vědy a průmyslu již 180 let a právě teď může nastat nejkritičtější okamžik v této dvousetleté historii.
Byl jsem a Scientific American předplatitel od mých 12 let a pomohlo mi to utvářet můj pohled na svět. SciAm vždy mě vzdělává a těší a vzbuzuje úctu k našemu obrovskému, krásnému vesmíru. Doufám, že to udělá i vám.
Pokud vy přihlásit se k odběru Scientific Americanpomáháte zajistit, aby se naše pokrytí soustředilo na smysluplný výzkum a objevy; že máme zdroje na podávání zpráv o rozhodnutích, která ohrožují laboratoře v USA; a že podporujeme začínající i pracující vědce v době, kdy hodnota samotné vědy příliš často zůstává nepoznaná.
Na oplátku získáte zásadní zprávy, strhující podcastyskvělá infografika, nepřehlédnutelné newsletteryvidea, která musíte vidět, náročné hrya nejlepší vědecké psaní a zpravodajství. Můžete dokonce darovat někomu předplatné.
Nikdy nebyl důležitější čas, abychom vstali a ukázali, proč na vědě záleží. Doufám, že nás v této misi podpoříte.
