Pravděpodobný nárůst AI v dopisech editorovi

Vědci a vědecké časopisy mohou do rostoucího seznamu hrůz generovaných umělou inteligencí přidat novou možnost: dopisy editorovi.

Dva dny poté, co vědci publikovali článek o účinnosti ivermektinu jako léčby malárie v New England Journal of Medicine letos v létě časopis obdržel dopis editorovi od jiného výzkumníka, který kritizoval zjištění listu. To je standardní praxe ve světě vědeckého publikování, kde časopisy publikují dopisy editorům, aby pokračovaly v debatě i po dokončení procesu vzájemného hodnocení.

Dopis zaslaný na NEJM nevzbudilo žádné podezření u redaktorů časopisu, kteří jej předali autorům k odpovědi.

„Nejprve to vypadalo dobře napsané, ale pak se objevily tyto podivné komentáře a odkazovaly na jiné články, které vypadaly, že vyvracejí naši práci,“ řekl Matthew Rudd, spoluautor článku a docent matematiky na University of the South v Tennessee. Uvnitř Vyšší Ed. „Ale ty články napsal (můj spoluautor) a nevyvracejí naši práci.“

Pro Rudda a jeho spoluautora Carlose Chaccoura, výzkumníka z University of Navarra, bylo dost podezřelé, aby prozkoumali identitu pisatele dopisu.

„Ukázalo se, že to byli dva autoři a jeden z nich ve svém životě publikoval nula písmen. Pak, najednou letos, jich publikoval – neodevzdal – 84,“ řekl Chaccour. Uvnitř Vyšší Ed. „To je šílené. Za celou svou kariéru jsem publikoval 84 článků a pravděpodobně dva nebo tři dopisy redaktorovi.“

I když existuje několik plodných pisatelů dopisů, většina vědců publikuje editorovi pouze malý počet dopisů, protože psaní podstatného dopisu vyžaduje specializovanou odbornost. Když však Rudd a Chaccour prohledali všechny dopisy, které pisatel podezřelých dopisů publikoval od roku 2023, zjistili, že pisatel publikoval dopisy editorovi na 58 různých vědeckých témat. Nástroj pro detekci AI také uvedl, že existuje vysoká pravděpodobnost, že autor vytvořil písmena pomocí generativní AI. (OpenAI ChatGPT vyšel na konci roku 2022, následovala řada podobných nástrojů AI.)

„To byl výchozí bod,“ řekl Rudd. „Zajímalo nás, jak často se něco takového stalo.“

Po případové studii Rudd a Chaccour analyzovali více než 730 000 dopisů zaznamenané v PubMed mezi rokem 2005 a zářím 2025. Zjistili nevysvětlitelný nárůst početných nových pisatelů dopisů počínaje rokem 2023, přičemž počet autorů, kteří publikovali 10 nebo více dopisů ve svém debutovém roce, vzrostl o 376 procent po zavedení velkých jazykových modelů schopných produkovat písmena během několika sekund.

Od vydání jejich předběžná zjištění na předtiskovém serveru začátkem tohoto měsíce se jim ozvalo mnoho dalších redaktorů časopisů, kteří také identifikovali podobně podezřelé dopisy. A problém se netýká konkrétního regionu nebo země.

Carlos Chaccour, Gonzalo Arrondo, Tommaso Cancellario a spol. Robotí kamarádi: multidisciplinární analýza současných trendů ve vědecké korespondenci3. listopadu 2025, PREPRINT (verze 1) k dispozici na Research Square.

„Přicházejí z míst, kde je tlak na zveřejnění nebo zahynutí nejsilnější,“ řekl Chaccour. „Toto je globální fenomén. Žádné místo toho není bez.“

Uvnitř Vyšší Ed vyzpovídal Rudda a Chaccoura o jejich nedávných zjištěních a důsledcích, které to má pro vědu.

Tento rozhovor byl z důvodu délky a srozumitelnosti upraven.

Otázka: Papírny již léta vyrábějí podvodné výzkumné papíry, což je nyní s pomocí generativní umělé inteligence ještě jednodušší. Proč by ale výzkumník chtěl používat AI ke generování dopisů editoru? Jaký je potenciální přínos?

Rudd: Je mnohem jednodušší nechat dopis publikovat v časopise, jako je ten New England Journal of Medicine než papír a některé instituce je budou počítat stejně. Pokud tedy můžete získat dopis redakci zveřejněný v Lancet nebo New England Journal of Medicine nebo (jiný dobře hodnocený časopis), pak je skvělé mít v životopise.

Toto je důsledek nebo artefakt systému publikuj-nebo-zahyň, který je každým rokem intenzivnější. Výzkumníci musí věci publikovat a dopisy editorovi jsou ovocem pro publikování věcí, pokud na to jdou určitým způsobem.

Chaccour: Může to být nedbalé – normálně byste rádi věděli, jaký je řádek životopisu – ale někteří lidé přestanou číst poté, co uvidí, že nějaký vědec publikoval v Lancet. Dopisy zaslané editorovi tedy mohou vyplnit životopis. A dokud je zahynutí alternativou, lidé si vezmou vše, co je na druhé straně. Chcete hruškový džus nebo perník? Hrušková šťáva. Chcete shnilá rajčata nebo zahynout? Shnilá rajčata, bezpochyby.

Otázka: Váš výzkum analyzoval všechny zaznamenané dopisy redaktorovi PubMed od roku 2005 do září 2025. Od roku 2023 vykázal prudký nárůst průměrného počtu dopisů publikovaných na jednoho autora za rok, což se shodovalo s nárůstem generativní umělé inteligence. Došlo v minulosti k podobným výkyvům v psaní dopisů a jak se liší od nejnovějšího?

Chaccour: Ke skoku došlo také v letech 2013 a 2020. Nárůst v roce 2013 je způsoben tím, že tehdy PubMed změnil protokoly indexování – když autor odpověděl na článek, byla tato odpověď indexována jako samotný dopis, takže to je vysvětleno.

Rudd: Dvacet dvacet byla pandemie, takže tam byl nával aktivit souvisejících s tím, co se děje, jak bojovat a co se dělo na různých místech. Byla to velmi sporná doba. Lidé psali spoustu dopisů – které jsou rychlejší než papíry – protože to bylo naléhavé.

Prudký nárůst v roce 2013 i nárůst pandemie se samy napravily, ale nárůst v roce 2023 – a zvláště pro autory, kteří jsou plodnými pisateli dopisů – je trochu nevysvětlený. Přinejmenším se zatím nezdá, že by k této autonápravě došlo.

Tento neobvyklý jev, tato vzácná událost, kdy lidé publikují 10 nebo více dopisů (v prvním roce na trhu psaní dopisů), je nyní mnohem méně vzácný. Je to statisticky velmi významný rozdíl. I když to není důkaz používání AI, je to o něčem silný důkaz a nejpravděpodobnějším vysvětlením je použití AI.

Otázka: Písmena, která jste použili pro případovou studii, jste provedli pomocí nástroje pro detekci umělé inteligence, který vykazoval silné podezření, že je generována umělou inteligencí. Plánujete vyhodnotit všechny dopisy publikované od roku 2023 pro důkaz o generování AI?

Rudd: Nyní můžeme používat Pangram (nástroj pro detekci AI) ve velkém měřítku. Jednou z přirozených věcí, které je třeba udělat dále, je projít a zkontrolovat co nejvíce dopisů a rozšířit tuto případovou studii šířeji. Ale ani Pangram není důkaz, protože může mít falešně negativní a falešně pozitivní. Nicméně, když se důkazy stanou drtivými, můžete se zaměřit na jednu odpověď.

Otázka: Jak se tolik podezřelých dopisů dostává kolem redaktorů časopisu?

Rudd: Redaktoři jsou opravdu zavaleni tím, co musí číst a procházet. A pokud se dopis zdá důvěryhodný a je dobře napsaný – a je to jen dopis redaktorovi, nikoli papír –, časopisům to usnadní některé z nich projít. Každý má během dne jen tolik času a tolik pozornosti, kterou může věcem věnovat (a časopisy dostává více příspěvků než kdy jindy).

Například dopis (který odstartoval náš projekt) prošel redakcí na Medicine protože to vypadalo legitimně, než jsme to označili jako podezřelé.

Otázka: Jaké jsou potenciální důsledky pro vědu a informační ekosystém, pokud časopisy publikují stále více dopisů, které jsou pravděpodobně generovány umělou inteligencí a jsou plné dezinformací?

Rudd: Stává se součástí trénovacích dat pro velké jazykové modely, takže později se to vrátí na jiných místech. V tomto věku, kdy se pravda stala proměnlivou věcí, je mnohem těžší rozeznat, co je pravda.

Chaccour: Je to také věc, která potvrzuje politický příběh, že veřejnost nemůže věřit vědcům. Lidé ztrácejí důvěru ve vědu, možná částečně proto, že někteří vědci se chovají špatně. I když to není celé tělo vědců, kteří se chovají špatně, ale ti, kteří poskvrňují celé vnímání.

Otázka: Jak může vědecká komunita řešit podmínky, které některé výzkumníky motivují k zasílání dopisů vygenerovaných umělou inteligencí?

Rudd: Roste počet příkladů lidí, jejichž kariéra byla vykolejena, když byl odhalen podvod. Je možné, že se toho musí stát víc, aby to lidé přestali tolik dělat.

Chaccour: Nebo bychom možná měli začít přikládat větší hodnotu mentorství a kvalitě výuky, jako je počet lidí, které učíte a kteří jdou do vědy, a to, co si o vás studenti myslí, a nejen to, zda něco publikujete v Příroda nebo Věda.

Rudd: Ale pak vyvstává otázka, jak to udělat? Jak změníte celý systém?