S požární hadicí dezinformací obklopující atentát na americký pravicový aktivista Charlie Kirk se uživatelé sociálních médií obrátili AI chatbots pro spolehlivé aktualizace, pouze se setkat s protichůdnými nebo nepřesnými odpověďmi, Další podněcování online zmatení.
Trend zdůrazňuje, jak chatboti často vytvářejí sebevědomé reakce, i když ověřené informace nejsou k dispozici během rychle se rozvíjejících zpravodajských událostí, energizující dezinformace napříč platformami, které do značné míry škálovaly zpět lidské kontroly a moderování obsahu.
Den poté, co Kirk, 31letý prominentní spojenec amerického prezidenta Donalda Trumpa, byl na univerzitě v Utahu smrtelně zastřelen, X účet AI chatbot zmateně nepravdivě uvedl, že aktivista nebyl nikdy zastřelen a byl podle strážce novinek „stále naživu“.
Když příspěvky obsahující autentické video o výstřelu Kirk vířily online, X účet Grok, Elon Musk’s AI Chatbot, uvedl, že se jedná o satirický klip.
„Video je editace Meme – Charlie Kirk debatuje a efekty způsobují, že to vypadá, že je„ výstřel “střední věty pro komediální efekt. Žádná skutečná újma; je v pořádku a aktivní jako vždy,“ napsal Grok.
Grok také nepravdivě tvrdil, že jako střelec byl identifikován registrovaný demokrat se sídlem v Utahu jménem Michael Mallinson, který informace nesprávně připisoval hlavním zpravodajským střediskům, jako jsou CNN a New York Times.
Mallinson, ve skutečnosti 77letý kanadský bankéř v důchodu žijícím v Torontu, řekl, že byl „šokován“ tisíci příspěvků na sociálních médiích, které ho označily za viníka.
Breaking News Events často vyvolává zběsilé hledání nových informací o sociálních médiích, často vede k falešným závěrům, které chatbots pak regurgitují a přispívají k dalšímu online chaosu.
Příliv dezinformací přichází uprostřed volatilního prostředí ve Spojených státech po Kirkově atentátu, přičemž mnoho pravicových vlivných osob z Trump’s dělá Ameriku opětovné (MAGA) politickou základnu, která vyžaduje násilí a „odplatu“ proti levici.
Motivy střelce zapojeného do střelby, který zůstává na svobodě, nejsou známy.
Mezitím někteří konspirační teoretici neopodstatně tvrdili, že video ukazující, že Kirk byl zastřelen, bylo generováno AI, a tvrdilo, že celý incident byl představen.
Tvrzení zdůrazňuje, jak vzestup levných a široce dostupných nástrojů AI poskytl dezinformačním pedlírům praktickou motivaci k zpochybnění autentičnosti skutečného obsahu, taktický vědci se dabovali jako „lhář dividenda“.
„Analyzovali jsme několik videí (Kirkova střelby) cirkulující online a nenašli žádné důkazy o manipulaci nebo manipulaci,“ řekla Hany Farid, spoluzakladatelka Getreal Security a profesor na University of California v Berkeley.
Farid také uvedl, že vidí některá videa generovaná AI.
„Toto je příklad toho, jak falešný obsah může zablátit vody a zase zpochybnit legitimní obsah,“ řekl.
Podložky podtrhují, jak jsou fakta stále více napadeni v dezinformační internetové krajině, což je problém zhoršený veřejnou nedůvěrou pro instituce a tradiční média.
Vystavila naléhavou potřebu silnějších nástrojů pro detekci AI, tvrdí, že hlavní technologické platformy do značné míry oslabily záruky snížením investic do kontroly lidských skutečností.
Vědci tvrdí, že chatboti již dříve učinili chyby ověřující informace týkající se jiných krizí, jako je válka Izraele-Hamas na Středním východě, nedávný konflikt Indie-Pákistán a protesty proti imigraci v Los Angeles.
Nedávný audit společnosti NewsGuard zjistil, že 10 předních AI chatbotů opakovalo nepravdivé informace o kontroverzních zpravodajských tématech téměř dvojnásobkem sazby ve srovnání s před rokem.
„Klíčovým faktorem zvýšené míry selhání je rostoucí sklon chatbotů odpovědět na všechny dotazy, na rozdíl od odmítnutí odpovědět na určité výzvy,“ uvedl ve zprávě minulý týden ve zprávě.
„Modely velkých jazyků (LLMS) se nyní vytahují z vyhledávání na webu v reálném čase – někdy záměrně nasazeny obrovskými sítěmi maligních aktérů.“
Publikováno – 12. září 2025 09:25
