AI Deepfakes, záběry videoher prošly jako skutečný boj a chatbot generované klamství; takový Dezinformace s technologií s podporou techniky zkresluje konflikt Izrael-írán a podporuje válku vyprávění napříč sociálními médii.
Informační válka, která se odehrává vedle pozemního boje, vyvolaná izraelskými stávkami na íránských jaderných zařízeních a vojenském vedení, zdůrazňuje digitální krizi ve věku rychle prosazujících nástroje AI, které rozmazaly hranice mezi pravdou a výrobou.
Nárůst válečných dezinformací odhalil naléhavou potřebu silnějších detekčních nástrojů, tvrdí, že hlavní technologické platformy do značné míry oslabily záruky tím, že škálovaly zmírnění obsahu zpět a snižovaly spoléhání na kontrolu lidských faktů.
Poté, co Írán minulý týden udeřil Izrael s barikami raket, videa generovaná AI nepravdivě tvrdila, že ukazují škody způsobené letištěm Tel Avivu a Ben Gurion.
Videa byla široce sdílena na Facebooku, Instagramu a X.
Pomocí reverzního vyhledávání obrázků, kontrolovatelé faktů AFP zjistili, že klipy byly původně zveřejněny účtem Tiktok, který vytváří obsah generovaný AI.
Došlo k „nárůstu generativních dezinformací AI, konkrétně související s konfliktem íránsko-izraelským konfliktem,“ řekl AFP Ken Jon Miyachi, zakladatel firmy Bitmindai se sídlem v Austinu.
„Tyto nástroje se využívají k manipulaci s vnímáním veřejnosti, často zesilují dělící nebo zavádějící příběhy s bezprecedentním měřítkem a sofistikovaností.“
Getreal Security, americká společnost zaměřená na detekci manipulovaných médií, včetně AI Deepfakes, také identifikovala vlnu vyrobených videí souvisejících s konfliktem Izrael-Iran.
Společnost propojila vizuálně přesvědčivá videa a zobrazovala apokalyptické scény válečných izraelských letadel a budov, jakož i íránské rakety namontované na přívěsu, s generátorem AI Google VEO 3, známé pro hyperrealistické vizuály.
Vodoznak VEO je viditelný na dně online videa zveřejněného zpravodajským outletem Teheran Times, který tvrdí, že ukáže „okamžik íránské rakety“ zasáhl Tel Aviv.
„Není divu, že jak se generativní ai nástroje nadále zlepšují fotorealismus, jsou zneužívány k šíření dezinformací a zmatení zasely,“ řekla Hany Farid, spoluzakladatelka Getreal Security a profesor na University of California v Berkeley.
Farid nabídl jeden tip, aby si všiml takových hlubokých: Videa VEO 3 byla obvykle na délku osm sekund nebo kombinace klipů podobného trvání.
„Tento osmisekundový limit zjevně neprokazuje, že video je falešné, ale měl by být dobrým důvodem, aby vám předtím, než znovu sdílíte, by vám zkontrolovalo pauzu a skutečnost,“ řekl.
Nepochyby nejsou omezeny na sociální média.
Desinformation Watchdog NewsGuard identifikoval 51 webových stránek, které pokročily více než tucet falešných nároků, od fotografií generovaných AI, které se domnívají, že se domnívají hromadné zničení v Tel Avivu až po vymyšlené zprávy o Íránu, které zachycují izraelské piloty.
Mezi zdroje šířící tyto falešné příběhy patří íránské vojenské telegramové kanály a zdroje státních médií spojených s íránským vysíláním islámské republiky (IRIB), sankcionovaným ministerstvem financí USA, uvedl společnost NewsGuard.
„Vidíme záplavu falešných tvrzení a zdá se, že obyčejné Íránci jsou hlavním cíleným publikem,“ řekl AFP McKenzie Sadeghi, výzkumný pracovník s novinkami.
Sadeghi popsal íránské občany jako „uvězněné v zapečetěném informačním prostředí“, kde dominují státní média v chaotickém pokusu „ovládat příběh“.
Samotný Írán tvrdil, že je obětí technologické manipulace, přičemž místní média hlásí, že Izrael krátce napadl státní televizní vysílání, vysílal záběry protestů žen a naléhal na lidi, aby se vydali do ulic.
K informačním chaosu byly přidány online klipy zvednuté z videoher s válečným s tématem.
AFP zkontrolovali, že kontrolovatelé faktů identifikovali jeden takový klip zveřejněný na X, který nepravdivě tvrdil, že Írán sestřelil izraelský letoun. Záběry nesly výrazné podobnosti s vojenskou simulační hrou ARMA 3.
Izraelská armáda odmítla íránské mediální zprávy, které tvrdily, že jeho stíhací letouny byly sestřeleny nad Íránem jako „falešné zprávy“.
Chatbots, jako je Xai’s Grok, kteří se online uživatelé stále více obrací k okamžité kontrole faktů, nepravdivě identifikovali některé z manipulovaných vizuálů jako skutečné, uvedli vědci.
„To zdůrazňuje širší krizi v dnešní online informační prostředí: eroze důvěry v digitální obsah,“ řekl Miyachi Bitmindai.
„Je naléhavá potřeba lepší detekční nástroje, mediální gramotnost a odpovědnost platformy, aby bylo možné chránit integritu veřejného diskurzu.“
Publikováno – 21. června 2025 10:31
