AI Sloové farmy chrlí falešná srdečná videa o Trumpově postavách – matka Jones

Soudce požadoval To tisková sekretářka Bílého domu Karoline Leavitt odstranila její křížový náhrdelník, ale brzy byl ponížen. Muž se pokusil křičet na viceprezidenta JD Vance v kavárně, ale brzy byl také nízký. Barron Trump zvítězil v debatě o „liberálním studentovi“, který nesl nápadnou podobnost s herečkou Emmou Watsonovou.

Na YouTube se videa s těmito bizarními a přehnanými příběhy proliferují a tvrdí, že postavy Trump-World umožnily své antagonisty během mikrointerakcí: v restauracích, na ulici, v málo známých soudních případech a na pozdních nočních hovorech. Tato videa často generují tisíce zhlédnutí a záplavu podpůrných komentářů – a jsou úplně falešná.

Videa jsou součástí stále široké řeky AI, která prochází internetem, vyrobená tak, aby řídila angažovanost-torrent nízké kvality, uměle generovaného obsahu, který je Stejně nemotorný, jak je všudypřítomný. AI Slop je obzvláště převládající na Tiktoku a Facebooku, kde je často vytvářen Nezávislí pracovníci s nízkými mzdami V rozvojových zemích využívajících obsah generovaný AI jako způsob, jak vydělat peníze, zatímco sedí poblíž spodní příčky globální ekonomiky.

V důsledku Trumpových druhých voleb se v podstatě anonymních kanálech chrlily desítky videí, které vyprávěly srdečně okouzlující příběhy o hráčích ve světě Trumpa. Videa YouTube mají tendenci se zaměřit na malé interakce a představují vynalezené vyprávění, kde v překvapivém počtu případů napojuje nějakou výzvu a vyjde vítězná. Videa jsou zveřejňována na účtech se jmény jako Elite Stories a pan Robe Stories, z nichž druhá nabízí „dotykové příběhy, příběhy o porozumění, empatii a rovnost lidských práv“. Několik kanálů má ve svých videích reklamy, což znamená, že videa jsou zpeněženy.

Většina kanálů přidává zřeknutí se odpovědnosti buď ve svém popisu kanálu, nebo do samotných videí, že příběhy jsou falešné. Například videa pana Robe Stories nabízí zřeknutí se odpovědnosti v prvních snímcích videí, které uváděné příběhy jsou falešné. Zřeknutí se samotného odpovědnosti se zdá být generováno AI, s neohrabanou a opakujícím se zněním, které je charakteristickým znakem obsahu strojově generovaného. Plně zní: „Všechny příběhy sdílené na tomto kanálu jsou čistě smyšlené a vytvářeny pro zábavní účely, ale chceme planetu, kde lidé mají právo na rovnost před zákonem, společnost, která je stále spravedlivěji, rozvinutá a civilizovaná. Jakékoli podobnosti s reálnými událostmi, lidem, jsou lidem, zejména lidem, a“.

Našel jsem nejméně deset účtů, které se konkrétně zabývaly politickým svahem AI, zaměřené na Trumpovu správu a rodinu. Zatímco mnoho z účtů se může pochlubit desítkami nebo dokonce stovkami tisíc předplatitelů, je obtížné zjistit, kolik z těchto následovníků je skutečných lidí. (Desítky riskantních webů nabízejí nástroje k nákupu předplatitelů na YouTube, i když tato praxe porušuje podmínky služby společnosti.)

Zdá se však, že spousta těchto videí získává interakci od skutečných lidí, kteří si myslí, že videa vyprávějí skutečné příběhy, soudě podle velkého svazku podpůrných a důvěryhodných komentářů, jako „Pam poráží, že soudce, Bůh vždy vyhraje!“ A videa mohou ve velmi krátkém časovém období shromáždit obrovské množství zhlédnutí: Elitní příběhy Kanál byl vytvořen v říjnu a na konci listopadu vytvořil své první video, ale podle informační stránky účtu již získal více než 31 milionů zhlédnutí. (Matka Jones Kontaktoval elitní příběhy a několik dalších účtů za komentář, ale nedostal žádnou odpověď.)

Mnoho účtů produkuje více videí denně. Podobný obsah je replikován napříč účty – což by mohlo naznačovat, že účty jsou provozovány stejnou osobou nebo lidmi, nebo jednoduše to, co se na jednom účtu dobře zkopíruje. Jakékoli vysvětlení, Vysoce specifická témata se často opakují. Například příběhy o křížových náhrdelnících jsou obzvláště populární: video o fiktivním soudce požadujícím, aby generální prokurátor Pam Bondi odstranil křížový náhrdelník dosud vygeneroval 2,8 milionu zhlédnutí. (V podstatě podobný příběh na jiném účtu se daří méně dobře, s Pouze 109 000 zhlédnutí.) Jeden o tom, že Karoline Leavitt je pokutován soudcem za nošení jejího křížového náhrdelníku, než si uvědomil, že je „legální génius“ Zobrazeno asi 89 000krát.

Leavitt často nosí poutavý křížový náhrdelníkA kdokoli, kdo hledá zprávy o jejích špercích, bude více než pravděpodobné, že narazí na video generované AI. (Dalším běžným, i když o něco méně úspěšné téma, je Barron Trump Snaží se adoptovat psa, někdy doprovázenou blonďatskou přítelkyní generovanou AI.)

YouTube Má politiku dezinformacíkterý zakazuje „zavádějící nebo klamný obsah, který představuje vážné riziko závažného poškození“. Podle této metriky není „závažné“ újmu u nepoznatelného počtu lidí, kteří si myslí, že řekněme, Barron Trump dostal zlatý retrívr.

Obsah také nadále existuje na webu současně YouTube Podpora zákona o bez padělkuÚčetní legislativa probíhající přes kongres, který má, jako jeden z autorů zákona, zástupce Madeleine Dean (D-Pa.) Vložte to do tiskové zprávy, Zarezervujte „nekontrolovatelné šíření neoprávněných AI generovaných hlubokých deevefakes bez stylingu inovací nebo cenzury svobody projevu“. V jejich vlastní tiskové zprávě, která podporuje návrh zákona, viceprezident pro veřejnou politiku YouTube uvedl, že podpora právních předpisů společnosti „odráží náš závazek formovat budoucnost, kde se AI používá zodpovědně“.

V reakci na žádost o komentář mluvčí YouTube řekl matce Jonesovi, že smazal jednu ze stránek, elitní příběhy, „za porušení našich Spamová politika„Což„ vztahuje se na všechny kanály, bez ohledu na to, zda je jejich obsah generován pomocí nástrojů AI. “ Mluvčí dodal: „Když je kanál ukončen, je to proti našemu Podmínky služby Použití jiného kanálu k obcházení tohoto rozhodnutí. “

Mnoho z video příběhů používá vypravěče generovaného AI, který mluví v pomalé, profesionální kadenci-jako herec, který čte audioknihu. Jsou jasně určeny k rozzuření a uklidnění publika, malování obrázku Nespravedlnost, které jsou na konci videa napraveny správně. Někteří komentátoři naznačili, že chápou, že videa jsou falešná, ale stejně si je užijte. „Poslouchal jsem různé příběhy týkající se Keanu Reevese. Takže jsem se rozhodl se na to podívat a zjistil jsem, že to byly jen příběhy,“ napsal jednu osobu na Bondi Cross Video. „Takže teď, když poslouchám tyto věci, první věc, kterou si říkám, je, že je to jen pro zábavu.“