Videa jsou nápadně živá, představují ženy oblečené v bikinách, které provádějí pouliční rozhovory a vyvolávají oplzlé komentáře, ale ale vyvolávají oplzlé komentáře, ale Jsou zcela falešné, generované nástroji AI se stále více používají k zaplavení sociálních médií se sexistickým obsahem.
Takový svah AI, hromadně vyráběný obsah vytvořený levnými nástroji pro umělou inteligenci, které proměňují jednoduché textové výzvy na hyperrealistické vizuály, často utopí autentické příspěvky a rozmazává hranici mezi fikcí a realitou.
Tento trend vytvořil chalupací průmysl ovlivňovatelů umělé inteligence AI, kteří chrlili velké objemy sexualizovaných klipů s minimálním úsilím, často poháněné motivačními programy na platformě, které finančně odměňují virový obsah.
Hordy klipů AI, naložené humorem šatny, se zavázaly, že na ulicích Indie nebo ve Spojeném království ukazují, že se ženy mohou ukazovat.
AFP, kontrolovatelé faktů vystopovali stovky takových videí na Instagramu, mnozí v hindštině, kteří údajně ukazují, že dotazovaní nedbale doručují misogynní punčové linie a sexualizované poznámky, někdy dokonce popadli ženy, zatímco davy mužů se vzali nebo se smějí v pozadí.
Mnoho videí shromáždilo desítky milionů zhlédnutí a některá dále zpeněžila tuto trakci propagací aplikace pro chat pro dospělé, aby „vytvořila nové kamarádky“.
Vymyšlené klipy byly tak živé, že někteří uživatelé v komentářích se ptali, zda jsou doporučené ženy skutečné.
Vzorek těchto videí analyzovaných americkou firmou pro kybernetickou bezpečnost GetReal Security ukázal, že byly vytvořeny pomocí generátoru AI Google VEO 3, známé pro hyperrealistické vizuály.
„Misogynie, která obvykle zůstala skrytá v chatech a skupinách šatny, je nyní oblečená jako vizuální prvky AI,“ řekla Nirali Bhatia, indická kybernetický psycholog se sídlem v Indii, AFP.
„To je součást genderového újmy zprostředkovaného AI,“ řekla a dodala, že trendem „poháněl sexismus“.
Trend nabízí okno do internetové krajiny, která se nyní stále více zaplavila memy generovanými AI, videi a obrázky, které soutěží o pozornost a stále více zatmění autentickým obsahem.
„Slop AI a jakýkoli typ neznačeného obsahu generovaného AI pomalu odvrátí na malou důvěru, která zůstává ve vizuálním obsahu,“ řekla AFP Emmanuelle Saliba v Emmanuelle Saliba Getreal Security.
Nejmodernější misogynistický obsah se často spoléhá na šokovou hodnotu, včetně instagramu a klipů Tiktok, o nichž řekl, že Wired Magazine byl generován pomocí VEO 3 a zobrazovat černé ženy jako primáty s velkými nohami.
Videa na jednom populárním účtu Tiktok zesměšňující seznam toho, co by takzvané zlaté „dívky Gone Wild“ udělalo za peníze.
Ženy jsou také krmivem pro zneklidňování Clickbait řízených AI, přičemž sledování virových videí AFP sleduje virová videa falešného námořního trenéra jménem „Jessica Radcliffe“, která byla fatálně napadena orkou během živé show ve vodním parku.
Vymyšlené záběry se rychle rozšířily napříč platformami včetně Tiktok, Facebooku a X, což vyvolalo globální pobouření od uživatelů, kteří věřili, že žena je skutečná.
V loňském roce Alexios Mantzarlis, ředitel iniciativy pro bezpečnost, důvěru a bezpečnosti v Cornell Tech, našel 900 Instagramových účtů pravděpodobných „modelů“ generovaných AI: převážně ženské a obvykle skromně oblečené.
Tyto žíznivé pasti kumulativně nashromáždily 13 milionů sledujících a zveřejnily více než 200 000 obrázků, obvykle zpeněžily svůj dosah přesměrováním publika na komerční platformy pro sdílení obsahu.
Když se AI Fakery proliferuje online, „čísla jsou nyní bezpochyby mnohem větší,“ řekl Mantzarlis AFP.
„Očekávejte více nesmyslového obsahu využívajícího standardy těla, které nejsou nejen nerealistické, ale doslova neskutečné,“ dodal.
Finančně motivizovaný svah se stává pro policii stále náročnější, protože tvůrci obsahu, včetně studentů a rodičů doma po celém světě, se obracejí na produkci video AI jako práce na koncertu.
Mnoho tvůrců na YouTube a Tiktok nabízí placené kurzy o tom, jak zpeněžit virový materiál generovaný AI na platformách, z nichž mnozí snížili jejich spoléhání se na kontroly lidských faktů a zmenšili moderování obsahu.
Některé platformy se snažily zakročit na účtech propagujících Slop, s YouTube nedávno řekl, že tvůrci „neautentického“ a „hromadně vyráběného“ obsahu by pro zpeněžení nebyli způsobilí.
„AI nevymýšlí misogyny – jen odráží a zesiluje, co již existuje,“ řekla konzultantka AI Divyendra Jadoun AFP.
„Pokud diváci odměňují tento druh obsahu miliony lajků, algoritmy a tvůrci umělé inteligence ho budou pokračovat v produkci. Větší boj není jen technologický – je to sociální a kulturní.“
Publikováno – 1. září 2025 11:16
