22. června spoluzakladatel Reddit Alexis Ohanian zveřejnil dětskou fotografii své matky a sebe. Na obrázku oba nosí červené svetry a zároveň se objímají proti horskému pozadí.
Spolu s obrázkem poslal pan Ohanian video generované AI, které oživilo obrázek: Matka a dítě se navzájem mazlily, když vítr prohrával vlasy.
„Sakra, nebyl jsem připraven na to, jak by se to cítilo. Neměli jsme videokameru, takže s mámou není žádné video,“ zveřejnil Ohanian na X (dříve Twitter). „Upustil jsem jednu z mých oblíbených fotografií z nás v Midjourney jako“ startovní rámec pro video AI „a wow … Takto mě objala. Opakovala jsem to 50krát.“
Příspěvek se rychle stal virovým a získal více než 20 milionů zhlédnutí. Zatímco mnozí se vcítili do akt pana Ohaniana z přeměny pečené rodinné fotografie na video, byl také přísně kritizován. Mnoho uživatelů X ho obvinilo z vytváření „falešných“ vzpomínek, poškození jeho schopnosti truchlit svou matkou zdravým způsobem nebo hledat pohodlí v interakci, kterou vyrobil.
Schopnost proměnit obrázky na videa není omezena na nástroje, jako je Midjourney. V posledních týdnech oznámila multi-miliardář Elon Musk pro uživatele „Grok Imagine“, aby generovali krátká videa z výzev textu/obrázků. Google v červenci ve své aplikaci fotografií zaváděl režim „Vytvořit“ pro transformaci fotografií na krátká videa pro americké uživatele. Existují také další menší platformy, které nabízejí přeměnit fotografie uživatelů na videa AI.
Nástroje AI se používají po celá léta k posílení starých médií prostřednictvím procesu zvaného UPScaling AI: odstranění rozmazaných částí, pixelace a zrno pro poskytování lepšího výstupu. Zatímco Genai tento proces usnadnil a usnadnil, umožňuje také uživatelům morfovat a manipulovat s obrázky pokročilými nástroji, které mohou odstranit objekty a vyplňovat chybějící prostory.
Skok v technologii přichází s právními otázkami, které je třeba zvážit, protože povolení se obvykle vyžaduje před provedením významných úprav tvorby chráněných autorskými právy. Kromě toho se vyvstávají také etické hlavolam, když člověk manipuluje s fotografií s někým, kdo již není naživu. Je důležité, že více uživatelů musí zvážit dopad na nejzranitelnější předměty fotografie – děti.
V ohrožení práva a bezpečnost dětí
Například, kybernetičtí zločinci mohou nyní rychle vytvářet realistická videa nezletilých AI pomocí svých veřejně dostupných fotografií. V minulosti, Zločinci se zaměřili na nezletilé tím, že vytvořili jejich syntetické nahé fotografie, aby vydírali peníze. Jeden takový případ v USA vedl k tomu, že dospívající umíral sebevraždou. Jeho rodina si nebyla vědoma, že dítě bylo obtěžováno.
Advokát na ochranu údajů a specialista AI Kleanthi Sardeli, který pracuje s nevládní organizací NO NOYB se sídlem ve Vídni a obhájci digitálních práv spotřebitelů, uvedli, že přeměnu statických obrázků na videoklipy by mohly být provedeny z nevinných důvodů, ale že existují také „závažné důsledky“.
„Čím nižší jsou bariéry vytváření realistického obsahu, tím více musíme také přemýšlet o etice, souhlasu a kontextu. Fotografie lze proměnit v přesvědčivé video bez znalostí nebo souhlasu zobrazených osob, což zvyšuje riziko hlubokých pomluvy, pomluvy a zneužívání,“ uvedla paní Sardeli a dodal, že rizika, která se vynořují, když byly zapojeny fotografie dětí.
Vysvětlila, že podle předpisů GDPR EU nemohou děti legálně souhlasit s takovým používáním svých osobních údajů, včetně jejich image, dokud jim nebude 16 let.
Přestože odborníci a zákonodárci vyzvali společnosti AI, aby prosadily silné zábradlí, aby zabránily AI chatbotům v generování vysoce pornografických médií, realitou je, že mnoho chatbotů snadno vydává sexuální obsah. A co víc, firmy AI a jejich šéfové agresivně propagují své služby. Například jedno konkrétní video, které pan Musk sdílel, že propagoval schopnost Grok Imagine zobrazovat fantasy styl klipu okřídlené ženy na sobě velmi malé oblečení.
Na celém internetu mezitím webové stránky přilákají uživatele s morfed porno videa, představující celebrity, a pozvat uživatele, aby digitálně svlékli oběti podle svého výběru.
„Kromě zjevných nebezpečí, jako je CSAM (materiál sexuálního zneužívání dětí), méně škodlivé použití, jako je oživení dítěte pro účely reklamy nebo zábavy, mohou také ohrozit soukromí, důstojnost a autonomii dětí,“ řekla paní Sardeli.
Vrátné a zábradlí
Hindu Otočili se na Google i XAI ohledně záruk zavedených na těchto platformách, aby omezili uživatele v přeměně fotografií dětí na videa a zda existují filtry obsahu, aby se fotografie přeměnily na pornografický obsah nebo materiál zneužívání dětí.
Mluvčí Google uvedl, že společnost brala bezpečnost dětí online vážně a že schopnost fotografií na fotky na Google lze použít pouze s dvěma výzvami: „jemné pohyby“ a „cítím se štěstí“.
Kromě toho by tato videa zahrnovala neviditelný synténový digitální vodoznak a vizuální vodoznak, uvedla společnost.
„Naše bezpečnostní opatření zahrnují rozsáhlé„ červené týmové “, aby aktivně identifikovaly a řešily potenciální problémy, jakož i důkladná hodnocení, abychom pochopili, jak lze funkce použít a zabránit zneužití. Rovněž vítáme zpětnou vazbu uživatelů o otázkách, které používáme k probíhajícímu zlepšením a celkově zkušenosti.
„Fotografie Google je místo pro uložení vašich vzpomínek a chceme, aby naši uživatelé mohli používat své zábavné kreativní nástroje na fotografiích svých přátel a rodiny, včetně jejich dětí, a zároveň upřednostňovat bezpečnost,“ uvedla společnost.
XAI neodpověděl na žádost o prohlášení.
V USA Národní centrum pro pohřešované a vykořisťované děti (NCMEC) zdůraznilo, že je „hluboce znepokojeno“, jak se generativní AI používá k sexuálnímu využívání dětí.
„Během posledních dvou let obdržela společnost NCMEC Cybertipline více než 7 000 zpráv o sexuálním vykořisťování dětí týkajících se GAI (Gen AI) a očekává se, že čísla porostou, když budeme i nadále sledovat tyto trendy,“ uvedla organizace na svých webových stránkách.
Mezitím paní Sardeli poznamenala, že stávající zákony v EU poskytly některé záruky, ale nebyly speciálně navrženy s ohledem na obsah AI. To znamená, že zákony o ochraně dětí EU jasně zakazují výslovný materiál, ale jsou méně jasné, pokud jde o syntetická média, která nejsou zjevně nezákonná, ale podle ní jsou stále vykořisťovatelská nebo škodlivá.
V Indii vydalo ministerstvo elektroniky a informačních technologií (Meity) rady, které vyžadují, aby platformy odstraňovaly morfovaný obsah (včetně Deepfakes AI), a zejména pokud je obsah grafický nebo sexuálně urážlivý. Navíc Platformy jako Meta, Google a X jmenovaly důstojníky stížnosti v Indii, aby řešily stížnosti vznesené postiženými uživateli.
„Poskytovatelé AI začínají stavět v zárukách, jako jsou detekční systémy a filtry obsahu, ale ty jsou nerovnoměrné napříč platformami a ne vždy efektivní. Zákon zaostává za technologií. Zejména neexistuje žádný komplexní globální rámec, který se zabývá zneužitím dětských podobností v Genai,“ vysvětlil paní Sardeli.
„Je zapotřebí silnější pravidla týkající se souhlasu, transparentnosti a odpovědnosti, spolu s technickými standardy, které ztěžují zneužívání fotografií dětí.“
Bezpečnostní tipy pro přeměnu fotografií na videa AI
Nesdílejte intimní nebo citlivé fotografie s generativními platformami AI, když se je snažíte proměnit v videa, protože se můžete vzdát práv na vlastnictví a využití o obrázku tím, že tak učiníte
Je nejlepší praxe převést fotografii pouze na video AI, pokud máte informovaný souhlas všech těch, kteří jsou na fotografii, stejně jako fotograf
Neměňte autorské nebo osobní obrázky jiných lidí na videa AI, protože to může vést k tomu, že se proti vám projeví právní kroky
Pokud byla fotografie vás nebo někoho, koho znáte, přeměněna na video AI bez souhlasu, nahláste obsah technologické platformě a také přidělenému důstojníkovi stížnosti v Indii, jejímž úkolem je zajistit, aby dodržovaly indické zákony
Pokud jste rodič nebo správce, zdržte se sdílení fotografií, které obsahují nezletilé nebo jiné zranitelné lidi na veřejných platformách, protože tyto obrázky mohou být snadno odcizeny nebo zneužívány kybernetickými zločinci pomocí nástrojů AI
Nepoužívejte platformy třetích stran pro proměnu osobních fotografií na videa AI, a zejména pokud obrázky obsahují děti nebo jiné zranitelné lidi. Místo toho se z bezpečnostních důvodů rozhodněte pro soukromé nebo zařízení založené na AI založených na video
Proveďte otevřenou diskusi s dětmi a dospívajícími o rostoucích rizicích AI Deepfakes a vyzvěte je, aby se svěřili důvěryhodným dospělým nebo se přiblížili k policii, pokud jsou někdy zaměřeni na morfované obrazy
