Výsledky poutavého zachycení, virové filtry a rychlé interakce vytvářejí zážitek, který se cítí světlo-ale často přichází se skrytými riziky soukromí (soubor) | Foto kredit: AP
Zatímco Netizens jsou závislí na virovém trendu transformace osobních fotografií do umění ve studiu ghibli pomocí nástrojů AI, odborníci varují, že trend skrývá temnější realitu, kde příležitostné sdílení může vést k nepředvídanému porušení soukromí a zneužívání dat.
Odborníci na kybernetickou bezpečnost upozorňují, že ačkoli se tyto nástroje mohou zdát neškodné, podmínky služeb jsou často vágní a vyvolávají otázky o tom, co se stane s uživateli po zpracování.
Jen málo z mnoha platforem říká, že fotografie neukládají nebo je smažu po jednorázovém použití, ale většina z nich jasně nevysvětluje, co „vymazání“ skutečně znamená-ať už je to okamžité, zpožděné nebo částečné.
Fotografie obsahují více než jen data obličeje. Často zahrnují skryté souřadnice metadat, jako jsou umístění, časová razítka a detaily zařízení- to vše může tiše odhalit osobní údaje. Tyto nástroje AI využívají algoritmy přenosu nervových stylů (NST), vysvětluje generální ředitel Technologies Quick Heal Vishal Salvi.
Tyto algoritmy oddělují obsah od uměleckých stylů v nahrávaných fotografiích, aby se uživatel uživatele smíchali pomocí referenčního uměleckého díla.
Zatímco se tento proces jeví neškodný, zranitelnosti, jako jsou útoky na inverze modelu, kde mohou protivníci rekonstruovat originální obrázky z Ghibli obrazů představují významná rizika, poznamenal.
„I když společnosti tvrdí, že vaše fotografie neukládají, fragmenty vašich dat by mohly stále skončit v jejich systémech. Nahrané obrázky mohou být určitě znovu zainteresovány pro nezamýšlená použití, jako je školení modelů AI pro dohled nebo reklamu,“ varoval Salvi.
Způsob, jakým jsou tyto nástroje navrženy, usnadňuje přehlédnutí toho, s čím skutečně souhlasíte, řekl McAfee’s Pratim Mukherjee.
Výsledky poutavého zachycení, virové filtry a rychlé interakce vytvářejí zážitek, který se cítí světlo-ale často přichází se skrytými riziky soukromí.
„Když je přístup k něčemu tak osobnímu jako role fotoaparátu udělen bez druhé myšlenky, není to vždy náhodné. Tyto platformy jsou často postaveny tak, aby povzbudily rychlé zapojení, zatímco tiše shromažďovaly data na pozadí.
„To je místo, kde obavy leží. Kreativita se stává háčkem, ale to, co se normalizuje, je vzorec sdílení dat, které uživatelé plně nerozumí. A když tato data podporuje zpeněžení, hranice mezi zábavou a vykořisťováním je rozmazaná,“ řekl Mukherjee, vedoucí ředitel inženýrství, McAfee.
Riziko narušení dat se objevuje velké, přičemž odborníci varují, že ukradené uživatelské fotografie by mohly podnítit tvorbu hlubokého a podvodu identity.
Vladislav Tushkanov, manažer skupiny ve výzkumném středisku Kaspersky AI Technology Research Center, říká, že ačkoli některé společnosti zajišťují bezpečnost a zabezpečení údajů, které shromažďují a ukládají, neznamená to, že ochrana je odolná proti neprůstřebům.
„Vzhledem k technickým problémům nebo škodlivé činnosti mohou data uniknout, stát se veřejným nebo se objevit na prodej na specializovaných podzemních webových stránkách. Navíc lze účet, který se používá k přístupu ke službě, porušit, pokud jsou přihlašovací údaje nebo uživatelské zařízení ohroženy,“ uvedl.
Řekl, že řada účtů a fór hackerů na The Dark Web nabízí ukradené údaje o účtu uživatelů k prodeji.
„Tvrdá část je, že nemůžete změnit tvář tak, jak můžete resetovat heslo. Jakmile je fotografie venku, je to tam venku,“ varoval Mukherjee.
Kromě toho mnoho platforem pohřbívá ustanovení o využití dat v zdlouhavých smluvních podmínkách, což uživatelům ztěžuje pochopení toho, jak se jejich data zacházejí. „Všechny tyto politiky jsou pohřbeny v rámci jejich smluvních podmínek. A to je problém, tyto podmínky jsou často příliš vágní nebo příliš dlouhé na to, aby většina lidí skutečně pochopila. Jen proto, že někdo kliknutí přijímá, neznamená, že dávají skutečně informovaný souhlas.
„Pokud není jasné, jak bude váš obrázek použit, nebo zda je vůbec smazán, stojí za to se zeptat, zda zábava opravdu stojí za riziko,“ řekl Mukherjee.
Některé země podnikly kroky, aby vyžadovaly jasnější zveřejnění, zatímco některé stále uvažují. Aby se tato rizika zmírnila, odborníci doporučují, aby uživatelé při sdílení osobních fotografií s aplikacemi AI měli opatrnost.
Tushkanov radí uživatelům, aby „kombinovali standardní bezpečnostní postupy s trochou zdravého rozumu“, včetně používání silných, jedinečných hesel, umožňování dvoufaktorových ověřování a na pozoru před potenciálními phishingovými webovými stránkami.
Salvi navrhuje použít specializované nástroje k odstranění skrytých metadat z fotografií před jejich nahráním. Na frontě politiky navrhuje, aby regulační orgány nařizovaly certifikaci diferenciálního soukromí a standardizované audity, aby uzavřely mezery v souladu.
Mukherjee vyzývá, aby vlády nařizovaly zjednodušené zveřejnění předem týkající se využití dat.
Publikováno – 7. dubna 2025 11:10
