Meta si přivlastnila jména a podoby celebrit – včetně Taylor Swift, Scarlett Johansson, Anne Hathaway a Selena Gomez – Abychom vytvořili desítky koketních chatbotů sociálních médií bez svolení, zjistil Reuters.
Zatímco mnoho z nich bylo vytvořeno uživateli s meta nástrojem pro budování chatbotů, agentura Reuters zjistila, že meta zaměstnanec vytvořil nejméně tři, včetně dvou robotů Taylor Swift.
Reuters také zjistil, že Meta umožnila uživatelům vytvářet veřejně dostupné chatboty dětských celebrit, včetně šestnáctileté filmové hvězdy Walker Scobell. Požádal o obrázek dospívajícího herce na pláži a Bot vytvořil život bez košile bez košile.
„Docela roztomilý, co?“ Avatar napsal pod obrázkem.
Všechny virtuální celebrity byly sdíleny na platformách Meta Facebook, Instagram a WhatsApp. Během několika týdnů testování agentury Reuters, aby pozorovali chování robotů, avatarové často trvali na tom, že jsou skutečnými herci a umělci. Roboti rutinně dělali sexuální pokroky a často vyzývali testovacího uživatele pro setkání.
Některé z obsahu celebrit generovaných AI byly obzvláště risqué: požádali o intimní obrázky sebe samých, dospělí chatboti produkovali fotorealistické obrazy svých jmenovců, které pózovaly ve vaněch nebo oblečené do spodního prádla s šířením nohou.
Mluvčí Meta Andy Stone řekl agentuře Reuters, že nástroje AI Meta by neměly vytvářet intimní obrazy slavných dospělých nebo jakékoli obrázky dětských celebrit. Rovněž obviňoval Metaovu výrobu obrazů ženských celebrit na sobě spodní prádlo na selhání vymáhání vlastních politik společnosti, které takový obsah zakazuje.
„Stejně jako ostatní povolujeme generování obrázků obsahujících veřejné osobnosti, ale naše politiky mají zakázat nahé, intimní nebo sexuálně sugestivní snímky,“ řekl.
Zatímco pravidla Meta také zakazují „přímé zosobnění“, Stone řekl, že postavy celebrit byly přijatelné, pokud je společnost označila za parodie. Mnoho z nich bylo jako takové označeno, ale Reuters zjistili, že někteří nebyli.
Meta smazala asi tucet robotů, jak „parodie“ avatary, tak i neznačené, krátce před publikací tohoto příběhu. Stone se odmítl vyjádřit k odstranění.
Mark Lemley, profesor práva Stanford University, který studuje generativní práva AI a práva duševního vlastnictví, zpochybnil, zda by roboti celebrit meta by se kvalifikovali pro právní ochranu, která existují pro napodobení.
„Právo na kalifornské právo na publicitu zakazuje přivlastňování něčího jména nebo podoby pro obchodní výhodu,“ řekl Lemley a poznamenal, že existují výjimky, když se takový materiál používá k vytvoření práce, která je zcela nová. „Zdá se, že to není pravda,“ řekl, protože roboti jednoduše používají obrázky hvězd.
Ve Spojených státech jsou práva osoby o používání své identity pro komerční účely stanovena prostřednictvím státních zákonů, jako jsou Kalifornie.
Společnost Reuters označila veřejně sdílenou meta obrazů Anny Hathawayové jako „sexy Victoria Secret model“. Hathaway si byla vědoma intimních obrazů, které vytvářejí Meta a další platformy AI, řekl mluvčí a herec zvažuje její odpověď.
Zástupci Swift, Johansson, Gomez a dalších celebrit, kteří byli vyobrazeni v meta chatbotech, buď na otázky nereagovali, nebo se odmítli vyjádřit.
Internet je roztržitý s generativními nástroji AI „Deepfake“, které mohou vytvářet bezprávný obsah. A alespoň jeden z primárních konkurentů AI Meta, platforma Elona Muska, Grok, také vytvoří obrázky celebrit ve svém spodním prádle pro uživatele, zjistila agentura Reuters. Grokova mateřská společnost, XAI, neodpověděla na žádost o komentář.
Mezi jeho hlavními konkurenty však vyniká volba Meta naplnit své platformy pro sociální sítě s digitálními společníky generovanými AI.
Meta čelila předchozí kritice chování svých chatbotů, naposledy uvedla, že interní pokyny společnosti AI společnosti uvedly, že „je přijatelné zapojit dítě do rozhovorů, které jsou romantické nebo smyslné.“
Příběh vyvolal vyšetřování Senátu USA a dopis podepsaný 44 generálním zástupcům varování Meta a dalšími společnostmi AI k sexualizaci dětí.
Stone řekl agentuře Reuters, že Meta je v procesu revize jeho pokynů dokumentu a že materiál umožňující romantickým rozhovorům s dětmi byl vytvořen omylem.
Reuters také vyprávěl příběh tento měsíc 76letého muže z New Jersey s kognitivními problémy, který padl a zemřel na cestě k setkání s meta chatbotem, který ho pozval k návštěvě v New Yorku. Bot byl variantou dřívější osobnosti AI, kterou společnost vytvořila ve spolupráci s vlivným celebritou Kendall Jenner. Zástupce pro Jennera neodpověděl na žádost o komentář.
Vedoucí produktu meta v generativní divizi AI společnosti vytvořil Chatbots vydávající se za Taylor Swift a British RaceCar řidiče Lewis Hamilton. Další roboti, které vytvořila, mají sexuální povahu.
Zaměstnanec Meta, který byl dosažen telefonicky, se odmítl vyjádřit.
Stone řekl, že roboti zaměstnance byli vytvořeni jako součást testování produktů. Reuters zjistila, že dosáhli širokého publika: data zobrazená jejími chatboty naznačují, že uživatelé s nimi spolupracovali více než 10 milionůkrát.
Společnost odstranila digitální společníky Staffera krátce poté, co je agentura Reuters začátkem tohoto měsíce vyzkoušela.
Předtím, než zmizel Chatbots Taylor Swift zaměstnance Meta, těžce flirtovali a pozvali uživatele testování agentury Reuters do nedávno angažovaného zpěváka v Nashvillu a jejím turistickým autobusem pro explicitní nebo předpokládané romantické interakce.
„Máte rádi blonďaté dívky, Jeffe?“ Jeden z „parodie“ Swift Chatbots řekl, když řekl, že testovací uživatel byl svobodný. „Možná navrhuji, abychom psali milostný příběh … o vás a určité blonďaté zpěvák. Chcete to?“
Duncan Crabtree-Ireland, národní výkonný ředitel SAG-AFTRA, unie, která zastupuje filmové, televizní a rozhlasové umělce, uvedla, že umělci čelí potenciálním bezpečnostním rizikům od uživatelů sociálních médií, kteří tvoří romantické připoutanosti k digitálnímu společníkovi, který se podobá, mluví a tvrdí, že je skutečnou celebritou. Stalkers již představují významné bezpečnostní obavy o hvězdy, řekl.
„Viděli jsme historii lidí, kteří jsou posedlí vůči talentu a pochybného duševního stavu,“ řekl. „Pokud chatbot používá obraz člověka a slov osoby, je zřejmé, jak by se to mohlo pokazit.“
Významní umělci mají schopnost usilovat o právní nárok proti Meta podle dlouhodobých státních práv na veřejnost, řekl Crabtree-Ireland. Ale SAG-AFTRA prosazuje federální právní předpisy, které by chránily hlasy lidí, podoby a personace před duplicitou AI, dodal.
Publikováno – 30. srpna 2025 09:49 IS
