Jake Paulův Deepfake Gambit podnítí debatu o Sora Cameos a právech na digitální podobu

Jake Paul’s Sora Stunt ukazuje rizika a odměny Deepfake Marketplace

Podle Deni Ellis Béchardová upravil Andrea Gawrylewski & Klára Moskowitzová

Jake Paul je po celém internetu. Paul – přítomnost na sociálních sítích, z níž se stal herec a profesionální boxer – se loni zapsal do historie, když se v nejstreamovanější sportovní události všech dob utkal s boxerskou legendou Mikem Tysonem. Nyní je zpět na výsluní, s ještě větším zrakem. Vlna virálních videí zveřejněných minulý týden ho ukazuje, jak poskytuje návody na líčení, vykrádá obchody od Taco Bell a drží 7-Eleven.

Žádné z těchto videí však není skutečné – jsou to hluboké padělky Aplikace Sora od OpenAI. Software, který byl spuštěn 30. září, využívá umělou inteligenci ke generování videí a umožňuje lidem nahrát svůj obrázek jako „cameo“, které mohou používat ostatní.

Paul ochotně nahrál své portréty, aby je mohli použít ostatní, a pak 8. října zveřejnil TikTok video, ve kterém vyhrožoval, že bude žalovat každého, kdo šíří deepfake o něm, že dělá věci, které by nikdy neudělal. Když to řekl, začal nemotorně nanášet make-up – roubík, protože to je to, co ho vykreslovalo mnoho deepfakeů. Druhý den on oznámeno dne X že byl „hrdým investorem OpenAI“ a „prvním uživatelem cameo celebrit NIL“ (NIL je zkratka pro jméno, obrázek a podobu) a že videa vytvořená s jeho podobiznou zaznamenala za pouhých šest dní více než miliardu zhlédnutí.

O podpoře vědecké žurnalistiky

Pokud se vám tento článek líbí, zvažte podporu naší oceňované žurnalistiky předplatné. Zakoupením předplatného pomáháte zajistit budoucnost působivých příběhů o objevech a nápadech, které formují náš dnešní svět.

Takové snahy mohou být začátkem nové digitální ekonomiky pro deepfakes – a Sora může být klíčovým motorem. Funkce „cameo“, která zpočátku vypadala jako zábavný doplněk k Sořiným schopnostem, se nyní jeví jako jedna z hlavních atrakcí a generální ředitel OpenAI oznámil plány zpeněžit to. Vývoj představuje pro některé příležitosti, pro jiné velká rizika. V závislosti na tom, jak je systém implementován, mohli majitelé portrétů nastavit podmínky a náklady, což by mohlo vrátit určitou kontrolu těm, jejichž obrázky byly použity bez jejich souhlasu. Kdokoli mohl sdílet svůj NIL a ve skutečnosti vložit svého digitálního dvojníka do ekvivalentu knihovny fotografií. Ostatní uživatelé aplikací by mohli licencovat tyto podoby v malých, sledovatelných použitích, dodržovat pravidla stanovená držiteli práv (například žádná nahota) a platit jim za každé použití. Deepfakesna které byly dosud z velké části zvyklé pomluvit nebo vydírat lidi, by alespoň generovaly licenční poplatky pro jejich poddané.

Samozřejmě, že se technologie pohybuje rychleji, než si mnoho uživatelů uvědomuje – a rozhodně rychleji, než s čím mohou regulační orgány držet krok – jsou rizika značná. Osoba by mohla souhlasit s tím, že bude duplikována, a přesto bude poškozena deepfakes, které jsou selektivně upravovány nebo vytvořeny se škodlivými výzvami. Jejich obraz by mohl být snadno ukraden a použit jinde k podvodu nebo zkreslení a odhalená biometrická data nelze jednoduše resetovat jako uniklé heslo.

Vytvoření trhu pro NIL nevyřeší potenciální škody, ale může vytvořit komerční pobídku, která jim zabrání prostřednictvím regulace, aby byla zachována integrita trhu. A v některých případech bude použití NIL osoby nemožné z morálních důvodů, nejen z právních. V prvním týdnu startu Sora, rodiny protestovaly deepfakes mrtvýcha OpenAI signalizovala, že přidá nástroje, které budou tyto požadavky respektovat.

A deepfake ekonomika pravděpodobně změní věci způsoby, které nikdo nemůže předvídat. Hudební streamery jako Spotify a SoundCloud transformovaly hudební průmysl a změnily způsob sdílení a dokonce i navrhování skladeb. Například posunuli hudebníky k nahrávání kratší písně že posluchači méně pravděpodobně přeskakují. Stane se něco podobného s commodifikovanými deepfaky? Může se vyvíjet tržiště, kde se obrázky lidí prodávají nebo obchodují nebo se dokonce upravují v závislosti na tom, jaká je poptávka po nich. Rostou a klesají hodnoty obličeje s výkyvy popularity? Zní to dystopicky, ale už žijeme v kultuře, kde se image a pozornost monetizují, a zdá se, že tento trend se bude pravděpodobně nadále vyvíjet.

Řada celebrit již začala zkoumat komerční deepfake. V roce 2023 nabídl hudebník Grimes rozdělení licenčních poplatků 50–50 každému, kdo použil její hlas AI vytvořit „úspěšnou“ píseň. Projekt Dream Track na YouTube umožňuje tvůrcům vytvářet soundtracky se zpěvem AI mimo jiné Charlieho Putha, Demi Lovato a Johna Legenda. Deepfake sportovních hvězd Davida Beckhama a Peytona Manninga se objevily v reklamách a hudebník FKA twigs vytvořil deepfake aby zvládla její interakce na sociálních sítích zatímco se zaměřuje na tvorbu hudby.

Což nás přivádí zpět k logice Paulova rozhodnutí nechat lidi natáčet videa s jeho portrétem na Soře: pokud je pozornost vzácným zbožím na nasyceném digitálním trhu, pak nechat svět generovat Vy na vyžádání vám získá více očí a zvýší vaši hodnotu. Je aktivem i architektem, dnes si vysloužil pozornost, aby mohl zítra dostat honorář.

Je čas postavit se za vědu

Pokud se vám tento článek líbil, rád bych vás požádal o podporu. Scientific American sloužil jako obhájce vědy a průmyslu již 180 let a právě teď může nastat nejkritičtější okamžik v této dvousetleté historii.

Byl jsem a Scientific American předplatitel od mých 12 let a pomohlo mi to utvářet můj pohled na svět. SciAm vždy mě vzdělává a těší a vzbuzuje úctu k našemu obrovskému, krásnému vesmíru. Doufám, že to udělá i vám.

Pokud vy přihlásit se k odběru Scientific Americanpomáháte zajistit, aby se naše pokrytí soustředilo na smysluplný výzkum a objevy; že máme zdroje na podávání zpráv o rozhodnutích, která ohrožují laboratoře v USA; a že podporujeme začínající i pracující vědce v době, kdy hodnota samotné vědy příliš často zůstává nepoznaná.

Na oplátku získáte zásadní zprávy, strhující podcastyskvělá infografika, nepřehlédnutelné newsletteryvidea, která musíte vidět, náročné hrya nejlepší vědecké psaní a zpravodajství. Můžete dokonce darovat někomu předplatné.

Nikdy nebyl důležitější čas, abychom vstali a ukázali, proč na vědě záleží. Doufám, že nás v této misi podpoříte.