„Děkuji, Adele, je to tak krásná píseň,“ stojí v zářivém komentáři pod emotivní poctou zabitému americkému aktivistovi Charliemu Kirkovi na YouTube. Ale hudba je generována umělou inteligencí a hlasu britské ikony se příliš nepodobá.
Rychle se vyvíjející nástroje umělé inteligence nyní dokážou vytvářet písně z jednoduchých textových výzev a napodobovat hlasy slavných umělců a vytvářet tak pocty nebo celá vystoupení na vyžádání, často bez jejich vědomí nebo souhlasu.
Tento trend vyvolává ožehavé problémy s autorskými právy a zdůrazňuje erozi sdílené reality, protože nevědomí uživatelé stále více konzumují obsah nasycený dezinformacemi umožněnými umělou inteligencí.
„Odpočívej v pokoji, Charlie Kirku!“ zpívá hlas přes video ukazující pravicového aktivistu, který byl minulý měsíc zavražděn.
„Andělé zpívají tvé jméno. Tvůj příběh je zapsán ve hvězdách, oheň, který neuhasne,“ intonuje hlas, když se na obrazovce objeví obraz Kirka, spojence amerického prezidenta Donalda Trumpa.
Podobné pocty AI na YouTube připisované hvězdám jako Ed Sheeran a Justin Bieber, doplněné jejich vymyšlenými miniaturami v slzách, společně nasbíraly miliony zhlédnutí a tisíce komentářů od nic netušících diváků, kteří jim děkovali za skladby, které nikdy nenatočili.
V mnoha případech hlasy znějí málo jako původní umělci, přesto mnoho scrollerů stále věří falešnému obsahu AI, který zaplavuje internet, a zapojuje se do něj.
„Obávám se, že to, co udělalo internet tak cool, je pryč: opravdu divní, kreativní lidé, kteří dělají věci, které je baví pro zábavu, je pryč. Nahradila to umělá inteligence vytvořená podvodníky, kteří chtějí vydělat peníze,“ řekl agentuře AFP Alex Mahadevan z neziskového mediálního institutu Poynter.
„Stáváme se pasivními konzumenty ‚obsahu‘ a ne aktivními, uvědomělými digitálními občany.“
Poté, co agentura AFP upozornila na nejméně tři falešné klipy s poctou, včetně toho připisovaného Adele, na YouTube, video gigant je okamžitě stáhl.
„Tyto kanály jsme ukončili kvůli porušení našich zásad zakazujících spam a klamavé praktiky,“ řekl agentuře AFP mluvčí společnosti Jack Malon.
Zásady YouTube vyžadují, aby tvůrci „zveřejnili, kdy vytvořili upravený nebo syntetický obsah, který je realistický, včetně použití nástrojů umělé inteligence“, které jsou nyní široce dostupné.
V mnoha videích s poctou bylo zveřejnění přítomno, ale nebylo viditelně zobrazeno, často skryté v popisu videa, kde jej lze snadno přehlédnout, pokud uživatelé kliknutím nerozbalí text.
Videa zdůrazňují novou digitální realitu, ve které mohou hudební generátory AI proměnit běžné uživatele ve virtuální hudebníky, napodobující slavné umělce a vytvářet celé skladby z jednoduchých textových výzev.
„Udělejte jakoukoli skladbu, kterou si dokážete představit,“ uvedl Suno, jeden takový generátor, na svých webových stránkách.
Uživatelům nabízí návrhy, jako například „udělej jazzovou píseň o zalévání mých rostlin“ nebo „udělej domácí píseň o ukončení práce“.
Když AFP zadala výzvu požadující píseň truchlící nad smrtí celebrity v hlase slavné zpěvačky, nástroj během několika sekund vygeneroval dvě možnosti: „hvězda zmizela příliš brzy“ a „ozvěny plamene“.
Nová AI „kapela“ s názvem The Velvet Sundown vydala alba a získala přes 200 000 posluchačů na ověřeném účtu Spotify. Na sociálních sítích si „kapela“ říká: „Ne tak docela člověk. Ne tak docela stroj.“
Tento trend vyvolal otázky, zda by vokální a vizuální podoby měly být chráněny autorským právem.
„Naprosto si myslím, že něčí podoba by měla být chráněna před replikací v nástrojích AI. To platí i pro mrtvé,“ řekl Mahadevan.
Lucas Hansen, spoluzakladatel neziskové organizace CivAI, řekl, že je nepravděpodobné, že by generování podobenství bylo zcela zakázáno, ale očekává právní omezení jeho komercializace.
„Mohou existovat také omezení distribuce, ale stávající zákony jsou mnohem méně přísné vůči nemonetizovanému obsahu,“ řekl Hansen agentuře AFP.
V červnu Americká asociace nahrávacího průmyslu uvedla, že přední nahrávací společnosti zažalovaly dva hudební generátory, včetně Suno, kvůli údajnému porušení autorských práv.
V loňském roce více než 200 umělců včetně Katy Perry a Nicki Minaj napsalo v otevřeném dopise vývojářům umělé inteligence a technologickým platformám, že tréninkové nástroje na stávajících písních „sníží hodnotu naší práce a zabrání nám, abychom byli spravedlivě kompenzováni“.
„Tento útok na lidskou kreativitu musí být zastaven,“ stojí v dopise.
„Musíme se chránit před dravým používáním umělé inteligence ke krádeži hlasů a podobizen profesionálních umělců, porušování práv tvůrců a ničení hudebního ekosystému.“
Publikováno – 17. října 2025 11:24 IST
