Označení deepfake videa a zvuku: kontrola před zveřejněním

Proč u zvuku a videa běžný popisek nestačí

U textu čtenář často pozná kontext, ale syntetický hlas nebo realistická tvář působí jako záznam skutečné osoby. Riziko je záměna: příjemce uvěří, že člověk něco řekl nebo udělal, i když jde o generovaný nebo manipulovaný obsah. Proto je u deepfake klíčové sdělení člověku, nikoli jen skrytá stopa v souboru.

Vysvětlení, co je deepfake, pomáhá týmu sjednotit jazyk: nejde o každý výstup z generativního nástroje, ale o zvuk, obraz nebo video, které se podobá skutečné osobě, předmětu či události a může vyvolat mylný dojem autenticity. Právě tato zaměnitelnost rozhoduje o tom, zda má smysl řešit viditelné nebo slyšitelné upozornění.

Podle pokynů Evropské komise je doloženým faktem, že se rozlišuje strojové označení od poskytovatele systému a srozumitelné sdělení provozovatele člověku, přičemž pro deepfake nestačí libovolný obrázek z AI a neplatí plošný štítek pro každý generovaný obrázek (pokyny k transparentnosti). Zbytek tohoto článku je doporučená praxe CIAD, nikoli výklad doložené povinnosti.

Jste poskytovatel, nebo provozovatel

Pro kontrolu před zveřejněním je nutné určit roli. Doporučujeme ptát se nejprve na původ systému, pak na způsob zveřejnění.

Poskytovatelem je v tomto pracovním pohledu ten, kdo systém AI vyvinul nebo nechal vyvinout a uvádí jej na trh či do provozu pod vlastním jménem nebo značkou. Tyto podmínky posuzujte společně, ne jako volbu jedné z nich. Typicky řeší technické řešení, dokumentaci a strojově čitelné označení.

Provozovatelem je v tomto praktickém kontextu osoba, která systém AI používá pod svou autoritou; samotné první vystavení obsahu lidem tuto roli nedefinuje. Může jít například o redakci, agenturu, e-shop, školu nebo tvůrce podcastu. Právě provozovatel jako doporučený pracovní postup zajišťuje, aby člověk při prvním kontaktu s deepfake videem nebo zvukem srozumitelně poznal jeho umělý původ.

Širší souvislosti označování shrnuje přehled článku 50 AI Act a označování AI obsahu, tento článek se ale věnuje pouze praktické kontrole zvuku a videa těsně před publikací.

Rozhodovací karta: je to deepfake ke zveřejnění

Tuto kartu projděte jako doporučenou praxi CIAD vždy před exportem finálního souboru. Odpovězte ano, nebo ne a pokračujte podle výsledku.

1. Obsahuje soubor lidský hlas, tvář, postavu nebo věrnou scénu události? Pokud ne, obvykle nejde o deepfake ke zvláštnímu sdělení.
2. Vznikl tento hlas, obraz nebo jejich část pomocí AI, včetně úpravy, klonování, dabingu, výměny tváře nebo syntézy pozadí? Pokud ne, jde o běžný záznam a střih.
3. Mohl by běžný divák nebo posluchač nabýt dojmu, že jde o autentický projev skutečné osoby nebo skutečnou událost? Pokud ano, zacházejte s obsahem jako s kandidátem na deepfake.
4. Bude obsah prvně vystaven člověku právě vámi, například publikací, rozesláním, nasazením do reklamy nebo vhozením na sociální síť? Pokud ano, připravte viditelné nebo slyšitelné sdělení.
5. Jde o zjevně kreativní, satirickou nebo fiktivní tvorbu, kde je umělost každému jasná z kontextu? Ani tehdy jako doporučenou praxi CIAD sdělení nevynechávejte, pouze volte formu přiměřenou žánru.

Pokud jste v bodech 1 až 4 odpověděli ano, pokračujte publikačním listem. Pokud si nejste jisti bodem 2, ověřte historii projektu, prompt log, použitý nástroj a zdroj hlasového vzorku.

Publikační list: kontrola před zveřejněním

Následující tabulku zkopírujte do publikačního úkolu, sdíleného dokumentu nebo redakčního systému. Pro pracovní postup ji vyplňuje editor a schvaluje druhá osoba. Každý řádek musí mít odpověď, nestačí prázdné zaškrtnutí.

U zvukového obsahu doporučená praxe CIAD vyžaduje slyšitelné sdělení na začátku příslušné pasáže, nejen text v popisu epizody. U videa volte čitelný titulek přímo v obraze po dobu trvání syntetické sekvence a stejné znění opakujte v popisu videa.

Citlivá je ochrana identity. Pokud pracujete s hlasem nebo podobou konkrétního člověka, projděte si také návod, jak chránit hlas a tvář před zneužitím AI, a do tabulky zaznamenejte, z čeho vychází oprávnění hlas či tvář použít.

Hypotetický příklad: klonovaná vsuvka v podcastu

Následující příklad je zcela ilustrativní a hypotetický, neslouží jako měření ani jako záruka souladu.

Redakce připravuje dvacetiminutový rozhovor. Moderátor nestihl dotočit závěrečnou, pětačtyřicetisekundovou rekapitulaci, proto editor vygeneruje tuto pasáž klonem moderátorova hlasu a vloží ji v čase 18:10 až 18:55.

Vyplnění rozhodovací karty: soubor obsahuje lidský hlas ano, vznikl pomocí AI ano, posluchač by mohl nabýt dojmu autentické nahrávky ano, redakce obsah prvně vystavuje lidem ano. Závěr karty: zacházet s pasáží jako s deepfake zvukem.

Přesný výsledek kontroly: do zvukové stopy je v čase 18:08 vloženo mluvené sdělení v délce čtyř sekund ve znění Následujících pětačtyřicet sekund je namluveno hlasem vytvořeným umělou inteligencí, stejná věta je uvedena v popisu epizody a finální soubor rozhovor_ep12_v5_final.wav je uložen včetně časových značek. Teprve po tomto doplnění editor označí publikační list jako dokončený a předá ke schválení.

Omezení a další krok

Tento publikační list je pouze doporučený pracovní artefakt. Nezaručuje soulad s právem a nenahrazuje posouzení konkrétního nasazení, souhlasu dotčené osoby ani smluv s dodavatelem nástroje. Jako možnost počítejte i s chybou: označení může odpadnout při převodu formátu, automatickém střihu platformou nebo stažení a opětovném nahrání souboru.

Věcné omezení k tématu: doložená část se týká rozlišení strojového označení a lidsky vnímatelného sdělení, zatímco konkrétní formulace, délka titulku, hlasitost upozornění a způsob archivace jsou doporučená praxe CIAD pro lepší průkaznost. Smluvní název jako partner nebo dodavatel sám o roli nerozhoduje, rozhodující je popsaná kombinace vývoje či objednání systému a uvedení pod vlastní značkou.

Další krok po publikaci: do sedmi dnů zkontrolujte, jak se soubor zobrazuje na každé platformě, kde byl prvně vystaven, a ponechejte si screenshot přehrávače s viditelným sdělením nebo záznam zvukového upozornění. Pokud platforma popisek skryje, doplňte sdělení přímo do obrazu či zvukové stopy a verzi zaznamenejte do stejného publikačního listu.