Deepfake, nebo běžná úprava: jak popsat účel a očekávání publika

Proč účel a očekávání publika rozhodují

Samotný nástroj často nerozhodne o tom, zda jde o deepfake, nebo o běžnou úpravu. Stejný generativní postup může jednou vytvořit zjevnou ilustraci a podruhé obsah, který publikum pochopí jako záznam skutečné události. Proto jako doporučenou praxi CIAD doporučujeme začít účelem zveřejnění a otázkou, co má čtenář, divák nebo posluchač považovat za skutečné.

Podle Q&A Evropské komise k transparentnostním povinnostem podle článku 50 AI Act se u deepfake posuzuje podobnost s osobou či objektem, vazba na existující nebo věrohodně existující předlohu a to, zda obsah vyvolává falešný dojem pravdivosti, přičemž záleží i na kontextu publika.

Základní orientaci v pojmech shrnuje výklad co je deepfake, který pomůže odlišit technickou úpravu od obsahu vydávaného za autentický.

Tři znaky, které má smysl posuzovat společně

Pracujte se třemi znaky najednou, nikoli izolovaně. Prvním je podobnost: nakolik obraz, hlas nebo video připomíná konkrétního člověka, místo, dokument nebo jiný rozpoznatelný objekt. Druhým je předloha: zda jde o existující osobu či událost, nebo o předlohu, kterou by publikum mohlo věrohodně považovat za existující.

Třetím znakem je očekávaná autenticita. Zeptejte se, zda titulek, popisek, umístění na webu, doprovodný text nebo způsob šíření navozuje dojem, že jde o dokument, důkaz, zpravodajství nebo věrné zachycení reality. Technologické pozadí přitom pomáhá správně popsat, ale samo o sobě nestačí; užitečný kontext nabízí přehled jak funguje generování obrázků AI.

Vyplnitelná posuzovací karta reality a podobnosti

Následující kartu berte jako doporučený pracovní artefakt CIAD, nikoli jako právní test. Vyplňte ji pro každé zveřejnění zvlášť, protože jiný popisek nebo jiný kanál může změnit očekávání publika.

Pokud vyjde silná podobnost, vazba na věrohodnou předlohu a očekávání autenticity, zacházejte s případem obezřetněji. Pokud jde o zjevnou ilustraci bez konkrétní předlohy, obvykle postačí střízlivé označení charakteru obsahu.

Jak popsat účel a očekávání publika jednou větou

Pište účel tak, aby z něj bylo poznat, co je skutečné a co je vytvořené. Nestačí napsat pouze použitý nástroj. Lepší je uvést vztah k realitě a roli obsahu v daném sdělení.

Použijte vzorec: Tento obsah vznikl [způsob tvorby], zobrazuje [fiktivní / ilustrativní / rekonstruované] a publikum jej má chápat jako [ilustraci / rekonstrukci / satiru / záznam].

Tři pracovní formulace k úpravě:

• Ilustrační obrázek vytvořený AI, nezobrazuje skutečnou osobu ani skutečné místo, slouží jako doprovod k textu.
• Rekonstrukce možné podoby události vytvořená AI, nejde o fotografický záznam, kontext je vysvětlen v článku.
• Fiktivní postava vytvořená AI pro reklamní vizuál, podoba s konkrétní osobou není záměrem.

Konkrétní podobu informace pro čtenáře pak slaďte s obecnými zásadami pro označování obsahu AI podle článku 50 AI Act.

Ilustrativní hypotetický příklad s přesným výsledkem

Uvedený příklad je zcela hypotetický a slouží pouze k ukázce vyplnění karty.

Redakce připravuje článek o dopravní zácpě a zveřejní obrázek kolony aut před rozpoznatelnou městskou bránou. Obrázek byl vytvořen AI, žádná taková zácpa se na místě nestala. Popisek zní: Ranní kolaps dopravy před městskou bránou.

Vyplnění karty: podobnost silná, protože místo je rozpoznatelné; předloha věrohodně existující, protože publikum může místo znát; očekávaná autenticita vysoká, protože popisek i zpravodajský kontext navozují dojem fotografie. Pracovní závěr: obsah působící jako deepfake, nikoli běžná retuš.

Přesný výsledek tohoto hypotetického případu: doporučená praxe CIAD je obsah nezveřejnit s uvedeným popiskem; zvolit například popisek Ilustrační vizualizace vytvořená AI, nejde o fotografii dnešní situace a stejnou informaci uvést přímo u obrázku.

Omezení pomůcky a navazující krok

Tato karta pomáhá popsat riziko nedorozumění, ale sama o sobě nezakládá soulad s předpisy. Nezohledňuje například autorská práva, ochranu osobnosti, zvláštní pravidla pro zpravodajství a reklamu ani interní schvalování. Chybná interpretace kontextu publikem zůstává možností i při pečlivém označení, zejména po převzetí obsahu bez popisku.

Karta také nenahrazuje určení, zda v konkrétní situaci vystupujete jako poskytovatel, nebo jako provozovatel systému AI. Tuto otázku doporučujeme posuzovat odděleně od samotného popisu obsahu.

Jako další krok uložte vyplněnou kartu k danému obsahu, sjednoťte popisky pro stejný kanál a při opakovaném formátu z ní vytvořte šablonu. Hraniční případy nechejte projít druhou kontrolou ještě před publikací.