V neděli 2. srpna nabývá účinnosti část evropského nařízení AI Act, která zavádí povinnost transparentně označovat obsah vytvořený umělou inteligencí a komunikaci s ní. Nová pravidla se dotkají zákaznických chatbotů, virtuálních asistentů, obrazového a zvukového obsahu, deepfakes i reklamních vizuálů vytvořených umělou inteligencí. Společnostem, která povinnosti poruší, hrozí pokuty až do výše 15 milionů eur nebo 3 % jejich celosvětového obratu.
Česká asociace umělé inteligence upozorňuje, že nařízení nevyžaduje u každého výstupu viditelnou nálepku. Článek 50 obsahuje pět různých povinností, které se vztahují k různým aktérům v různých situacích a různým způsobem. Pro praxi jsou klíčové dva dokumenty: pravidla Evropské komise k implementaci povinností transparentnosti a kodex správné praxe pro transparentnost AI generovaného obsahu.
Podle advokáta Jaroslava Kuby z poradenské společnosti Rödl musí firmy jasně a včas informovat uživatele, že komunikují s umělou inteligencí prostřednictvím chatbota či hlasového asistenta. Totéž platí pro AI agenty, kteří samostatně rezervují, objednávají nebo vyřizují korespondenci · podle pokynů komise musí prozradit nejen, že jsou umělou inteligencí, ale i za koho jednají. Jakýkoli AI vytvořený či upravený obsah připomínající reálné osoby a události, tedy deepfakes, musí mít strojově čitelné označení. Pravidla platí i pro reklamní vizuály a produktové fotografie vytvořené AI, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku. Informace musí být srozumitelná a umístěná tam, kde k interakci dojde.
Digitální omnibus novelizuje původní AI Act z roku 2024. Ředitel OpenSSL Corporation Anton Arapov upozorňuje, že zatímco označování nyní vstupuje v platnost, pravidla pro vysoce rizikové AI systémy se posouvají na konec let 2027 a 2028. Zároveň se posouvá zákaz nudifikačních aplikací a centralizace dohledu nad velkými hráči prostřednictvím Evropského úřadu pro AI. Arapov varuje, že označování AI obsahu je v jádru problém podepisování a ověřování · štítky fungují jen tehdy, pokud jsou autentické, odolné proti manipulaci a ověřitelné.
Co to znamená: Firmy musí okamžitě auditovat své AI systémy a zajistit technická i procesní opatření pro označování podle konkrétních scénářů z článku 50. Riziko pokut do 3 % obratu vyžaduje systematický přístup k dodržování předpisů, ne jen přidání vizuálních značek. Implementace strojově čitelných vodoznaků a ověřitelných metadat se stává nezbytnou pro deepfakes a reklamní materiály. Posun termínů pro vysoce rizikové systémy nedává prostor k odkladu přípravy · audity a rizikové analýzy by měly probíhat již nyní.
Zdroje: