Od neděle 2. srpna jsou v celé Evropské unii v platnosti první zásadní ustanovení Aktu o umělé inteligenci (AI Act) týkající se transparentnosti. Pravidla se vztahují na širokou škálu systémů · od chatbotů a hlasových asistentů přes callcentra využívající rozpoznávání emocí až po generování a úpravu obrázků, zvuku, videa i textu. Cílem je omezit klamání a manipulaci a umožnit lidem informovaná rozhodování.

Podle nových povinností musí poskytovatelé a uživatelé AI systémů jasně informovat, když osoba komunikuje s chatbotem, virtuálním asistentem nebo jiným automatizovaným systémem. Stejně tak musí být označeny takzvané deepfakes · obsah vytvořený nebo výrazně upravený AI, který může působit jako autentický. U textů se povinnost vztahuje na případy, kdy jsou zveřejněny za účelem informování veřejnosti o záležitostech veřejného zájmu. Český telekomunikační úřad (ČTÚ), který v Česku bude nad dodržováním dohlížet, doporučuje používat rozlišitelné značky typu „AI generated“ pro plně generovaný obsah a „AI modified“ pro upravený.

Sankce za porušení pravidel transparentnosti mohou dosáhnout 15 milionů eur nebo tří procent celosvětového ročního obratu společnosti, podle toho, která částka je vyšší. Dozor nad vývojáři modelů bude vykonávat nově vzniklý AI Office Evropské komise; mezi dotčené firmy nepatří jen OpenAI, Anthropic czy Google DeepMind, ale například Spotify s AI doporučeními nebo Adobe s funkcemi v Photoshopu. Jak uvedl advokát Thibau Duquin z kanceláře Stibbe pro Wired: „Když se na to podíváte, je to všude, a veškerý tento obsah bude nyní muset být označen.“

Evropská komise vydala doplňující pokyny, podle kterých AI agenti, kteří samostatně rezervují, objednávají nebo vyřizují korespondenci, musí prozradit nejen to, že jsou umělou inteligencí, ale i jméno toho, kdo jedná. Mezi deepfakes komise explicitně zařazuje reklamní vizuály, produktové fotografie a virtuální influencerů, pokud mohou klamat o skutečném vzhledu nebo vlastnostech produktu. Povinnost informovat dotčené osoby platí také u systémů pro rozpoznávání emocí a biometrickou kategorizaci.

Organizace by měly nejprve určit svou roli · zda jsou poskytovatelem systému, uživatelem, nebo obojím zároveň · a podle toho vyhodnotit konkrétní povinnosti. ČTÚ proto doporučuje, aby subjekty své postupy včas upravily. Pro označování syntetického obsahu v strojově čitelném formátu byl přiznáno přechodné období do prosince, což ukazuje na technickou náročnost implementace. Kritici upozorňují na riziko „banner blindness“ · nadměrného množství upozornění může vést k tomu, že lidé je začnou ignorovat.

V České republice Česká asociace pro umělou inteligenci (ČAUI) zveřejnila zdarma praktického průvodce, který má firmám a organizacím pomoci s pochopením a implementací nových pravidel. Stejně jako u GDPR v roce 2018 se očekává, že úřady budou muset vydat další konkrétní metodiku, neboť řada termínů stále není zcela jasná.

Co to znamená: Firmy musí okamžitě auditovat své AI systémy a procesy, nastavit jasné označování a informační povinnosti a připravit se na dozor ČTÚ. Kdo to podcení, riskuje pokuty v řádech desítek milionů korun i poškození reputation. Průvodce ČAUI a metodiky úřadů by měly být prvním krokem k dodržování předpisů.

Zdroje: