AI v pozadí aplikace: kdy prověřit pravidla pro oznámení

Proč pozadí neznamená automatickou úlevu

Mnoho týmů předpokládá, že když model nevidí zákazník přímo, není co řešit. Pokud zákazník nevidí chat ani hlasového asistenta, může to svádět k závěru, že se firmy povinnost oznámit interakci netýká. radíme tento závěr nedělat bez krátkého prověření toku výstupu.

Doložený fakt je úzký: Q&A Evropské komise k transparentnostním povinnostem podle článku 50 AI Act odlišuje přímou obousměrnou komunikaci od systémů pracujících v pozadí nebo od strojové komunikace. Totéž vysvětlení nevylučuje jiné povinnosti a nezakládá výjimku pro veškerý AI obsah. Následující mapa je doporučený pracovní postup pro přípravu posouzení.

Praktické riziko je záměna vrstev. Jedna aplikace může mít generativní shrnutí ticketů, klasifikaci priorit a pak samostatné okno, kde už se zákazníkem mluví člověk. Jiná aplikace má stejné shrnutí, ale text bez úprav přepošle do chatu. Rozdíl není v modelu, ale v tom, kdo komunikuje s člověkem a zda výstup předává lidský pracovník.

Jak poznat přímou komunikaci v praxi

používejte jednoduchý test tří otázek. Nejde o zákonnou definici, ale o pracovní filtr, kdy se zastavit a prověřit pravidla pro označování AI obsahu.

Zaprvé se ptejte, zda koncový člověk vnímá protistranu jako systém, se kterým si vyměňuje vstupy a reakce. Typicky jde o chatbot, hlasového asistenta nebo formulář, který na dotaz okamžitě generuje odpověď. Zadruhé sledujte směr toku: jde informace oběma směry v rámci jedné interakce, nebo model jen jednou dávkou něco spočítá a skončí. Zatřetí ověřte, zda mezi model a člověka vstupuje vědomé lidské rozhodnutí.

Pokud člověk pokládá doplňující dotazy a systém na ně reaguje bez lidského mezičlánku, berte to v interním prověření jako kandidáta na přímou komunikaci. Pokud model pracuje dávkově v noci, přepisuje nahrávky na text nebo boduje riziko a výsledek vidí nejdříve analytik, jde spíše o pozadí. Automatické odeslání výstupu samo o sobě ještě neznamená přímou obousměrnou komunikaci; je důvodem tok znovu prověřit. I tehdy ale podle doloženého vymezení platí, že tím nejsou vyloučeny jiné povinnosti.

Mapa: kdo mluví s člověkem a kudy jde výstup

Klíčovou přidanou hodnotou je mapa komunikace. Nestačí vědět, že někde je model. Potřebujete popsat řetězec od vstupu přes model až ke člověku, včetně lidského předání.

Kreslete mapu ve třech vrstvách. Vrstva zdroje říká, odkud data přicházejí a zda člověk ví, že vstupuje do automatizovaného toku. Vrstva zpracování říká, co dělá model v pozadí: shrnuje, překládá, třídí, navrhuje odpověď, nebo generuje finální text. Vrstva doručení říká, kdo výstup fakticky předává: systém přímo, pracovník po kontrole, nebo pracovník bez kontroly kopírováním.

Právě třetí vrstva často rozhoduje o dalším prověření. Podobnou situaci řeší firmy u asistentů zabudovaných do kancelářských nástrojů, například když posuzují, co je Microsoft Copilot z hlediska rolí a viditelnosti výstupu. Ani tam nestačí název licence. Při posuzování role poskytovatele je třeba ověřit, zda firma systém vyvinula nebo nechala vyvinout a uvádí jej na trh či do provozu pod vlastním jménem nebo značkou; tuto roli je třeba odlišit od role zavádějícího subjektu.

Pracovní karta rozhodnutí k vyplnění

Následující kartu berte jako doporučený interní artefakt CIAD. Neprokazuje soulad, pouze pomáhá zaznamenat předpoklady pro právní a produktové prověření. Vyplňte ji pro každý tok zvlášť, ne pro celou aplikaci najednou.

Při roli firmy nezapisujte jen smluvní název. ověřte, zda jste systém vyvinuli nebo nechali vyvinout a uvádíte jej na trh či do provozu pod vlastním jménem nebo značkou, což může znamenat roli poskytovatele, nebo zda jej pouze nasazujete v provozu jako zavádějící subjekt. Samotná změna promptu ani označení ve smlouvě roli neurčuje.

Karta by měla mít vlastníka, datum a odkaz na obrazovku toku. Pokud se změní doručení, například přejdete z ručního odesílání na automatické odeslání návrhu, založte novou verzi. Právě tato změna může být důvodem tok znovu prověřit; samotné automatické odeslání ale ještě neprokazuje přímou obousměrnou komunikaci.

Hypotetický příklad: shrnutí předané operátorem

Ilustrativní hypotetický příklad ukazuje, jak kartu uzavřít jedním přesným výsledkem. Fiktivní firma provozuje podporu, kde model v pozadí shrne dlouhé vlákno ticketu do tří odrážek a navrhne odpověď. Operátor shrnutí zkontroluje, upraví tón, doplní číslo objednávky a odešle e-mail zákazníkovi vlastním jménem.

Vyplněná karta zní: koncový člověk je zákazník, systém s ním nevede dialog, obousměrnost chybí, lidské předání je aktivní a viditelné. Pracovní závěr pro tento tok je: kandidát na režim pozadí, nikoli na přímou obousměrnou komunikaci systému se zákazníkem. Přesný výsledek k dalšímu kroku: předat právnímu prověření bod, zda e-mail nevyžaduje jiný typ transparentnosti, a ponechat tok v evidenci jako pozadí s lidským předáním.

Kdyby stejná firma zapnula automatické odesílání návrhu bez kontroly operátorem, závěr karty by se změnil. Proto v kartě evidujte i chyby zpracování jako možnost, například halucinované číslo objednávky, a neslibujte si, že lidská kontrola je stoprocentní. Rozdíl mezi oběma variantami je pouze v doručení, model zůstal stejný.

Omezení mapy a co prověřit dál

Tato mapa řeší jen první filtr: zda prověřovat pravidla pro oznámení interakce, nebo zda jde spíše o pozadí či strojovou komunikaci. Neřeší označování syntetického obsahu, náležitosti u specifických systémů ani otázku, zda jste poskytovatel. Doložené vymezení výslovně ponechává otevřené jiné povinnosti, takže výsledek pozadí neznamená konec prověřování.

Proto po vyplnění karty proveďte tři kroky. Zopakujte posouzení rolí podle vývoje a uvedení pod vlastní značkou, zkontrolujte povinnosti firmy, která AI používá ve vašem konkrétním nasazení a založte změnový záznam pro každou úpravu doručení. Pokud si nejste jisti hranicí přímé komunikace, konzultujte konkrétní tok s právníkem se znalostí AI regulace.

Další krok pro vlastníka: do čtrnácti dnů nechte potvrdit vyplněné karty u produktového manažera a podpory, sjednoťte názvy toků a určete, kdo schvaluje přepnutí z ručního na automatické odesílání. Tím udržíte mapu aktuální bez tvrzení, že sama o sobě zajišťuje soulad.