Pokyny dodavatele AI: jak převzít omezení do pracovního postupu

Proč se pokyny dodavatele ztrácejí v provozu

Týmy často mají k dispozici návod, podmínky použití a bezpečnostní upozornění od dodavatele, ale v každodenní práci podle nich nepostupují. Důvodem nebývá neochota, spíše forma: dodavatelský text je obecný, popisuje více variant nasazení a neříká, co přesně smí dělat konkrétní člověk na konkrétním úkolu. Doporučenou praxí CIAD proto je přeložit tento obecný text do krátkých pracovních pravidel navázaných na vaše vstupy, výstupy a odpovědnost.

Převzetí neznamená přepsat celý manuál do směrnice. Znamená vybrat ty věty, které omezují použití, a převést je na kontrolovatelný postup: co je povoleno, co je zakázáno, co musí zkontrolovat člověk a kde se to zaznamená. Takový překlad pomáhá i při přípravě dokumentace pro AI Act, protože drží pohromadě pokyn, rozhodnutí týmu a záznam o dodržení. Samotné vyplnění matice ale není doloženou právní povinností ani zárukou souladu, je to pouze doporučený pracovní artefakt pro pořádek v provozu.

Jak nezaměnit roli poskytovatele a provozovatele

V praxi se často řeší, zda jste v daném nasazení spíše tvůrcem řešení, nebo jeho uživatelem v provozu. Doporučujeme neposuzovat právní roli jen podle změny promptu ani jen podle smluvního názvu, například že vás smlouva označí jako klienta. Právní roli je třeba posuzovat odděleně podle skutečného postavení a činnosti, nikoli podle jednoho dílčího úkonu.

Pro pracovní orientaci si držte jednoduché rozlišení: poskytovatelem může být ten, kdo systém vyvine nebo si jej nechá vyvinout a uvede jej na trh nebo do provozu pod vlastním jménem či ochrannou známkou. Provozovatel systém používá v rámci své činnosti. Konkrétní právní roli posuzujte podle skutečností daného nasazení; samotné objednání systému ji neurčuje. Toto rozlišení v matici potřebujete proto, abyste věděli, které pokyny jste převzali zvenčí a za co odpovídá váš vlastní postup, nikoli proto, abyste si sami přisoudili právní status.

Doporučený postup převzetí v pěti krocích

Následující postup je doporučenou praxí CIAD, nikoli popisem zákonného požadavku. Je určen týmu, který už má od dodavatele návod k použití, omezení a doporučená opatření a potřebuje z nich udělat vymahatelný pracovní postup.

Nejprve shromážděte všechny relevantní podklady na jedno místo: návod, podmínky použití, bezpečnostní list, pokyny k datům a případná upozornění na nevhodné scénáře. Potom z nich podtrhněte pouze omezující věty, tedy povolený účel, zakázané vstupy, limity výstupů a požadavek na lidský dohled. Třetím krokem každou takovou větu přepište do jazyka úkolu, například místo obecného zákazu citlivých dat napište, které konkrétní pole formuláře se do nástroje nesmí vkládat. Ve čtvrtém kroku doplňte vlastníka kontroly a místo záznamu. Pátým krokem je krátké seznámení lidí, kterých se matice týká, a uložení matice tam, kde se skutečně pracuje.

Při sběru podkladů se vyplatí navázat na již zavedenou přípravu, podrobněji ji popisuje přehled podkladů k auditu AI a jejich příprava, kde si tým ujasní, které dokumenty má od dodavatele žádat a jak je verzovat.

Pracovní matice podmínek a zakázaného použití k vyplnění

Matici vyplňte pro jeden nástroj a jeden účel, ne pro celou organizaci najednou. Každý řádek musí být natolik konkrétní, aby podle něj šlo poznat porušení. Doporučujeme vyplňovat ji společně s vlastníkem procesu, ne pouze s IT.

Vyplněnou matici propojte s evidencí odpovědnosti, k tomu slouží registr AI, dokumentace a vlastníků, kam zapíšete vlastníka nástroje, vlastníka matice a datum poslední revize pokynů dodavatele. Chyby v přepisu nebo zastaralá verze pokynů jsou možností, proto u každého řádku uveďte verzi dodavatelského dokumentu, ze které vychází.

Ilustrativní hypotetický příklad s přesným výsledkem

Následující příklad je zcela hypotetický a ilustrativní, neslouží jako popis reálného nasazení ani jako testování konkrétního produktu. Slouží pouze k ukázce vyplnění matice.

Představte si fiktivní tým, který používá obecného asistenta pro shrnování interních provozních zápisů. Dodavatel v ilustrativním návodu uvádí, že nástroj není určen pro rozhodování o osobách, že do vstupu nepatří rodná čísla a zdravotní údaje a že výstup je třeba před dalším použitím zkontrolovat. Tým tato tři omezení přepíše do matice: povolený účel je pouze shrnutí provozního zápisu pro interní poradu, zakázaný vstup jsou uvedená citlivá pole, povinná kontrola je porovnání shrnutí se zdrojovým zápisem schvalovatelem.

Přesný výsledek příkladu: požadavek shrnout zápis s vloženým rodným číslem je vyhodnocen jako zakázané použití, zadavatel vstup opraví a teprve opravený vstup postupuje ke zpracování a kontrole. Požadavek bez zakázaných údajů je vyhodnocen jako povolené použití s povinnou lidskou kontrolou. Tento binární výsledek, tedy povoleno s kontrolou nebo zamítnuto k opravě, tým zapíše do schvalovacího pole včetně data.

Dobrovolnou oporou pro takový způsob uvažování o rizicích je rámec NIST pro řízení rizik AI, který dobrovolně podporuje řízení rizik v celém použití AI. Podrobnosti najdete v přehledu NIST AI Risk Management Framework. Nejde o evropskou právní povinnost, článek jej využívá pouze jako pracovní inspiraci pro dokumentaci připravovanou s ohledem na AI Act.

Omezení matice a další krok pro audit

Matice nenahrazuje právní posouzení ani neodstraňuje riziko nesprávného použití. Zachycuje jen to, co jste v dané verzi dodavatelských pokynů našli a pochopili, a může být neúplná, pokud dodavatel pokyny změní nebo pokud tým začne nástroj používat na nový účel. Doporučujeme proto matici revidovat při každé změně návodu, změně účelu nebo incidentu a staré verze archivovat.

Dalším krokem je ověřit, zda se podle matice skutečně pracuje. Projděte několik posledních případů použití, zkontrolujte záznamy o kontrole a to, zda jsou zakázané vstupy skutečně odmítány. Strukturu takové kontroly shrnuje návod, jak má vypadat audit AI systému podle AI Actu, který pomůže navázat matici na auditní stopu bez tvrzení o zaručeném souladu.