Jak má vypadat katalog schválených AI nástrojů?

Záznam v katalogu musí odpovědět na pět otázek, samotný název nástroje nestačí

Katalog, který jen vyjmenovává názvy povolených nástrojů, zaměstnanci moc nepomůže. Skutečně použitelný záznam odpovídá na pět otázek: k čemu nástroj smí sloužit, co se do něj nikdy nesmí vkládat, kdo a kdy schválení udělil, pod jakým účtem nebo licencí se má používat, a na koho se obrátit, když něco není jasné. Bez těchto pěti odpovědí zaměstnanec neví, zda smí nástroj použít na konkrétní úkol, a katalog přestává plnit svůj účel dřív, než se vůbec začne používat.

Co obsahuje jeden záznam

Následující šablona se vyplňuje pro každý schválený nástroj samostatně. Uložit ji má smysl na místo, kde ji zaměstnanci skutečně najdou v okamžiku potřeby, tedy do sdíleného, snadno dohledatelného přehledu; e-mailová zpráva rozeslaná při schválení se během pár týdnů ztratí v kupě jiné korespondence a přestane fungovat jako zdroj pravdy.

Pole	Co uvést
Účel použití	Konkrétní pracovní úkony, pro které je nástroj schválen, uvedené jmenovitě místo obecné formulace typu „práce s textem“
Zakázaný vstup	Typy dat, které se do nástroje nikdy nevkládají, s odkazem na interní pravidla pro citlivá data
Schválil a kdy	Jméno nebo role schvalovatele a datum schválení i poslední revize
Přístup	Firemní účet nebo licence, pod kterou se má nástroj používat, na rozdíl od osobní registrace zaměstnance
Kontakt	Na koho se obrátit s dotazem, hlášením problému nebo žádostí o rozšíření oprávnění
Platnost pro role	Zda je schválení pro celou firmu, nebo jen pro konkrétní oddělení či roli

Pole „zakázaný vstup“ bývá nejdůležitější a zároveň nejčastěji chybí. Bez něj zaměstnanec neví, zda smí do schváleného nástroje vložit třeba osobní údaje zákazníka nebo interní finanční čísla, a domýšlí si odpověď sám. Formulace tohoto pole se navíc liší podle rizika nástroje: u nástroje pracujícího jen s veřejně dostupným textem stačí obecná poznámka, zatímco u nástroje napojeného na firemní systémy je vhodné vyjmenovat konkrétní kategorie dat jednu po druhé.

Jak nástroj do katalogu vstupuje a jak z něj odchází

Nástroj se do katalogu dostává na základě žádosti, kterou posoudí určená role z hlediska účelu použití, dat, se kterými má pracovat, a dostupné technické i smluvní dokumentace dodavatele. Žádost by měl moct podat kterýkoli zaměstnanec, protože potřeba konkrétního nástroje vzniká nejčastěji přímo v oddělení, které s ním chce pracovat, a omezení práva žádat jen na IT oddělení tuto potřebu často zachytí pozdě. Schválení se zapíše do šablony výše, včetně data, do kdy zápis platí bez revize.

Odebrání z katalogu potřebuje stejnou pozornost jako přidání. Nástroj se odebírá, pokud dodavatel podstatně změní podmínky použití, přestane být podporovaný, nebo se objeví důvod k pochybnosti o zpracování dat. Odebrání by mělo mít viditelné datum a stručný důvod, protože zaměstnanci, kteří nástroj používali, potřebují vědět, že mají přejít na náhradu. Chybějící vysvětlení vede k tomu, že si zápis o odebrání někdo vyloží jako administrativní chybu a nástroj používá dál.

Pravidelná revize celého katalogu patří do stejného cyklu jako posuzování jednotlivých žádostí, jen s jinou frekvencí. Zatímco žádost o nový nástroj se posuzuje průběžně podle toho, kdy přijde, revize celého katalogu proběhne v pevně daném intervalu a ověří, zda schválení pořád odpovídají aktuálním podmínkám dodavatelů a zda se v mezidobí nezměnily požadavky na data, se kterými nástroje pracují. Bez tohoto druhého, plánovaného kola revize katalog postupně stárne, i když každá jednotlivá žádost byla posouzena pečlivě.

Když je nástroj schválený jen pro jedno oddělení

Ne každý nástroj má smysl schválit pro celou firmu najednou. Nástroj pro analýzu smluv může být v pořádku pro právní oddělení, které rozumí tomu, co s výstupem dál dělat, a přitom nevhodný pro oddělení, které by výstup bralo jako hotové rozhodnutí bez další kontroly. Záznam v katalogu proto potřebuje pole „platnost pro role“ s konkrétním výčtem, komu je nástroj určen, místo jednoduchého ano nebo ne.

Tento rozdíl je potřeba v katalogu aktivně zviditelnit. Zaměstnanec z jiného oddělení, který stejný nástroj najde v katalogu bez uvedeného omezení, oprávněně předpokládá, že smí nástroj použít i na svou práci, a chyba pak vzniká z neúplného zápisu, nikoli z jeho nepozornosti. Praktickým řešením je uvádět u takových nástrojů výslovně i seznam oddělení, pro která schválení naopak neplatí, protože kladný výčet bez záporného vymezení stále nechává prostor pro domněnku.

Proč příliš přísný katalog vede k neschváleným nástrojům

Katalog, který schvaluje jen hrstku nástrojů pro úzký okruh úkolů, zaměstnance práci s AI nezastaví. Přesune ji mimo katalog, k nástrojům, které si zaměstnanec najde sám a použije bez schválení, protože potřebuje úkol dokončit. Tento jev bývá označovaný jako neřízené používání AI mimo dohled firmy a je popsaný podrobněji v co je shadow AI.

Katalog proto potřebuje pravidelně přibírat nové nástroje na základě reálné poptávky zaměstnanců, místo aby jen čekal, až se objeví problém. Přiměřený rozsah katalogu je stejně důležitý jako kvalita jednotlivých záznamů; kritéria výběru nástroje, který se do katalogu vůbec zvažuje, popisuje jak vybrat AI nástroj pro firmu. Otázku, jaká data smí do jakéhokoli nástroje vůbec putovat, řeší je bezpečné vkládat firemní data do ChatGPT, a širší rámec zabezpečení AI nástrojů ve firmě shrnuje jak zabezpečit AI ve firmě.

Stav zdrojů a omezení

Podoba záznamu i cyklus revize popsané v tomto textu jsou doporučení CIAD sestavené z běžné praxe řízení AI nástrojů; žádný z uvedených zdrojů tuto konkrétní šablonu nepředepisuje. NIST AI RMF nabízí obecný slovník pro řízení a dohled nad AI nástroji, ale pole tohoto katalogu ani délku revizního cyklu nestanovuje. Odkaz na GDPR upozorňuje, že pole „zakázaný vstup“ má oporu v zásadách minimalizace a účelového omezení zpracování osobních údajů; konkrétní posouzení souladu jednotlivého nástroje s GDPR ale text neprovádí. Proces podání a posouzení žádosti o výjimku ani evidence AI systémů v tomto textu nejsou rozpracované, jde o samostatná témata mimo jeho rozsah.