Co zaměstnanci nesmí vkládat do AI nástrojů a jak to ohlídat?

Jaké kategorie dat do veřejných AI nástrojů nepatří

Do veřejných AI chatbotů jako ChatGPT, Gemini nebo Copilot nepatří žádná data, která firma nechce zveřejnit nebo předat třetí straně. Konkrétně jde o osobní údaje zákazníků a zaměstnanců, obchodní tajemství, finanční výsledky před zveřejněním, smluvní podmínky s dodavateli, zdrojový kód interních systémů a přístupové údaje.

Typický příklad: obchodní zástupce vloží do ChatGPT tabulku s kontakty a objednávkami klientů, aby mu nástroj vygeneroval souhrnný e-mail. Tím ale nahraje osobní údaje desítek zákazníků na server mimo kontrolu firmy. Poruší tak pravidla ochrany osobních údajů i interní bezpečnostní politiku, i když to nemyslel zle.

Mezi rizikové kategorie dat patří především:

1. Osobní údaje · jména, e-maily, rodná čísla, zdravotní nebo mzdové údaje.
2. Firemní know-how a interní postupy, které dávají firmě konkurenční výhodu.
3. Nezveřejněné finanční a strategické informace, například před uzávěrkou účetního období.
4. Hesla, API klíče a přístupové tokeny.
5. Smlouvy a dokumenty s doložkou mlčenlivosti nebo označením „důvěrné“.

Proč je vkládání dat do veřejných nástrojů rizikové

Riziko spočívá v tom, že u bezplatných verzí veřejných AI nástrojů firma obvykle nemá kontrolu nad tím, jak dlouho a k čemu se vložená data dál používají. U řady bezplatných tarifů se vstupy mohou používat k dalšímu trénování modelu nebo procházet lidskou kontrolou kvality. Citlivá data se tak mohou nenávratně dostat mimo firmu.

I placené firemní verze, jako ChatGPT Enterprise nebo Copilot for Microsoft 365, riziko snižují, ale nenulují. Stále jde o data uložená mimo primární systémy firmy a chyba v nastavení oprávnění nebo únik přístupového účtu může citlivý obsah odhalit. Pravidlo „nevkládej, co bys nechtěl vidět na veřejném webu“ proto platí i u placených nástrojů, jen s nižší pravděpodobností problému.

Jak nastavit technické zábrany proti úniku dat

Technickou kontrolu lze zajistit kombinací nástrojů, které omezují nebo sledují tok dat mezi firemní sítí a veřejnými AI službami. Firmy typicky sahají po řešeních typu DLP (Data Loss Prevention), která rozpoznají citlivý obsah · rodná čísla, čísla karet, interní kódy dokumentů · a zablokují jeho odeslání do prohlížeče na adresy veřejných AI služeb.

Praktické kroky, které se v praxi osvědčují:

1. Nasadit firemní placenou verzi AI nástroje s garancí, že vstupy se netrénují a nepoužívají k dalšímu učení modelu.
2. Omezit nebo alespoň logovat přístup k bezplatným veřejným verzím AI nástrojů na firemní síti přes proxy či firewall.
3. Zavést DLP pravidla, která detekují vkládání osobních údajů, čísel smluv nebo klíčových slov typu „interní“ a „důvěrné“.
4. Používat jednotné přihlašování (SSO) a auditní logy, aby šlo zpětně dohledat, kdo a co do nástroje vložil.
5. Pravidelně kontrolovat nastavení sdílení dat a oprávnění u firemních AI účtů.

Jak nastavit pravidla a naučit lidi, aby je dodržovali

Technika sama nestačí. Zaměstnanci najdou způsob, jak pravidlo obejít, pokud mu nerozumí nebo jim brání v práci. Funguje kombinace jasně psané interní směrnice, krátkého povinného školení a schváleného seznamu nástrojů, které smí firma používat.

Směrnice by měla obsahovat konkrétní příklady, ne jen obecné „nevkládejte citlivá data“, určit odpovědnou osobu pro dotazy a popsat, co dělat, když zaměstnanec citlivá data omylem už vložil · nahlásit incident IT nebo bezpečnostnímu oddělení, ne ho zamlčet. V auditech CIAD se opakovaně ukazuje, že firmy mají technická opatření často nastavená lépe než srozumitelná pravidla pro běžné zaměstnance. Lidé nevědí, kde přesně je hranice, a buď nástroj nepoužívají vůbec, nebo ho používají bez jakéhokoli omezení.

Co to znamená: Ochrana firemních dat před únikem přes AI nástroje stojí na třech pilířích · jasně definovaném seznamu zakázaných kategorií dat, technických zábranách typu DLP a firemní verze nástroje, a pravidelném srozumitelném školení s konkrétními příklady z běžné práce. Firma, která zavede jen jedno z toho, riziko úniku dat sníží jen částečně.