Cloudová AI, nebo lokální model · co je bezpečnější?

Kdy data opouští vaši síť

Cloudová AI posílá dotazy a často i kontext na servery poskytovatele. To znamená, že vaše interní dokumenty, kód nebo zákaznická data procházejí externí sítí a ukládají se v cizích datových centrech. I při smluvních zárukách o neukládání (zero-retention) existuje riziko neúmyslného úniku, chyby v anonimizaci nebo právního výzvy k předání dat. Pro českou lékařskou ordinaci, která zpracovává nemocenské listy, nebo pro advokátní kancelář s klientskými smlouvami je to často nepřijatelné riziko.

Co znamená běh modelu u vás

Lokální model (on-premise LLM) běží na vašich GPU serverech nebo výkonných stanicích. Data nikdy neopustí fyzickou hranici vaší sítě, což eliminuje riziko odposlechu při přenosu a úniku u dodavatele. Nároky na hardware jsou ale vysoké: pro použitelný 7B · 8B parametrů model potřebujete minimálně 24 až 48 GB VRAM, pro 70B modely už více karet v clusteru. K tomu sázíte spotřebu elektřiny, chlazení a čas správce na aktualizace kvantizací, ovladačů a bezpečnostních záplat. Typický příklad: české mittelstandové výrobní podnik nasadil Llama 3 8B na dva servery s NVIDIA A100 pro klasifikaci interních servisních protokolů a ušetřil tak měsíční cloudové poplatky i riziko úniku know-how.

Regulace a české realie

GDPR vyžaduje, aby osobní data neopustila EHP bez dostatečných záruk. U amerických cloudových poskytovatelů (OpenAI, Anthropic, Google) řešíte Standardní smluvní klauzule a riziko přístupu třetích zemí. NIS2 směrnice naopak tlačí kritickou infrastrukturu k minimalizaci závislosti na externích dodavatelích. V auditech CIAD se ukazuje, že české banky a pojišťovny preferují lokální modely pro interní analýzy rizik, zatímco marketingové oddělení spokojeně využívají cloud pro generování textů bez osobních dat. Rozdíl není v technologii, ale v klasifikaci dat.

Hybridní cesta a praktické kroky

Nejčastější produkční vzor v ČR je rozdělení podle citlivosti:

1. Klasifikace dat · rozlišit veřejná, interní, důvěrná a regulovaná data.
2. Routing dotazů · lehký klasifikátor (např. DistilBERT) posílá dotazy s důvěrnými daty na lokální model, ostatní do cloudu.
3. Unifikované rozhraní · OpenAI-kompatibilní API (vLLM, Ollama, TGI) umožňuje měnit backend bez změny aplikace.
4. Monitoring a logování · lokálně ukládat plné audity, do cloudu posílat jen metriky latence a chybovosti.
5. Testování kvality · pravidelně porovnávat odpovědi lokálního a cloudového modelu na vzorové sadě, aby se zachovala užitečnost.

Tento přístup umožňuje využít cloudovou výkonnost pro obecné úkoly (překlady, brainstorming, kódování) a zároveň chránit korunní šperky organizace.

Rozhodovací rámeček pro tým

Před nasazením zodpovězte tyto otázky:

• Jaká je nejvyšší úroveň citlivosti dat, která model uvidí?
• Máme tým schopný spravovat GPU cluster a řešit drivery, kontejnery, monitoring?
• Jaký je měsíční rozpočet na cloudové API versus jednorákové CAPEX na hardware?
• Vyžaduje regulace (GDPR, NIS2, sektorní zákony) fyzickou lokalitu dat v ČR/EU?
• Je model kritický pro dostupnost služby (SLA), nebo jde o vnitřní produktivitu?

Pokud odpovíte „ano“ na prvotní dvě otázky a máte kapacitu, lokální model dává smysl. Pokud chybí kapacita nebo jde o nízkorizikové úkoly, cloud je pragmatičtější. Hybrid pokrývá většinu reálných situací.

Co to znamená: Bezpečnost není binární volba mezi cloudem a on-premise, ale shoda klasifikace dat, regulačních povinností a operačních schopností týmu. Začněte inventarizací dat a pilotech na malém měřítku, než investujete do infrastruktury.