V kostce:

  • Svaz měst a obcí ČR určil ČTÚ jako dozorovatele AI ve státní správě
  • Jednotný rámec má pokrývat technické, právní i etické požadavky
  • Cílem je minimalizovat rizika ochrany dat a kybernetické bezpečnosti

Svaz měst a obcí České republiky zveřejnil informační materiál o bezpečném využívání umělé inteligence ve veřejné správě a v něm explicitně určil Českému telekomunikačnímu úřadu (ČTÚ) roli dozorovatele dodržování bezpečnostních a etických standardů při nasazování AI systémů. Iniciativa vznikla jako přímá reakce na rostoucí používání nástrojů umělé inteligence ve státní administrativě, kde Svaz považuje za nezbytné systematicky minimalizovat rizika spojená s ochranou osobních dat a kybernetickou bezpečností.

Podle sdělení Svazu má ČTÚ na základě tohoto mandátu zajišťovat dohled nad tím, aby jednotliví veřejnosprávní subjekty při implementaci a provozu AI systémů dodržovaly jednotně stanovené bezpečnostní a etické požadavky. Tím je úřadu svěřena odpovědnost za kontrolu shody nasazovaných technologií s předpisy a standardy, které se týkají ochrany práv občanů a integrity veřejné správy.

Kontext tohoto kroku tvoří nárůst nasazování umělé inteligence v agendách úřadů a dalších veřejných institucí. S rozšiřujícím se používáním těchto nástrojů roste i riziko neúmyslných úniků citlivých informací, zneužití dat nebo systémových selhání, která by mohla ohrozit kontinuitu veřejné služby. Svaz proto zdůrazňuje, že bez jednotného přístupu k bezpečnosti nelze zaručit dostatečnou ochranu napříč celou správou.

Centrem diskuse, kterou Svaz měst a obcí otevřel, je nutnost vytvořit jednotný rámec pro implementaci AI, který by neřešil pouze technické parametry systémů, ale komplexně pokrýval i právní úpravy a etické aspekty jejich využití. Takový rámec by měl podle představ Svazu nahradit dosavadní fragmentované postupy, kdy jednotlivé úřady a instituce volily vlastní cesty k nasazení AI bez sjednocených pravidel, což vedlo k nerovnoměrné úrovni ochrany a obtížné kontrolovatelnosti.

Svaz měst a obcí v souvislosti s tímto záměrem apeluje na systematickou a dlouhodobou spolupráci mezi veřejným sektorem a regulačními orgány. Cílem této spolupráce je zajistit, aby transparentnost a odpovědnost při využívání AI systémů nebyly jen deklarovanými cíli, ale staly se praktickou realitou každodenního nasazování technologií. Jednotný dohled ČTÚ by tak měl sloužit jako mechanismus, který tato pravidla v praxi vynutí.

Co to znamená: Pro veřejnosprávní subjekty znamená nový rámec povinnost dodržovat sjednocené bezpečnostní a etické standardy pod přímým dohledem ČTÚ. Pro dodavatele AI řešení do veřejného sektoru to vytváří jasnější pravidla hry a nutnost předkládat důkazy bezpečnosti a etické přijatelnosti systémů již v fázi zadávání zakázek. Auditoři a implementátoři AI by měli sledovat konkrétní metodiku, kterou ČTÚ pro svůj dohled vyvine, a připravovat své procesy na ověřování shody s ní v rámci každého projektu ve veřejné správě.

Zdroje: