AI pilot a ostrý provoz: které změny před spuštěním zaznamenat

Kdy kartu vyplnit a kdo výsledek potvrzuje

Kartu vyplňte, pokud se návrh ostrého provozu od pilotu liší například publikem, účelem, daty, napojením nebo způsobem lidského dohledu. Za její vedení lze určit garanta produktu a za oponenturu osobu odpovědnou za posouzení rizik. Před rozhodnutím o přejímce zaznamenejte, kdo návrh připravil, kdo jej posoudil a jaké otázky zůstávají otevřené. Podpisy ani vyplněná karta samy o sobě nepotvrzují právní soulad nebo bezpečnost systému.

Jde o pracovní návrh CIAD, nikoli o závazný právní posudek či úřední formulář. Je určen k přípravě podkladů pro konkrétní odborné posouzení; přesné povinnosti nelze určit bez znalosti systému a příslušného účinného znění. Základní souvislosti najdete v textech co je AI Act a povinnosti firmy, která AI používá.

Kartu verzujte. Změny po pilotu zapisujte jako samostatné řádky s datem, autorem a odkazem na příslušný podklad, například testovací protokol. U každé verze uveďte, zda jde o návrh, posuzovanou variantu, nebo již přijaté rozhodnutí. Pokud některé pole nelze vyplnit, zaznamenejte důvod a osobu, která má dodat potřebné informace; samotná prázdná položka ještě neurčuje výsledek právního posouzení.

Přejímací karta změny pilotu na ostrý provoz

Vyplňte pole konkrétním popisem stavu pilotu i navrhovaného provozu. Pouhý odkaz na dokumentaci nestačí, pokud z něj není zřejmé, v čem se obě varianty liší. Do sloupce dopadu zapisujte možné důsledky a otázky k ověření, nikoli předem potvrzené závěry.

Všechny vyplněné údaje v následující tabulce jsou syntetické ukázky pro nácvik, nikoli doložené údaje skutečné organizace.

Postup porovnání pilotu s návrhem ostrého provozu

1. Popište testovaný pilot. Uložte nebo určete verzi systému, nastavení, použitou datovou sadu a pravidla dohledu. Rozlišujte mezi tím, co bylo skutečně ověřeno, a tím, co se pouze plánovalo.
2. Popište zamýšlený provoz. Zaznamenejte publikum, účel, vstupy, výstupy, napojení, dohled, školení a navržený postup při chybě. Uveďte také, které části návrhu ještě nejsou ověřené.
3. Porovnejte obě varianty. U každé změny označte, zda rozšiřuje publikum, mění účel, upravuje závaznost výstupu, snižuje dohled nebo zavádí nové zdroje dat. Uveďte, proč je změna důležitá pro další posouzení.
4. Projděte práva a možné dopady. Popište, jak se dotčená osoba dozví o použití systému, kam může směřovat dotaz či námitku a kdo posoudí žádost o opravu. Pokud řešení zatím není navrženo, zaznamenejte tuto mezeru, ne předpoklad, že je otázka vyřešena.
5. Přiřaďte podklady. K jednotlivým rozdílům připojte dostupný testovací protokol, záznam školení nebo jiný relevantní dokument. Pokud podklad chybí, napište, co je třeba ověřit, kdo to připraví a jaký výsledek se očekává. Nepopisujte neprovedený test jako uskutečněné měření.
6. Zaznamenejte rozhodnutí. Odpovědná osoba může zvolit převzetí, převzetí s výslovně popsanými podmínkami, nebo vrácení návrhu k přepracování. Uveďte důvody, otevřené otázky, odpovědnosti a podklady, o které se rozhodnutí opírá. Jde o pracovní rozhodnutí organizace, nikoli o automatickou právní klasifikaci.
7. Naplánujte další dohled. Určete, kdo bude sledovat provoz, jak se budou zaznamenávat chyby a podněty a kdo posoudí, zda je namístě systém omezit či pozastavit. Četnost kontrol a podmínky eskalace přizpůsobte návrhu a posouzení; nepřebírejte je bez zdůvodnění z jiného provozu.

Modelový syntetický příklad s rozborem

Všechny údaje v tomto příkladu jsou syntetické a slouží pouze k nácviku vyplnění karty. Nejde o skutečné nasazení, provedené měření ani doloženou zkušenost organizace.

Příklad: podatelna v modelovém pilotu používá pomocníka k třídění interních poznámek a návrhu odpovědi pracovnici. O odeslání rozhoduje pracovnice. Návrh ostrého provozu přidává napojení na evidenci podání, ukládání návrhů do spisu a namátkovou kontrolu vedoucí jednou týdně. Také údaj o rozsahu pilotního týmu v tabulce je pouze modelový.

Rozbor: změna se týká zdrojů dat i napojení na jiný systém. Ukládání návrhu do spisu mění způsob, jakým se výstup uchovává a může být používán. Namátková kontrola se liší od kontroly každého výstupu, proto je třeba popsat její zamýšlený rozsah a podklady pro posouzení. Pokud se výstup dostane k externím podatelům, jde navíc o změnu publika, kterou je třeba zaznamenat. Možnými otázkami jsou oprava chybného záznamu, postup při námitce a odpovědnost za kontrolu. Tyto otázky samy o sobě nedokládají, že k chybě nebo újmě skutečně došlo.

Pracovní závěr může být návrh nepřevzít do doby, než budou objasněny podmínky přístupu k výstupu, námitky a opravy, potřebný rozsah lidského dohledu a odpovědnost jednotlivých osob. Jde o příklad rozhodovacího postupu, nikoli univerzální výsledek. Organizace může jako další podklad navrhnout pilotní ověření konkrétního procesu, doplnit informace pro dotčené osoby a připravit školení obsluhy. Následné posouzení vychází z doložených podkladů; samotné doplnění položek v kartě nepředstavuje potvrzení výsledku.

Kritéria pro vrácení návrhu k přepracování

Návrh vraťte k doplnění, pokud některá z následujících situací brání odpovědnému posouzení. Seznam je pracovní pomůcka, nikoli vyčerpávající právní test. U každého důvodu zaznamenejte, co chybí a kdo má otázku vyřešit.

1. Publikum se mění z interního na externí, ale není popsáno, jak lidé získají srozumitelné informace a kam se mohou obrátit s námitkou či dotazem.
2. Výstup se nově ukládá jako trvalejší záznam, ale není určen postup opravy, zachycení změn nebo osoba odpovědná za posouzení opravy.
3. Rozsah lidského dohledu se snižuje, ale návrh neobsahuje podklady, podle nichž lze posoudit vhodnost změny pro zamýšlený provoz.
4. Přidává se napojení na jiný systém, ale není popsáno, jak se ověří jeho vliv na přístup k datům, provozní postupy a řešení incidentu.
5. Není doloženo, jak budou pracovníci připraveni na svůj úkol nebo jak se seznámí s omezeními používaného pomocníka.
6. Není určeno, kdo posoudí potřebu omezení či pozastavení provozu a podle jakých zaznamenaných podnětů takové rozhodnutí zváží.
7. Původ nebo úplnost vstupních podkladů zůstává nejasná a návrh nepopisuje, jak bude tato nejistota ověřena.

Podmíněné převzetí lze v pracovním návrhu spojit s přesně popsaným omezeným rozsahem, dohledem a způsobem vyhodnocení. Rozsah ani délku takového postupu nelze stanovit univerzálně: zdůvodněte je pro konkrétní situaci a zaznamenejte, kdo posoudí výsledné podklady. Před rozšířením provozu aktualizujte kartu, vypořádejte podmínky a znovu zdokumentujte rozhodnutí. Pokud podklady neumožňují otevřené otázky posoudit, ponechte je výslovně označené a předejte je odpovědné odborné osobě.