Změna účelu AI: jak před rozšířením otevřít nové posouzení

Rozšíření funkčního AI asistenta do nové agendy vypadá jako drobná změna, ve skutečnosti se ale může změnit celé hodnocení rizika. Typický spouštěč je žádost typu „nasadíme stejný model i na nábor“ nebo „přidáme automatické doporučení“. Bez nového posouzení hrozí, že tým pokračuje se starými předpoklady, starou dokumentací a nejasnou odpovědností.

Tento postup slouží jako doporučená interní praxe CIAD. Není to výklad právní povinnosti a nezaručuje soulad s AI Actem. Pomáhá pouze zastavit rozšíření včas a rozhodnout na základě faktů.

Proč změna účelu mění pohled na riziko

AI Act přistupuje k riziku především podle konkrétního použití systému, nikoli pouze podle technologie nebo názvu modelu. To je doložený princip evropské regulace: rámec je založen na posouzení rizika podle účelu a kontextu nasazení, jak shrnuje přehled regulačního rámce Evropské komise. Stejný jazykový model proto může mít jiné postavení, když shrnuje interní návody, a jiné, když vybírá uchazeče.

Změna účelu obvykle mění tři věci najednou: kdo je výsledkem dotčen, jaký dopad má výstup na jeho práva nebo přístup ke službě a jak velkou roli hraje člověk v kontrole. Proto nestačí zkopírovat staré hodnocení a přepsat název projektu. Pokud se mění některá z těchto tří os, je správné původní posouzení znovu otevřít. Pomůže i zpětná kontrola, jak klasifikovat AI systém podle rizika, protože klasifikace provedená pro první účel nemusí pro nový účel platit.

Kdy posouzení znovu otevřít a kdy stačí záznam

Pro každou úpravu zaznamenejte její rozsah a očekávaný dopad. Odpovědný vlastník poté určí potřebnou kontrolu; tento pracovní postup sám neurčuje právní roli ani požadavky na posouzení shody.

Posouzení znovu otevřete vždy, když nastane alespoň jedna z těchto situací: systém má sloužit k jinému rozhodnutí nebo jinému úkonu, má působit na novou skupinu osob, výstup začíná ovlivňovat přístup k práci, vzdělání, péči, financím nebo službám, ubývá lidská kontrola, přidává se automatické odesílání bez schválení, nebo se rozšiřují vstupy o citlivé údaje. Praktické pravidlo zní: pokud byste novému uživateli nedokázali jednoduše vysvětlit, k čemu systém nově slouží a co se stane po jeho doporučení, posouzení otevřete.

Důležité je rozlišit role. Poskytovatel systém vyvíjí nebo jej nechává vyvinout a uvádí jej na trh či do provozu; zavádějící subjekt jej používá ve své působnosti. Při změně účelu se může změnit i rozdělení odpovědnosti, typicky když provozní tým začne používat obecný nástroj způsobem, se kterým poskytovatel původně nepočítal. Tuto hranici ve změnovém listu výslovně pojmenujte.

Změnový list: porovnání účelu, osob a dopadu

Základem je jednostránkový změnový list. Jeho smyslem není nahradit právní analýzu, ale přinutit navrhovatele změny popsat starý a nový stav vedle sebe. Vyplňuje jej navrhovatel rozšíření, posuzuje vlastník systému a výsledek se ukládá k dokumentaci systému.

Prázdná pole nejsou přípustná. Pokud navrhovatel údaj nezná, napíše „nezjištěno“ a posouzení se neuzavírá. Právě tato věta brání tichému rozšíření bez dat.

Jak změnový list vyplnit krok za krokem

Začněte popisem původního účelu jednou větou včetně toho, kdo výstup používal. Pak stejnou větou popište navrhovaný účel. Vyhněte se obecným formulacím typu „zlepšení efektivity“. Rozhodující je sloveso a dopad: shrnuje, překládá, navrhuje pořadí, vybírá, zamítá, odesílá.

Ve druhém kroku dopište dotčené osoby. U původního interního asistenta to mohou být zaměstnanci, u nového použití uchazeči, pacienti, studenti nebo zákazníci. Poznamenejte, zda se nově objevuje nerovnováha moci, například vztah zaměstnavatel a uchazeč. Ve třetím kroku popište dopad: co se stane, když se systém splete, a kdo chybu odnese.

Ve čtvrtém kroku popište lidskou kontrolu poctivě podle provozu, ne podle prezentace. Rozdíl mezi „člověk může zasáhnout“ a „člověk každý výstup reálně čte a schvaluje“ je zásadní. V pátém kroku dopište vstupy a uchování. Vlastník systému pak rozhodne o jedné ze tří cest: změna je nepodstatná a stačí záznam, změna je podstatná a pokračuje s opatřeními, nebo se nasazení zastavuje do nového posouzení. Rozhodnutí včetně data uložte do registru AI dokumentace a vlastníků a zkontrolujte, zda je jasné, kdo má vlastnit AI projekt po jeho rozšíření.

Hypotetický příklad s přesným závěrem

Následující příklad je zcela hypotetický a ilustrativní, neslouží jako měření ani jako právní závěr pro konkrétní firmu. Společnost používá jazykový model ke shrnování interních provozních návodů pro zaměstnance. Výstup čte zaměstnanec, kontroluje jej a teprve pak podle něj postupuje. Dopad chyby je zdržení a oprava textu.

Provozní tým navrhne stejný model použít k předvýběru životopisů: model má seřadit padesát uchazečů a prvních deset doporučit k pohovoru. Změnový list ukáže tři podstatné rozdíly: nová skupina je uchazeči mimo firmu, dopad je přístup k pohovoru a lidská kontrola klesá na rychlé schválení pořadí. Přesný interní závěr příkladu zní: rozšíření se zastavuje, vlastník nařizuje nové posouzení rizika, aktualizaci dokumentace a vyjasnění role zavádějícího subjektu. Do jeho dokončení je plošné třídění životopisů zakázáno a povolen je pouze ruční nábor.

Síla příkladu je v tom, že technologie se nezměnila, ale kontext ano. Pokud tým upraví pouze styl shrnutí návodů, zaznamená změnu a její dopad; odpovědný vlastník rozhodne, jakou kontrolu má provést.

Omezení postupu a co udělat dál

Změnový list je pracovní pomůcka, nikoli důkaz souladu. Nenahrazuje posouzení rizik, testování, právní přezkum ani rozhodnutí dozorového orgánu. Zachycuje pouze to, co tým v danou chvíli ví. Pokud chybí smlouva s poskytovatelem, návod k použití nebo přehled zpracování údajů, změnový list to odhalí, ale sám to neopraví.

Věcné omezení pro toto téma: doložená je pouze zásada, že riziko se hodnotí podle použití systému. Konkrétní povinnosti poskytovatele a zavádějícího subjektu při změně účelu závisí na smlouvě, technické dokumentaci a způsobu nasazení, proto hranici mezi doporučenou interní praxí a právní povinností v každém případě ověřte s odpovědnou osobou nebo právní podporou.

Další krok po vyplnění listu: vlastník v interně stanovené lhůtě rozhodne, zda se pokračuje, pokračuje s opatřeními, nebo se nasazení zastaví. Při zastavení určí, kdo dopíše chybějící údaje a kdo vede nové posouzení. Jako interní postup CIAD doporučuje zapnout nový účel až po tomto rozhodnutí a aktualizaci dokumentace; konkrétní právní podmínky závisí na okolnostech nasazení.