Pevná pravidla, nebo AI systém: jak připravit podklady k posouzení

Proč obchodní název nestačí k závěru

Používáte schvalování, třídění nebo doporučování a dodavatel mluví o chytrém řešení, zatímco IT tvrdí, že jde jen o pevná pravidla. Spor se obvykle zasekne na názvu produktu. Pro posouzení je ale rozhodující, co nástroj reálně dělá s daty, jak vzniká výstup a jak se chová po nasazení. Pokud máte k dispozici vysvětlení pojmu umělá inteligence, berte je jako orientační rámec, ne jako důkaz. Stejně tak obecný přehled aktu o AI nenahrazuje posouzení konkrétního nasazení. Cílem této přípravy není stanovit právní kvalifikaci, ale shromáždit ověřitelné podklady, o které se kvalifikace opře. V pracovní přípravě se vyhněte větám typu „je to jen Excel, takže to není AI“ i závěru, že vše s modelem je automaticky vysoce rizikové. U podstatných tvrzení je užitečné uvést oporu v nastavení, kódu, dokumentaci nebo pozorovaném chování.

Co říká dostupný podklad k definici

Evropská komise zveřejnila nezávazné pokyny k vymezení pojmu systém AI, které mají usnadnit uplatňování prvních pravidel aktu o AI a zdůrazňují posuzování podle skutečné funkce, nikoli podle obchodního označení. Podrobnosti uvádí přehled pokynů Komise k definici systému AI. Z toho pro vaši práci plyne jediný doložený fakt: název, marketing ani zařazení do katalogu softwaru samy o sobě neurčují výsledek. Zbytek je doporučená pracovní praxe, nikoli právní povinnost v určité šabloně. Pro věcné posouzení je užitečné popsat nasazení podle jeho reálné funkce a objasnit roli vaší organizace, například zda vystupujete jako poskytovatel, nebo jako provozovatel. Jde o doporučenou pracovní praxi, nikoli o povinnost doloženou uvedeným podkladem. Doporučenou praxí je vést tento popis jednotně, verzovaně a s vlastníkem, aby se dalo přezkoumat i po změně nastavení.

Čtyři oblasti, které je užitečné popsat

Rozdělte sběr podkladů na vstupy, odvozování, výstupy a dodavatelská tvrzení. U vstupů zapište, odkud data přicházejí, v jakém formátu, kdo je pořizuje a zda se mění jejich význam v čase. U odvozování popište, zda výsledek vzniká přímým použitím zapsaných podmínek, výpočtem skóre, vyhledáním v databázi, nebo úpravou na základě předchozích dat. U výstupů uveďte, zda jde o rozhodnutí, doporučení, klasifikaci, shrnutí nebo generovaný text, a kdo výstup schvaluje. U dodavatelských tvrzení oddělte obchodní popis od technické dokumentace. Nestačí věta obsahuje AI, potřebujete název modelu nebo pravidlové sady, verzi, konfigurační soubor, popis trénování či adaptace a informaci, zda se systém po nasazení mění bez vašeho zásahu.

Pracovní karta k vyplnění před posouzením

Následující kartu vyplňte pro jedno konkrétní nasazení, nikoli pro produkt obecně. U každého pole uveďte dostupný důkaz; pokud chybí, zapište to a doplňte úkol.

Hotovou kartu uložte tak, aby byla dohledatelná podle vlastníka a systému. Právě k tomu slouží interní evidence, například registr dokumentace a vlastníků AI, kde se ke kartě připíše odpovědná osoba a datum přezkumu.

Jak popsat odvozování bez marketingových zkratek

Rizikem je napsat inteligentní vyhodnocení místo mechanismu. Požadujte přesný řetězec: jaký vstup vstoupil, jaká operace proběhla, jaký práh nebo váha rozhodla a jak vznikl konečný výstup. U pevných pravidel vypište podmínky ve tvaru když-pak, včetně pořadí vyhodnocení a výchozí větve. U bodování uveďte vzorec, váhy a zaokrouhlení. U vyhledávání uveďte zdroj a způsob řazení. Pokud je součástí model, zapište jeho účel, vstupy, verzi, zda se doučuje a zda lze jeho vliv vypnout. Zvlášť zaznamenejte lidský zásah: zda člověk vidí celé vstupy, zda může výstup změnit a zda se změna propisuje zpět. Vyhněte se plošnému závěru, že každé pravidlo není AI a každý model je AI. Pro posouzení popište úplný mechanismus v daném nasazení. Samotný popis pravidel ani označení softwaru však bez dalšího neurčuje, zda jde o systém AI.

Hypotetický příklad: schvalování slev podle tabulky

Následující příklad je zcela ilustrativní a hypotetický, neslouží jako právní kvalifikace. Firma eviduje nástroj Slevomat v14 pro schvalování obchodních slev. Vstupy jsou částka objednávky, zákaznický segment a počet vrácení za dvanáct měsíců. Odvození je tabulka čtyř prahů: objednávka do 50 000 Kč a nulové vrácení znamená automatické schválení vedoucím prodeje po potvrzení v systému, ostatní kombinace směrují požadavek na obchodního ředitele. Žádné doučování neprobíhá, změnu prahu může provést jen administrátor se záznamem do logu. Dodavatel v technickém listu v3.2 uvádí deterministický engine založený na pravidlech, bez statistického modelu. Výsledek vyplněné karty zní: podklad neprokazuje adaptivní odvozování ani samostatnou změnu logiky po nasazení, konečné potvrzení provádí člověk, změnová stopa je ruční. Takto připravený balíček lze předat k posouzení, zda jde o systém AI, a k určení role provozovatele při tomto konkrétním použití.

Omezení podkladu a další krok

Tato karta nenahrazuje právní posouzení a nezakládá záruku souladu. Je to doporučený pracovní artefakt pro shromáždění faktů. Jeho věcným omezením je, že zachycuje stav k určité verzi konfigurace a dat; změna prahu, přidání modelu, nové napojení nebo změna dohledu může závěr změnit. Proto ke kartě vždy připište datum, verzi, vlastníka a interval přezkumu. Dalším krokem je předat kartu osobě odpovědné za regulaci AI spolu s exportem pravidel, technickým listem dodavatele a popisem lidského dohledu. Pokud některé pole zůstalo bez důkazu, zadejte úkol dodavateli nebo IT a do doplnění s nasazením zacházejte obezřetně. Teprve na základě úplného a aktuálního popisu lze věcně posoudit povahu nástroje a související povinnosti poskytovatele a provozovatele.