Lokální AI: jak otestovat přesnost na firemních dokumentech

Model, který dobře odpovídá na obecné otázky, může špatně pracovat s vašimi návody. Při převzetí lokálního asistenta proto hodnotíte celý postup: načtení dokumentů, vyhledání správné části, formulaci odpovědi i chování při chybějícím podkladu. Z výsledku samotného veřejného benchmarku se tyto vlastnosti odvodit nedají.

NIST v rámci AI Risk Management Framework a navazujícím Playbooku popisuje řízení rizik a měření AI v kontextu konkrétního použití. Níže uvedený přejímací protokol je návrh CIAD, nikoli standardem předepsaná sada testů. Vzorek, přijatelné výsledky a odpovědného hodnotitele určete před spuštěním. Po zobrazení výsledků nesnižujte požadavky jen proto, aby pilot vyšel.

Tabulka přejímacích zkoušek

Připravte referenční odpovědi s člověkem, který dané práci rozumí. Nemusí to být jeden dokonalý text. Důležitý je seznam povinných faktů, zakázaných záměn a správných podkladů. U otázky na reklamaci lze například požadovat odpovídající typ produktu a konkrétní podmínku; stylistická podobnost k referenci není hlavní měřítko.

Postup srovnání s dnešní prací

Nejprve nechte stejné úlohy vyřešit běžným postupem bez nového asistenta. Zapište správnost a čas do ověřeného výsledku, nikoli jen do prvního návrhu. Tím získáte srovnání, které zahrnuje lidskou kontrolu. Zrychlení odpovědi může být bezcenné, pokud kontrolor následně tráví více času opravou chyb.

Potom spusťte lokální řešení nad stejnými vstupy. Zachovejte verzi modelu, konfiguraci vyhledávání a podobu dokumentů. Každou odpověď označte a uložte tak, aby hodnotitel nemusel vědět, který postup ji vytvořil. Pokud jsou podklady důvěrné, výsledky uchovávejte ve schváleném interním prostředí a neposílejte je do dalšího veřejného hodnoticího nástroje.

Rozlišujte chybu nalezení zdroje a chybu jeho výkladu. Asistent může vybrat nesprávný dokument a věrně jej shrnout, nebo najít správný odstavec a změnit jeho význam. Tyto závady potřebují jinou opravu. Neoznačujte vše jediným číslem „přesnost“, ze kterého nezjistíte další krok.

Modelový příklad: návody pro servisní oddělení

Servis má dva podobné produkty s různými bezpečnostními postupy. Do zkoušky zařadí otázku na každý produkt a otázku bez uvedeného typu. Správný asistent při nejasném zadání požádá o doplnění, místo aby vybral častější variantu. Další úloha se ptá na postup, který firma vůbec neposkytuje; přijatelné je přiznat chybějící podklad.

Tým určí, že záměna bezpečnostního postupu blokuje použití, i kdyby všechny ostatní otázky dopadly dobře. Průměrná úspěšnost totiž může skrýt jedinou závažnou chybu. Vedle toho eviduje méně závažné nedostatky, například špatně čitelnou odpověď. Výsledek proto obsahuje jednotlivé případy i celkovou interpretaci.

Kdy test opakovat

Přejímací sadu zopakujte při změně modelu, dokumentového indexu, pravidel přístupu nebo důležitého zdroje. Neřešené chyby přidejte jako regresní případy, ale ponechte i část neznámých otázek pro další hodnocení. Model naučený jen na známé ukázky nemusí uspět v běžném provozu.

Instalaci vysvětluje lokální AI s Ollamou, obecnou přípravu sad interní testovací sada pro AI a chování při nejistotě ověření odpovědi AI. O nasazení rozhodujte podle doložených výsledků a následků chyb, ne podle jména nejnovějšího modelu.