Pořadí není formalita, je to tok informací
Kroky AI projektu na sebe nenavazují proto, že to tak píšou metodiky. Navazují na sebe proto, že každý další krok potřebuje jako vstup výstup toho předchozího. Model se nedá natrénovat dřív, než existují rozdělená data. Data se nedají rozdělit dřív, než jsou sesbíraná. A sbírat data nemá smysl dřív, než firma ví, na jakou otázku vlastně hledá odpověď.
Tahle logika platí napříč projekty, ať jde o predikci odchodu zákazníků, firemního chatbota nad interní dokumentací, nebo detekci vadných výrobků na lince. Konkrétní kroky se liší, ale kostra zůstává: nejdřív cíl, pak data, pak jejich rozdělení, teprve pak trénování, potom vyhodnocení na datech, která model neviděl, a až na konci nasazení do provozu.
Kde se to nejčastěji zvrtne
Dvě chyby se opakují napříč obory nejčastěji.
První je přeskočení definice cíle. Tým začne sbírat data, protože dat je vždycky dost a sbírání vypadá jako pokrok. Bez jasně určeného cíle ale nikdo neví, jestli nasbíraná data vůbec obsahují odpověď na otázku, kterou firma později položí. Cíl musí být první, ne proto, že je to hezké na papíře, ale protože určuje, co se má sbírat.
Druhá, dražší chyba je únik dat mezi testovací a trénovací sadou. Testovací data existují proto, aby dala nezkreslený odhad, jak si model povede na nových případech, které nikdy neviděl. Jakmile se testovací sada použije předčasně, třeba k ladění hyperparametrů, nebo se rozdělení na sady udělá až po výpočtu odvozených příznaků, model tuto informaci nevědomky vidí a jeho výkon na testu přestane odpovídat realitě. Firma pak nasadí model, který v testu vypadal skvěle a v provozu selhává.
Podobně nebezpečné je zastavit se po nasazení. Model, který dnes funguje dobře, může za půl roku fungovat hůř, protože se změnilo chování zákazníků, trh, nebo vstupní data. Tomuto jevu se říká drift a bez průběžného monitoringu po nasazení ho firma zjistí až ve chvíli, kdy už napáchal škodu, obvykle v podobě stížností zákazníků nebo tichého poklesu tržeb, který nikdo hned nespojí s tím, že se model odchýlil od reality, na které se kdysi učil.
Třetí opakující se chyba je posunuté pořadí u modelů, které se učí z odměny místo z předem daných štítků. U posilovaného učení neexistuje jedna správná odpověď zapsaná v datech, systém ji hledá pokusem a omylem podle toho, jestli dostal odměnu, nebo trest. Tady je snadné omylem přeskočit fázi, kdy se z lidského hodnocení nejdřív musí postavit takzvaný reward model, a rovnou zkoušet ladit hlavní model bez něj. Bez reward modelu ale systém nemá podle čeho poznávat, která odpověď je lepší, takže výsledek doladění je nahodilý.
Proč se stejný vzorec opakuje i uvnitř jednoho kroku
Pořadí kroků neplatí jen na úrovni celého projektu, opakuje se i v menším měřítku uvnitř jednotlivých fází. Křížová validace rozdělí trénovací data na několik částí a postupně je prostřídá jako validační, ale sama sebe nikdy nesmí spustit dřív, než existuje ono základní rozdělení dat. Ladění hyperparametrů zkouší různé kombinace nastavení a vyhodnocuje je na validační sadě, přičemž testovací sada se do tohoto kola nesmí zapojit vůbec, jinak ztratí schopnost dát na konci nezkreslený odhad výkonu. I uvnitř architektury velkého jazykového modelu platí stejná logika: předtrénování na velkém množství textu musí proběhnout dřív, než se model doladí na konkrétních instrukcích, a teprve na doladěném modelu dává smysl stavět posilované učení ze zpětné vazby lidí. Přeskočit kterýkoli z těchto vnořených kroků znamená totéž jako přeskočit krok v celém projektu, jen o úroveň níž a o to hůř se to zpětně dohledává.
Co to znamená pro zavedení AI ve firmě
Kdo chce zavést AI ve firmě, nepotřebuje znát matematiku za jednotlivými algoritmy. Potřebuje rozumět tomu, v jakém pořadí věci na sebe navazují, aby dokázal poznat, kdy dodavatel nebo interní tým přeskočil krok, který se mu později vymstí. Nejčastější varovné signály jsou přesně ty, které tahle hra procvičuje: trénování bez jasně určeného cíle, testovací data použitá dřív, než měla, nebo model nasazený bez plánu, kdo bude sledovat jeho výkon v čase.
Od dat k modelu vede přímá cesta jen na papíře. V praxi je to cyklus s pevným pořadím kroků, kde přeskočení jednoho z nich nezrychlí projekt, ale přesune problém později, kdy je jeho oprava mnohem dražší.