Obtížnost
Proč pexeso
Pojmy jako model, token nebo inference potkáváme v textech o AI tak často, že máme pocit, že jim rozumíme. Vysvětlit, čím se od sebe liší, už je těžší. V pexesu najdete k pojmu správnou kartu jen tehdy, když si vybavíte jeho přesný význam.
Tři úrovně
Základní úroveň má šest dvojic a pokrývá pojmy z každého úvodu do AI: model, token, neuron, vrstvu nebo štítek, tedy správnou odpověď přiřazenou trénovacímu vzorku.
Střední úroveň má osm dvojic a přidává pojmy z provozu: inferenci (použití hotového modelu na nová data), generalizaci, tokenizaci a latenci. Hodí se ve chvíli, kdy se model nasazuje do firmy.
Pokročilá úroveň má dvanáct dvojic a jde do detailu: kvantizace zmenšuje model snížením číselné přesnosti, perplexita měří kvalitu předpovědi textu, pseudonymizace se právně liší od anonymizace a orchestrace řídí několik služeb najednou. S těmito pojmy se setkáte v technickém zadání nebo v hovoru s dodavatelem.
Token
Token má na běžná rozhodnutí největší dopad. Jazykový model nepracuje se slovy, ale s tokeny, tedy kousky textu, na které se vstup rozloží. Delší text znamená víc tokenů, a tím vyšší cenu i delší odpověď. Proto může být jeden dotaz levný a jiný, podobně dlouhý, výrazně dražší.
Na tokenu je také vidět, že pojmy AI nejde odvodit z běžné řeči. V běžné mluvě je token žeton nebo známka, v jazykovém modelu jde o něco úplně jiného.
Proč na přesných pojmech záleží
Kdo pojmy zná, přečte zadání, smlouvu nebo dokumentaci bez dohledávání. Anotace dat je ruční práce lidí, augmentace automaticky rozšiřuje data, která už máte, a každá stojí jiné peníze. Anonymizace a pseudonymizace mají jiný právní dopad: z režimu osobních údajů data vyvede jen skutečná anonymizace.
Přesné pojmy pomáhají i při jednání s dodavatelem. „Inteligentní systém“ může znamenat klasifikaci, generování textu nebo doporučování. Jde o tři různé věci s různou cenou a vyplatí se zeptat, o kterou z nich jde.
Pojmy z provozu
Část slovníku pochází z provozu systému. Propustnost říká, kolik požadavků systém zvládne za jednotku času. Zpětné vrácení je návrat k předchozí verzi po chybě. U modelů na něm hodně záleží, protože špatná nová verze aplikaci neshodí, jen začne odpovídat hůř a nikdo si toho hned nevšimne.
Souborová metoda kombinuje předpovědi více modelů, aby byl výsledek stabilnější, a odpovídá na otázku, kolik stojí o něco spolehlivější odpověď. Kauzalita se často plete s korelací: model v datech snadno najde souvislost, ale doložit, že jedna věc druhou skutečně způsobuje, je mnohem těžší.
Jak si pojmy zapamatovat
Hledání dvojic funguje lépe než čtení seznamu, protože si pokaždé musíte vybavit celý význam. Chyba přitom pomáhá: když karta „Anotace dat“ skončí vedle špatné definice, uvidíte, s čím si pojem pletete, a příště ho najdete rychleji. S vyšší úrovní přibývá karet a hlavně podobných pojmů, které musíte rozlišit najednou.
Časté dotazy
- Proč se učit pojmy umělé inteligence, když stačí AI používat?
- Protože bez přesné terminologie se nedá posoudit nabídka dodavatele ani zadání pro vlastní tým. Když zpráva mluví o dotrénování modelu, kvantizaci nebo augmentaci dat, jde o tři různé věci s různou cenou i rizikem. Kdo pojmy zaměňuje, snadno podepíše projekt, který neřeší to, co potřeboval.
- Co přesně znamená token?
- Token je nejmenší jednotka textu, se kterou jazykový model pracuje, obvykle část slova, celé slovo nebo interpunkční znak. Model nečte text písmeno po písmenu ani větu po větě, ale rozdělí ho na tokeny (tokenizace) a s nimi počítá. Cena i rychlost odpovědi se v praxi měří právě v tokenech, ne ve znacích nebo slovech.
- Je slovník umělé inteligence stejný napříč obory?
- Základní pojmy jako model, trénink nebo inference jsou univerzální. Každý obor k nim přidává vlastní slovník: zpracování obrazu mluví o konvoluci, zpracování textu o lematizaci nebo perplexitě, provoz systémů o orchestraci a propustnosti. Tahle hra pokrývá základní vrstvu společnou většině oborů a pak přidává vybrané pojmy z každého z nich.
- Jaký je rozdíl mezi anotací dat a augmentací dat?
- Anotace dat je ruční nebo poloautomatické doplnění štítků k surovým datům, tedy práce, která teprve umožní model něčemu naučit. Augmentace dat je naopak rozšíření už existující trénovací sady pomocí transformací, jako je otočení obrázku nebo záměna synonyma. První krok vytváří data, druhý z existujících dat udělá víc, aniž by se muselo sbírat nové.
- Proč se v pexesu objevují i pojmy mimo strojové učení, třeba profilování nebo zpětné vrácení?
- Protože provoz AI systému zasahuje i do práva a do IT provozu. Profilování je právní pojem z ochrany osobních údajů a týká se každého systému, který automatizovaně hodnotí vlastnosti osoby. Zpětné vrácení je provozní pojem pro návrat k předchozí verzi po chybě. Kdo sleduje jen samotný model, tuhle část rizika snadno přehlédne.