Slovník, který se nedá jen přečíst
Slovník umělé inteligence se nedá naučit jedním přečtením seznamu. Pojmy jako model, token nebo inference se v textu objevují tak často, že si čtenář rychle vytvoří dojem, že jim rozumí, aniž by uměl vysvětlit, čím přesně se od sebe liší. Pexeso funguje jinak: karta s pojmem a karta s definicí se najdou jen tehdy, když si hráč vybaví přesný obsah, ne jen povědomý zvuk slova.
Tři vrstvy pojmů
Základní úroveň hry pokrývá slovní zásobu, která se objevuje v každém úvodu do umělé inteligence: model jako naučený systém, token jako nejmenší jednotka textu, neuron a vrstva jako stavební kameny sítě, štítek jako správná odpověď přiřazená trénovacímu vzorku. Bez těchto šesti až osmi pojmů se nedá sledovat žádný další text o AI.
Střední úroveň přidává pojmy z provozu modelu: inference jako použití natrénovaného modelu na nová data, generalizace jako schopnost fungovat i mimo trénovací data, tokenizace jako proces rozdělení textu na tokeny, latence jako čas mezi dotazem a odpovědí. Tahle vrstva se hodí ve chvíli, kdy se řeší nasazení modelu do provozu, ne jen jeho existence v laboratoři.
Pokročilá úroveň jde do detailu, který odlišuje odborníka od uživatele nástroje: kvantizace jako snížení číselné přesnosti vah modelu kvůli úspoře paměti, perplexita jako metrika kvality předpovědi textu, pseudonymizace jako právně jemný rozdíl oproti anonymizaci, orchestrace jako řízení provozu více služeb najednou. Dvanáct dvojic na této úrovni pokrývá pojmy, které se běžně objeví až v technickém zadání nebo v hovoru s dodavatelem.
Co znamená token a proč na tom všechno stojí
Ze všech pojmů ve hře má token pravděpodobně největší praktický dopad na běžné rozhodování. Jazykový model nepracuje se slovy ani s větami, ale s tokeny, tedy kousky textu, na které se vstup rozloží při tokenizaci. Delší text znamená víc tokenů, víc tokenů znamená vyšší cenu a delší odpověď. Kdo tenhle pojem nezná, těžko odhadne, proč je jeden dotaz levný a jiný, na první pohled podobně dlouhý, výrazně dražší.
Token je zároveň dobrý příklad toho, proč se pojmy umělé inteligence nedají odvodit z běžné mluvy. Slovo zní povědomě, ale jeho technický význam se s běžným chápáním „tokenu“ jako známky nebo žetonu vůbec nepřekrývá.
Proč terminologie není formalita
Slovník umělé inteligence rozhoduje o tom, jestli se dá číst zadání, smlouva nebo technická dokumentace bez neustálého dohledávání. Rozdíl mezi anotací dat a augmentací dat mění rozpočet projektu, protože první je ruční práce lidí a druhá je automatizovaná transformace existujících dat. Rozdíl mezi anonymizací a pseudonymizací mění právní posouzení podle pravidel na ochranu osobních údajů, protože jen skutečná anonymizace zbavuje data režimu osobních údajů.
Přesná terminologie navíc chrání před planými sliby. Dodavatel, který nabízí „inteligentní systém“ bez upřesnění, jestli jde o klasifikaci, generování nebo doporučování, mluví o třech technicky i cenově velmi odlišných věcech. Kdo umí pojmy rozlišit, umí se ptát na to podstatné.
Pojmy z provozu, ne jen z laboratoře
Část slovníku v téhle hře nepochází z výzkumu, ale z běžného provozu systému, který už jednou skončí na produkci. Propustnost popisuje, kolik požadavků systém zvládne zpracovat za jednotku času, a rozhoduje o tom, jestli nasazení vydrží skutečnou zátěž. Zpětné vrácení, tedy návrat k předchozí stabilní verzi po zjištění problému, je pojem z provozu softwaru obecně, ale u modelů má zvláštní váhu: špatná nová verze modelu se neprojeví jako pád aplikace, ale jako tiše horší odpovědi, které si nikdo hned nevšimne.
Souborová metoda, tedy kombinace predikcí více modelů pro stabilnější výsledek, patří do stejné kategorie praktických rozhodnutí. Zní jako detail architektury, ale ve skutečnosti odpovídá na otázku, kolik je firma ochotná zaplatit za o něco spolehlivější odpověď. Kauzalita naproti tomu patří mezi pojmy, které se nejčastěji pletou s korelací: vztah, kdy jedna proměnná druhou skutečně způsobuje, je mnohem vzácnější a hůř prokazatelný než pouhá souvislost, kterou model v datech najde snadno.
Jak si pojmy skutečně zapamatovat
Opakované hledání dvojice pojmu a definice funguje lépe než čtení seznamu, protože nutí mozek pokaždé znovu vybavit si celý význam, ne jen rozpoznat povědomé slovo mezi možnostmi. Chyba v pexesu navíc není ztráta, ale informace: karta „Anotace dat“ vedle karty s nesprávnou definicí ukáže přesně to, s čím se pojem plete, a příště se najde snáz. Tři úrovně obtížnosti proto nejsou jen o počtu karet na ploše, ale o tom, kolik podobně znějících pojmů musí hráč najednou udržet v hlavě a rozlišit.