V kostce:

  • Jev je první model typu System One, který místo textu vrací desetinná čísla pro klasifikační úkoly.
  • Cena vstupu je 0,042 USD za milion tokenů, což je levnější než GPT-5 Nano od OpenAI.
  • Model je určen pro klasifikační úlohy jako spam detection nebo reranking vyhledávání.

TypeSafe AI minulý týden představila Jev, první model z nové kategorie „System One“ (někdy označované jako „decision models“). Model přijímá textový vstup, ale místo textu vrací desetinná čísla, která odpovídají pravděpodobnostem pro ano/ne otázky, výběr z možností a skóre s důvěryhodností. Cena vstupu je 0,042 USD za milion tokenů · levnější než OpenAI GPT‑5 Nano (0,05 USD) · a výstup je zcela zdarma.

Jev je určen pro klasifikační úlohy, jako je detekce spamu nebo reranking vyhledávání. Autor však varuje před skrytým biasem a nedostatkem vysvětlení rozhodnutí. Díky nízkým nákladům lze provádět stovky až tisíce experimentů za pár centů.

Podle TypeSafe AI je Jev „frontier‑intelligence function call“: přijímá nestrukturovaný vstup a vrací typizované pravděpodobnostní rozhodnutí. Model je rychlý a levný. Standardní LLM rozlišují náklady na vstupní a výstupní tokeny, přičemž výstup bývá dražší. Jev účtuje pouze za vstup, a to 0,042 USD za milion tokenů, což je levnější než GPT‑5 Nano od OpenAI (0,05 USD). Výstup je zdarma.

Jev umožňuje klást otázky o textu nebo semistrukturovaných datech. Uživatel sestaví objekt „state“, který může obsahovat řetězec, pole řetězců nebo sadu párů jméno‑hodnota. Tento objekt může popisovat článek, zákazníka nebo jakýkoli jiný záznam. Objekt se odešle do API spolu s jednou nebo více otázkami a model vrátí odpověď na každou z nich. Existují tři typy otázek: ano/ne (Noul), výběr z možností a skóre. API může přijmout jeden dokument a libovolný počet otázek, které jsou vyhodnocovány paralelně.

Podle autora je rámec rozhodovacího modelu užitečný pro pochopení, kde Jev nasadit. Je vhodný pro jakoukoli úlohu, kterou lze vyjádřit jako klasifikační úkol · detekci spamu, navrhování štítků, priorizaci a řazení. Autor také experimentoval s jeho použitím pro reranking vyhledávání: nejprve se získá sto pravděpodobných shod pomocí levného algoritmu (např. BM25) a poté Jev skóruje tyto kandidáty podle relevance k původnímu dotazu.

Jev představuje další krok směrem k černým boxům v machine learningu. Standardní LLM jsou již černé boxy, ale Jev neposkytuje ani vysvětlení. Vstupní text může být libovolný, ale výstupem je pouze desetinné číslo. Pokud Jev označí něco jako spam, není jasné, které signály ho k tomu vedly. To také znamená, že obavy o bias by měly být na prvním místě. Autor varuje před použitím Jevu pro hodnocení uchazečů o práci, protože desetinné číslo může skrývat různé formy bias v modelech. Experimentální analýza tohoto biasu bude složitý proces.

V praxi znamená nedostatek vysvětlení, že hodnocení a strukturované experimenty jsou ještě důležitější než u běžných LLM projektů. Naštěstí je Jev tak levný, že spuštění stovek nebo tisíců experimentálních promptů stojí jen pár centů.

Co to znamená: Pro firmy z pohledu auditu a implementace AI znamená Jev novou možnost pro klasifikační úlohy s nízkými náklady. Díky levnému vstupu a zdarma výstupu je vhodný pro experimentování a optimalizaci procesů. Firmy by však měly být opatrné s interpretací výsledků a sledovat potenciální bias v modelech. Jev může být užitečný pro automatizaci rozhodnutí, ale vyžaduje pečlivé testování a validaci před nasazením do produkčního prostředí.

Zdroje: