V kostce:

  • BottleCap AI vydala model ThinkingCap-Qwen3.8-27B s 27 miliardami parametrů
  • Model spotřebuje o 37 % méně přemýšlejících tokenů při přesnosti 0,86 pp
  • K dispozici zdarma na Hugging Face pod licencí Apache 2.0

Česká firma BottleCap AI zveřejnila druhý model své řady ThinkingCap. Model nazvaný ThinkingCap‑Qwen3.8‑27B vychází z volně dostupného modelu Qwen 3.8‑27B od čínské společnosti Alibaba a podle interních měření spotřebuje o 37 % méně přemýšlejících tokenů při zachování přesnosti 0,86 procentního bodu.

Za startupem stojí známí čeští odborníci Tomáš Mikolov, Jaroslav Beck a Stanislav Fořt. První model řady ThinkingCap vyšel v létě loňského roku a vylepšoval verzi Qwen 3.6‑27B. Aktuální verze má 27 miliard parametrů a je k dispozici zdarma na platformě Hugging Face pod licencí Apache 2.0, která umožňuje i komerční využití.

BottleCap AI se dlouhodobě zaměřuje na snížení výpočetních nároků velkých jazykových modelů při zachování kvality odpovědí. Podle interních benchmarků nový model spotřebuje v závislosti na konkrétním testu od 11 do 66 % méně tokenů pro proces „přemýšlení“ ve srovnání se standardním Qwenem. Model také lépe udržuje kontext delších rozhovorů. Distribuován je ve třech formátech: GGUF, FP8 a NVFP4.

Kromě otevřených modelů startup nabízí i komerční služby a podporu pro nasazení. Nižší hardwarové nároky by podle zástupců firmy měly usnadnit zavedení velkých jazykových modelů do českých podniků i výzkumných institucí, které nedisponují rozsáhlou GPU infrastrukturou.

Co to znamená: Snižování spotřeby tokenů přímo zmenšuje náklady na inference a hardwarové požadavky, čímž se zvyšuje dostupnost pokročilých AI schopností pro menší české organizace bez vlastních výpočetních clusterů.

Zdroje: