BottleCap AI uvolnila open‑source model ThinkingCap‑Qwen3.8‑27B se sníženou spotřebou tokenů
Česká společnost BottleCap AI vydala druhý model řady ThinkingCap, který spotřebuje o 37 % méně tokenů na přemýšlení, aniž by snížil přesnost.
V kostce
- BottleCap AI vydala model ThinkingCap-Qwen3.8-27B s 27 miliardami parametrů
- Model spotřebuje o 37 % méně přemýšlejících tokenů při přesnosti 0,86 pp
- K dispozici zdarma na Hugging Face pod licencí Apache 2.0
Česká firma BottleCap AI zveřejnila druhý model své řady ThinkingCap. Model nazvaný ThinkingCap‑Qwen3.8‑27B vychází z volně dostupného modelu Qwen 3.8‑27B od čínské společnosti Alibaba a podle interních měření spotřebuje o 37 % méně přemýšlejících tokenů při zachování přesnosti 0,86 procentního bodu.
Za startupem stojí známí čeští odborníci Tomáš Mikolov, Jaroslav Beck a Stanislav Fořt. První model řady ThinkingCap vyšel v létě loňského roku a vylepšoval verzi Qwen 3.6‑27B. Aktuální verze má 27 miliard parametrů a je k dispozici zdarma na platformě Hugging Face pod licencí Apache 2.0, která umožňuje i komerční využití.
BottleCap AI se dlouhodobě zaměřuje na snížení výpočetních nároků velkých jazykových modelů při zachování kvality odpovědí. Podle interních benchmarků nový model spotřebuje v závislosti na konkrétním testu od 11 do 66 % méně tokenů pro proces „přemýšlení“ ve srovnání se standardním Qwenem. Model také lépe udržuje kontext delších rozhovorů. Distribuován je ve třech formátech: GGUF, FP8 a NVFP4.
Kromě otevřených modelů startup nabízí i komerční služby a podporu pro nasazení. Nižší hardwarové nároky by podle zástupců firmy měly usnadnit zavedení velkých jazykových modelů do českých podniků i výzkumných institucí, které nedisponují rozsáhlou GPU infrastrukturou.
Co to znamená
Snižování spotřeby tokenů přímo zmenšuje náklady na inference a hardwarové požadavky, čímž se zvyšuje dostupnost pokročilých AI schopností pro menší české organizace bez vlastních výpočetních clusterů.
Zdroje
- Lupa.czlupa.cz