Koncept loop engineering nahrazuje tradiční manuální práci s modely opakováním cílených smyček, v nichž model sám plánuje, provádí a vyhodnocuje výsledky experimentů. Podle článku na Marktechpost spočívá rozdíl mezi jednorázovým promptem a smyčkou v tom, že smyčka má definovaný cíl a kroky opakuje, dokud nedosáhne měřitelného zlepšení.
První praktickou ukázku tohoto přístupu představil 7. března 2026 Andrej Karpathy, když zveřejnil open-source repozitář autoresearch pod licencí MIT. Projekt obsahuje tři hlavní soubory a zhruba 630 řádků kódu a během několika dní získal na GitHubu téměř 90 000 hvězdiček. Agent ve smyčce může upravovat pouze soubor train.py, který obsahuje model, optimalizátory (Muon a AdamW) a tréninkovou smyčku, zatímco soubory pro evaluaci zůstávají beze změny. Uživatel zadává instrukce v souboru program.md, přičemž každá iterace zahrnuje čtení kódu, návrh úpravy, pětiminutový trénink a rozhodnutí, zda změnu zachovat či vrátit.
Úspěšnost se měří pomocí metriky val_bpb (validation bits per byte), kde nižší hodnota znamená lepší výsledek. S tímto nastavením smyčka zvládne přibližně 12 experimentů za hodinu, což umožňuje provést během jedné noci až 100 běhů. Karpathy autoresearch testoval na již optimalizovaném kódu pro trénink GPT-2 a během dvou dnů provedl zhruba 700 experimentů, z nichž 20 přineslo skutečná zlepšení. Celkově se tak doba tréninku zkrátila o 11 % · z 2,02 na 1,80 hodiny. Jedním z odhalených problémů byla chybějící skalární násobitel v implementaci QK-Norm, která rozptylovala pozornost mezi jednotlivé hlavy.
Další důkaz přinesl generální ředitel Shopify Tobi Lütke, který autoresearch použil na interním modelu a po 37 experimentech hlásil 19% zlepšení výkonnosti. Tyto výsledky ukazují, že lidský limit · únavu po přibližně dvanácti experimentech · lze překonat automatizovanou smyčkou, která neustále iteruje bez ztráty soustředění.
Rozšířením konceptu vznikl projekt Bilevel Autoresearch, který přidává vnější smyčku monitorující tu vnitřní. Vnější smyčka analyzuje kód a sledování vnitřní smyčky, identifikuje místa, kde hledání stagnuje, a dynamicky vkládá nové mechanismy v Pythonu, které následně spouští. Výsledkem na benchmarku předtrénování GPT-2 bylo pětinásobné zlepšení metriky val_bpb (z −0,009 na −0,045) při zachování stejného jazykového modelu, což dokazuje, že přínos pochází z architektury smyček, nikoli z výkonnějšího modelu.
Co to znamená: Autonomní smyčky umožňují firmám provádět kontinuální optimalizaci modelů a hyperparametrů bez neustálého lidského zásahu. Tím snižují náklady na výzkum, zkracují dobu vývoje a zvyšují spolehlivost výsledků. Z pohledu auditu a implementace umělé inteligence představují novou úroveň kontroly, kde je nutné ověřovat nejen výstupy modelu, ale také integritu a bezpečnost automaticky generovaného kódu. Firmy by proto měly zahrnout revizi a monitorování těchto smyček do svých bezpečnostních a regulačních procesů, aby zajistily, že automatické úpravy neohrozí integritu dat ani soulad s interními standardy.
Zdroje: