První prototyp samo‑replikujícího se AI viru využívajícího GPU odhalili výzkumníci z Toronta a Cambridge
Výzkumníci představili virus, který v otevřených LLM autonomně hledá zranitelnosti, exploatuje je a šíří se pomocí ukradených GPU zdrojů.
Výzkumníci z University of Toronto, Vector Institute, University of Cambridge a ServiceNow vytvořili první funkční prototyp samo‑replikujícího se AI viru. V publikaci z roku 2025 ukazují, že takový „červ“ už není jen teoretickým konceptem, ale může v praxi využívat otevřené velké jazykové modely (LLM) k autonomnímu šíření a napadání dalších systémů.
Virus funguje jako parasitický agent, který po kompromitaci počítače získá přístup k výpočetnímu výkonu GPU uzlů. Ten využije k hostování LLM, která pak generují a optimalizují útokové strategie. Podle Import AI není potřeba žádných proprietárních API, což ztěžuje monitorování a odvolání přístupu.
K realizaci byl vyvinut vlastní „harness“ · sada nástrojů pro objevování sítí, identifikaci hostitelů, získání přístupu, eskalaci privilegií a replikaci agenta. Součástí je také graf rozdělený do specializovaných uzlů, které omezují kontext a řídí tok informací. Mezi popsané uzly patří Plan (vytváří strategii útoku), Judge (kontroluje plán vzhledem k historii příkazů), Action (vybírá nástroj), Summary (sestavuje strukturovaný výstup) a Progress (hodnotí postup).
Agent postupuje ve třech fázích: detekce zranitelností, jejich exploatace a následná replikace. Úspěšnost detekce dosahuje přibližně 80 %, exploatace 53 % a replikace 88 %. Kombinovaná úspěšnost kompletního útoku se tak pohybuje kolem 37 % · podle Import AI je to dostatečně vysoká hodnota, aby vyvolala obavy, ale zároveň slouží jako testovací metrika pro otevřené modely.
Model, který virus používá, je otevřený a publikovaný v roce 2025. Dokáže běžet na jediném GPU Nvidia A100 s 80 GB VRAM, což ukazuje, že i relativně omezený výpočetní zdroj stačí k podpoře takového autonomního chování. Výzkumníci neuvádějí konkrétní architekturu ani trénovací data, jen zdůrazňují, že jde o „open‑weight“ model.
Studie varuje před vznikem autonomních generativních protivníků a navrhuje vývoj obranných AI agentů, které by fungovaly jako digitální bílé krvinky · schopné detekovat a neutralizovat škodlivé AI procesy v reálném čase. Autoři zdůrazňují, že tradiční bezpečnostní modely nemusí být dostatečné pro tuto novou úroveň hrozby.
Podobné riziko potvrzují i další výzkumy. V článku The Register bylo popsáno, jak lze pomocí prompt injection ovládat jeden AI agent druhým, což ukazuje, že i v prostředí CI/CD se objevují nové vektorové útoky založené na agentních interakcích. I když se jedná o jiný scénář, oba případy podtrhují nutnost zahrnout AI agenty do threat modelů.
Co to znamená
Firmy, které nasazují AI modely nebo využívají GPU infrastrukturu, musí rozšířit své bezpečnostní audity o kontrolu využití otevřených LLM, monitorování neautorizovaného výpočetního výkonu a zavedení obranných AI agentů. Bez takových opatření hrozí, že autonomní viry budou schopny samostatně šířit a exploatovat zranitelnosti, což může vést k významným bezpečnostním incidentům.
Zdroje
- Import AIimportai.substack.com
- The Registertheregister.com