Může umělá inteligence vytvořit počítačový virus?

Schopnost generovat škodlivý kód

Velké jazykové modely se učily na terabytech veřejného kódu, kde nechyběly ani ukázky malware a exploitů z otevřených repozitářů. Pokud uživatel obejde bezpečnostní filtry modelu pomocí takzvaného jailbreaku, může systém přimět k napsání skriptu šifrujícího data, kradoucího hesla nebo se šířícího sítí. Model sám o sobě postrádá úmysl škodit, pouze statisticky předpovídá další slova v kódu na základě svého tréninku. V praxi to znamená, že i člověk s minimálními programátorskými znalostmi získá funkční základ pro útok, který by dříve vyžadoval týdny studia architektury systémů.

Změna profilu útočníka a realita hrozeb

Hlavním dopadem nástupu AI není vznik zcela nových, dosud neznámých typů virů, ale masivní snížení bariéry vstupu do světa kyberkriminality. Dříve musel útočník ovládat programování ve specifických jazycích jako C++ nebo assembly a hluboce rozumět internals operačních systémů. Dnes stačí zadat příkaz v přirozeném jazyce. To vede k nárůstu počtu útoků od méně zkušených aktérů, často nazývaných „script kiddies“, kteří využívají AI k automatizaci rutin. Bezpečnostní analytici pozorují, že zatímco sofistikované skupiny používají AI k optimalizaci svých nástrojů, méně zdatní útočníci ji využívají k překonání vlastní neznalosti syntaxe a logiky kódu.

Ochrana modelů a firemní obrana

Vývojáři modelů implementují bezpečnostní mechanismy odmítající žádosti o tvorbu malware, ale tyto ochrany nejsou stoprocentní a lze je občas obejít. Pro firmy to znamená posun v strategii obrany: nemohou spoléhat na to, že útoky budou technicky primitivní jen proto, že přicházejí od amatérů. AI dokáže rychle obměňovat kód virů, čímž vzniká polymorfní malware, který obelže tradiční antivirové signatury. V auditech CIAD se ukazuje, že klíčová je nejen detekce známých hrozeb, ale především sledování chování systémů a omezování práv uživatelů. Firmy musí předpokládat, že útočník má k dispozici pokročilé nástroje pro generování variant útoků v reálném čase.

Co to znamená: Bezpečnostní strategie se musí přesunout od reliance na statické podpisy virů k behaviorální analýze a důslednému řízení přístupů. Protože AI umožňuje rychlejší tvorbu variací malware, obranné systémy musí reagovat na podezřelé chování procesů okamžitě, nikoliv až po identifikaci konkrétního vzorku. Lidský faktor a vzdělávání zaměstnanců zůstávají kritické, protože AI často slouží i k tvorbě přesvědčivých phishingových e-mailů, které jsou vstupní branou pro nasazení vygenerovaného viru.