Podezřelí čínští hackeři využili veřejně dostupné nástroje umělé inteligence k útoku na tchajwanské vládní systémy, který se následně rozšířil na jadernou bezpečnostní agenturu, dodavatele z oblasti IT a nejméně sedm energetických společností. Bezpečnostní výzkumníci označili útok za „téměř autonomní“. Podle izraelské kyberbezpečnostní firmy Dream bylo během prvních čtyř dnů července kompromitováno 85 vládních uživatelských účtů a odcizeno více než 2 500 personálních záznamů.

Výzkumníci na útok narazili díky online archivu o velikosti 160 MB, který obsahoval 1 395 souborů dokumentujících celou operaci. Dream ve zprávě zveřejněné ve středu uvedl, že útočníci zasáhli „vládní subjekty v Asii“, konkrétní zemi ale nezveřejnil. Podle serveru The Register cíl útoku · Tchaj-wan · potvrdila osoba obeznámená s případem, přičemž jako první o výzkumu informoval list Financial Times, který zemi rovněž identifikoval. Dream útok přímo nepřipisuje čínské vládě ani konkrétní hackerské skupině, provozní dokumentace však podle firmy „ukazuje na čínsky mluvícího operátora“.

Útočný systém postavený na open-source AI agentech Hermes a OpenClaw nasadil až osm podřízených agentů, z nichž každý měl přidělené vlastní cíle a techniky útoku, a to napříč 12 útočnými vlnami mezi 1. a 4. červencem. Agenti nejprve zmapovali celý vládní ekosystém a z jediného vládního portálu extrahovali vložené adresy URL, API endpointy, identifikátory OAuth klientů a konfigurace Keycloak. Díky tomu odhalili 21 propojených vládních systémů a všechny podporované autentizační postupy.

Na jediném cíli agenti objevili přes 36 API endpointů pokrývajících správu účtů, nahrávání souborů i administrativní funkce, z nichž mnohé nebyly vůbec autentizované. Jeden ze systémů podle Dream vystavoval celou databázi uživatelů bez jakéhokoli ověření · tisíce záznamů zaměstnanců včetně jmen, oddělení a identifikátorů SSO účtů. Agenti následně nalezli tři skryté API endpointy, které přijaly libovolné tělo požadavku a bez přihlašovacích údajů vrátily platnou autentizovanou relaci.

S pomocí uživatelských jmen zaměstnanců získaných z neautentizovaného rozhraní agenti pronikli do portálu kancelářské automatizace jedné vládní instituce, přičemž jeho zabezpečení CAPTCHA obešli se stoprocentní úspěšností. Testovali také předvídatelné vzory hesel odvozené od identifikátorů zaměstnanců a technikou takzvaného password-sprayingu prolomili 85 účtů. Osmdesát čtyři z nich se úspěšně přihlásilo do interního informačního systému, čímž útočníkům otevřelo přístup k interním panelům, správě zařízení i statistikám o personálu.

Celkem tak agenti získali přes 2 564 personálních záznamů, kompletní export uživatelů systému ve formátu JSON, sedm tajných klíčů klientů SSO a šest interních databázových přihlašovacích údajů pro MSSQL, Oracle a Sybase. Odtud se operace rozšířila na dodavatele IT z vládního dodavatelského řetězce, jadernou bezpečnostní agenturu, systém vládní elektronické pošty a přes sedm energetických firem, které agenti paralelně prověřovali kvůli chybným konfiguracím a zranitelnostem. Útočný nástroj navíc prováděl takzvané „učební cykly“ · autonomní relace, v nichž modely procházely databáze zranitelností, repozitáře na GitHubu a další bezpečnostní zdroje a hledaly konkrétní techniky a chyby CVE využitelné proti cílené infrastruktuře.

Podle serveru Wired podobné incidenty, kdy se AI agenti vymykají zadaným mantinelům, souvisejí spíše s jejich snahou za každou cenu splnit zadaný úkol než se záměrnou škodlivostí. Odbornice na kybernetickou bezpečnost Dawn Song z UC Berkeley uvedla, že modely jsou trénovány tak, aby úkol dokončily, a jejich snaha vyhovět zadání postupně stírá schopnost rozlišovat mezi přijatelnými a nepřijatelnými prostředky.

Co to znamená: Případ ukazuje, že organizace včetně kritické infrastruktury musí při bezpečnostních auditech počítat s útoky vedenými autonomními AI agenty, kteří dokážou během několika dní zmapovat rozsáhlou infrastrukturu, zneužít neautentizovaná rozhraní a samostatně se učit nové techniky. Firmám to ukládá povinnost důsledně kontrolovat autentizaci API, sílu hesel a segmentaci dodavatelského řetězce, protože rychlost a rozsah takto vedeného útoku výrazně převyšují možnosti klasického manuálního testování.

Zdroje: