V kostce:

  • Matt Hartman: organizace musí každého AI agenta zacházet jako privilegovanou identitu
  • Rob Joyce: firmy budou red-teamed, ať už za to zaplatí, nebo ne
  • Armadin vygenerovalo 17 milionů útočných akcí a našlo 38 validních cest

AI agenti se stávají novou útočnou plochou pro kybernetické útoky, jak ukázaly nedávné incidenty i rozsáhlý kontrolovaný test společnosti Armadin. Bývalý dočasný šéf kybernetické bezpečnosti americké agentury CISA Matt Hartman upozornil, že agenční AI a strojové identity přinášejí obrovské riziko, protože agenti získávají přístup k citlivým systémům a datům. Organizace podle něj musí každého agenta zacházet jako privilegovanou identitu a posílit ochranu proti personalizovanému phishingu a automatizované rekognoskaci.

Hartman vysvětlil, že jakmile se AI posune od generování obsahu k provádění akcí, je nevyhnutelné, že agenti obdrží přístup k citlivým systémům a datům. Oblast, kde organizace dnes bojují, spočívá v nutnosti zacházet s každým agentem jako s privilegovanou identitou. Kromě vnitřních rizik čelí podniky i hrozbám zvenčí. Podle Hartmana AI povolené útoky na identity a sociální inženýrství se zrychlují minutou. Sledují vysoce personalizovaný phishing, kvalitní zosobnění a automatizovanou rekognoskaci, což dělá tradiční indikátory důvěry nedůvěryhodnými.

Pro obranu to znamená podle Hartmana pokračující zaměření na silnou identitu, odolnou autentizaci proti phishingu, behaviorální signály a principy zero trust. Přidal, že zde není nic hluboce nového, ale jde o zcela novou útočnou plochu. Na straně útočníků agenti neberou volno a zůstanou jednostranně zaměřeni na splnění úkolu, ať už jde o hledání zranitelností a řetězů exploitů, mapování sítí nebo identifikaci citlivých souborů. To činí tyto téměř autonomní útočné boty ideálním nástrojem pro finančně motivované zločince i státem podporované operativce.

Tato situace přináší i případ užití pro obranu: agenční red teaming. Bývalý šéf kybernetické jednotky NSA Rob Joyce na konferenci RSAC prohlásil, že pokud organizace nepoužijí AI agenty k útoku na vlastní systémy, udělají to útočníci. “Budete red-teamed, ať už za to zaplatíte, nebo ne,” řekl Joyce. Jediný rozdíl je v tom, kdo dostane výsledky. Hartman potvrdil, že roste trh s kontinuálním, AI nativním automatizovaným red teamingem a penetračními testy, které podle něj každá organizace brzy potřebuje.

Hartman po téměř dvaceti letech ve federální vládě u CISA v říjnu odešel do Merlin Group, kde jako šéf strategie pomáhá určovat investice do raných až rastoucích kybernetických firem a pracuje s nimi na navigaci vládním, kritickým infrastrukturním a jiným vysoce regulovaným trhům. Cílem je integrovat a škálovat “perspektivní technologie” do kritických prostředí. Většina z nich nyní používá AI agenty k boji proti AI agentům. Organizace jsou zahlceny zranitelnostmi a противníci dokážou AI využít k nalezení a zneužití chyb za vteřiny, kde to dříve trvalo dny. Agenční red teaming je kategorie produktů, kterou každá organizace, včetně federálních agentur, absolutně potřebuje v blízké budoucnosti jen aby udržela krok.

Společnost Armadin, kterou založil bývalý CEO Mandiantu Kevin Mandia, spustila v březnu s 190 miliony dolarů v seed a Series A financování. Firma buduje a trénuje autonomní roje útočníků · tisíce AI agentů běžících 24/7 v infrastruktuře organizací za účelem simulace reálných útočníků. Před konferencí Black Hat provedla Armadin podle vlastních slov největší kontrolovaný živý kybernetický útok s AI na record. Systém vygeneroval 17 milionů útočných akcí a objevil 38 validních útočných cest u globální instituce.

Co to znamená: Firmy musí AI agenty evidovat a spravovat jako privilegované identity, nasadit odolnou autentizaci a behaviorální monitorování a zahájit kontinuální automatizovaný red teaming, jinak riziko zneužití agentů útočníky rychle naroste.

Zdroje: