Aliance Five Eyes varuje před kybernetickými hrozbami spojenými s novými modely umělé inteligence

Zpravodajská aliance Five Eyes, která sdružuje Spojené státy, Velkou Británii, Kanadu, Austrálii a Nový Zéland, vydala naléhavé varování před kybernetickými riziky spojenými s novými modely umělé inteligence. Podle agentury Reuters představuje rychlý vývoj a nasazování těchto technologií významnou hrozbu pro národní bezpečnost i kritickou infrastrukturu. Odborníci varují, že útočníci mohou zneužít pokročilé schopnosti umělé inteligence k sofistikovanějším kybernetickým útokům.

V dokumentu, který připravili představitelé zpravodajských služeb, se uvádí, že tempo vývoje tzv. „frontier“ modelů umělé inteligence zkracuje dobu, během níž se mění předpoklady o kybernetickém riziku – změny mohou nastat během několika měsíců, nikoli let. Server The Register uvádí, že tato dynamika vyžaduje okamžitou reakci organizací, aby jejich obrana zůstala účinná. Současně však autor zdůrazňuje, že umělá inteligence může v dlouhodobém horizontu zlepšit kybernetickou obranu, zároveň ale urychluje rychlost, rozsah a sofistikovanost hrozeb.

Aliance také představila čtyři konkrétní doporučení. Prvním je pochopit a vyhodnotit rizika, připravenost a odpovědnost; druhým je upřednostnit základní bezpečnostní praktiky a kontroly; třetím posílit postavení kybernetických lídrů s dostatečnými pravomocemi a zdroji; čtvrtým pak zůstat aktivně zapojený, protože hrozby i směrnice se neustále vyvíjejí. The Register doplňuje, že kybernetické riziko již není čistě technickým problémem, ale klíčovým obchodním rizikem, za které nesou odpovědnost i vrcholoví manažeři. Vzhledem k nevyhnutelnosti narušení je důležité, aby organizace testovaly funkčnost svých kontrol v reálných podmínkách a přehodnotily dlouhodobé kompromisy.

Mezi praktickými kroky, které The Register doporučuje, patří omezení útočného povrchu – snížit zbytečný přístup a externí propojení, urychlit procesy záplatování, protože umělá inteligence zkracuje interval mezi objevením zranitelnosti a jejím zneužitím, a řešit problémy se zastaralými systémy, které jsou často nepodporované a snadno napadnutelné. Jako příklad rizika autor zmiňuje model Mythos od společnosti Anthropic, který byl skrytý za regulačním firemním zámkem, aby se zabránilo jeho zneužití při rychlém vyhledávání chyb v kritickém softwaru.

Co to znamená: Firmy musí přehodnotit své bezpečnostní standardy, zavést pravidelné testování kontrol a využívat umělou inteligenci jako nástroj pro posílení obrany, nikoli jen pro zvýšení efektivity, aby byly připraveny na rychle se měnící hrozby a splnily požadavky auditů zaměřených na odolnost vůči útokům poháněným umělou inteligencí.

Zdroje:

• Reuters tech AI
• The Register