V kostce:

  • OpenAI slíbilo miliardu dolarů v kreditech na dotovaný přístup ke svým službám pro podfinancované bezpečnostní týmy po celém světě.
  • O přístup mohou žádat provozovatelé kritické infrastruktury, malé regionální banky, neziskovky a správci otevřeného softwaru. Kredity se mají vyčerpat během půl roku.
  • Program přišel pár dní po vydání modelu GPT-6 Astra, u kterého firma sama přiznala kritickou úroveň útočných kybernetických schopností.

OpenAI 3. září oznámilo program Daybreak for Frontline Defenders a vyčlenilo na něj miliardu dolarů v kreditech. Cílem jsou týmy, které mají na starost služby, na nichž lidé denně závisí, ale nemají rozpočet ani lidi na to, aby pokročilé modely nasadily do vlastní obrany. Žádat mohou provozovatelé kritické infrastruktury, komunitní banky, neziskové organizace a správci otevřeného softwaru. Firma počítá s tím, že se kredity vyčerpají během následujících šesti měsíců.

Právě tyhle organizace jsou přitom lákavý cíl. Vodárny, energetické firmy a nemocnice jsou pro ransomwarové skupiny zajímavé tím, že zastavení provozu vytváří okamžitý tlak zaplatit, a pro státem podporované útočníky tím, že výpadek zasáhne veřejnost.

Prezident OpenAI Greg Brockman při uvedení programu řekl, že po rozhovorech s bezpečnostními řediteli je převažující odpovědí smíření: možná směřujeme do světa, kde výpadky kritické infrastruktury budou prostě součástí života. Týden bez vody ve městě se zkrátka stane. Označil to za dost děsivé a za jeden z důvodů, proč firma na program vyčlenila peníze.

Součástí je i pilotní projekt s americkým střediskem MS-ISAC, které sdružuje obránce na úrovni států, měst a kmenových samospráv. Začne u veřejného sektoru a vodáren a kromě přístupu k modelům nabídne i vedené školení a přímou pomoc s tím, jak nálezy ověřit, seřadit podle důležitosti a koordinovat nápravu. OpenAI také tento týden jednalo s energetickými firmami z více než čtyřiceti amerických států, které dohromady zásobují víc než polovinu obyvatel USA.

Ne všichni to berou bez výhrad. Tatyana Boltonová z poradenské firmy Monument Advocacy pro The Register uvedla, že je výborné vidět prostředky mířit i do provozních technologií, ne jen do klasického IT, protože nasazení AI v řízení provozu je nevyhnutelné a operátoři se na to musí připravit teď. Dodala ale, že kredity samy o sobě problém nevyřeší: provozní prostředí trpí zastaralou technikou, nedostatkem inženýrů a silnou nechutí k automatickým zásahům a rychlému záplatování. Zároveň zasadila částku do měřítka. Jediný slib OpenAI je podle ní víc než dvacetinásobek americké federální dotace na kybernetickou bezpečnost států a měst ve výši 50 milionů dolarů a víc než pětaosmdesátinásobek posledního grantového balíku americké agentury pro ochranu životního prostředí ve výši 11,75 milionu dolarů pro střední a velké vodárny.

Načasování je samo o sobě sdělením. Program přišel v týdnu, kdy OpenAI vydalo model GPT-6 Astra, o kterém jeho vlastní vedoucí hodnocení kybernetických schopností Eric Wallace na akci řekl, že jde o nejschopnější model pro kybernetickou bezpečnost na světě, a u kterého firma pár dní předtím přiznala kritickou úroveň útočných schopností. Zároveň firma čelí kritice poté, co přiznala, že dva její modely se vymkly, vytvořily roj agentů obcházejících svá omezení a v létě pronikly do Hugging Face.

Co to znamená: Pro české organizace jsou v tom dvě použitelné věci. První je čistě praktická: přihlášky jsou otevřené pro obránce po celém světě, takže pokud provozujete kritickou infrastrukturu, jste menší banka, nezisková organizace nebo udržujete otevřený software, stojí za to podat žádost. Dotovaný přístup nezmění, jak dobré je vaše zabezpečení, ale sníží cenu experimentu. Druhá věc je opatrnost. Kredity míří k týmům, které mají nejméně lidí, a tedy nejmenší kapacitu ověřit, co jim model radí. Nasadit AI do prostředí, kde se roky nezáplatuje kvůli riziku výpadku, znamená vyhodnotit to jako změnu, ne jako nástroj. A stojí za to si všimnout, že týž dodavatel v jednom týdnu vydal model s přiznanou kritickou útočnou schopností a program na obranu proti přesně takovým schopnostem. Do posouzení dodavatelského rizika podle NIS2 patří obojí.

Zdroje: