Evropská komise od 1. srpna spouští plné pravomoci jednotky, jež dohlíží na dodržování pravidel AI Actu u předních vývojářů umělé inteligence. Sedmatřicetičlenný tým úředníků, sídlící v bruselské kanceláři, tak získává nástroje k prosazování evropských pravidel vůči firmám, jako jsou americké OpenAI a Anthropic nebo čínští konkurenti Moonshot a DeepSeek, uvedl server Politico Europe Tech.
Jednotka nazvaná A3 byla formálně zřízena před dvěma lety jako součást institucionální architektury AI Actu, nyní ale podle Politico Europe Tech přechází do plného provozu s reálnými vymáhacími pravomocemi. Server uvádí, že jde o první regulaci umělé inteligence svého druhu na světě, což staví bruselský tým do role precedentu pro další jurisdikce, které podobná pravidla teprve připravují.
Zjistí-li regulátoři, že společnost nedostatečně zmírňuje takzvaná systémová rizika svých modelů · například riziko zneužití ke kyberútokům nebo ztráty kontroly nad chováním systému · , mohou nařídit stažení modelu z evropského trhu. Kromě zákazu mohou uložit i finanční sankci až do výše 15 milionů eur nebo 3 procent celosvětového obratu dané společnosti, podle toho, která částka je vyšší.
Tým podle dostupných informací už vydal kodex chování, jímž by se měli velcí poskytovatelé AI modelů dobrovolně řídit ještě předtím, než dojde na formální vyšetřování. Meta jej ale odmítla podepsat, čímž se řadí mezi několik málo velkých firem, které se tomuto rámci vyhýbají, a vystavuje se tak vyššímu riziku, že se stane terčem prvních formálních šetření jednotky.
V čele jednotky stojí od ledna Matthieu Delescluse, bývalý úředník Evropské komise, který podle dostupných informací nemá specializaci na bezpečnost umělé inteligence. Jeho jmenování tak vyvolává otázky, nakolik bude tým schopen technicky posuzovat komplexní rizika spojená s nejvýkonnějšími modely, jimiž se má primárně zabývat. Komise zatím nezveřejnila jména konkrétních vyšetřovatelů, kteří budou jednotlivé případy posuzovat, potvrdila však, že do dohledových týmů průběžně nabírá další pracovníky, aby jednotka dokázala pokrýt rostoucí počet modelů na trhu.
Dohled se má týkat především takzvaných modelů s obecným účelem a systémovým rizikem · tedy nejvýkonnějších systémů, které kvůli vysoké výpočetní náročnosti nebo rozšíření mezi uživateli spadají do nejpřísnější kategorie AI Actu. Právě u nich zákon ukládá povinnost hodnotit a zmírňovat rizika ještě před uvedením na trh a dále je sledovat i po jeho nasazení, čímž dává jednotce A3 mandát zasahovat v celém životním cyklu modelu, nejen při jeho prvním uvedení.
Zahájení plného dohledu přichází v době, kdy se konkurence mezi předními laboratořemi zostřuje jak v oblasti výkonu modelů, tak jejich cen, a na trh vstupují noví hráči včetně čínských firem Moonshot a DeepSeek. Evropská jednotka tak bude muset posuzovat rizika u společností s velmi odlišnou mírou transparentnosti i ochoty spolupracovat s evropskými úřady, což může jednotné vymáhání pravidel napříč trhem komplikovat.
Co to znamená: Firmy nasazující modely od OpenAI, Anthropicu, DeepSeeku či dalších poskytovatelů by měly počítat s tím, že evropský regulátor bude mít od srpna reálné vymáhací pravomoci vůči dodavatelům jejich AI infrastruktury. Pro účely bezpečnostních auditů je klíčové sledovat, zda konkrétní dodavatel podepsal kodex chování a jak dokumentuje zmírňování systémových rizik, protože případné stažení modelu z trhu nebo sankce mohou přímo ohrozit kontinuitu provozu navazujících AI aplikací.
Zdroje: