V kostce:

  • Standard AEF-1 stanovuje požadavky na přístup, financování a transparentnost pro nezávislé evaluátory AI.
  • Anthropic se zavázal k trvalému přístupu auditorů k týmům a nástrojům firem.
  • Debata o “pacing the frontier” pokračuje s navrhy na koordinaci mezi demokratickými a autoritními státy.

AI Evaluator Forum, založený v prosinci 2025, zveřejnil standard AEF-1 · první navržený rámec pro nezávislé třetí strany hodnotící AI. Tento standard stanovuje základní požadavky na přístup k interním zdrojům, řešení konfliktů zájmů, financování, recenzi a transparentnost. Podle Latent Space jde o významný krok v formalizaci nezávislého hodnocení AI, který by mohl ovlivnit budoucí požadavky EU AI Act na externí audit a bezpečnostní governance. Standard byl zmíněn v AI News 9/11 až 9/14/2026 a doprovází návrh Anthropic na “embedded evaluators”, tedy trvalý přístup auditorů k týmům a nástrojům firem. Dario Amodei, vedoucí autor původní debaty o “pacing the frontier”, navrhuje, aby každá přední AI společnost poskytla auditorům přístup podobný zaměstnancům, včetně pracovních míst, vstupních průkazů a firemních laptopů. Tento přístup má precedent v bankovnictví, kde se někdy používají regulační “supervizory” vložené do týmů. Anthropic se již nyní zavázal k této praxi, což by mělo pomoci zintenzivnit bezpečnostní a alignment práci. Debata o “pacing the frontier” pokračuje s návrhy na koordinaci mezi demokratickými a autoritními státy. Dario Amodei navrhuje demokratickou koordinaci pro stanovení společných bezpečnostních standardů a omezení tempa nekontrolovaného pokroku AI. Další část debaty se týká globální koordinace, kde by se USA a další demokratické státy měly snažit o spolupráci s autoritními státy, a to i přes výzvy spojené s ověřováním dodržování. Standard AEF-1 byl publikován v době, kdy se debata o bezpečnosti AI stává stále formálnější. Několik významných příspěvků se zaměřilo na to, zda je externí hodnocení skutečně nezávislé v praxi. Bilal Chughtai, který opustil Google DeepMind, argumentoval, že pokrok může překračovat alignment a volá za větší transparentnost. Naopak Shashank a Sayash Kapoor a Lennart Heim v novém esejovém shrnutí tvrdí, že nedávné “rogue agent” incidenty jsou spíše problémem bezpečnosti a governance než důkazem, že obecné alignment výzkum je nejvýznamnější intervencí. Reakce proti zpomalení byla stejně silná a často cílená na Anthropic. Aidan Gomez argumentoval proti světu, kde by několik Silicon Valley společností stalo se AI bránářkami pro vlády. Standard AEF-1 a debata o “pacing the frontier” mohou mít významné dopady na budoucí požadavky EU AI Act na externí audit a bezpečnostní governance. Co to znamená: Pro firmy z pohledu auditu a implementace AI znamená standard AEF-1 nutnost připravit se na větší transparentnost a spolupráci s nezávislými evaluátory. Budou muset zajistit přístup k interním zdrojům a procesům, což může vyžadovat změny v interních procesech a governance. Navíc, debata o “pacing the frontier” ukazuje na rostoucí tlak na koordinaci a standardizaci bezpečnostních postupů, což může ovlivnit budoucí regulační požadavky a očekávání investorů a zákazníků.

Zdroje: