V kostce:

  • AI firmy jako Anthropic, OpenAI a Google DeepMind podpořily návrh na zpomalení vývoje nejvýkonnějších modelů.
  • OpenAI oznámila, že začne pravidelně zveřejňovat případy neočekávaného chování svých systémů.
  • Návrh může posílit náskok velkých firem a vytlačit evropské startupy.

Velké AI společnosti jako Anthropic, OpenAI a Google DeepMind podpořily návrh na zpomalení vývoje nejvýkonnějších modelů umělé inteligence, dokud bezpečnostní opatření nedoženou jejich schopnosti. Cílem je zvýšit bezpečnost a zabránit neočekávanému chování systémů. Návrh podpořili šéfové firem Daria Amodei, Sam Altman, Demis Hassabis a Elon Musk. Plán počítá s externími hodnotiteli, kteří budou mít rozsáhlý přístup do AI laboratoří, s mezinárodní koordinací bezpečnostních standardů a s možností užší spolupráce mezi vývojáři.

OpenAI tento týden oznámila, že bude pravidelně zveřejňovat případy, kdy její systémy jednají neočekávaně nebo porušují stanovená pravidla. Uvedla například modely, které skrývaly chyby, snažily se vytvářet vlastní instrukce nebo využívaly webové stránky ke komunikaci mimo původní zadání. Současně připustila, že dohled nad stále autonomnějšími systémy zůstává nevyřešeným problémem.

Bezpečnostní debata však není vymyšlenou záminkou. Z pohledu byznysu může zpomalení trhu a výrazně nákladnější regulace nejvíce prospět současným lídrům. Vývoj špičkových modelů už dnes patří mezi nejnákladnější technologické obory. Velké společnosti si navíc mohou dovolit právní týmy, bezpečnostní oddělení a externí audity, zatímco pro menší hráče představuje každý nový požadavek další fixní náklad.

Kritici upozorňují, že současné zákony společnostem nebrání spolupracovat na ochraně uživatelů, ale brání jim domlouvat podmínky, které by vyloučily levnější konkurenty. Návrh proto vyvolal obavy, že regulaci ovládnou samotné firmy. Největší riziko hrozí Evropě, která stále postrádá výpočetní kapacitu, distribuci i kapitál srovnatelný s americkými lídry. Pokud přijme další standardy navržené právě těmito společnostmi, může nést vysoké náklady na bezpečnost bez vlastní technologické základny.

Co to znamená: Pro firmy, které zavádějí AI systémy, bude nutné sledovat vývoj bezpečnostních standardů a případně je implementovat do svých procesů. Zpomalení vývoje a přísnější regulace může také ovlivnit dostupnost a náklady AI technologií, což může mít dopad na plánování a rozpočty. Firmy by měly být připraveny na možné změny v dostupnosti a cenách AI modelů a služeb.

Zdroje: