AI nejspíš už zrychluje vývoj AI, odhaduje METR

Otázka, zda umělá inteligence začne zrychlovat vývoj sama sebe, patří k nejdůležitějším v debatě o bezpečnosti AI. Pokud by se to stalo, nové schopnosti by mohly přicházet rychleji, než na ně stihnou reagovat firmy, úřady i samotní vývojáři. Nezisková organizace METR, která hodnotí nejpokročilejší AI systémy, teď zveřejnila hodnocení, pro které od Anthropicu podle vlastních slov dostala bezprecedentní přístup k interním datům. METR, 5. listopadu 2026

Co METR zjistila

Tým METR od 12. srpna do 29. října 2026, tedy jedenáct týdnů, hodnotil firmu Anthropic s mimořádně širokým přístupem k jejím interním datům. K samotným systémům firmy přímý přístup neměl, dostával vybrané datové sady a dokumenty. Jeho hlavní závěr: Anthropic nyní pravděpodobně zlepšuje schopnosti svých modelů v přesně zadaných úlohách zhruba dvakrát rychleji než mezi březnem 2024 a říjnem 2025. Nejistota je velká. METR by podle vlastních slov nepřekvapilo, kdyby skutečné zrychlení bylo spíš 1,3násobné, nebo naopak trojnásobné.

Nejpřesněji vyčíslený údaj se týká interního indexu schopností, který Anthropic vede podle vzoru indexu organizace Epoch AI. Výsledky modelů v něm od října 2025 rostou 1,9krát rychleji než předtím, s 95% intervalem spolehlivosti 1,5 až 2,8. Podle METR to znamená, že Anthropic za poslední rok udělal v testech schopností zhruba takový pokrok jako dříve za dva roky.

METR také odhaduje, čím je zrychlení způsobené. Je si jistá, že nejde o rychlejší navyšování výpočetního výkonu pro trénování. Většinu dnešního zrychlení, podle jejího odhadu snad kolem 80 %, připisuje tomu, že Anthropic používá AI ve vlastním výzkumu a vývoji. Sama ale upozorňuje, že ani zaměstnanci Anthropicu se na tom neshodnou a rozhodující důkaz nenašla.

Třetí zjištění se týká rizika. METR neviděla důkaz o výrazných omezeních, která by v příštích dvanácti měsících zbrzdila další pokrok, ať jde o algoritmy, výpočetní výkon, nebo data. Svou analýzu několika konkrétních omezení ale zveřejnit nemohla, Anthropic ji vyškrtl. Proto podle ní existuje „významné riziko“, že další pokrok povede k ještě rychlejšímu zrychlování. I tady přiznává nízkou jistotu: její pohled na jednotlivá omezení se během hodnocení několikrát změnil.

Jak měření probíhalo

Na hodnocení pracovali v průměru zhruba dva a půl člověka na plný úvazek. Anthropic jim zpřístupnil interní výsledky testů, historii efektivity algoritmů, údaje o výpočetním výkonu, průzkumy mezi zaměstnanci i metriky práce s kódem. METR vedla zhruba patnáct rozhovorů s výzkumníky. K neveřejným modelům přímý přístup neměla a nežádala ho. Anthropic poskytl METR bezplatné využití svých modelů a pracovní notebooky, jinak si strany žádné peníze nevyplatily. METR ale uvádí, že s Anthropicem má i další hodnoticí dohody a že práce s neveřejnými modely a bezplatné tokeny vedou hodnotitele k zájmu udržovat s firmami dobré vztahy. Anthropic navíc v polovině projektu zrušil část zakázky, která měla ověřit, jak firma dělí výpočetní výkon mezi rozvoj schopností a bezpečnost. Anthropic to zdůvodnil tím, že chce hodnocení zatím soustředit na rizika, a k ověření se podle svých slov vrátí později.

Podle výzkumníků Anthropicu dnes AI zrychluje práci hlavně jako pomocník, ne jako samostatný výzkumník. Plně samostatné příspěvky AI k nejdůležitějším částem trénování zatím podle METR nejsou příliš významné, výzkumníci ale vidí první náznaky, že se to může brzy změnit. Rozhovory podle METR vyzněly mírně ve prospěch alespoň dvojnásobného zrychlení: z jedenácti hodnocených výpovědí dvě ho podporovaly, tři se k tomu klonily, čtyři byly nejasné a dvě ho nepodporovaly. Výpovědi roztřídil model Claude.

Co veřejnost neuvidí

Anthropic měl právo z textu odstranit neveřejné informace a využil ho. Podle METR firma vyškrtla „většinu důkazů“, které hodnotitelé považovali za nejvíce vypovídající. Anthropic škrty zdůvodnil tím, že měly odstranit důvěrné informace, které by mohly urychlit jiné vývojáře AI. METR souhlasí, že se škrty týkaly takových informací, podle ní ale většina vyškrtnutých informací byla velmi obecná. Zda byly škrty celkově oprávněné, METR nehodnotí. Otevřeně ale píše, že veřejnost se proto musí na její úsudek spoléhat „mnohem víc, než by bylo ideální“.

Za Anthropic se podle agentury AP vyjádřil spoluzakladatel Sam McCandlish. Na síti X napsal, že AI výzkum firmy zrychluje, ale je těžké říct, jak moc. Podrobnosti o tom, co zrychlení pohání, podle něj firma nezveřejnila, protože jsou obchodně citlivé a mohly by ostatním posloužit jako návod, jak zrychlit. AP přes Click2Houston

Proč na tom záleží

METR v úvodu zprávy vysvětluje, proč zrychlení sleduje: pokud by AI systémy začaly výrazně urychlovat další vývoj AI, mohlo by to vést k náhlému nástupu extrémních a rizikových schopností. Odkazuje přitom na odborný text (preprint na arXiv) o automatizaci výzkumu AI a možné „explozi inteligence“, mezi jejímiž autory jsou Yoshua Bengio a Geoffrey Hinton. Preprint na arXiv

Anthropic má pro tento scénář vlastní pravidlo. Jeho zásady odpovědného škálování považují za kritický práh mimo jiné „dramatické zrychlení“, tedy dvojnásobné tempo pokroku, které lze přičíst automatizaci výzkumu. Responsible Scaling Policy 3.4 Definice se ale od měření METR liší a METR výslovně uvádí, že prahům z těchto zásad nevěnovala zvláštní pozornost a snažila se o celkový obraz zrychlení. Ze zprávy proto nelze vyvodit, zda Anthropic svůj práh překročil.

Kde se odhad může mýlit

METR sama vyjmenovává důvody, proč může zrychlení přeceňovat. Část pokroku mohou vysvětlit faktory, které s AI nesouvisejí. Zlepšení se může soustředit na přesně zadané a strojově hodnotitelné úlohy, na které se index zaměřuje. A výchozí tempo Anthropicu v letech 2023 až 2025 mohlo být neobvykle nízké, takže dnešní zrychlení vypadá větší. Robustnostní analýzy METR dávají zrychlení od 1,1 do 2,9násobku a při zahrnutí modelů jiných firem podle ní vychází spíš 1,4násobek.

Stejně tak může zrychlení podceňovat. Nejnovější zrychlení se projeví až s dalšími modely, automatizace výzkumu může přijít dřív, než METR odhaduje, a index nemusí zachytit, jak se pokrok projeví v reálném světě. METR navíc upozorňuje, že se na sběru a analýze dat do velké míry podílel Claude, model hodnocené firmy, což mohlo teoreticky ovlivnit její pohled na data. Systematické zkreslení ale METR nezjistila ani při porovnání s rozhovory a považuje to za malé riziko.

Co na to evropská pravidla

Evropský akt o umělé inteligenci ukládá poskytovatelům nejvýkonnějších obecných modelů se systémovým rizikem, aby své modely hodnotili včetně protivnického testování, posuzovali a zmírňovali systémová rizika a hlásili vážné incidenty Úřadu pro AI. Článek 55 aktu o AI Úřad pro AI může modely hodnotit i sám a k hodnocení může Komise jmenovat nezávislé odborníky. Článek 92 Nezávislé měření toho, jak AI zrychluje vlastní vývoj, ale akt výslovně nevyžaduje. Hodnocení METR vzniklo dobrovolně, na základě dohody mezi METR a Anthropicem.

Pokud se odhad METR potvrdí, budou se schopnosti modelů, které používají i české firmy a úřady, měnit rychleji, než ukazovaly dosavadní trendy. Rychleji pak zastarávají i interní pravidla pro používání AI, hodnocení rizik a smlouvy s dodavateli. Zpráva zároveň ukazuje limit dobrovolné kontroly: hodnotitelé mohli zveřejnit své závěry, ale ne většinu důkazů, o které je opírají.

Související: Kdo zaplatí elektřinu pro AI? Spor o datová centra sílí.

Text vychází ze zdrojů dostupných k 9. listopadu 2026. Při jeho přípravě pomáhal AI asistent Claude od společnosti Anthropic, o jejímž hodnocení článek pojednává; všechna tvrzení vycházejí z citovaných zdrojů.