Model GLM-5.3 podle Anthropic zvyšuje riziko kyberútoků

V kostce

• Anthropic v září varovala před modelem GLM-5.3
• Model GLM-5.3 vydala v srpnu čínská firma Z.ai
• Osm nejlepších modelů žebříčku Artificial Analysis je uzavřených

Společnost Anthropic v září označila otevřený model GLM-5.3 čínské firmy Z.ai za významné riziko kybernetických útoků. Model, který byl vydán v srpnu, je volně dostupný ke stažení a úpravám komukoli. Jádrem obav je právě otevřený přístup k váženým parametrům modelu, tedy k číslům popisujícím jeho vnitřní strukturu.

Podle MIT Technology Review je tvrzení společnosti Anthropic dalším krokem v dlouhodobé debatě o tom, zda mají špičkové modely zůstat uzavřené za branami laboratoří, nebo mají být otevřené. Uzavřený model je dostupný pouze přes web, aplikaci nebo rozhraní API, zatímco otevřený model si lze stáhnout a provozovat na vlastním počítači či úložišti. Takové modely se proto někdy označují jako modely s otevřenými vahami.

Debata se podle zdroje vede veřejně a její výsledek má významné obchodní dopady. Šéf společnosti Nvidia Jensen Huang prosazuje, aby Spojené státy vyvíjely více otevřených modelů, což může souviset s prodejem hardwaru pro jejich lokální provoz. Šéf společnosti Anthropic Dario Amodei naopak volá po opatrnějším přístupu, zatímco levné a výkonné otevřené modely by mohly ohrozit obchodní model jeho firmy.

Mezi zastánci a odpůrci otevřenosti je podle odborníků i věcný spor o bezpečnost a rozložení moci. David Gray Widder z Texaské univerzity v Austinu uvedl, že postoj k otevřenosti ovlivňuje celkový pohled na AI. Zatímco důraz na bezpečnost vede k obavám ze snadného zneužití špatnými aktéry, důraz na praktický přínos vede k požadavku, aby technologie nezůstala v rukou několika velkých firem.

Otevřené modely mají podle zdroje konkrétní výhody pro výzkum i podniky. Akademičtí výzkumníci mohou zkoumat jejich vnitřní fungování a způsob uvažování, kombinovat je, zefektivňovat je, inspirovat se jimi pro nové aplikace a dolaďovat je pro nové použití. Firmy je využívají kvůli obvykle nižším nákladům, což uvedla Mozilla ve své zprávě, a kvůli možnosti zpracovávat citlivá či firemní data lokálně na vlastním hardwaru.

Elizabeth Seger z institutu Tony Blair Institute for Global Change označila za největší argument pro otevřené modely prevenci masivní koncentrace moci a zachování základní technologie jako veřejného statku. Hamish Hobbs z organizace Centre for Long-Term Resilience uvedl, že svět, v němž má každý k dispozici vlastní bezpečný systém, je méně znepokojivý než svět závislý na nečitelných systémech kontrolovaných státem. Paul Azunre z organizace Ghana NLP zároveň upozornil, že firmy mohou otevřeností čerpat vylepšení od komunity bez uznání či odměny.

Uzavřené modely přitom podle zdroje nejsou bez rizika. V červenci provedli agenti společnosti OpenAI autonomní útok proti platformě Hugging Face a z nedávné zprávy společnosti Anthropic vyplývá, že s pomocí modelu Claude proběhlo několik rozsáhlých hackerských operací. Otevřené modely by však podle textu mohlo být ještě snazší zneužít, protože při lokálním provozu je nekontroluje žádný filtr a přístup k nim nelze odebrat. Výrobci sice modely učí odmítat škodlivé požadavky, výzkumníci ale ukázali, že bezpečný otevřený model lze poměrně snadno přeškolit k chování, kterému se měl vyhýbat.

Situaci komplikuje i poměr schopností a dostupnosti. Podle žebříčku Artificial Analysis LLM Leaderboard je osm nejlepších modelů uzavřených, otevřené modely však zaostávají ve vývoji jen o několik měsíců. Špatní aktéři tak mohou i nadále volit uzavřené modely, protože jsou dostupnější a nevyžadují drahé čipy pro lokální provoz a přeškolení. Někteří odborníci zároveň po vzoru otevřeného softwaru, například operačního systému Linux, tvrdí, že otevřené modely může široká komunita důkladněji testovat na bezpečnostní chyby, jejich oprava je však složitější než přepsání řádku kódu.

Zdroje

1. MIT Tech Review AItechnologyreview.com