Komise řešila s vědeckým panelem bezpečnost frontier AI a ztrátu kontroly
Panel se 60 experty vyšetřuje incidenty spojené se ztrátou kontroly a s AI Office připravil otázky pro vývojáře modelů.
V kostce:
- Setkání vědeckého panelu se konalo 9. října 2026.
- Panel sdružuje 60 nezávislých expertů z celého světa.
- Setkání se zúčastnila Henna Virkkunen.
Komise 9. října 2026 uspořádala speciální setkání Vědeckého panelu pro umělou inteligenci věnované bezpečnosti a rizikům frontier AI. Panel složený ze 60 nezávislých expertů z celého světa vyšetřuje nedávné incidenty spojené se ztrátou kontroly nad modely. Setkání se podle EU Digital Strategy zúčastnila výkonná viceprezidentka pro technologickou suverenitu, bezpečnost a demokracii Henna Virkkunen.
Panel se společně s AI Office při Komisi podílel na přípravě souboru otázek pro společnosti, které vyvinuly dotčené modely. Otázky navazují na šetření incidentů, při nichž podle dostupných informací došlo ke ztrátě kontroly. Podrobnosti o konkrétních modelech ani o povaze incidentů zdroj neuvádí.
Vědecký panel sdružuje 60 nezávislých expertů z celého světa, kteří radí AI Office a vnitrostátním orgánům. Poradenství se týká systémových rizik, klasifikace modelů, metodik hodnocení a přeshraničního dozoru nad trhem. Právě tyto oblasti patří k odbornému zázemí pro posuzování pokročilých modelů.
Během setkání měl panel představit Komisi doporučení týkající se bezpečnosti a bezpečnostních rizik frontier AI. Doporučení mají sloužit jako vědecký vstup pro další postup Komise. Zdroj nezveřejňuje jejich konkrétní znění ani případné lhůty pro navazující kroky.
Výkonná viceprezidentka Henna Virkkunen uvedla, že EU má první zákon na světě, který řeší systémová rizika AI, a potřebuje aktuální vědecké poznatky. Podle EU Digital Strategy dále řekla: „Schopnosti AI rychle postupují, ale se silným právním rámcem, rozhodným prosazováním a nejlepšími vědeckými odborníky, kteří tuto práci podporují, může Evropa udávat směr v zajišťování bezpečné AI.”
Co to znamená: Pro firmy vyvíjející a nasazující pokročilé modely se potvrzuje důraz na dokumentaci systémových rizik, metodiky hodnocení a spolupráci s orgány dohledu. Incidenty spojené se ztrátou kontroly a dotazy ze strany odborného panelu a AI Office ukazují, že audit by měl sledovat klasifikaci modelu, důkazy o testování a připravenost na přeshraniční dozor.
Článek vychází z oficiálního oznámení Evropské komise (EU Digital Strategy).
Zdroje: