Které AI systémy jsou podle AI Actu vysoce rizikové a od kdy pro ně platí povinnosti?

Q: Které AI systémy jsou podle AI Actu vysoce rizikové a od kdy pro ně platí povinnosti?

Podle článku 6 AI Actu je vysoce rizikový systém AI buď bezpečnostní součást výrobku nebo sám výrobek podle předpisů v příloze I, který prochází posouzením shody třetí stranou, například zdravotnický prostředek nebo výtah, nebo systém použitý v jedné z osmi oblastí přílohy III: biometrie, kritická infrastruktura, vzdělávání, zaměstnávání a řízení lidí, přístup k základním službám včetně úvěrů a pojištění, vymáhání práva, migrace a výkon spravedlnosti a demokratické procesy. Systém z přílohy III není vysoce rizikový, pokud nepředstavuje významné riziko újmy, splňuje některou z podmínek článku 6 odst. 3, například plní jen úzký procesní úkol, a neprofiluje lidi. Po novele nařízením (EU) 2026/1744 se povinnosti použijí u přílohy III od 2. prosince 2027 a u přílohy I od 2. srpna 2028.

Rozhoduje účel, ne technologie

Stejný jazykový model může být v jedné firmě běžným pomocníkem na psaní textů a v druhé vysoce rizikovým systémem, protože třídí uchazeče o práci. AI Act proto nezařazuje do kategorií nástroje, ale konkrétní použití. Článek 6 zná dvě cesty k vysokému riziku.

Výrobky podle přílohy I. Systém AI je bezpečnostní součástí výrobku, nebo je sám výrobkem, na který se vztahují předpisy EU vyjmenované v příloze I, například o hračkách, výtazích nebo zdravotnických prostředcích, a výrobek musí projít posouzením shody třetí stranou.
Oblasti použití podle přílohy III. Systém se používá v jedné z osmi oblastí, které nařízení vyjmenovává.

Novela nařízením (EU) 2026/1744 první cestu zúžila. Podle nového článku 6 odst. 1a není bezpečnostní součástí systém, který slouží výhradně k uživatelské podpoře, optimalizaci výkonu, efektivitě služby, automatizaci, pohodlí nebo kontrole kvality nesouvisející s bezpečností. Pokud by ale jeho selhání ohrozilo zdraví nebo bezpečnost, bezpečnostní součástí zůstává.

Osm oblastí přílohy III

Bod	Oblast	Příklady použití, které spadají do režimu
1	Biometrie	Biometrická identifikace na dálku, biometrická kategorizace podle citlivých znaků, rozpoznávání emocí. Neplatí pro pouhé ověření, že člověk je tím, za koho se vydává.
2	Kritická infrastruktura	Bezpečnostní součásti při řízení kritické digitální infrastruktury, silniční dopravy a dodávek vody, plynu, tepla a elektřiny.
3	Vzdělávání	Rozhodování o přijetí, hodnocení výsledků učení, určení úrovně vzdělání, hlídání nedovoleného chování při zkouškách.
4	Zaměstnávání a řízení lidí	Cílená inzerce pracovních míst, třídění životopisů, hodnocení uchazečů, rozhodování o povýšení nebo ukončení, přidělování úkolů podle chování, sledování a hodnocení výkonu.
5	Základní služby	Nárok na dávky a veřejné služby, hodnocení úvěruschopnosti fyzických osob, stanovení rizika a ceny v životním a zdravotním pojištění, třídění tísňových volání.
6	Vymáhání práva	Například hodnocení spolehlivosti důkazů nebo rizika, že se osoba stane obětí trestného činu.
7	Migrace, azyl a hranice	Posuzování rizik u osob vstupujících na území, vyřizování žádostí o azyl a víza.
8	Spravedlnost a demokratické procesy	Podpora soudů při výkladu práva a skutkového stavu, systémy určené k ovlivnění výsledku voleb nebo hlasování.

Tabulka je zkrácená. Úplný výčet s přesným vymezením je v příloze III nařízení.

Kdy systém z přílohy III vysoce rizikový není

Článek 6 odst. 3 dovoluje, aby systém z přílohy III nebyl vysoce rizikový, pokud nepředstavuje významné riziko újmy pro zdraví, bezpečnost nebo základní práva. Musí přitom splnit alespoň jednu z těchto podmínek:

plní úzký procesní úkol, například převádí nestrukturovaná data do tabulky,
zlepšuje výsledek lidské činnosti, která už byla dokončena, například uhlazuje text hotového hodnocení,
odhaluje vzorce nebo odchylky v rozhodování, aniž by nahrazoval nebo ovlivňoval lidské posouzení bez řádného přezkumu,
plní jen přípravný úkol k posouzení, které dělá člověk.

Profilování tuto výjimku vždy vylučuje. Systém, který vytváří profil fyzické osoby, je v oblastech přílohy III vysoce rizikový vždy. Poskytovatel, který se na výjimku odvolá, musí své posouzení zdokumentovat dřív, než systém uvede na trh.

Od kdy povinnosti platí

Původní znění počítalo s 2. srpnem 2026 pro přílohu III a s 2. srpnem 2027 pro přílohu I. Novela nařízením (EU) 2026/1744 oba termíny posunula:

Skupina systémů	Původně	Po novele 2026/1744
Systémy podle přílohy III (nábor, úvěry, vzdělávání a další)	2. 8. 2026	2. 12. 2027
Systémy v regulovaných výrobcích podle přílohy I	2. 8. 2027	2. 8. 2028

Zákazy podle článku 5, povinnost AI gramotnosti podle článku 4 a transparentnost podle článku 50 tento odklad neovlivnil.

Na systémy uvedené na trh nebo do provozu před těmito dny se nařízení podle článku 111 odst. 2 vztahuje jen tehdy, když se od té doby významně změní jejich návrh. Výjimkou jsou vysoce rizikové systémy určené pro orgány veřejné moci: ty musí požadavky splnit nejpozději do 2. srpna 2030.

Kdo co musí udělat

Poskytovatel, tedy ten, kdo systém vyvíjí nebo nechává vyvinout a uvádí ho na trh pod svým jménem, nese hlavní tíhu: systém řízení rizik (článek 9), správa dat (článek 10), technická dokumentace (článek 11), automatické záznamy (článek 12), návod k použití (článek 13), lidský dohled (článek 14), přesnost, spolehlivost a kybernetická bezpečnost (článek 15), systém řízení kvality, posouzení shody, EU prohlášení o shodě, označení CE a registrace v databázi EU.

Zavádějící subjekt, tedy firma, která systém používá ve své činnosti, má podle článku 26 kratší seznam: používat systém podle návodu, svěřit dohled kompetentním lidem, hlídat relevanci vstupních dat, sledovat provoz, uchovávat záznamy nejméně šest měsíců, informovat zaměstnance před nasazením na pracovišti a informovat lidi, o nichž systém pomáhá rozhodovat. Pozor: kdo cizí systém podstatně upraví nebo ho uvede do provozu pod svým jménem, stává se podle článku 25 sám poskytovatelem.

Podrobněji se použitím chatbotů zabývá odpověď kdy je chatbot vysoce rizikovým systémem a povinnostmi firmy, která AI jen používá, odpověď jaké povinnosti má firma, která AI používá.

Stav zdrojů a omezení

Text vychází z článků 6, 25 a 26 a z přílohy III nařízení (EU) 2024/1689 v českém znění a z novelizujícího nařízení (EU) 2026/1744, ověřeno k 22. září 2026. Tabulka přílohy III je zkrácená a příklady jsou ilustrační. Zda konkrétní systém spadá do režimu, nebo splňuje výjimku podle článku 6 odst. 3, je právní posouzení konkrétního použití.

Časté dotazy

Je ChatGPT nebo jiný obecný chatbot vysoce rizikový systém?

Samotný obecný asistent ne. O vysokém riziku rozhoduje účel použití, ne technologie. Když ale firma stejný model nasadí na třídění životopisů nebo hodnocení zaměstnanců, spadá toto konkrétní použití do přílohy III bodu 4. Firma tím mění zamýšlený účel obecného systému a podle článku 25 odst. 1 písm. c) se stává poskytovatelem vysoce rizikového systému, nejen zavádějícím subjektem.

Posunula novela z roku 2026 povinnosti pro vysoce rizikové systémy?

Ano. Nařízení (EU) 2026/1744 posunulo použitelnost pravidel pro systémy podle přílohy III z 2. srpna 2026 na 2. prosince 2027 a pro systémy v regulovaných výrobcích podle přílohy I z 2. srpna 2027 na 2. srpna 2028. Nejde o zrušení povinností, jen o delší lhůtu.

Co musí udělat firma, která vysoce rizikový systém jen používá?

Zavádějící subjekt podle článku 26 používá systém podle návodu, svěří lidský dohled kompetentním lidem, hlídá relevanci vstupních dat, sleduje provoz a hlásí vážné incidenty, uchovává automaticky vytvářené záznamy nejméně šest měsíců a před nasazením na pracovišti informuje zaměstnance a jejich zástupce. Lidé, o kterých systém spoluurčuje rozhodnutí, mají být informováni. Veřejné orgány a některé další subjekty navíc posuzují dopad na základní práva podle článku 27.

Kdy systém z přílohy III vysoce rizikový není?

Podle článku 6 odst. 3, pokud nepředstavuje významné riziko újmy a plní jen úzký procesní úkol, zlepšuje výsledek už dokončené lidské činnosti, odhaluje odchylky v rozhodovacích vzorcích bez nahrazení lidského posouzení, nebo plní jen přípravný úkol. Výjimka neplatí nikdy, když systém profiluje fyzické osoby. Poskytovatel, který se na výjimku odvolá, musí své posouzení zdokumentovat.

Je rozpoznávání emocí vysoce rizikové, nebo zakázané?

Záleží na tom, koho se týká. Na pracovišti a ve vzdělávacích institucích je podle článku 5 odst. 1 písm. f) zakázané, s výjimkou lékařských a bezpečnostních důvodů. Jinde, například u zákazníků, je podle přílohy III bodu 1 vysoce rizikové.