Kdy je náš chatbot vysoce rizikovým systémem podle AI Actu?
Obsah · 9 kapitol
STRUČNÁ ODPOVĚĎ
Chatbot se podle AI Actu posuzuje podle účelu, ne podle technologie. Chatbot pro zákaznickou podporu, dotazy k objednávkám nebo informace o službách vysoce rizikový není, ale od 2. srpna 2026 musí podle článku 50 odst. 1 dát lidem najevo, že komunikují s AI, pokud to není zřejmé. Vysoce rizikovým se stává, když se používá v oblasti přílohy III, například k třídění nebo hodnocení uchazečů o práci, k rozhodování o přijetí ke studiu nebo k posuzování nároku na veřejné dávky. Výjimka podle článku 6 odst. 3 platí, když chatbot nepředstavuje významné riziko újmy, splňuje některou z jejích podmínek, například plní jen úzký procesní úkol, a neprofiluje lidi. Povinnosti pro vysoce rizikové systémy se po novele (EU) 2026/1744 použijí od 2. prosince 2027.
Každý chatbot: povinnost transparentnosti
Od 2. srpna 2026 platí článek 50 odst. 1. Systém určený k přímé interakci s lidmi musí být navržený tak, aby lidé věděli, že komunikují s AI, pokud to není zřejmé přiměřeně informovanému, pozornému a obezřetnému člověku. Informace musí zaznít jasně a rozlišitelně nejpozději při první interakci. Tuhle povinnost má poskytovatel. Firma, která si chatbota sestaví a provozuje pod svým jménem, je v postavení poskytovatele. Týká se to každého chatbota, bez ohledu na riziko.
Kdy se chatbot stává vysoce rizikovým
AI Act nezařazuje do kategorií technologii, ale účel použití. Chatbot je vysoce rizikový, když se používá v některé z oblastí přílohy III. U chatbotů jsou nejčastější tyto:
| Oblast přílohy III | Chatbot je vysoce rizikový, když | Chatbot vysoce rizikový není, když |
|---|---|---|
| Bod 4: zaměstnávání a řízení lidí | třídí nebo hodnotí uchazeče, vede hodnotící pohovor, rozhoduje o přidělení úkolů podle chování nebo hodnotí výkon zaměstnanců | domlouvá termíny pohovorů, odpovídá na dotazy k pozici nebo k benefitům |
| Bod 3: vzdělávání | rozhoduje o přijetí ke studiu, hodnotí výsledky učení nebo určuje úroveň vzdělání | vysvětluje studijní látku nebo odpovídá na organizační dotazy |
| Bod 5: základní služby | hodnotí nárok na veřejné dávky, úvěruschopnost člověka nebo riziko a cenu v životním či zdravotním pojištění | radí, jaký formulář vyplnit, nebo odpovídá na obecné dotazy |
| Bod 1: biometrie | rozpoznává emoce z hlasu zákazníka nebo kategorizuje lidi z biometrických údajů podle citlivých nebo chráněných znaků | pracuje jen s textem |
Pozor na hranici se zákazy: chatbot nebo hlasový systém, který vyhodnocuje emoce zaměstnanců nebo studentů z hlasu či obličeje, je podle článku 5 odst. 1 písm. f) zakázaný, ne jen vysoce rizikový.
Výjimka podle článku 6 odst. 3
Systém z přílohy III není vysoce rizikový, pokud nepředstavuje významné riziko újmy a splňuje alespoň jednu z těchto podmínek:
- plní úzký procesní úkol,
- zlepšuje výsledek lidské činnosti, která už byla dokončena,
- odhaluje vzorce nebo odchylky v rozhodování a nemá nahradit ani ovlivnit předchozí lidské posouzení bez řádného přezkumu,
- plní přípravný úkol k posouzení, které dělá člověk.
Pokud systém profiluje fyzické osoby, výjimka neplatí nikdy. Příklad: chatbot, který jen navrhne text odmítacího dopisu podle rozhodnutí, které už náborář udělal, výjimku zpravidla splní, protože zlepšuje výsledek dokončené lidské činnosti. Chatbot, který z odpovědí uchazeče sestaví skóre, ji nesplní, protože profiluje. Poskytovatel, který se na výjimku odvolá, musí své posouzení zdokumentovat dřív, než systém uvede na trh nebo do provozu.
Postup ve čtyřech krocích
- Popsat konkrétní použití. Ne „náš chatbot“, ale například „chatbot, který předběžně třídí přihlášky na pozici skladníka“.
- Porovnat s přílohou III bod po bodu. Spadá použití do některé oblasti?
- Ověřit výjimku podle článku 6 odst. 3. Splňuje alespoň jednu podmínku, neprofiluje lidi a nepředstavuje významné riziko? Důvody zapsat.
- Zapsat výsledek do soupisu systémů AI i s odůvodněním, i když vyjde, že systém vysoce rizikový není.
Co znamená, když chatbot vysoce rizikový je
Povinnosti se po novele nařízením (EU) 2026/1744 použijí od 2. prosince 2027. Poskytovatel pak musí splnit požadavky článků 9 až 15, tedy řízení rizik, správu dat, technickou dokumentaci, záznamy, transparentnost vůči zavádějícím subjektům, lidský dohled, přesnost, spolehlivost a kybernetickou bezpečnost, dále provést posouzení shody, vydat EU prohlášení o shodě a systém zaregistrovat v databázi EU. Firma, která chatbota jen používá, plní povinnosti zavádějícího subjektu podle článku 26, popsané v odpovědi jaké povinnosti má firma, která AI používá.
Podrobněji o označování obsahu a chatbotů píše odpověď co ukládá článek 50, o všech oblastech přílohy III odpověď které AI systémy jsou vysoce rizikové.
Stav zdrojů a omezení
Text vychází z článků 5, 6, 43 a 50 a z přílohy III nařízení (EU) 2024/1689 v konsolidovaném znění po novele nařízením (EU) 2026/1744, ověřeno k 22. září 2026. Tato verze nahrazuje text z 6. září 2026, který chybně popisoval podmínky výjimky podle článku 6 odst. 3 a sazbu pokuty. Zda konkrétní chatbot spadá do přílohy III, je posouzení konkrétního použití.
Časté dotazy
Je chatbot pro odpovědi na dotazy zákazníků e-shopu vysoce rizikový?
Ne. Informace o produktech, doručení nebo reklamacích nespadají do žádné oblasti přílohy III. Od 2. srpna 2026 ale musí být zákazníkům jasné, že komunikují s AI, a to nejpozději při první interakci, pokud to není zřejmé z okolností.
Můžeme HR chatbota nasadit jako pomocníka a vyhnout se režimu vysokého rizika?
Jen pokud chatbot opravdu plní úzký pomocný úkol, například domlouvá termíny pohovorů nebo odpovídá uchazečům na dotazy k pozici, a nijak je nehodnotí, neřadí ani nevylučuje. Jakmile se jeho výstup promítne do hodnocení uchazeče nebo z odpovědí vytváří profil, jde o vysoce rizikové použití podle přílohy III bodu 4. Profilování výjimku podle článku 6 odst. 3 vylučuje vždy.
Platí AI Act i pro chatboty, které používáme jen interně?
Ano. Nařízení se vztahuje i na uvedení systému do provozu pro vlastní potřebu, nejen na prodej. Interní chatbot pro zaměstnance tedy podléhá stejným pravidlům podle toho, k čemu slouží. Pokud rozhoduje o zaměstnancích, například o přidělování úkolů podle jejich chování nebo o hodnocení výkonu, spadá do přílohy III bodu 4.
Potřebuje vysoce rizikový chatbot posouzení shody u oznámeného subjektu?
U většiny oblastí přílohy III ne. Podle článku 43 provádí poskytovatel posouzení shody interní kontrolou podle přílohy VI u bodů 2 až 8. Oznámený subjekt se zapojuje u biometrických systémů podle bodu 1, pokud poskytovatel nepoužil harmonizované normy nebo společné specifikace v plném rozsahu.
Jaká pokuta hrozí za špatnou klasifikaci chatbota?
Nesplnění povinností pro vysoce rizikové systémy nebo povinnosti transparentnosti podle článku 50 spadá do článku 99 odst. 4 s horní hranicí 15 milionů eur nebo 3 % celosvětového ročního obratu. Sazba 35 milionů eur nebo 7 % platí jen pro zakázané praktiky podle článku 5, například kdyby chatbot vyhodnocoval emoce zaměstnanců z hlasu.
ZDROJE A OVĚŘENÍ
- Nařízení (EU) 2024/1689, článek 50 Povinnosti v oblasti transparentnosti
- Nařízení (EU) 2024/1689, článek 6 Pravidla pro klasifikaci vysoce rizikových systémů AI
- Nařízení (EU) 2024/1689, příloha III
- Nařízení (EU) 2024/1689, článek 43 Posuzování shody
- Nařízení (EU) 2026/1744, kterým se mění nařízení (EU) 2024/1689