Rozpoznávání emocí na pracovišti: otázky před nákupem AI

Proč je odhad emocí citlivější než běžný záznam

Běžná kamera zaznamenává, co se stalo. Systém pro rozpoznávání emocí přidává výkladový krok: z tváře, hlasu nebo chování odvozuje vnitřní stav člověka, například stres, nespokojenost nebo nedostatek soustředění. Právě tento odhad je předmětem přednákupní opatrnosti, nikoli samotná přítomnost kamery v provozu.

Proto oddělujte tři situace: prostý záznam pro ochranu majetku, sledování únavy či pozornosti z důvodu bezpečnosti práce a odhad emocí pro hodnocení výkonu, nálady nebo vhodnosti člověka. První dvě oblasti řešte provozními a pracovněprávními pravidly, třetí oblast zastavte ve stop-listu a posuzujte samostatně.

Širší souvislosti monitoringu zaměstnanců podrobněji rozebírá přehled o sledování zaměstnanců pomocí AI, který pomůže zasadit nabídku dodavatele do běžných provozních procesů.

Co říká dostupný podklad a kde končí jeho rozsah

Evropská komise řadí rozpoznávání emocí na pracovišti mezi zakázané praktiky, přičemž zmiňuje úzce vymezené zdravotní či bezpečnostní výjimky, které je nutné samostatně odborně prověřit a nerozšiřovat na produktivitu ani nábor (regulační rámec pro AI).

Zejména nerozhodujte sami, zda se na vaši situaci vztahuje zdravotní nebo bezpečnostní výjimka, a nepřenášejte odpovědnost pouze na prohlášení dodavatele.

Zařazení tohoto tématu mezi rizikové oblasti odpovídá i přehledu o nejzávažnějších porušeních AI Act, kde si ověříte, proč má smysl řešit právě pracovištní odhad emocí před podpisem smlouvy.

Přednákupní stop-list pro rozlišení odhadu emocí

Následující kartu berte jako doporučenou praxi CIAD pro interní přednákupní kontrolu. Vyplňte ji na základě dokumentace dodavatele a předvedení produktu, nikoli pouze obchodní prezentace. Stačí jedna odpověď ANO ve sloupci „Vaše zjištění“ k zastavení nákupu do odborného prověření.

Stop-list zachycuje širší varovné nabídky; zejména odhad nálady pouze z textu není sám důkazem stejné právní kategorie. Pro odborné posouzení popište skutečné vstupy včetně případných biometrických údajů.

Kartu uložte k poptávce, uveďte datum, kdo ji vyplnil a z jakých podkladů vycházel. nepožadujte po zaměstnancích souhlas jako univerzální řešení a neopírejte nasazení o anonymizovaný režim, pokud jej dodavatel nedoloží technicky.

Příklad vyplnění stop-listu

Následující příklad je zcela ilustrativní a hypotetický, neslouží jako důkaz o reálném produktu ani jako živé testování.

Hypotetická firma poptává nástroj pro 45 operátorů zákaznické linky. Dodavatel nabízí modul, který z hlasu počítá stres a frustraci a vedoucímu zobrazuje denní přehled s doporučením, koho přeřadit na méně náročné hovory. Vstupem je hlas, výstupem je odhad emocí, účelem je řízení produktivity a rozdělení práce.

Vyplnění karty: otázka 1 = ano, otázka 2 = ano, otázka 4 = ano, otázka 6 = nejde o pouhý záznam ani o samostatně prověřené bezpečnostní sledování únavy. Přesný výsledek karty: 2× stop a 1× zvýšená opatrnost. Rozhodnutí jako doporučený pracovní postup zní nenakupovat a předat případ k samostatnému odbornému prověření, zda nejde o zakázanou praxi a zda případná výjimka vůbec přichází v úvahu.

Stejný dodavatel v příkladu nabízel i přepis hovorů bez emočního skóre. To je jiná funkce, kterou je vhodné posuzovat odděleně, nikoli jako automatické očištění celého balíčku.

Omezení stop-listu

Tento stop-list je pouze doporučený pracovní artefakt. Nezaručuje soulad, nenahrazuje právní posouzení a netvrdí, že upravená konfigurace nebo vypnutí jednoho dashboardu problém odstraní. Chybu v zařazení popisujte jako možnost, nikoli jako jistotu, a sporné případy nechte prověřit odborně.

Možné zkreslení odhadu podle věku, pohlaví, přízvuku nebo zdravotního stavu si projděte s pomocí textu o tom, co jsou předsudky a zkreslení v AI, ale nepoužívejte jej jako právní argument. Slouží pouze k lepší formulaci otázek pro dodavatele.

Další krok po vyplnění stop-listu

Pokud karta skončí bez stop odpovědi, popište přesný povolený účel do interní objednávky, zakážte rozšiřování na emoce dodatkem a určete vlastníka, který bude hlídat změny aktualizacemi produktu. Pokud karta skončí stop odpovědí, nákup pozastavte, uschovejte nabídku, demo zápis a vyplněnou kartu a vyžádejte samostatné odborné prověření.

Si stanovte jednoduché pravidlo: bez písemného popisu vstupů, výstupů, účelu a omezení od dodavatele se pilot nespouští. Dalším krokem po prověření je buď prokazatelné vyřazení emoční funkce z dodávky, nebo řízené ukončení poptávky s krátkým záznamem důvodu pro auditní stopu.