Jak nastavit AI odpovědi podpory a eskalaci na člověka

Kde končí automatická odpověď a začíná člověk

Automatická odpověď je bezpečná tam, kde je otázka zdokumentovaná, odpověď se dlouhodobě nemění a chybná odpověď zákazníka nepoškodí ani finančně, ani právně. Stav zásilky, otevírací doba, návod na nastavení účtu nebo odkaz na existující dokumentaci patří do téhle skupiny. Automat tady odpovídá výhradně z pevně definovaného zdroje informací, o kterém předem víte, že je aktuální.

Na druhé straně stojí dotazy, které automat nesmí sám dokončit: cokoli, co mění výši platby, storno nebo náhradu škody, jakákoli úprava smlouvy nebo předplatného, stížnost či vyjádření nespokojenosti, jakýkoli dotaz na osobní údaje konkrétního zákazníka a cokoli s bezpečnostním nebo zdravotním dopadem. U téhle skupiny nejde jen o riziko nepřesné odpovědi. Jde o rozhodnutí s právním nebo finančním důsledkem, které vždy podepisuje pracovník podpory.

Spouštěče eskalace

Eskalace nemá čekat, až automat dojde na hranici svých znalostí. Má nastat u jasně definovaných spouštěčů, které tým zná předem:

• zákazník výslovně požádá o člověka, bez ohledu na to, jak jednoduchý se předchozí dotaz zdál;
• dotaz spadá do kategorie, kterou má automat zakázánu, i kdyby na první pohled vypadal jednoduše;
• automat si dvakrát po sobě nerozumí se zadáním zákazníka;
• zákazník v konverzaci vyjádří frustraci nebo hrozbu odchodu, i bez přímé žádosti o člověka;
• dotaz kombinuje dvě témata, z nichž jedno patří do bezpečné kategorie a druhé ne.

Poslední bod bývá v praxi nejčastěji přehlédnutý. Dotaz „kdy dorazí objednávka a chci vrátit peníze, protože zboží nepřišlo“ vypadá jako dotaz na stav zásilky, ale obsahuje žádost o vrácení peněz. Automat smí odpovědět na část o stavu zásilky, zbytek dotazu ale musí eskalovat; pokus vyřešit ho sám do jeho rozsahu nepatří, i kdyby na to model měl dostatek údajů.

Tabulka pravidel eskalace

Tahle tabulka je výchozí bod, který si tým upraví podle vlastních produktů a služeb. Sloupec Spouštěč má být formulovaný tak, aby ho poznal automat i pracovník podpory bez dalšího výkladu. NIST AI RMF člení řízení rizik AI do čtyř funkcí, řízení, mapování, měření a zvládání; sloupec Kdo odpovídá v podstatě určuje řízení pro každý typ dotazu předem, místo aby se o odpovědnosti rozhodovalo až v okamžiku, kdy dotaz přijde.

Typ dotazu	Kdo odpovídá	Spouštěč eskalace	Co se předává
Stav objednávky, návod, otevírací doba	Automat	Žádný, pokud zákazník nepožádá o člověka	Odkaz na zdroj informace
Žádost o vrácení peněz nebo storno	Vždy člověk	Zmínka platby, storna nebo náhrady v dotazu	Celá historie konverzace, číslo objednávky
Změna smlouvy nebo předplatného	Vždy člověk	Zmínka změny podmínek nebo ukončení	Historie konverzace, aktuální podmínky zákazníka
Stížnost nebo vyjádření nespokojenosti	Vždy člověk	Negativní tón, slovo stížnost nebo hrozba odchodu	Celá historie, případné předchozí stížnosti
Dotaz na osobní údaje zákazníka	Vždy člověk	Žádost o výpis, opravu nebo vymazání dat údajů	Historie konverzace, identifikace žadatele
Přímá žádost o člověka	Vždy člověk	Zákazník o to výslovně požádá	Celá dosavadní konverzace bez ohledu na téma

Co se předává s eskalací a jak to zákazník pozná

Pracovník podpory, kterému dotaz přistane, potřebuje víc než poslední větu zákazníka. Potřebuje celou dosavadní konverzaci, informaci o tom, které části odpověděl automat a které zůstaly nezodpovězené, a jasně označený spouštěč, proč k eskalaci došlo. Bez téhle informace pracovník začíná od nuly a zákazník musí popisovat problém znovu, což je jeden z nejrychlejších způsobů, jak zákazníka rozzlobit ještě víc.

Pravidla eskalace nejsou nastavená jednou natrvalo. Pokud tým zjistí, že automat opakovaně dostává dotazy z hraniční kategorie a odpovídá na ně, aniž by měl, je čas upravit spouštěč přímo v tabulce a nespoléhat na opravu jedné jednotlivé konverzace. Stejně tak se může ukázat, že určitý typ dotazu je ve skutečnosti bezpečný a člověk u něj jen zdržuje odpověď; tabulka se pak rozšíří o novou bezpečnou kategorii, ale teprve po ověření, že chyba u ní nemá finanční ani právní dopad.

Zákazník má navíc vědět, že dosavadní odpověď generoval automat, a to dřív, než se rozhodne, jestli chce pokračovat s ním nebo požádat o člověka. Tahle informace patří do úvodní zprávy nebo přímo do rozhraní konverzace. Drobný text v patičce stránky, který si zákazník musí sám dohledat, tenhle účel nesplní, protože ho většina lidí při čtení odpovědi vůbec nevidí. Přehled rolí a odpovědností při zavádění podobného systému shrnuje článek jak nasadit vlastní AI chatbot na web; technické zabezpečení celého nasazení pak jak zabezpečit AI ve firmě.

Osobní údaje a otázka transparentnosti pro právníka

Zprávy zákazníků v podpoře běžně obsahují osobní údaje, jméno, kontakt, číslo objednávky nebo popis konkrétní situace. Zpracování těchto zpráv AI nástrojem je otázka, kterou by měl znát a předem probrat pověřenec pro ochranu osobních údajů; řešení až po prvním incidentu přichází pozdě, protože nastavení retence, přístupů a případného ukládání do dalšího modelu se v tu chvíli mění mnohem hůř. Podrobnější rámec pro to, kdy AI vůbec smí s osobními údaji pracovat, popisuje článek mohu zpracovávat osobní údaje pomocí AI.

Povinnosti transparentnosti vůči zákazníkovi, tedy zda a jak musí systém označit, že komunikuje automat, se podle aktu o umělé inteligenci liší podle role firmy a kategorie rizika konkrétního systému. Evropská komise k aktu zveřejňuje harmonogram uplatňování jednotlivých povinností v čase. Tenhle článek neurčuje, která konkrétní povinnost se na váš systém vztahuje; posouzení role, kategorie rizika a z toho plynoucí povinnosti patří právníkovi, který zná konkrétní nasazení a dokáže je zařadit správně.

Stav zdrojů a omezení

GDPR se u zpráv zákazníků uplatní podle konkrétního zpracování, které tým s daty provádí, a citované články popisují obecné zásady zpracování; konkrétní povolení pro váš systém samy o sobě nedávají. Harmonogram Evropské komise k aktu o umělé inteligenci ukazuje, kdy jednotlivé povinnosti nastupují v čase. Která povinnost se týká právě vaší firmy, z harmonogramu samotného nevyplývá a vyžaduje samostatné právní posouzení. Tabulka pravidel eskalace je pracovní doporučení CIAD sestavené jako výchozí bod k úpravě podle konkrétního provozu podpory; nejde o ověřený standard, ani o právní posouzení. Žádné číslo v článku nepředstavuje míru automatizace, úspěšnosti řešení dotazů ani jiný provozní ukazatel, protože takovou hodnotu CIAD nemá k dispozici z ověřeného zdroje.