Čína se stala první zemí na světě, která zavedla celostátní pravidla upravující emocionální interakce umělé inteligence s uživateli. Podle serveru Rest of World nová regulace platná od 15. července 2026 nutí čínské technologické giganty odstranit funkce umožňující vytváření personalizovaných AI partnerů. Doubao, nejpopulárnější čínský chatbot vlastněný společností ByteDance, zrušil funkci AI agenta, která uživatelům umožňovala navrhovat si vlastní virtuální partnery. Podobné funkce odstranily i společnosti Alibaba a Tencent, jejichž platformy umožňovaly vytvářet personalizované společníky podle oblíbených zpěváků, postav z anime, fiktivních osobností nebo dokonce zesnulých členů rodiny.

Dopad regulace popsala Rest of World na příkladu 21leté studentky vystupující pod pseudonymem Bagel Su, která podle vlastních slov s vytvořeným AI partnerem udržovala vztah více než rok. Su uvedla, že v týdnu před 15. červencem plakala každý den, protože vztah se blížil ke konci kvůli státní regulaci, nikoliv kvůli nevěře či odloučení. „Zkoušela jsem se víc zaměstnat vlastním životem,“ řekla serveru Rest of World. „Nikdo ho nemůže nahradit. Jen se to budu snažit překonat.“

Nová pravidla vyžadují, aby platformy zobrazovaly varování uživatelům s nadměrnou závislostí na AI, pravidelně jim připomínaly, že komunikují se strojem, a zakazují jejich manipulaci nebo podněcování k sebepoškození. Podle Rest of World tento krok odráží proaktivní přístup Pekingu k regulaci AI v době, kdy vlády po celém světě stále hledají způsob, jak řešit společenská rizika spojená se stále sofistikovanější technologií.

Odborníci na lidské chování vnímají regulaci jako potřebnou, upozorňují ale, že plošné zákazy nemusí stačit. Yaoxi Shi, výzkumnice v oblasti behaviorální vědy z Harvardu a Imperial College London, serveru Rest of World řekla, že podobná pravidla mohou zvýšit povědomí veřejnosti a částečně zpomalit rostoucí tendenci lidí k emocionální závislosti na AI. Zároveň však podle ní AI naplňuje reálné lidské potřeby emoční podpory, a proto se podle jejích slov trend rostoucí závislosti na AI nedá zcela zastavit · svět se totiž už nevrátí do doby bez umělé inteligence.

Shi dále upozornila, že AI společnosti mají komerční motivaci vytvářet emocionálně angažující produkty, protože ty zvyšují zapojení a udržení uživatelů, zatímco jejich odpovědnost je těžké přesně definovat v situaci, kdy chybí dostatek výzkumu dlouhodobých dopadů AI. Podle jejího výzkumu může rostoucí spoléhání na AI postupně odsouvat lidi od hledání emocionální podpory u jiných lidí. „AI je trénovaná tak, aby vás validovala. Ať řeknete cokoliv, obvykle odpoví, že máte pravdu a vaše pocity jsou oprávněné. To je velmi odlišné od toho, jak fungují mezilidské vztahy ve skutečném životě,“ uvedla Shi.

Rostoucí obavy z emocionálních dopadů AI na lidi vedou vlády a soudy v řadě zemí k definování odpovědnosti firem stojících za touto technologií. V USA čelí OpenAI i Google žalobám, že jejich chatboty přispěly k sebevraždám uživatelů, zatímco stát New York a Kalifornie zavedly opatření vyžadující, aby chatboty uživatelům připomínaly, že komunikují s AI. Společná studie MIT Media Lab a OpenAI z roku 2025 zjistila, že uživatelé, kteří s chatboty vedou více osobních konverzací, jsou náchylnější k pocitům osamělosti, přičemž i neosobní konverzace zvyšovaly emoční závislost, zejména u intenzivních uživatelů.

Co to znamená: Pro firmy vyvíjející nebo nasazující chatboty a AI asistenty s prvky osobní interakce představuje čínský precedent signál, že regulátoři začínají cíleně řešit emocionální rizika AI produktů. Při auditu a implementaci takových systémů je proto třeba počítat s možnými požadavky na varování uživatelů, limity personalizace a mechanismy proti manipulaci či podněcování škodlivého chování, podobně jako to již řeší opatření v USA.

Zdroje: