Kdo odpovídá za škodu způsobenou umělou inteligencí?

Provozovatel je první adresát nároků poškozených

Podle českého občanského zákoníku (konkrétně ustanovení o odpovědnosti za škodu) odpovídá za škodu ten, kdo ji způsobil svým činem. Když společnost nasadí chatbota, skórovací model nebo generativní nástroj do produkce, stává se provozovatelem. Pokud takový systém poskytne špatnou radu, vygeneruje urážlivý text nebo vydá chybnou cenu, je to čin provozovatele prostřednictvím jeho nástroje. V praxi to znamená, že e-shop, který nechá LLM nastavovat slevové kódy a ten vygeneruje 100 % slevu pro všechny, musí resulting ztrátu uhradit sám. Stejně tak banka, jejíž model odmítne úvěr na základě diskriminujících parametrů, ručí za nedoplatky a možnou pokutu za porušení rovného zacházení. Provozovatel nemůže argumentovat, že „to udělala AI“, protože právní subjektem je vždy fyzická nebo právnická osoba ovládající systém.

Smluvní řetězec směřuje k dodavateli technologie

Ačkoliv provozovatel platí poškozenému, není bez obrany. Vztah mezi provozovatelem a dodavatelem modelu (např. Microsoft, OpenAI, český integrační partner) se řídí smlouvou o dílo, smlouvou o poskytování služeb nebo licenčními podmínkami. Klíčové jsou ujednání o zárukách kvality, omezení odpovědnosti a povinnosti nahrazet škodu (indemnita). Typická situace: česká pojišťovna nasadí model pro automatizaci regulace pojištěních od dodavatele, model systematicky podhodnocuje škody na parkovištích a pojišťovna vyplácí náhrady vyšší než očekávala. Pojišťovna pak žádá dodavatele o náhradu rozdílu na základě porušení SLA nebo záruky, že model splňuje přesnost 95 %. Bez explicitních klauzulí v smlouvě je však tato cesta obtížná · standardní podmínky velkých dodavatelů (Terms of Use) často odpovědnost vylučují nebo omezují na symbolickou částku.

Proč „rozhodl algoritmus“ není právní obhajoba

Právní řád neuznává umělou inteligenci za samostatný právní subjekt. AI nemá majetek, nemůže být žalována a nemůže podepsat smlouvu. Každá akce systému je akcí jeho majitele nebo uživatele. Toto zásadní pravidlo potvrzuje i nově připravovaná evropská směrnice o odpovědnosti za produkty, která do okruhu „produktů“ explicitně zařazuje software a AI modely. To znamená, že vadný model bude považován za vadný produkt a jeho vyrobce (dodavatel) bude mít bezvadnou odpovědnost nezávisle na vině. V českém kontextu: když autonomní dodávkový vůz s AI řízením zboží poškodí chodce, odpovídá výrobce vozu nebo dodavatel softwaru podle směrnice o odpovědnosti za výrobek, ne „algoritmus“. Provozovatel (spedice) pak ručí podle obecných pravidel občanského zákoníku. Argument, že činy systému nejsou předvídatelné, neplatí · kdo nasazuje systém do provozu, přijímá riziko jeho chování.

Praktické kroky pro české firmy před nasazením

Firmy by měly řešit odpovědnost dřív, než model pustí do produkce. První krok je revize smluv s dodavateli: vyžadovat explicitní záruky přesnosti, pravidlo pro zpětné vyřazení modelu (rollback) a indemnitu za škody třetím osobám. Druhý krok je pojištění · standardní odpovědnost za škodu často AI vylučuje, je nutné dojednat rozšíření o technologická rizika (tzv. Tech E&O nebo Cyber polisy). Třetí krok je technický: protokolování verzí modelů, vstupních dat a výstupů (audit trail), aby bylo možné dohodit, která verze chybu způsobila. V auditech CIAD se ukazuje, že firmy bez verzování modelů a logů přicházejí o šanci uplatnit náhradu u dodavatele. Čtvrtý krok: lidský dozor (human-in-the-loop) u rozhodnutí s právními následky · úvěrové limity, lékařské diagnózy, zaměstnanecké výpovědi.

Co to znamená: Provozovatel AI systému vždy ručí vůči zákazníkům a veřejnosti; smluvní náhrady od dodavatele jsou samostatná věc, která vyžaduje pečlivé ujednání v předběhu; a odkaz na autonomii algoritmu nemá v českém ani evropském právu žádnou váhu.