Jak ověřit, že AI dodavatel po ukončení služby odstranil data?

Zvenčí ověření nejde, jde jen doložení

Jako zákazník nemáte přístup do datových skladů, záložních systémů ani trénovacích běhů AI dodavatele; nemůžete se přihlásit do jeho infrastruktury a zkontrolovat, jestli konkrétní tabulka nebo index skutečně zmizely. Nezávislé ověření smazání dat proto zvenčí prakticky není možné, pokud si předem nesjednáte mechanismus, který vám k tomu dá oprávnění.

To, co reálně můžete získat, je jiná věc: smluvní právo na vymazání dat zakotvené v dodavatelské smlouvě, písemné prohlášení od konkrétní jmenované osoby na straně dodavatele, nepřímý důkaz v podobě toho, že služba přestala vracet dřívější data, případně sjednané právo na nezávislý audit, a úplný záznam celé komunikace o žádosti a odpovědi. Riziko, které se tu snažíte uzavřít, souvisí s tím, co jste dodavateli během používání služby vůbec posílali; obecný rámec k tomu shrnuje článek je bezpečné vkládat firemní data do ChatGPT. Žádná z výše uvedených věcí sama o sobě neznamená, že data fyzicky zmizela ze všech systémů dodavatele. Znamená to, že máte doklad, na který se lze v případě sporu nebo kontroly odvolat.

Ověření a ujištění nejsou totéž

Ověření je nezávisle zjištěný fakt: někdo mimo dodavatele fyzicky zkontroloval stav dat a potvrdil výsledek. Ujištění je vyjádření dodavatele, podložené smlouvou, jménem konkrétního člověka a rizikem odpovědnosti, pokud se ukáže nepravdivé. Naprostá většina zákazníků AI nástrojů má k dispozici jen tuto druhou možnost, protože nezávislý audit infrastruktury dodavatele je nákladný a časově náročný.

To neznamená, že ujištění nemá hodnotu. Písemné prohlášení jmenované osoby s uvedenou rolí je jiná kategorie důkazu než automaticky generovaný e-mail bez podpisu. Smlouvy se zpracovateli podle GDPR obvykle obsahují povinnost dodavatele po ukončení služeb vrátit nebo vymazat zpracovávané osobní údaje, jak popisuje článek 28 GDPR, odstavec 3 písmeno g). Tato povinnost dává žádosti o vymazání dat smluvní oporu, ale sama nestanovuje technický způsob ani konkrétní lhůtu. Obecný rámec, jak se GDPR vztahuje na použití AI ve firmě, shrnuje článek GDPR a umělá inteligence.

Jedna konkrétní žádost od podání po založení do spisu

Představte si, že firma ukončuje spolupráci s AI dodavatelem, kterému během provozu posílala dokumenty k analýze, a chce mít doklad o vymazání dat dřív, než smlouva zanikne. Žádost o vymazání dat má obsahovat pět částí a jít písemně, ideálně na kontakt uvedený ve smlouvě nebo přes dodavatelův formální kanál pro žádosti o ochranu osobních údajů.

Nejprve rozsah dat: které datové sady, projekty nebo pracovní prostory se mají smazat, včetně vstupů, výstupů a historie konverzací. Obecná formulace „všechna naše data“ dává dodavateli prostor argumentovat, že něco do rozsahu nespadalo. Otázku, jaké osobní údaje smíte do AI nástroje vkládat, řeší článek mohu zpracovávat osobní údaje pomocí AI.

Dále systémy a zálohy: produkční databáze, testovací a vývojová prostředí, protokoly a záložní kopie. Žádost má výslovně požadovat vyjádření ke každé z těchto kategorií zvlášť, protože dodavatel jinak typicky odpoví jen k té první.

Dále odvozené artefakty: vektorové reprezentace (embeddings), vyhledávací indexy, mezipaměti odpovědí, a pokud dodavatel prováděl doladění (fine-tuning) modelu na vašich datech, i tyto váhy nebo jejich verze. Tahle položka bývá nejčastěji vynechaná, protože dodavatel na ni sám neupozorní.

Dále termín: doba, ve které má dodavatel vymazání dat provést a potvrdit, podle smlouvy, případně výslovně dohodnutá přiměřená lhůta. Žádná univerzální zákonná lhůta zde neplatí automaticky, proto ji dohodněte konkrétně a písemně.

A nakonec forma potvrzení: písemné prohlášení, jméno a role odpovědné osoby, odkaz na konkrétní žádost a datum.

Dodavatel na takovou žádost obvykle odpoví jedním ze tří způsobů: obecnou větou „vaše data byla odstraněna“ bez podpisu a odkazu na rozsah žádosti, formálním potvrzením s uvedenou odpovědnou osobou reagujícím na jednotlivé body zvlášť, nebo vůbec neodpoví, případně jen na část otázek.

Při čtení odpovědi ji porovnávejte bod po bodu s vaší žádostí podle čtyř znaků: jméno a role konkrétní odpovědné osoby, samostatné vyjádření k zálohám i k produkčnímu systému, zmínka odvozených artefaktů, pokud jste o ně žádali, a datum s odkazem na vaši žádost. Odpověď bez těchto znaků, která působí jako univerzální šablona, není dostatečným podkladem pro záznam o vymazání dat.

Po vyhodnocení uložte do spisu žádost, celou odpověď, časová razítka obou zpráv a případnou další korespondenci. Tento záznam je to, co budete mít reálně k dispozici, pokud se otázka vymazání dat později stane součástí sporu nebo kontroly.

Struktura žádosti o vymazání dat k vyplnění

Část žádosti	Co konkrétně uvést
Rozsah dat	datové sady, projekty, pracovní prostory, vstupy, výstupy, historie konverzací
Systémy a zálohy	produkce, testovací a vývojová prostředí, protokoly, záložní kopie zvlášť
Odvozené artefakty	vektorové reprezentace, vyhledávací indexy, mezipaměti, doladěné váhy modelu
Termín	lhůta podle smlouvy, jinak výslovně dohodnutá přiměřená lhůta
Forma potvrzení	písemné prohlášení, jméno a role odpovědné osoby, odkaz na žádost, datum
Subdodavatelé	dotaz, zda a jak dodavatel povinnost vymazání dat předal dál v řetězci

Odpovídající potvrzení versus nedostatečné potvrzení

Znak	Odpovídající potvrzení	Nedostatečné potvrzení
Podpis	jmenovaná osoba s uvedenou rolí	žádné jméno, obecná adresa podpory
Rozsah	vyjádření ke každému bodu žádosti zvlášť	jedna obecná věta o „vašich datech“
Zálohy	uvádí, jak dlouho mohou data v zálohách přetrvat	zálohy vůbec nezmiňuje
Odvozené artefakty	vyjádření k embeddingům, indexům, doladěnému modelu, pokud existují	tuto kategorii ignoruje
Odkaz na žádost	cituje datum a obsah vaší konkrétní žádosti	vypadá jako univerzální šablona

Kde ověření nutně končí

I nejlépe napsané potvrzení naráží na čtyři meze, které žádný dopis sám nepřekoná.

Zálohy mají vlastní cyklus uchovávání. Primární kopie dat může být smazána, zatímco záložní kopie čeká na přepsání podle rotačního plánu dodavatele, který může trvat týdny i měsíce. Žádejte proto v potvrzení výslovné vyjádření k tomu, jak dlouho mohou data v zálohách přetrvat.

Data, která byla použita k trénování nebo doladění modelu, jsou jiná kategorie než záznam v databázi. Evropský sbor pro ochranu osobních údajů ve stanovisku 28/2024 uvádí, že vztah konkrétního modelu k osobním údajům je třeba posoudit případ od případu. Pokud vaše vstupy prošly trénováním nebo doladěním, samotné potvrzení o vymazání dat nemusí pokrývat otázku, co zůstalo otisknuto ve váhách modelu; to je otázka pro odborníka na vaší straně.

Dodavatel může sám využívat subdodavatele, například poskytovatele cloudové infrastruktury nebo hostitele modelu. Potvrzení od primárního dodavatele neznamená, že totéž provedl každý článek řetězce, proto žádost má výslovně požadovat vyjádření, zda a jak dodavatel povinnost vymazání dat předal dál. Pokud jste si právo na nezávislý audit sjednali, jeho praktický průběh popisuje článek co je audit AI systému.

A konečně, deaktivace účtu není totéž co vymazání obsahu. Deaktivovaný účet přestane fungovat pro přihlášení, ale záznamy v databázi dodavatele tím samy o sobě nezmizí. Pokud dodavatel v odpovědi napíše jen, že účet byl zrušen nebo deaktivován, nejde o odpověď na žádost o vymazání dat a je třeba se doptat znovu.

Co dělat, když je odpověď částečná nebo vyhýbavá

Pokud odpověď mlčí k některé z částí žádosti, pošlete doplňující dotaz citující přesně tu část, na kterou dodavatel nereagoval, a stanovte novou přiměřenou lhůtu k doplnění. Pokud dodavatel opakovaně neodpovídá věcně nebo odpovídá vyhýbavě, eskalujte na kontakt uvedený ve smlouvě, případně na svého právníka, který posoudí dostupné smluvní nástroje, včetně dříve sjednaného práva na audit. Bezpečnostní kroky kolem provozu AI ve firmě, do kterých vymazání dat spadá jako jeden dílek, shrnuje článek jak zabezpečit AI ve firmě.

Ukončení celého dodavatelského vztahu, včetně vypovězení smlouvy, exportu dat před ukončením a návazných kroků, je samostatné téma, které přesahuje samotné ověření vymazání dat; tady jde jen o to, jak se ptát a co si k odpovědi uschovat.

Stav zdrojů a omezení

GDPR v úplném znění je citováno jen pro obecnou strukturu povinností zpracovatele, zejména pro to, že smlouva o zpracování běžně řeší vrácení nebo vymazání dat údajů po ukončení služby; text nepotvrzuje, že konkrétní dodavatel tuto povinnost v konkrétním případě splnil, ani že jakékoli popsané uspořádání samo o sobě naplňuje všechny požadavky GDPR. Stanovisko EDPB 28/2024 je citováno výhradně pro tvrzení, že vztah konkrétního modelu k osobním údajům se musí posuzovat případ od případu; nejde o obecné potvrzení, že žádný model osobní údaje neobsahuje, ani že každý model je nutné posuzovat stejně. Struktura žádosti, obě tabulky a doporučené znaky odpovídajícího potvrzení jsou postup doporučený CIAD. Jejich dodržení není právním požadavkem a nezaručuje, že vymazání dat skutečně proběhl. Konečné posouzení, zda konkrétní smlouva, žádost nebo odpověď dodavatele naplňuje vaše povinnosti podle GDPR nebo jiných předpisů, patří vašemu právníkovi a pověřenci pro ochranu osobních údajů; tento článek jejich práci nenahrazuje.