Podle čeho poznat, že AI projekt potřebuje posouzení vlivu DPIA?

Proč prověření patří před výběr nástroje, ne za něj

Otázka „potřebujeme DPIA?“ se ve firmách obvykle položí až ve chvíli, kdy je AI nástroj vybraný, smlouva podepsaná a projekt má termín spuštění. Tehdy je prověření pozdě: rozhodnutí o datech, dodavateli a nastavení jsou hotová a posouzení dopadu se mění na hledání důvodů, proč pokračovat, ne na nástroj pro rozhodování.

Prověřovací mřížka níže funguje opačně. Rozebírá zamýšlený projekt na osm charakteristik dřív, než je cokoli objednáno, a u každé ukazuje, komu věc postoupit. Výsledkem není odpověď ano nebo ne na otázku, zda je DPIA povinné, ale směr dalšího postupu (záznam odůvodnění, konzultace s pověřencem pro ochranu osobních údajů, nebo plné posouzení s právníkem) a písemné odůvodnění, které ho podpírá. Zda je DPIA podle GDPR skutečně povinné, posuzuje vždy pověřenec a právní poradce vaší organizace.

Prověřovací mřížka: osm charakteristik AI projektu

Vyplňte mřížku pro jeden konkrétní projekt a jeden zamýšlený účel, ne pro AI ve firmě obecně. Sloupec „kam nález směřuje“ je orientační rámec, ne automatický výpočet: sílu příznaku posuzuje tým, který projekt skutečně zná.

Charakteristika projektu	Co si všimnout	Co příznak zesiluje	Kam nález směřuje
Systematické a rozsáhlé vyhodnocování lidí	Systém opakovaně hodnotí, boduje nebo profiluje konkrétní lidi (zákazníky, uchazeče, zaměstnance) jako součást běžného provozu, ne jen výjimečně.	Hodnocení je z velké části automatizované, kritéria nejsou lidem srozumitelná, nebo výstup ovlivňuje víc než jednu oblast jejich života.	Ojedinělé, přezkoumatelné: záznam. Pravidelné s částečnou kontrolou: pověřenec. Automatizované, opakované, široké: právník, plné posouzení.
Rozhodnutí s významným dopadem na jednotlivce	Výstup systému ovlivňuje přístup člověka ke službě, zaměstnání, úvěru, dávce, nebo jinému podstatnému zájmu.	Rozhodnutí je těžké vysvětlit nebo napadnout, člověk nemá praktickou cestu k lidskému přezkumu, dopad je těžko vratný.	Nepřímý, napravitelný dopad: záznam. Reálný dopad s přezkumem: pověřenec. Přímý, nevratný dopad: právník, plné posouzení.
Zvláštní kategorie nebo vysoce citlivá data	Vstupy nebo výstupy obsahují údaje o zdraví, biometrické identifikaci, sexuálním životě, etnickém původu, politickém nebo náboženském přesvědčení.	Citlivá data nejsou pro účel nutná a přesto do systému vstupují, nebo je nelze od ostatních dat oddělit.	Výjimečný, filtrovatelný výskyt: záznam. Pravidelný, omezený výskyt: pověřenec. Citlivá data jsou jádrem: právník, plné posouzení.
Zpracování ve velkém rozsahu	Počet dotčených osob, objem dat, geografický dosah, nebo doba, po kterou údaje v systému zůstávají.	Rozsah přesahuje jeden tým nebo pobočku a týká se celé zákaznické či zaměstnanecké základny, objem v čase roste bez plánovaného konce.	Malý, ohraničený vzorek: záznam. Rostoucí, sledovatelný rozsah: pověřenec. Celá organizace či veřejnost: právník, plné posouzení.
Monitorování veřejně přístupného prostoru	Systém zpracovává obraz, zvuk nebo pohyb z místa, kam mají přístup i lidé mimo vaši organizaci.	Monitorování je nepřetržité, zahrnuje rozpoznávání osob, nebo se týká lidí, kteří o něm nevědí a nemohou se mu vyhnout.	Krátkodobé, vlastní prostory: záznam. Pravidelné bez rozpoznávání: pověřenec. Nepřetržité s rozpoznáváním: právník, plné posouzení.
Data o lidech ve zranitelném postavení	Dotčené osoby jsou zaměstnanci, pacienti, děti, uchazeči o práci, nebo jiní lidé v nerovném postavení vůči vaší organizaci.	Nerovnost je výrazná (závislost na zaměstnavateli nebo poskytovateli péče) a výstup může ovlivnit jejich hodnocení, léčbu nebo postavení.	Nízká nerovnost, bez vlivu: záznam. Nerovnost, omezený dopad: pověřenec. Výrazná nerovnost, reálný dopad: právník, plné posouzení.
Kombinování datových sad z různých účelů	Projekt spojuje údaje původně sbírané pro odlišné účely, například provozní logy s personálními daty nebo zákaznická data s daty z veřejných zdrojů.	Kombinace vytváří nový profil, který dřív neexistoval, nebo umožňuje odvodit informace, jež žádný z původních zdrojů samostatně neobsahoval.	Dočasná, oddělitelná kombinace: záznam. Trvalá, ohraničená kombinace: pověřenec. Vzniká nový profil: právník, plné posouzení.
Nová technologie s dosud nepochopenými účinky	Jde o techniku nebo model, se kterým vaše organizace ani obor nemá dost provozní zkušenosti na to, aby spolehlivě popsal chování na okrajových případech.	Chybí nezávislé ověření chování modelu na datech podobných vašim, nebo dodavatel neumí vysvětlit, jak systém k výstupu dochází.	Zavedená, zdokumentovaná technika: záznam. Nová s nezávislým ověřením: pověřenec. Nová bez ověření: právník, plné posouzení.

Jak z mřížky vytvořit směr postupu, ne verdikt

Mřížka se nevyhodnocuje součtem zaškrtnutí ani pevným prahem typu „tři z osmi znamenají DPIA“. Jeden jednoznačně silný příznak, například rozsáhlé zpracování citlivých údajů s automatizovaným rozhodováním, může sám o sobě vést k plnému posouzení, i kdyby zbylých sedm řádků vypadalo mírně. Osm mírných příznaků s doloženým důvodem u každého může naopak legitimně skončit záznamem.

U prověření by měl sedět vlastník projektu, člověk, který zná skutečný pracovní postup s daty (obvykle IT nebo bezpečnost), a zástupce dotčené agendy: HR u zaměstnaneckých dat, zdravotnický provoz u pacientských dat, podpora u dat klientů. Pověřenec pro ochranu osobních údajů se má zapojit hned, jakmile mřížka u kteréhokoli řádku ukáže na „pověřenec“ nebo „právník“, ne až na konci procesu.

Písemný záznam by měl obsahovat: datum a účastníky, u každé z osmi charakteristik jednu větu, zda se na projekt vztahuje a proč, dosažený směr u dané charakteristiky, celkový odsouhlasený směr postupu a termín dalšího prověření (typicky před nasazením a při podstatné změně účelu nebo rozsahu dat). Takový záznam umožní pozdějšímu recenzentovi dohledat úvahu, ne jen výsledek.

DPIA a AI Act: dva různé nástroje

DPIA a povinnosti podle aktu o umělé inteligenci se snadno zamění, protože se řeší u stejného projektu ve stejnou chvíli. Jsou to ale dva samostatné nástroje s jiným předmětem. DPIA podle článku 35 GDPR posuzuje dopad zpracování osobních údajů na práva a svobody fyzických osob. Povinnosti podle aktu o umělé inteligenci se odvozují od role organizace (poskytovatel, nebo subjekt, který systém zavádí) a od rizikové kategorie systému. Splnění jedné povinnosti nenahrazuje druhou; klasifikace podle aktu o umělé inteligenci sama o sobě neurčuje, zda je nutné DPIA.

Charakteristika „nová technologie s dosud nepochopenými účinky“ v mřížce výše na tento rozdíl přímo naráží: novou techniku je vhodné prověřit z pohledu ochrany osobních údajů bez ohledu na její rizikovou kategorii podle aktu o umělé inteligenci. Evropský sbor pro ochranu osobních údajů se ve svém stanovisku k AI modelům věnuje otázkám ochrany údajů specifickým právě pro tyto modely, což potvrzuje, že jde o samostatnou oblast posouzení, ne o vedlejší poznámku k jiné povinnosti.

Seznamy dozorového úřadu patří pověřenci, ne této stránce

GDPR (článek 35) ukládá posoudit dopad zpracování na ochranu osobních údajů tam, kde hrozí vysoké riziko pro práva a svobody fyzických osob, a počítá s tím, že příslušný dozorový úřad (v Česku Úřad pro ochranu osobních údajů) vede seznamy druhů zpracování, pro které je posouzení povinné, i seznamy těch, pro které povinné není. Obsah těchto seznamů zde neuvádíme, neparafrázujeme ani nedomýšlíme: jejich aktuální znění i to, zda dopadají na váš projekt, patří vašemu pověřenci a právnímu poradci. Zvláštní kategorie údajů podle článku 9 GDPR jsou jedním z faktorů posouzení, ne jediným a ne automatickým spouštěčem.

Mřížka je vstupní prověření, ne právní stanovisko. Ani „záznam“, ani „právník“ neznamená, že je věc s DPIA vyřešená: první znamená, že prověření proběhlo a je zdokumentované, druhý, že plné posouzení teprve začíná. Dokončení mřížky, stejně jako dokončení DPIA, není důkazem souladu s GDPR; to je otázka, kterou zpracování musí splnit věcně, ne vyplněním tabulky.

Stav zdrojů a omezení

Osm charakteristik v mřížce je popsáno jako vlastnosti projektu, ne jako citace právního textu, a stránka záměrně neobsahuje seznamy zpracování, které dozorový úřad označuje za povinné nebo nepovinné k posouzení: takový seznam nemáme z čeho ověřit a jeho vymyšlení by bylo horší než vynechání. Citace GDPR se drží článků 35 a 9, protože jen ty text skutečně používá; z nařízení o umělé inteligenci čerpáme pouze obecnou strukturu povinností podle role a rizikové kategorie, ne aktuální znění článku 4. Odstavec o stanovisku EDPB shrnuje jeho téma, ne jeho právní závěry, protože ty vyžadují samostatné čtení dokumentu. Rozdělení nálezů do tří směrů (záznam, pověřenec, právník) je doporučený postup CIAD pro uspořádání interní diskuze, ne požadavek GDPR ani návod, jak DPIA nahradit. Které charakteristiky se na projekt vztahují, jak silně, a zda z toho plyne povinnost DPIA, musí posoudit pověřenec a právní poradce čtenáře s ohledem na skutečná data a účel zpracování.

Zpracování osobních údajů AI nástroji shrnuje stránka GDPR a umělá inteligence, rozdíl mezi rizikovou klasifikací a DPIA vysvětluje stránka co je AI Act. Zda smíte konkrétní osobní údaje do AI nástroje vůbec vložit, řeší smím zpracovávat osobní údaje pomocí AI, hranice automatizovaného rozhodování popisuje smí AI rozhodovat o lidech.