Zaměstnankyně marketingového oddělení potřebuje rychle přeformulovat návrh smlouvy s dodavatelem. Otevře si na vlastním telefonu ChatGPT nebo Gemini, přihlásí se soukromým účtem a vloží text smlouvy i se jmény stran a částkami. Nikoho se neptala, IT oddělení o tom neví a firemní směrnice o používání umělé inteligence zatím neexistuje. Tohle je stínové používání AI ve firmě: rozhodnutí jednoho člověka, které se nikde neeviduje a řídí se jen podmínkami poskytovatele.
Co podmínky opravdu říkají
Podmínky OpenAI, Googlu, Microsoftu i Anthropicu rozlišují dvě situace podle registrační adresy. Firemní doména znamená, že se o účtu firma dřív nebo později dozví. OpenAI to popisuje takto:
Corporate domains. If you create an account using an email address owned by an organization (for example, your employer), that account may be added to the organization’s business account with us, in which case we will provide notice to you so that you can help facilitate the transfer of your account (unless your organization has already provided notice to you that it may monitor and control your account). Once your account is transferred, the organization’s administrator will be able to control your account, including being able to access Content (defined below) and restrict or remove your access to the account.
Firemní e-mail tedy dřív nebo později přivede ke slovu administrátora domény, který po převodu účtu získá přístup i k obsahu, jenž tam zaměstnanec vložil. Google, Microsoft i Anthropic popisují ve svých podmínkách prakticky totéž, jen jinými slovy.
Skutečně stínové použití vypadá jinak: zaměstnanec si založí soukromý účet na osobní adresu, na kterou se citovaná ustanovení nevztahují vůbec. Žádný administrátor, žádné oznámení, žádná cesta, jak dokument dohledat nebo jeho zpracování zastavit.
Bez ohledu na zvolenou adresu navíc u OpenAI platí výchozí nastavení, že obsah vložený do ChatGPT může posloužit k tréninku modelu. Vypnutí je volba v nastavení účtu, kterou musí udělat člověk, jenž o riziku ví. Microsoft přiznává, že obsah vložený do jeho AI nástrojů prochází vlastním monitorovacím systémem proti zneužití, což chrání službu, nikoli firemní tajemství.
Jak je to závažné
Nejvíc to pálí tři skupiny. Zaměstnance pracující s osobními údaji klientů (účetní, právníky, personalisty): takový údaj vložený do osobního účtu se stává údajem zpracovaným třetí stranou bez zpracovatelské smlouvy, a za porušení odpovídá firma jako správce bez ohledu na to, kdo dokument nahrál. Firmy samotné, protože o porušení se zaměstnavatel dozví typicky až při kontrole nebo úniku dat, kdy se s tím zpětně nedá nic dělat. A malé firmy bez IT oddělení, kde neexistuje politika používání AI ani náhradní nástroj: zákaz bez náhrady tam obvykle nefunguje.
Jak požádat o vymazání dat
Právo na vymazání dat podle článku 17 obecného nařízení má formálně dotčená osoba, ale v praxi to často musí iniciovat firma, protože jde o její dokument.
- U OpenAI se žádost posílá přes privacy.openai.com nebo na dsar@openai.com, případně pověřenci na dpo@openai.com.
- U Anthropicu je to e-mail privacy@anthropic.com nebo pověřenec na dpo@anthropic.com; podmínky slibují odpověď do jednoho měsíce s možností prodloužení o další dva u složitých případů.
- U Microsoftu vede cesta přes stránku Podpora a žádosti týkající se ochrany osobních údajů; ověřené žádosti firma zpracovává do 30 dnů.
- U Googlu žádný z citovaných dokumentů neuvádí samostatný e-mail pro vymazání dat; cesta vede přes nástroj Moje aktivita nebo smazání celého účtu, což předpokládá přístup k účtu.
Do žádosti napište datum nahrání dokumentu, e-mailovou adresu účtu a formulujte ji jako žádost podle článku 17. Pokud obsah mezitím posloužil k tréninku modelu, natrénované parametry se vymazáním dat jednotlivé konverzace neodstraní, protože to podle povahy strojového učení není technicky proveditelné.
Jak se chránit
- Nevkládejte do osobního účtu jméno, rodné číslo, zdravotní ani finanční údaj klienta. Text anonymizujte, nebo použijte firemní nástroj s vypnutým tréninkem.
- Rozlišujte registrační adresu: pracovní e-mail přivede administrátora ke slovu, osobní adresa firmě nedá žádnou možnost zásahu.
- Firma by měla mít pravidlo dřív, než ho bude potřebovat: firemní účet se zpracovatelskou smlouvou, nebo výslovný zákaz vkládání konkrétních dat.
- U citlivých dokumentů sáhněte po nástroji na vlastní infrastruktuře firmy nebo s prokazatelně nulovým uchováváním dat.
Obecné nařízení dělá z firmy správce údajů bez ohledu na to, jestli o zpracování ví. Evropský zákon o umělé inteligenci tuto situaci, kdy je nástroj do firmy zaveden mimo její vědomí, nijak neřeší.
Verdikt
Napříč čtyřmi poskytovateli, které zaměstnanci používají nejčastěji, vychází slabý výsledek. Mechanismus je u všech stejný: pracovní e-mail přivádí k obsahu firemního administrátora, osobní e-mail nepřivádí k ničemu nikoho. Zaměstnanec, který nepoužije pracovní adresu, si myslí, že riziko snížil. Ve skutečnosti firmě vzal poslední nástroj, kterým by se o použití vůbec mohla dozvědět.
ZDROJE A CITACE
Citace 8
Corporate domains. If you create an account using an email address owned by an organization (for example, your employer), that account may be added to the organization's business account with us, in which case we will provide notice to you so that you can help facilitate the transfer of your account (unless your organization has already provided notice to you that it may monitor and control your account). Once your account is transferred, the organization’s administrator will be able to control your account, including being able to access Content (defined below) and restrict or remove your access to the account.
Firemní domény. Pokud si založíte účet pomocí e-mailové adresy, kterou vlastní organizace (například váš zaměstnavatel), může být tento účet přidán k firemnímu účtu organizace u nás; v takovém případě vám dáme vědět, abyste mohli pomoci s převodem účtu (pokud vás už organizace sama neinformovala, že může účet sledovat a ovládat). Jakmile je účet převeden, administrátor organizace bude moci účet ovládat, včetně přístupu k obsahu (definovanému níže) a omezení nebo zrušení vašeho přístupu k účtu.
Business Account Administrators : When you join a ChatGPT Enterprise or business account, the administrators of that account may access and control your OpenAI account, including being able to access your Content. In addition, if you create an account using an email address belonging to your employer or another organization, we may share the fact that you have an account and certain account information, such as your email address, with your employer or organization to, for example, enable you to be added to their business account.
Administrátoři firemního účtu: Když se připojíte k firemnímu nebo Enterprise účtu ChatGPT, administrátoři tohoto účtu mohou přistupovat k vašemu účtu OpenAI a ovládat ho, včetně přístupu k vašemu obsahu. Kromě toho, pokud si založíte účet pomocí e-mailové adresy patřící vašemu zaměstnavateli nebo jiné organizaci, můžeme sdílet skutečnost, že účet máte, a určité informace o účtu, jako je vaše e-mailová adresa, s vaším zaměstnavatelem nebo organizací, abychom vás například mohli přidat do jejich firemního účtu.
As noted above, we may use Content you provide us to improve our Services, for example to train the models that power ChatGPT.
Jak je uvedeno výše, obsah, který nám poskytnete, můžeme použít ke zlepšení našich služeb, například k trénování modelů, na kterých ChatGPT běží.
your organization’s administrator may assign a Google Account to you. That administrator might require you to follow additional rules and may be able to access or disable your Google Account.
administrátor vaší organizace vám může přidělit účet Google. Tento administrátor od vás může vyžadovat dodržování dalších pravidel a může mít možnost k vašemu účtu Google přistupovat nebo ho deaktivovat.
If you’re a student or work for an organization that uses Google services, your domain administrator and resellers who manage your account will have access to your Google Account.
Pokud jste student nebo pracujete pro organizaci, která používá služby Google, bude mít k vašemu účtu Google přístup administrátor vaší domény a prodejci, kteří váš účet spravují.
You can sign into certain Microsoft services with a work or school email address. If you do, you agree that the owner of the domain associated with your email address may be notified of the existence of your Microsoft account and its associated subscriptions, control and administer your account, and access and process your Data, including the contents of your communications and files, and that Microsoft may notify the owner of the domain if the account or Data is compromised.
Do některých služeb Microsoftu se můžete přihlásit pracovní nebo školní e-mailovou adresou. Pokud to uděláte, souhlasíte s tím, že vlastník domény spojené s vaší e-mailovou adresou může být informován o existenci vašeho účtu Microsoft a souvisejících předplatných, může tento účet ovládat a spravovat a přistupovat k vašim datům a zpracovávat je, včetně obsahu vaší komunikace a souborů, a že Microsoft může vlastníka domény upozornit, pokud dojde ke zneužití účtu nebo dat.
As part of providing the AI services, Microsoft will process and store your inputs to the service as well as output from the service, for purposes of monitoring for and preventing abusive or harmful uses or outputs of the service.
V rámci poskytování AI služeb bude Microsoft zpracovávat a ukládat vaše vstupy do služby i výstupy z ní, a to za účelem sledování a předcházení zneužívajícím nebo škodlivým způsobům používání či výstupům služby.
Business Domains. If you use an email address owned by your employer or another organization, your Account may be linked to the organization’s enterprise account with us and the organization’s administrator may be able to monitor and control the Account, including having access to Materials (defined below).
Firemní domény. Pokud používáte e-mailovou adresu, kterou vlastní váš zaměstnavatel nebo jiná organizace, váš účet může být propojen s podnikovým účtem organizace u nás a administrátor organizace může být schopen sledovat a ovládat účet, včetně přístupu k materiálům (definovaným níže).
Časté dotazy
Riskuje firma něco, když zaměstnanec vloží firemní dokument do svého osobního účtu ChatGPT?
Ano. Podle obecného nařízení o ochraně osobních údajů je firma správcem osobních údajů, které zaměstnanec do dokumentu vložil, bez ohledu na to, jestli o zpracování věděla. Bez zpracovatelské smlouvy s poskytovatelem AI nástroje se firma dostává do porušení, i kdyby to nikdy nepovolila.
Pozná se to, že si zaměstnanec založil osobní účet pomocí pracovního e-mailu?
Podle citovaných podmínek OpenAI, Googlu, Microsoftu i Anthropicu ano, dřív nebo později. Firemní doména dává poskytovateli signál, že účet patří k organizaci, a otevírá cestu k tomu, aby administrátor firmy nad účtem převzal kontrolu.
Je bezpečnější, když zaměstnanec použije čistě soukromý e-mail místo pracovního?
Z pohledu zaměstnance možná ano, z pohledu firmy je to horší varianta. Citovaná ustanovení se na čistě osobní účet nevztahují vůbec, takže firma nemá žádnou cestu, jak dokument dohledat, natož jeho zpracování zastavit.
Stačí zaměstnancům zakázat používání AI nástrojů směrnicí?
Zákaz bez náhrady podle praxe popsané v článku obvykle nefunguje, protože zaměstnanec stejně potřebuje rychlý výsledek. Funkčnější je nasadit firemní účet se zpracovatelskou smlouvou a vypnutým tréninkem a jasně napsat, co se do žádného nástroje nesmí vkládat.