ChatGPT a vaše zadání: co vypínač tréninku doopravdy vypíná

Nahrajete do ChatGPT smlouvu, kterou potřebujete za deset minut shrnout na poradě. Pak vložíte zadání s číslem zakázky a jménem klienta. Nakonec pošlete kolegovi odkaz na konverzaci, ve které jste spolu řešili rozpočet na příští čtvrtletí. Ve všech třech případech ChatGPT s vaším textem pracuje jinak, než by člověk čekal, a podmínky používání to nikde nevysvětlují na jednom místě.

Co OpenAI nazývá obsahem

Podmínky používání rozdělují to, co do ChatGPT vložíte, a to, co vám vrátí, na dvě přesně definované kategorie:

You may provide input to the Services (“Input”), and receive output from the Services based on the Input (“Output”). Input and Output are collectively “Content.”

Do služeb můžete poskytnout vstup (“zadání”) a na základě zadání dostanete výstup ze služeb (“výstup”). Zadání a výstup se souhrnně nazývají “obsah.”

Tahle definice není formalita. Každé pravidlo, na které dál v textu narazíte, se vztahuje na “obsah”, takže platí stejně pro nahraný soubor, napsané zadání i vygenerovanou odpověď.

Vlastnictví toho, co vytvoříte, zůstává jednoznačně na vaší straně:

As between you and OpenAI, and to the extent permitted by applicable law, you (a) retain your ownership rights in Input and (b) own the Output. We hereby assign to you all our right, title, and interest, if any, in and to Output.

Mezi vámi a OpenAI, v rozsahu povoleném příslušným právem, si (a) ponecháváte svá vlastnická práva k zadání a (b) vlastníte výstup. Tímto na vás převádíme veškerá svá práva, nároky a podíly, pokud nějaké máme, k výstupu.

V tomto bodě je OpenAI vstřícné a nárok na výstup si nikde neuplatňuje. Otevřená zůstává jiná otázka: co se s obsahem stane, než ho dostanete zpět jako výstup.

Trénink je zapnutý, dokud ho nevypnete

Podmínky používání to říkají bez oklik:

We may use Content to provide, maintain, develop, and improve our Services, comply with applicable law, enforce our terms and policies, and keep our Services safe.

Obsah smíme používat k poskytování, udržování, rozvíjení a zlepšování našich služeb, k dodržování příslušného práva, k prosazování našich podmínek a zásad a k udržení bezpečnosti našich služeb.

Zlepšování služeb v praxi znamená i trénink modelů. Vypnutí existuje, ale musíte ho aktivně najít a zapnout sami:

If you do not want us to use your Content to train our models, you can opt out by following the instructions in this article

Pokud nechcete, abychom váš obsah používali k trénování našich modelů, můžete to vypnout podle pokynů v tomto článku.

Zásady ochrany údajů popisují tuto volbu jako jeden přepínač v nastavení účtu, který jde kdykoli změnit. Podmínky u něj rovnou přiznávají cenu: v některých případech to může omezit schopnost služeb lépe reagovat na váš konkrétní případ použití. Vypnutí tréninku tedy může znamenat o něco méně přizpůsobené odpovědi.

Zvláštní režim má Dočasný chat. Podle zásad ochrany údajů se konverzace v tomto režimu nikdy neobjeví v historii a nikdy neposlouží ke zlepšování modelů, aniž byste museli cokoli přepínat předem.

Sdílení konverzace je jiná kapitola

Tady podklady mlčí přesně tam, kde by člověk čekal odpověď. Sdílení konverzace popisují zásady ochrany údajů jako samostatnou kategorii, oddělenou od tréninku:

Certain Services allow you to interact or share information with other users or third parties. For example, you can share content like ChatGPT conversations

Některé služby vám umožňují komunikovat nebo sdílet informace s dalšími uživateli nebo třetími stranami. Můžete například sdílet obsah, jako jsou konverzace v ChatGPT.

Sdílená konverzace tedy podle textu spadá pod zveřejnění osobních údajů jiným lidem. Je to jiná kapitola dokumentu než trénink a dokument mezi nimi nikde nevytváří spojnici. Pokud jste měli trénink vypnutý předtím, než jste konverzaci nahráli, nic v podkladu netvrdí, že se to sdílením mění. Zásady ale zároveň neříkají, že příjemce odkazu vidí totéž nastavení jako vy. Kdo odkaz dostane, řídí se navíc podmínkami služby, do které ho vloží, nikoli podmínkami OpenAI.

Prakticky to znamená jedno: než pošlete odkaz na konverzaci, zkontrolujte její obsah tak, jako by ji uviděl i někdo, komu byste ji jinak nikdy neukázali. Vypínač tréninku tenhle krok nenahradí.

Co vypnout nejde

Vypínač tréninku se netýká bezpečnostního sledování obsahu. Zásady ochrany údajů uvádějí mezi účely zpracování i tohle:

To prevent fraud, illegal activity, or misuses of our Services, and to protect the security of our systems and Services, including by monitoring any Content submitted or exchanged on our platforms

Abychom předešli podvodům, nezákonné činnosti nebo zneužití našich služeb a chránili bezpečnost našich systémů a služeb, včetně sledování veškerého obsahu odeslaného nebo vyměněného na našich platformách.

Tohle sledování běží bez ohledu na to, jestli máte trénink vypnutý. Je to jiný účel zpracování než trénink modelu, takže se na něj přepínač v nastavení nevztahuje, ať už ho máte nastavený jakkoli.

Uchovávání: třicet dní, s výjimkou

Smazání v ChatGPT má konkrétní lhůtu, ale i tu doplňuje důležitá výjimka:

Once you choose to delete Personal Data, we will remove it from our systems within 30 days unless we need to retain it for longer as described below, or it has already been de-identified and disassociated from your account when you allow us to use your Content to improve our models

Jakmile se rozhodnete osobní údaje smazat, odstraníme je z našich systémů do 30 dnů, pokud je nepotřebujeme uchovat déle z důvodů popsaných níže, nebo pokud už byly anonymizovány a odděleny od vašeho účtu v případě, že jste nám dovolili používat váš obsah ke zlepšování našich modelů.

Rozdíl je zásadní. Konverzace, které trénovaly modely, se anonymizací oddělí od vašeho účtu ještě předtím, než byste je stihli smazat, takže se na ně těch 30 dní vlastně nevztahuje, protože v tu chvíli už nejsou vedené jako vaše osobní údaje. Smazání pak zabírá jen na to, co ještě v systémech figuruje jako vaše.

K tomu se přidávají další důvody pro delší uchovávání: podezření na porušení pravidel, právní povinnost, finanční záznamy o platbách za předplatné. Žádný z nich není časově omezený na 30 dní.

Jak je to závažné

Pro běžného uživatele, který do ChatGPT nevkládá nic citlivějšího než recept na oběd, je riziko malé: trénink je sice ve výchozím stavu zapnutý, ale dopad jednoho anonymního zadání na jeho soukromí je zanedbatelný, pokud se do konverzace nedostane jméno, adresa nebo jiný údaj, který ho identifikuje. Riziko roste ve chvíli, kdy pošle odkaz na konverzaci někomu dalšímu: příjemce vidí přesně to, co do ní vložil, a podklady nikde netvrdí, že vypnutý trénink sdílení nějak omezuje.

Pro živnostníka, který do zadání vloží jméno klienta, číslo zakázky nebo obsah smlouvy, je sázka vyšší. Nejde už jen o jeho vlastní data, ale o osobní údaje třetí osoby, za jejichž zpracování odpovídá jako správce, i když je fyzicky nahraje do cizí služby. Pokud trénink zůstane zapnutý, k anonymizaci a oddělení od účtu dojde dřív, než stihne o výmaz požádat, a nad tím, co se s klientovými údaji stalo, ztrácí kontrolu.

Nejhůř na tom je zaměstnanec, který do osobního účtu vloží interní firemní dokument. Riziko tu není jen trénink modelu: pokud účet patří pod firemní nebo Enterprise plán, administrátor organizace má podle podmínek přístup k obsahu a může účet ovládat, aniž by o tom zaměstnanec musel vůbec vědět. Dokument tak může vidět někdo úplně jiný, než komu byl určený, bez ohledu na to, jak má zaměstnanec nastavený vlastní vypínač tréninku.

Firemní účet mění, kdo obsah vidí

Kde OpenAI rozlišuje osobní a firemní použití, je to napsáno přímo:

When you join a ChatGPT Enterprise or business account, the administrators of that account may access and control your OpenAI account, including being able to access your Content.

Když se připojíte k firemnímu účtu ChatGPT Enterprise nebo business, administrátoři tohoto účtu mohou mít přístup k vašemu účtu OpenAI a ovládat ho, včetně přístupu k vašemu obsahu.

Pro osobní účet takové ustanovení v podkladu není. Zaměstnanec, který se přihlásí firemním e-mailem, může navíc zjistit, že jeho účet byl bez dalšího varování přiřazen k firemnímu účtu, pokud o tom organizace informovala předem sama.

Jak požádat o výmaz

Žádost o výmaz osobních údajů jde přes formulář na privacy.openai.com, případně e-mailem na dsar@openai.com; na dotaz přímo pro pověřence pro ochranu osobních údajů slouží adresa dpo@openai.com. Přes stejný formulář lze žádost podat i sledovat, takže nejde o adresu, na kterou se pošle e-mail a čeká se bez odezvy.

Do žádosti napište, o jaký účet jde (e-mail, pod kterým jste registrovaní) a co konkrétně chcete smazat: celý účet, konkrétní konverzace, uložené vzpomínky nebo jiné osobní údaje. OpenAI si může před vyřízením ověřit vaši identitu, u žádosti bez přihlášeného účtu i vyžádat doplňující údaje; bez úspěšného ověření žádost nevyřídí.

Na vyřízení máte podle obecného nařízení o ochraně osobních údajů nárok do jednoho měsíce od podání žádosti (čl. 12 odst. 3 GDPR). U složitějších žádostí lze lhůtu prodloužit o další dva měsíce, o čemž vás ale OpenAI musí informovat ještě v tom prvním měsíci.

Co výmaz nevrátí zpět: konverzace, které mezitím posloužily k tréninku modelu, se anonymizují a oddělí od účtu ještě předtím, než stihnete o výmaz požádat: v tu chvíli přestávají být vedené jako vaše osobní údaje, takže na ně samotné smazání účtu už nedosáhne. Naučené vzorce zůstávají otištěné v parametrech modelu, i když identifikující spojení s vaší osobou zmizelo.

Jak se chránit, i když nic nevypnete

Nejúčinnější opatření nezávisí na žádném přepínači v nastavení. Dřív, než něco nahrajete, zkuste v textu nahradit to, co identifikuje konkrétní osobu nebo firmu (jméno klienta, číslo zakázky, rodné číslo ve smlouvě) zástupným označením typu „klient A” nebo „smlouva 001”. Pro shrnutí nebo analýzu to funguje stejně dobře jako originál a stojí to jen pár sekund navíc. Pokud potřebujete probrat jednu klauzuli z dlouhého dokumentu, stačí vložit tenhle výřez, zbytek smlouvy k odpovědi nepotřebuje.

Pro jednorázový citlivý dotaz použijte Dočasný chat. Taková konverzace se podle zásad ochrany údajů nikdy neobjeví v historii a nikdy neposlouží k tréninku, takže odpadá i krok s hledáním vypínače v nastavení. Funguje to hned a bez placení navíc.

Firemní účet má smysl tam, kde chcete, aby o nastavení tréninku rozhodovala organizace jednotně za všechny zaměstnance. Nezvyšuje to ale vaši anonymitu vůči vlastní firmě: administrátor takového účtu vidí obsah i bez vašeho svolení, jde jen o jednotnou politiku vůči OpenAI.

Když citlivý text už pošlete, smažte konverzaci co nejdřív v historii chatu. U dat, která mezitím trénink stihl použít, to zpětně nic nevrátí: anonymizace a oddělení od účtu proběhly dřív, než jste stihli zasáhnout.

Co vám garantuje evropské právo

Zásady ochrany údajů výslovně počítají s právem požádat o přístup k vlastním údajům, o jejich opravu, omezení zpracování nebo výmaz, a to bez ohledu na to, jestli je trénink zapnutý nebo vypnutý. Jde o právo na úrovni GDPR, nikoli o funkci ChatGPT, takže platí i tehdy, když se vám v nastavení účtu nepodaří najít přepínač na první pokus. Podle textu zásad ho lze vymáhat přes formulář na privacy.openai.com nebo e-mailem na dsar@openai.com.

Verdikt

Patnáct bodů z třiceti. Nejvyšší skóre patří vlastnictví výstupu, protože OpenAI si nenárokuje nic a převádí na uživatele všechna svá případná práva. Nejnižší skóre má trénink, protože je ve výchozím stavu zapnutý a vyžaduje aktivní krok navíc. Uprostřed stojí přesně to, co dělá tuto sérii užitečnou: podmínky odpovídají na otázku, jestli ChatGPT trénuje na obsahu, který do něj vložíte, ale neodpovídají na otázku, kterou si položí každý, kdo pošle kolegovi odkaz na konverzaci. Dokud to OpenAI výslovně nevyjasní, počítejte s tím, že vypínač tréninku a sdílení jsou dvě oddělené páky, ne jedna.