Co se stane s fotkou, kterou nahrajete do ChatGPT

Vyfotíte účtenku, kterou potřebujete rozepsat do výkazu výdajů. Pak přidáte fotku vizitky, aby vám ChatGPT z ní vytáhl telefonní číslo a adresu. Nakonec pošlete fotku tabule z porady, na které kolega načrtl rozpočet příštího čtvrtletí, ať vám z ní udělá přehledný zápis. Ve všech třech případech je vstupem fotka, a otázka, jestli se s obrázkem zachází stejně jako s napsaným zadáním, v podmínkách používání ani v zásadách ochrany údajů nikde nestojí vysvětlená na jednom místě.

Fotka spadá pod stejnou definici obsahu jako text

Zásady ochrany údajů řadí to, co do ChatGPT nahrajete, do jedné široké kategorie nazvané “obsah”, a fotky v ní jmenují výslovně:

We collect Personal Data that you provide in the input to our Services (“Content”), including your prompts and other content you upload, such as files, images, audio and video, Sora characters, and data from connected services, depending on the features you use.

Shromažďujeme osobní údaje, které poskytnete jako vstup do našich služeb (“obsah”), včetně vašich zadání a dalšího obsahu, který nahrajete, jako jsou soubory, obrázky, zvuk a video, postavy Sora a data z propojených služeb, v závislosti na funkcích, které používáte.

Tahle věta je pro fotku klíčová. Nedělá mezi textem a obrázkem žádný rozdíl, takže cokoli dál v dokumentu platí pro “obsah”, platí stejnou měrou pro napsané zadání i pro fotku, kterou k němu přiložíte, včetně tréninku modelů a lhůt na mazání popsaných níže.

Profilová fotka je jiná kapitola než fotka v konverzaci

Ne úplně každá fotka u vašeho účtu ale spadá pod tuhle definici. Fotku, kterou si nastavíte jako profilový obrázek, zásady popisují zvlášť, jako součást takzvaných informací o účtu:

Some of our Services may also allow you to upload a profile picture, a username, or other information as part of your Account Information.

Některé naše služby vám mohou také umožnit nahrát profilovou fotku, uživatelské jméno nebo jiné informace jako součást vašich informací o účtu.

Rozdíl mezi těmito dvěma větami je přesně ten, který se v praxi snadno přehlédne. Fotka poslaná do konverzace, ať kvůli rozpoznání textu, popisu nebo úpravě, je “obsah” podle první citované věty. Fotka nastavená jako profilovka patří do “informací o účtu” podle věty druhé. Dokument tyto dvě kapitoly nikde nespojuje, takže pravidlo popsané pro jednu neplatí bez dalšího pro druhou.

Co si nechávají a jak dlouho

Konkrétní počet dní, po které fotka z konverzace leží na serverech, než ji sami smažete, zásady neuvádějí. Jasnou lhůtu ale dávají tomu, co se stane po smazání:

Once you choose to delete Personal Data, we will remove it from our systems within 30 days unless we need to retain it for longer as described below, or it has already been de-identified and disassociated from your account when you allow us to use your Content to improve our models

Jakmile se rozhodnete osobní údaje smazat, odstraníme je z našich systémů do 30 dnů, pokud je nepotřebujeme uchovat déle z důvodů popsaných níže, nebo pokud už byly anonymizovány a odděleny od vašeho účtu v případě, že jste nám dovolili používat váš obsah ke zlepšování našich modelů.

Fotka, která posloužila k tréninku, se tak může od vašeho účtu oddělit ještě dřív, než stihnete o smazání požádat. Toto ustanovení nemá pro obrázky žádnou výjimku a platí stejně pro fotku i pro text.

K obsahu, včetně fotek, mají navíc přístup i lidé mimo OpenAI, kteří pro firmu zajišťují technický provoz:

To assist us in meeting business operations needs and to perform certain services and functions, we disclose Personal Data to vendors and service providers, including providers of hosting services, customer service vendors, cloud services, content delivery services, support and safety services

Abychom naplnili potřeby provozu a vykonávali určité služby a funkce, sdílíme osobní údaje s dodavateli a poskytovateli služeb, včetně poskytovatelů hostingu, dodavatelů zákaznické podpory, cloudových služeb, služeb pro doručování obsahu a služeb pro podporu a bezpečnost.

Dokument u této pasáže nejmenuje konkrétní role ani neříká, kolik lidí z těchto firem obsah reálně vidí. Je to nejkonkrétnější odpověď, kterou tyto dva dokumenty na otázku, kdo obsah zpracovává, dávají.

Jak je to závažné

Pro běžného uživatele, který si fotkou nechá poradit s receptem nebo popsat rostlinu na balkoně, je riziko malé. Fotka spadá pod obecná pravidla obsahu popsaná výše, ale pokud na ní není nic, co by identifikovalo konkrétní osobu, dopad případného tréninku nebo zpracování dodavatelem zůstává zanedbatelný.

Pro živnostníka, který vyfotí vizitku klienta nebo doklad k zakázce, je sázka vyšší. Fotka cizí vizitky nebo dokladu nese osobní údaje třetí osoby, za jejichž zpracování živnostník odpovídá jako správce, i když je fyzicky jen vyfotí mobilem. Podmínky navíc výslovně varují před použitím výstupu vytvořeného z fotky osoby k rozhodnutím, která by ji mohla poškodit:

You must not use any Output relating to a person for any purpose that could have a legal or material impact on that person, such as making credit, educational, employment, housing, insurance, legal, medical, or other important decisions about them.

Nesmíte použít žádný výstup týkající se určité osoby k žádnému účelu, který by mohl mít na tuto osobu právní nebo materiální dopad, jako je rozhodování o poskytnutí úvěru, vzdělání, zaměstnání, bydlení, pojištění, právní nebo lékařské péči nebo jiné důležité rozhodnutí o ní.

Živnostník, který by z fotky žadatele o zakázku nechal ChatGPT odhadnout něco relevantního pro rozhodnutí o spolupráci, by tím porušil přímo tuhle větu podmínek používání.

Nejhůř na tom je zaměstnanec, který do firemního nebo Enterprise účtu nahraje fotku interního dokumentu, tabule z porady nebo výrobku ve vývoji. Podmínky u tohoto typu účtu totiž otevírají obsah účtu správci celé organizace:

When you join a ChatGPT Enterprise or business account, the administrators of that account may access and control your OpenAI account, including being able to access your Content.

Když se připojíte k firemnímu účtu ChatGPT Enterprise nebo business, administrátoři tohoto účtu mohou mít přístup k vašemu účtu OpenAI a ovládat ho, včetně přístupu k vašemu obsahu.

Fotka firemního dokumentu tak může skončit viditelná pro administrátora, aniž by o tom zaměstnanec, který ji nahrál, musel vůbec vědět.

K tomu se přidává obecné riziko nepřesnosti, které se u fotky projeví jinak než u textu, protože model může z obrázku vyvodit závěr, který o osobě na fotce neodpovídá skutečnosti:

Given the probabilistic nature of machine learning, use of our Services may, in some situations, result in Output that does not accurately reflect real people, places, or facts.

Vzhledem k pravděpodobnostní povaze strojového učení může použití našich služeb v některých situacích vést k výstupu, který přesně neodpovídá skutečným lidem, místům nebo faktům.

Popis nebo odhad, který ChatGPT z fotky člověka vytvoří, tedy nemusí sedět, a podmínky na to samy upozorňují.

Co můžete vypnout

Jediný přepínač, který podmínky popisují, se netýká zvlášť fotek, ale celého obsahu najednou:

You can easily choose whether your Content can be used to improve and train our models.

Můžete si snadno zvolit, jestli lze váš obsah použít ke zlepšování a trénování našich modelů.

Vypnutí v nastavení účtu tak zastaví trénink na fotkách stejně jako na textu, protože obojí spadá pod jednu definici obsahu z první citace výše. Samostatný vypínač jen pro obrázky dokumenty nepopisují.

Co vypnout nejde

Vypnutí tréninku nezastaví zpracování obsahu pro bezpečnostní účely. Zásady ochrany údajů to uvádějí mezi účely, které platí bez ohledu na nastavení tréninku:

To prevent fraud, illegal activity, or misuses of our Services, and to protect the security of our systems and Services, including by monitoring any Content submitted or exchanged on our platforms

Abychom předešli podvodům, nezákonné činnosti nebo zneužití našich služeb a chránili bezpečnost našich systémů a služeb, včetně sledování veškerého obsahu odeslaného nebo vyměněného na našich platformách.

Fotka odeslaná do ChatGPT tímhle sledováním prochází stejně jako text, ať máte trénink zapnutý nebo vypnutý. Nejde vypnout ani přístup administrátora firemního účtu popsaný výše, ani to, co se z fotky stihlo naučit dřív, než jste o smazání požádali.

Jak požádat o výmaz

Žádost o výmaz osobních údajů, včetně nahraných fotek, jde přes formulář na privacy.openai.com nebo e-mailem na dsar@openai.com. Pro dotaz přímo na pověřence pro ochranu osobních údajů slouží adresa dpo@openai.com:

You can exercise some of these rights through your OpenAI account using the tools described in the Data controls section, or you can submit your request through privacy.openai.com or to dsar@openai.com. You can contact our data protection officer at dpo@openai.com.

Některá z těchto práv můžete uplatnit přímo ve svém účtu OpenAI pomocí nástrojů popsaných v části o ovládání dat, nebo můžete žádost podat přes privacy.openai.com nebo na adresu dsar@openai.com. Na našeho pověřence pro ochranu osobních údajů se můžete obrátit na adrese dpo@openai.com.

Do žádosti napište, o jaký účet jde, e-mail, pod kterým jste registrovaní, a co konkrétně chcete smazat: konkrétní fotku, celou konverzaci, nebo celý účet. OpenAI si může před vyřízením ověřit vaši identitu a bez úspěšného ověření žádost nevyřídí.

Na vyřízení máte podle článku 12 odstavce 3 obecného nařízení o ochraně osobních údajů nárok do jednoho měsíce od podání žádosti. U složitějších žádostí lze lhůtu prodloužit o další dva měsíce, o čemž vás ale OpenAI musí informovat ještě v tom prvním měsíci.

Co výmaz nevrátí zpět: fotka, která mezitím posloužila k tréninku, se anonymizuje a oddělí od účtu ještě předtím, než stihnete o výmaz požádat. V tu chvíli přestává být vedená jako váš osobní údaj, takže samotné smazání účtu už na ni nedosáhne. Vzorce, které se z ní model naučil, zůstávají otištěné v jeho parametrech, i když identifikující spojení s vaší osobou zmizelo.

Jak se chránit, i když nic nevypnete

Dřív, než fotku nahrajete, zkontrolujte, jestli na ní není tvář, podpis, rodné číslo nebo adresa někoho jiného než vás. Pokud ano, zakryjte tu část snímku před vyfocením, nebo požadovaný údaj přepište ručně do textového pole. Pro shrnutí nebo přepis to funguje stejně dobře jako originál.

Vizitky a doklady, ze kterých potřebujete jen pár řádků textu, zvažte přepsat ručně místo fotografování. Fotka nese víc informací najednou, než kolik jich k odpovědi skutečně potřebujete.

Fotky interních dokumentů, tabulí z porad nebo výrobků ve vývoji posílejte přes firemní účet Enterprise nebo business jen tehdy, když to organizace výslovně vyžaduje, a počítejte s tím, že je uvidí administrátor účtu.

Pro jednorázový citlivý snímek, který nechcete v historii ani v tréninku, použijte Dočasný chat. Taková konverzace se podle zásad ochrany údajů nikdy neobjeví v historii a nikdy neposlouží k tréninku.

Po použití fotku z konverzace i z účtu aktivně smažte. U dat, která mezitím trénink stihl použít, to zpětně nic nevrátí.

Co vám garantuje evropské právo

Bez ohledu na to, jak máte nastavený trénink, vám obecné nařízení o ochraně osobních údajů dává právo na přístup k vlastním datům, na jejich opravu, na omezení zpracování i na výmaz, a lhůtu na vyřízení žádosti stanovuje přímo zákon. Cestu k uplatnění popisuje citovaná pasáž o vašich právech výše: formulář na privacy.openai.com nebo e-mail na dsar@openai.com. AI Act k tomu přidává povinnost poskytovatele být transparentní o tom, že s obsahem pracuje systém umělé inteligence. Konkrétní technický popis toho, jak dlouho fotka zůstává součástí tréninkových dat, ale ani AI Act, ani samotné obecné nařízení nezaručí. Na tuhle otázku odpovídají jen podmínky konkrétního poskytovatele, tedy dokumenty citované výše.

Verdikt

Patnáct bodů z třiceti, stejné skóre jako u obecného rozboru ChatGPT a ovládání tréninku, protože fotka podle podmínek spadá pod úplně stejnou definici obsahu jako text. Nejvyšší skóre patří vlastnictví výstupu, protože OpenAI si k výstupu vytvořenému z fotky nenárokuje nic. Nejnižší skóre má trénink, protože je ve výchozím stavu zapnutý pro obrázky stejně jako pro text.

Fotku od textu neodlišuje žádná zvláštní klauzule, spíš naopak, chybí jakákoli zvláštní klauzule pro obrázky. Jedinou výjimku tvoří profilová fotka, kterou podmínky vedou jako informaci o účtu, samostatně od definice obsahu popsané výše. Než příště pošlete fotku vizitky, dokladu nebo tabule z porady, počítejte s tím, že ChatGPT s ní zachází stejně, jako by šlo o odstavec textu, který byste napsali vlastníma rukama.