Je bezpečné vkládat firemní data do ChatGPT?

Bezpečnost práce s umělou inteligencí nestojí na dobrých úmyslech, ale na tvrdých technických parametrech vašeho účtu. Mnoho manažerů mylně předpokládá, že chatbot funguje jako uzavřený textový editor, kde zadaný text zmizí po stisku Enter. Opak je pravdou. Ve výchozím režimu běžných verzí slouží vaše konverzace jako krmivo pro zdokonalování algoritmu. Pokud do takového okna vložíte neanonymizovanou rozvahu, detailní seznam klientů nebo úryvek zdrojového kódu, tyto informace se mohou stát trvalou součástí trénovacích dat. Následně teoreticky hrozí, že se objeví v odpovědích zcela jiným uživatelům.

Rozdíly mezi verzemi Free, Plus a Enterprise

Základní verze ChatGPT i předplatné Plus (ve výchozím nastavení) dávají vývojáři právo analyzovat vaše konverzace za účelem trénování nových iterací modelu. Sice existuje možnost tuto funkci manuálně vypnout v uživatelském profilu, avšak spoléhat se u celého týmu na lidskou disciplínu je hazard. Naproti tomu verze ChatGPT Enterprise a přístup prostřednictvím API nabízejí smluvní garanci, že žádná data z vašich konverzací nebudou použita pro trénování modelů. Audity v oblasti kybernetické bezpečnosti (CIAD) opakovaně ukazují, že právě absence této garance u běžných účtů představuje nejčastější příčinu úniků citlivých informací v českých společnostech. Podniková verze navíc šifruje data jak během přenosu, tak při uložení na discích, čímž splňuje přísnější požadavky na ochranu osobních údajů dle nařízení GDPR.

Co nikdy nevkládat do veřejných AI nástrojů

Firma by měla zavést jasná pravidla zakazující vkládání specifických kategorií informací do jakýchkoli veřejných AI nástrojů, bez ohledu na použitou verzi. Mezi absolutně zakázané údaje patří osobní údaje zaměstnanců a klientů, jako jsou jména, rodná čísla či zdravotní záznamy. Dále sem patří obchodní tajemství, nepublikované finanční výsledky, hesla, API klíče a interní strategické dokumenty. I když máte nastaveno vypnutí trénování, data stále putují přes servery třetí strany, což rozšiřuje povrch pro potenciální kybernetické útoky nebo chyby na straně poskytovatele. Jako bezpečný postup doporučujeme před vložením jakéhokoli textu provést jeho důkladnou anonymizaci. Konkrétní názvy firem, jména lidí a přesná čísla nahraďte generickými označeními typu “Klient A” nebo “Projekt X”.

Jak nastavit bezpečná pravidla pro tým

Zavedení bezpečného používání AI vyžaduje kombinaci technických zásahů a organizačních opatření. Prvním krokem je přísný zákaz používání soukromých účtů pro pracovní účely a vynucení využití centrálně spravovaného enterprise účtu, kde má administrátor plnou kontrolu nad nastavením soukromí. Druhým krokem je vytvoření interní směrnice, která jasně definuje, jaká data lze zpracovávat a jaký postup zaměstnanci dodržují při jejich anonymizaci. Třetím krokem jsou pravidelná školení zaměstnanců, kteří musí pochopit, že AI nástroj není jen pasivní textový editor, ale komplexní systém zpracovávající data na vzdálených serverech.

Co to znamená: Pro firmy znamená používání bezplatného ChatGPT nepřijatelné právní a reputační riziko spojené s možným únikem obchodního tajemství. Bezpečná práce s AI je možná pouze při využití specializovaných podnikových licencí s vypnutým trénováním na datech zákazníka a při důsledném dodržování zásad minimalizace sdílených informací.