Proč se to plete
Většina úniků do veřejných jazykových modelů nevznikne ze zlé vůle. Vzniknou z toho, že rozhodnutí padá za pochodu. Někdo potřebuje shrnout dlouhý dokument, otevře chatbota, vloží text a jde dál. Otázka, jestli v tom dokumentu bylo jméno klienta, se položí až potom.
Přesně tohle hra napodobuje. Nedostanete seznam čtyř možností a čas na rozmyšlenou. Dostanete zprávu, která jede k bráně, a několik vteřin. Kdo nerozhodne, rozhodl: zpráva projde.
Tři kategorie, ne dvě
V praxi se obsah nedělí na „tajný“ a „veřejný“, ale na tři skupiny:
Veřejný obsah už jednou vyšel ven. Tisková zpráva, publikovaný článek, otevřená datová sada, znění zákona. Tady není co chránit, protože ochrana už padla ve chvíli zveřejnění. Jediná past: nepřidávejte k veřejnému textu vlastní interní poznámku.
Interní obsah není tajný, ale ani veřejný. Zápis z porady, pracovní postup, souhrn prodejů bez zákazníků. Nikoho nepoškodí, když jej uvidí kolega, a poškodí, když jej uvidí konkurence. Patří do nástroje, se kterým má organizace smlouvu.
Obsah, který ven nepatří vůbec. Osobní údaje, zdravotní zprávy, smlouvy třetích stran, přístupové údaje, kód s obchodním tajemstvím. U téhle skupiny nepomůže ani firemní nástroj, dokud pro to není doložený právní základ a schválený proces.
Nepřímé určení, na kterém se chybuje nejvíc
Nejtěžší kategorie ve hře nejsou hesla. Ta pozná každý. Chybuje se na případech, kde jméno chybí, ale osoba je stejně určitelná.
„Vedoucí pobočky ve Zlíně, nastoupila v březnu 2019, řeší reklamaci ve výši 240 tisíc“ neobsahuje jediný osobní údaj v běžném slova smyslu. Přesto vede k jednomu konkrétnímu člověku, kterého v té firmě pozná každý. Odstranění jména není anonymizace.
Stejně tak pseudonymizovaná tabulka. Nahrazení jména kódem chrání jen do chvíle, než někdo spojí zbývající sloupce dohromady.
Co říká GDPR a co z toho plyne
Vložení osobního údaje do veřejného chatbota je zpracování osobního údaje jako každé jiné. Potřebuje právní základ podle článku 6 a u zvláštních kategorií podle článku 9, potřebuje doložený účel a musí být zaznamenané v záznamech o činnostech zpracování. Nic z toho nezmizí tím, že se to stalo v prohlížeči během pěti minut.
Nejde přitom o formalitu. Provozovatel modelu je v takové chvíli další příjemce údajů a vaše organizace za něj odpovídá. Když se v podmínkách služby píše, že vstupy mohou sloužit k dalšímu trénování, znamená to, že se údaj z vaší databáze může objevit v odpovědi někomu úplně jinému. U schváleného firemního nástroje bývá tohle smluvně vyloučené, u veřejné verze zpravidla ne.
Zvláštní kategorie podle článku 9 zaslouží samostatnou pozornost, protože se do textu dostávají nenápadně. Zdravotní stav, členství v odborech, náboženské vyznání nebo biometrický údaj. Věta „kolegyně je od úrazu na částečný úvazek“ vypadá jako provozní poznámka a přitom nese údaj o zdravotním stavu konkrétní osoby.
Kdy nepomůže ani firemní nástroj
Schválený nástroj řeší, kam data tečou. Neřeší, jestli tam mají téct vůbec.
Smlouva třetí strany s doložkou o mlčenlivosti nepatří do žádného modelu, dokud protistrana neví, že se tam dostane. Zdravotní dokumentace nepatří nikam mimo systém určený k jejímu vedení. Přístupové údaje nepatří do promptu ani jako příklad, protože prompt zůstává v historii konverzace a k té se dostane každý, kdo se dostane k účtu.
Praktické vodítko: pokud by vás mrzelo, že ten text vidí konkurent, patří to nejvýš do firemního nástroje. Pokud by to poškodilo konkrétního člověka, nepatří to nikam, dokud pro to není doložený právní základ a schválený postup.
Co s tím ve firmě
Zákaz sám o sobě nefunguje. Pravidlo „umělou inteligenci nepoužívejte“ lidé porušují, protože jim šetří hodiny práce, a porušují ho potají, takže nikdo neví, kam data tečou.
Funguje opak: schválený nástroj, jasný seznam toho, co do něj nepatří, a jedno místo, kde se dá zeptat na hraniční případ. Hra trénuje přesně ten úsudek, který takový seznam předpokládá.
Ten seznam nemusí být dlouhý. Tři kategorie z této hry a k nim pět příkladů ke každé pokrývají naprostou většinu denního provozu. Druhá polovina je návyk: rozhodnutí, jestli text ven smí, má padnout dřív, než se otevře okno chatbota, ne až v něm. Proto tahle hra běží na čas. Netrénuje znalost seznamu, ale rychlost úsudku, který se seznamem počítá.