OpenAI zavede v EU neviditelné vodoznaky pro text z ChatGPT a Codex
OpenAI přidá v EU neviditelný vodoznak do výstupů z ChatGPT a Codex, detektor nejprve zpřístupní výzkumníkům.
V kostce:
- Vodoznak míří na ChatGPT a Codex v EU
- Záměna 25 % slov srazila detekci na 17 %
- Pravidla transparentnosti platí od 2. srpna
OpenAI v nadcházejících týdnech zavede neviditelný vodoznak do textových výstupů z ChatGPT a Codex v Evropské unii, aby splnila pravidla transparentnosti podle nařízení o AI. Opatření se týká způsobilých uživatelů služby ChatGPT a nástroje Codex ve všech tarifech, ale pouze v EU. Při záměně čtvrtiny slov synonymy klesá úspěšnost detekce z přibližně 92 % na 17 %.
Zavádění začne v průběhu nadcházejících týdnů a nebude globální. Vývojáři využívající programové rozhraní společnosti OpenAI si mohou vodoznak zapnout od zveřejnění oznámení pro vybrané podporované modely kdekoli na světě, ve výchozím nastavení je ale vypnutý. Podle portálu TechCrunch AI společnost oznámila plán v pondělí na blogu, detaily jsou z 5. října 2026.
Vodoznak není viditelný symbol, ale statistický signál ukrytý ve volbě slov. Metoda s názvem textGrain jemně usměrňuje výběr následujícího slova, takže čtenář změnu nepozná, detektor ji ale s pomocí tajného klíče odhalí. Protože je signál součástí samotných slov, přenáší se i při kopírování a vkládání textu. Technickou zprávu k metodě napsala společnost OpenAI společně s výzkumníky z Pensylvánské univerzity a Yaleovy univerzity, uvedl portál TechCrunch AI.
Vodoznak neidentifikuje uživatele a podle společnosti OpenAI neměl jeho provoz podstatný vliv na výkon modelů. U modelu GPT-6 Astra zůstaly výsledky testů po zapnutí metody textGrain v zásadě podobné, uvedl portál Bleeping Computer. Detekce zároveň neprozradí účet, zadání ani konverzaci a neurčí, jak velký podíl na výsledném textu má lidský úsudek, úpravy nebo kreativita.
Spolehlivost detekce klesá při úpravách, krátkém rozsahu i omezeném prostoru pro volbu slov. V hodnocení úseků o délce 400 tokenů snížila náhrada 10 % slov synonymy detekci z přibližně 92 % na 66 %, náhrada 25 % slov na 17 %. Při cílené 1% míře falešně pozitivních nálezů dosáhla detekce asi 80 % u 200tokenových odpovědí z psychologie a zhruba 95 % při délce 400 tokenů, hůře dopadly například odpovědi z matematiky. Chybějící vodoznak proto nedokazuje lidské autorství, text může být příliš krátký, silně upravený, přeložený nebo může pocházet z AI jiného výrobce.
Přístup k detektoru proto společnost OpenAI nejprve omezí na schválené výzkumníky a expertní organizace, které mají pomoci posoudit spolehlivost a odpovědné použití. Oznámení přichází dva měsíce poté, co společnost Anthropic zavedla vodoznaky pro text z modelu Claude plošně po celém světě, což u části uživatelů vyvolalo kritiku, uvedl portál TechCrunch AI. OpenAI přitom vodoznak textu vyvinula již dříve, ale vydání odložila mimo jiné z obavy, že uživatelé přejdou ke konkurenci bez vodoznaku, o čemž v roce 2024 informoval deník The Wall Street Journal. Společnosti Anthropic, Google, Meta, Microsoft a OpenAI se zavázaly dodržovat kodex postupu EU pro obsah generovaný AI.
Co to znamená: Firmy v EU by měly počítat s tím, že delší neupravené výstupy ze služby ChatGPT a nástroje Codex ponesou strojově zjistitelný signál původu, zatímco krátké, přeložené či výrazně editované texty jím průkazně podchyceny být nemusí. Pro audit a implementaci AI z toho plyne nutnost vést evidenci použitých nástrojů a úprav a nespoléhat se pouze na detekci, protože nepřítomnost vodoznaku nevylučuje podíl AI na textu.
Zdroje: