AI najde podobný text: proč to ještě neznamená stejnou odpověď

Co znamená, že AI vyhodnotí text jako podobný

Vyhledávání založené na embeddings porovnává významové reprezentace textů, nejen shodná klíčová slova; nemusí však zachytit každý rozdíl v podmínce nebo negaci. Dva dotazy proto mohou sdílet téma, situaci i většinu slov, a přesto vést k opačnému závěru. Právě tady vzniká časté nedorozumění: uživatel vidí povědomý nalezený text a předpokládá, že odpověď bude stejná.

Faktický základ je úzký. Podle dokumentace OpenAI embeddings embeddingy měří související význam textových řetězců a používají se pro vyhledávání. Podobnost tedy říká, jak blízko jsou si texty významově, nikoli že mají stejnou podmínku, platnost nebo pravdivost.

Jde o doporučenou praxi CIAD: brát podobnost jako tip, kam se podívat, nikoli jako rozhodnutí. Rozdíl často udělá jedno slovo, například ne, mimo, pouze, po, před, bez nebo do. Pochopení toho, co je vektorová databáze, může pomoci při práci s vyhledáváním založeným na vektorové podobnosti. Samotná podobnost ale nedokládá, že nalezený text odpovídá na dotaz nebo že je jeho obsah pravdivý.

Kde se význam nejčastěji zlomí

Nejrizikovější jsou věty, které vypadají téměř stejně. Typicky se liší negací, časem, subjektem, výjimkou nebo rozsahem. Lidské oko tyto rozdíly snadno přeskočí, zvlášť když spěchá nebo když první výsledek působí přesvědčivě.

Pozor si dejte hlavně na čtyři vzory. První je negace: smí versus nesmí, platí versus neplatí, je povinen versus není povinen. Druhý je podmínka: pokud je splněno A, versus pokud je splněno A i B. Třetí je rozsah: všichni zákazníci versus zákazníci se smlouvou po určitém datu. Čtvrtý je čas a pořadí: před schválením versus po schválení.

Pro pracovní použití je užitečné oddělit nalezený úryvek od odpovědi na vaši otázku. Nalezený úryvek říká, co je v dokumentu napsáno. Odpověď na vaši otázku vznikne až po porovnání podmínky, subjektu a času. Podobná věta bez stejné podmínky je jiná informace.

Test kontrastních vět, který odhalí rozdíl

Níže je vyplnitelná rozhodovací karta. Je to doporučená praxe CIAD, nikoli zákonná povinnost. Zkopírujte si ji k dotazu, který právě řešíte, a projděte všech pět řádků. Pokud se liší byť jeden klíčový bod, nepřebírejte závěr automaticky.

Pravidlo vyhodnocení je jednoduché. Jestliže je shoda ve všech pěti bodech, můžete s textem dál pracovat jako s relevantním podkladem. Jestliže se liší negace nebo podmínka, jde o kontrastní větu. Pak je potřeba hledat dál, upřesnit dotaz nebo otevřít původní dokument.

Tento postup dobře doplňuje přístup RAG, kde model odpovídá na základě dohledaných podkladů. I tam platí, že dohledaný podobný odstavec ještě nemusí obsahovat odpověď na přesně položenou podmínku.

Hypotetický příklad s přesným výsledkem

Následující příklad je zcela ilustrativní a hypotetický, neslouží jako testování konkrétního produktu. Představte si interní dotaz: Mohu odeslat návrh klientovi před interním schválením, pokud jde o částku do 50 000 Kč?

Systém pro významové vyhledávání vrátí velmi blízkou větu z příručky: Návrh klientovi do 50 000 Kč lze odeslat až po interním schválení. Obě věty sdílejí návrh, klienta, částku 50 000 Kč i schválení, takže vysoká podobnost dává smysl.

Výsledek testu je neshoda. Rozdíl je v časové podmínce před versus po. Výsledek karty je: negace se mezi větami neliší, podmínka neshoda, subjekt shoda, čas neshoda, požadovaná akce neshoda. Nalezený text tedy nepodporuje odeslání před schválením. Jako pracovní postup zde neodesílejte a nejprve doplňte schválení.

Tento jeden hypotetický případ ukazuje hlavní princip. Slova se překrývají, podmínka je jiná, a proto je jiná i dovolená akce. Chyba by zde nevznikla z neznalosti tématu, ale z převzetí podobného textu bez kontroly podmínky.

Jak ověřit odpověď před použitím

Použijte krátký ověřovací postup. Jde o doporučenou praxi CIAD pro běžnou práci s AI odpověďmi, nikoli o plošnou právní povinnost. Cílem je snížit možnost, že podobný text použijete jako důkaz.

Začněte přeformulováním dotazu vlastními slovy. Napište, kdo co smí, za jaké podmínky a kdy. Potom otevřete zdrojový dokument, ne pouze shrnutí. Zkontrolujte celou větu včetně vedlejší věty začínající pokud, jestliže, s výjimkou, pouze nebo až po. Nakonec si položte kontrolní otázku: změnila by odpověď, kdybych přidal ne nebo jinou podmínku?

Podrobnější kontrolní kroky najdete v návodu jak ověřit odpověď AI. Hodí se hlavně tam, kde se rozhodujete o odeslání, schválení, platbě, sdílení údajů nebo výkladu pravidla. U takových rozhodnutí nestačí, že text vypadá povědomě. Musí sedět osoba, podmínka, rozsah i čas.

Pokud zdroj mlčí nebo mluví o jiné situaci, výsledek označte jako neověřeno. Lepší je přiznat mezeru než převzít podobnou větu jako jistotu. Do poznámky si zapište, co přesně chybí, například datum účinnosti nebo definici výjimky.

Omezení a další krok pro vaši práci

Tento článek řeší pouze významovou podobnost a záměnu podmínky. Neřeší kvalitu konkrétního vyhledávače, nastavení prahu podobnosti ani úplnost firemní dokumentace. Také nerozlišuje funkce jednotlivých produktů, proto z jednoho pozorování nedělejte závěr o všech službách.

Věcné omezení je důležité: podobnost neumí sama rozhodnout, zda je podmínka splněna ve vašem případě. Negace, výjimka a čas zůstávají na lidském posouzení. Proto berte výsledek hledání jako kandidáta k ověření, nikoli jako konečné stanovisko.

Jako další krok si vyberte jeden svůj nedávný dotaz a projděte ho kontrastní kartou z tohoto článku. Jestli narazíte na větu, která se liší pouze slovem ne, pouze nebo až po, dohledáte plné znění podmínky. Tím získáte jednoduchý návyk, který snižuje možnost záměny podobného textu za stejnou odpověď.