Jak ověřit, že odpověď AI je pravdivá?

Proč AI někdy tvrdí nepravdu s naprostou jistotou

Jazykové modely jako ChatGPT, Gemini nebo Claude negenerují odpovědi z databáze ověřených faktů. Predikují nejpravděpodobnější další slovo na základě naučených vzorců. Výsledkem je věta, která zní gramaticky i stylisticky dokonale, přestože obsahuje smyšlený zákon, neexistující studii nebo špatné číslo. Model se přitom tváří stejně sebejistě jako u pravdivé odpovědi. Tomuto jevu se říká halucinace a je to vlastnost technologie, ne chyba konkrétního dotazu. Modely navíc obvykle nemají přístup k aktuálnímu internetu, pokud nemají zapnuté vyhledávání, a jejich znalosti mají datum „odříznutí“. U čehokoli novějšího si mohou klidně vymýšlet.

Pětikrokový postup, jak si odpověď ověřit

1. Požádejte o konkrétní zdroj. Napište „uveďte přesný zdroj tohoto tvrzení“ nebo „citujte konkrétní paragraf zákona“. Pokud AI zdroj nenajde nebo si ho vymyslí, obvykle to poznáte podle vágnosti nebo neexistujícího odkazu.
2. Zdroj si sami dohledejte. Nestačí, že AI zdroj jmenuje · ověřte, že skutečně existuje a říká to, co AI tvrdí. Modely dokážou citovat reálný zákon, ale interpretovat jeho obsah špatně.
3. Zeptejte se stejné věci jinak nebo v jiném nástroji. Položte dotaz odlišnou formulací, případně porovnejte odpověď mezi dvěma modely, například ChatGPT a Gemini. Shoda nezaručuje pravdivost, ale rozpor je jasný signál k obezřetnosti.
4. Zkontrolujte vnitřní logiku a čísla. U výpočtů si výsledek přepočítejte sami nebo v kalkulačce. AI dělá chyby i v jednoduché matematice, protože „počítá“ jazykově, ne numericky.
5. U důležitých rozhodnutí konzultujte s člověkem. Právník, lékař nebo účetní by měl mít poslední slovo tam, kde jde o peníze, zdraví nebo právní důsledky.

Modelový příklad: uživatel se v Praze zeptá AI na výši poplatku za pozdní podání daňového přiznání. AI uvede konkrétní částku a odkáže na „§ 250 daňového řádu“. Správný postup je otevřít si daňový řád, třeba přes portál Zákony pro lidi nebo přímo ve Sbírce zákonů, a ověřit, že paragraf skutečně existuje a obsahuje uvedenou sazbu. Teprve pak částku použít.

Kategorie, kde je opatrnost nejdůležitější

Ne všechny dotazy nesou stejné riziko. U otázky „navrhni tři nápady na název kavárny“ halucinace nevadí. U následujících oblastí ale může chyba reálně ublížit:

• Čísla a statistiky · AI si často vymýšlí přesná procenta, částky nebo data, protože zní přesvědčivěji než přiznání „nevím“. Konkrétní čísla vždy dohledejte v primárním zdroji.
• Právo · paragrafy, lhůty a sazby se mění a modely je běžně pletou nebo citují neplatné znění zákona. Právní radu od AI berte jako první orientaci, ne jako závazné stanovisko.
• Zdraví · dávkování léků, diagnózy nebo interakce látek jsou oblast, kde chyba může mít vážné následky. AI zde slouží nanejvýš k přípravě otázek pro lékaře, ne k rozhodování.
• Aktuální události · bez zapnutého vyhledávání model nezná dění po datu svého tréninku a může si „domyslet“ verzi, která zní pravděpodobně, ale je smyšlená.

Audity CIAD opakovaně ukazují, že uživatelé nejvíc podceňují kombinaci sebejistého tónu a konkrétního čísla. Lidé mají tendenci věřit přesným údajům víc než vágním formulacím, přestože by to mělo být přesně naopak.

Kdy odpovědi AI nevěřit vůbec

Existují situace, kdy je rozumnější odpověď AI ignorovat a rovnou hledat jinde:

• Model přiznává nejistotu formulacemi jako „myslím, že“ nebo „pokud si dobře pamatuji“ u faktické otázky.
• Jde o čerstvou událost a nástroj nemá aktivní vyhledávání na internetu.
• Odpověď se týká vaší konkrétní zdravotní diagnózy, léčby nebo dávkování.
• Jde o právně závazné rozhodnutí, jako podpis smlouvy, daňové přiznání nebo soudní spor.
• Zdroj, který AI uvádí, nejde nikde dohledat.

Co to znamená: AI je užitečný pomocník pro první orientaci, návrh struktury nebo shrnutí, ale u faktů s reálnými důsledky funguje jako spolehlivý výchozí bod k ověření, ne jako konečná autorita. Návyk „zeptat se a hned zkontrolovat zdroj“ se vyplatí zafixovat podobně, jako se kdysi vyplatilo naučit se neklikat na podezřelé odkazy v e-mailu.