Prompt injection a jailbreaky
Zda lze systém přimět obejít pravidla nebo změnit zamýšlené chování.
NEZÁVISLÝ AUDIT AI
Než AI sáhne na citlivá data.
Nezávisle prověříme AI a LLM systém na cesty zneužití dříve, než pracuje s citlivými daty. Dostanete nálezy, jejich závažnost a nápravný plán.
CO PROVĚŘUJEME
Místa, kde AI systém může selhat.
Audit vychází z konkrétního nasazení. Testujeme scénáře, které jsou relevantní pro váš systém, data a oprávnění.
RAG a práce s kontextem
Bezpečnost zdrojů, kontextu a odpovědí, které systém skládá nad vašimi daty.
Agentní smyčky a přístupy
Rizika nástrojů, oprávnění a kroků, které může systém provádět.
Identita a citlivá data
Cesty k nechtěnému odhalení dat nebo zneužití identity.
OD ROZSAHU K NÁPRAVĚ
Nejdřív vymezíme systém. Pak ověříme, co se stane pod tlakem.
Cílem je najít konkrétní rizika, doložit je a určit, co má smysl upravit a znovu ověřit.
Kontext a hranice
Společně určíme systémy, scénáře a přístupy, které audit pokryje.
Testování a důkazy
Provádíme cílené testy relevantní pro váš způsob nasazení.
Nálezy a náprava
Předáme prioritizované nálezy s doporučením, co upravit a ověřit.
POPTÁVKA
Popište systém, který chcete prověřit.
Ozveme se s dalším krokem pro vymezení rozsahu nezávislého AI auditu.