Průvodce evidencí
Jak udělat AI kontrolu dokumentů auditovatelnou?
AI kontrola dokumentů je auditovatelná tehdy, když lze každé uvolněné tvrzení dohledat ke zdroji, systém zaznamenává modelové a nástrojové akce, nejistota spouští definovanou výjimku a uvolnění povoluje jmenovaný kontrolor nebo explicitní policy. Samotný přepis chatu není dostatečný evidenční model.
V praxi: Dohledatelnost umožňuje kontrolu a vyšetřování; kvalita výstupu stále závisí na zdrojích, validaci a procesu uvolnění.
01
Oddělte fakta, návrhy a rozhodnutí
Zdrojová fakta musí být uložena odděleně od návrhů modelu a rozhodnutí kontrolora. Hodnota extrahovaná ze strany 12 není totéž jako odvozený závěr; ani jedno se nestává schváleným výstupem bez splnění pravidla uvolnění.
| Typ záznamu | Příklad | Nutná provenience |
|---|---|---|
| Zdrojové faktum | IČO uvedené na straně 12 | Hash souboru, strana nebo oblast, text, metoda extrakce |
| Návrh modelu | Subjekt A zřejmě ovládá subjekt B | Vstupní odkazy, modelová trasa, konfigurace, výstup, jistota |
| Validace | Podíly vlastnictví nedávají 100 % | Verze pravidla, kontrolované hodnoty, výsledek, čas |
| Rozhodnutí kontrolora | Schváleno po náhradě nepodložené hodnoty | Identita, změny, důvod, rozsah, čas |
| Uvolněný artefakt | Finální balíček k podání | Hash, cíl, autorita k uvolnění, evidence |
02
Nejistota je stav workflow
Skóre modelu nemá být jedinou bránou. Eskalaci může vyvolat chybějící dokument, rozpor zdrojů, nepodložená hodnota, chyba deterministického pravidla, neznámý layout nebo změna vysoce dopadového pole. Každý trigger potřebuje vlastníka a povolené řešení.
- Vyžádat další zdroj
- Předat specialistovi
- Zablokovat export do splnění pravidla
- Označit pole jako neznámé místo vymyšlené hodnoty
- Uchovat návrh i opravu kontrolora
03
Příklad: řízená kontrola disclosure
Případová složka obsahuje doklady totožnosti, výpisy a vlastnický diagram. Příjem zachová originály a hashe. Extrakce navrhne normalizované osoby, majetek a vztahy s citacemi. Pravidla označí chybějícího vlastníka účtu a nesoulad procent. Workflow zablokuje export a otevře dvě položky ke kontrole. Kontrolor doplní zdroj, opraví vztah a zaznamená důvod. Teprve potom systém vytvoří balíček k podání a přenositelnou evidenci navázanou na finální artefakt.
04
Minimální evidenční balíček
Evidence má zůstat použitelná i po změně aplikačního rozhraní. Přenositelný balíček může obsahovat manifest, hashe souborů, události akcí, fingerprinty konfigurace, validace, rozhodnutí kontrolora, hashe výstupů a časové důkazy. Citlivé payloady lze podle policy minimalizovat nebo nahradit referencí.
- Stabilní identifikátory a manifest
- Hashově provázané události
- Hashe zdrojů a výstupů
- Fingerprinty modelů, nástrojů a policy
- Validace a výjimky
- Schvalovací a release rozhodnutí
- Výsledek nezávislé verifikace
05
Zdroje
Primární zdroje a technické materiály použité v tomto průvodci.
- [1] Specifikace Cynsta AAP ↗
Otevřená specifikace a verifier přenositelné evidence.
- [2] NIST AI Risk Management Framework ↗
Funkce govern, map, measure a manage pro rizika AI.
- [3] EU AI Act, nařízení (EU) 2024/1689 ↗
Oficiální text včetně požadavků na záznamy pro dotčené systémy.
Pokračovat