Definujte úkol, povolené chování a kritické chyby, poté sestavte reprezentativní a oddělenou testovací sadu s očekávaným důkazem. Kombinujte deterministické kontroly s odbornou rubrikou, výsledky rozdělte podle scénářů a každou změnu před nasazením porovnejte s poslední schválenou verzí.
Ukázka několika pěkných odpovědí neřekne, jak se AI systém chová při neúplném vstupu, konfliktu zdrojů nebo požadavku mimo rozsah. Evaluace vytváří opakovatelný způsob, jak porovnat verzi modelu, pokynů, vyhledávání a pravidel na případech, které reprezentují skutečnou práci i významná rizika.
Jedna univerzální metrika nestačí. Klasifikace, extrakce, RAG odpověď a agent s nástroji mají jiná kritéria. Některé vlastnosti ověří kód, jiné odborník podle rubriky. Výsledek má ukázat konkrétní typy chyb a rozhodovací hranici pro nasazení, ne jen průměr, který skryje vzácné nebezpečné selhání.
Převeďte účel systému na hodnotitelná kritéria
Začněte pracovním výsledkem. U extrakce může být důležitá správnost konkrétních polí a doklad, u RAG věrnost zdrojům a schopnost odmítnout otázku bez podkladu. U agenta hodnotíte i volbu nástroje, argumenty a dodržení oprávnění. Kritérium má být pozorovatelné a srozumitelné lidem, kteří rozhodují o použití.
Sepište zakázané chování a jeho závažnost. Únik cizího dokumentu nebo provedení nepovolené akce nemůže vyvážit množství dobrých odpovědí. Určete, které chyby blokují vydání a které lze přijmout s kontrolou či omezením rozsahu. Hranice schvaluje vlastník procesu spolu s bezpečnostní a věcnou rolí podle dopadu.
Sestavte reprezentativní a chráněnou sadu
Případy pokrývají běžné vstupy, různé jazyky a formáty, sezónní varianty, chybějící údaje, konflikty, otázky mimo rozsah a známé incidenty. Rozdělení nemá pouze kopírovat objem; vzácné kritické situace dostanou samostatnou skupinu. U reálných dat minimalizujte citlivý obsah, omezte přístup a zdokumentujte oprávněný účel.
Očekávaným výsledkem může být přesná hodnota, seznam přípustných odpovědí, požadovaný zdroj nebo kvalitativní rubrika. Nejasné případy označte a nechte posoudit odborníky. Sadu používanou k průběžnému ladění oddělte od závěrečné kontroly, aby tým neoptimalizoval pouze známé otázky. Verze a změny případů evidujte stejně jako kód.
- běžné, hraniční a záměrně nepříznivé případy
- očekávaný výstup nebo odborná rubrika
- samostatná skupina kritických bezpečnostních selhání
- původ, oprávnění a verze testovacích dat
- zdokumentované rozhodnutí o vydání nebo návratu
Kombinujte hodnocení kódem, modelem a člověkem
Kód spolehlivě ověří schéma, povolenou kategorii, existenci citace, aritmetiku nebo zakázané volání nástroje. Sémantickou úplnost a vhodnost často posoudí člověk podle konkrétní hodnoticí rubriky. Model jako hodnotitel může pomoci při větším objemu, potřebuje však vlastní ověření, stabilní pokyn a pravidelnou kontrolu odchylek oproti odborníkům.
Při lidském hodnocení definujte stupnici, příklady a postup při neshodě. Hodnotitel nemá vědět, která verze je nová, pokud by to ovlivnilo jeho úsudek. Sledujte shodu mezi lidmi a diskutujte sporné případy; často odhalí chybějící definici. Plynulost textu oddělte od faktické opory, bezpečnosti a užitečnosti pro úlohu.
Porovnávejte verze kontrolovaně a po skupinách
Při experimentu změňte jednu pojmenovanou součást, nebo přesně evidujte kombinaci modelu, promptu, parametrů, indexu a nástrojů. Stejné vstupy spusťte za srovnatelných podmínek. Rozdíl v průměru rozložte podle kategorie, jazyka a rizika. Nová verze může zlepšit běžný případ a zároveň zhoršit odmítání nepodložených odpovědí.
Projděte konkrétní regrese a rozhodněte, zda jde o náhodnou variaci, chybu testu, nebo skutečnou změnu. Při nedeterministickém chování může být nutné opakovat vybrané případy a hodnotit rozdělení výsledků. Nevyvozujte přesný závěr z malého vzorku. Rozhodnutí o nasazení uvede zjištění, omezení a připravený způsob návratu.
Zapojte evaluace do vydání a zpětné vazby
Rychlé deterministické kontroly spouštějte při každé změně, širší sadu před vydáním a citlivé scénáře při změně modelu, zdrojů nebo oprávnění. Kritická regrese blokuje nasazení. Výsledky uchovejte spolu s konfigurací a artefakty potřebnými k reprodukci v mezích datových pravidel. Testovací klíče a prostředí oddělte od produkčních.
Potvrzené provozní chyby přidávejte do sady po odborném zpracování a odstranění nepotřebných údajů. Monitoring a evaluace se doplňují: první zachytí dnešní provoz, druhé umožní porovnat změnu před vydáním. Sada se pravidelně reviduje, aby odrážela aktuální proces bez ztráty důležitých historických regresí.
Časté dotazy
Kolik testovacích případů AI systém potřebuje?
Neexistuje univerzální počet. Sada musí pokrýt hlavní rozložení vstupů, hraniční situace a kritická rizika. Rozšiřujte ji podle nových potvrzených chyb a nejistoty výsledků.
Může AI model hodnotit odpovědi jiného modelu?
Může pomoci, pokud ověříte jeho rubriku a shodu s odborníky. Nemá být jediným rozhodčím u citlivé vlastnosti nebo tam, kde opakuje stejné zkreslení.
Co je regrese u AI systému?
Je to zhoršení již požadovaného chování po změně modelu, promptu, dat nebo kódu. Může se projevit jen v konkrétní skupině, proto nestačí sledovat celkový průměr.
Zdroje a další čtení
Adam Antoni vyvíja weby, aplikácie a softvér na mieru. Prepája firemné systémy, automatizuje procesy a vytvára AI agentov. Pôsobí v Spišskej Novej Vsi a spolupracuje s firmami na celom Slovensku.
