Pokud znáte kroky, pravidla a cílový výstup, začněte deterministickým workflow s úzce vymezenými AI funkcemi. Agenta zvažte u proměnlivého plánování, kdy lze každý nástroj omezit a výsledek ověřit. Nastavte povolené akce, rozpočet, stav, lidské schválení a testy nebezpečných scénářů.
AI agent si může vybírat další krok, používat nástroje a přizpůsobovat plán podle průběžného výsledku. Deterministický workflow má kroky a přechody navržené předem. Agent přináší pružnost u otevřenější úlohy, ale zároveň rozšiřuje prostor možných cest, nákladů a chyb. Ne každý proces s jazykovým modelem potřebuje autonomní rozhodování.
Správná volba vychází z variability vstupu, možnosti pevně popsat postup, následků nesprávné akce a dostupnosti ověření. Mnoho firemních případů využije hybrid: aplikace řídí stav a oprávnění, zatímco model klasifikuje nebo připraví návrh. Agent dostane pouze úzký cíl, omezené nástroje a rozpočet kroků odpovídající riziku.
Odlište flexibilitu od nejasného požadavku
Agent má smysl, když se pořadí kroků mění podle nalezených informací a nelze ho rozumně vypsat jako malý počet větví. Pokud však tým neumí definovat výsledek, vlastníka ani hranice, autonomie jen zakryje chybějící proces. Nejprve popište cíl, vstupy, povolené zdroje a podmínku dokončení tak, aby je dokázal posoudit člověk.
Workflow je vhodné pro opakovatelné schvalování, přesuny dat a regulovaná rozhodnutí. Krok s AI může rozumět textu, ale další přechod určí kód. Agent může zkoumat dokumentaci nebo připravit plán, zatímco provedení citlivé změny zůstane samostatným nástrojem se schválením. Hybridní přístup často zachová pružnost, aniž by modelu předal veškerou kontrolu.
Porovnejte následek chyby a vratnost
Sepište, co může systém číst, vytvořit, změnit, odeslat a smazat. Chybné interní vyhledání je jiný problém než odeslaný e-mail nebo změna zákaznického záznamu. Čím je akce závaznější a hůře vratná, tím méně volnosti má agent při jejím výběru a parametrech. Některé nástroje zůstanou pouze pro čtení.
Zohledněte řetězení malých kroků. Každý může vypadat bezpečně, ale dohromady mohou umožnit export údajů nebo obejití schvalování. Oprávnění vyhodnocuje server při každém volání podle identity uživatele a případu. Model nikdy není zdrojem autorizace. Citlivá akce vyžaduje explicitní potvrzení se zobrazeným cílem a hodnotami.
- variabilita pořadí a počet možných větví
- vratnost a dopad nesprávného kroku
- možnost technicky ověřit výsledek
- oprávnění, rozpočet a dostupná lidská kontrola
Omezte plánování, nástroje a stav
Agent dostane malý seznam přesně popsaných nástrojů a strukturované argumenty. Zakažte obecné spouštění kódu nebo neomezený přístup k internetu, pokud je úloha nepotřebuje. Nastavte maximální počet kroků, čas, spotřebu a počet opakování. Při jejich překročení agent skončí ve vysvětlitelném stavu nebo případ předá člověku.
Pracovní paměť oddělte od dlouhodobých znalostí a autoritativních záznamů. Modelové shrnutí předchozích kroků může vynechat detail, proto důležitý stav drží aplikace ve schématu. Obnova po pádu nesmí zopakovat již provedenou akci. Každý nástroj vrací stabilní identifikátor výsledku a agent ho nemůže svévolně přepsat.
Testujte cesty, nejen finální odpověď
Evaluační případ hodnotí zvolený plán, použité nástroje, argumenty, počet kroků, dodržení oprávnění a konečný výsledek. Zahrňte nedostupný nástroj, konfliktní zdroje, neúplný vstup, škodlivý pokyn v dokumentu a požadavek mimo rozsah. Úspěšný výsledek dosažený zakázanou cestou je selhání, i když text vypadá správně.
Výstupy modelu se mohou měnit, proto rozlišujte více přípustných bezpečných plánů od konkrétních zakázaných akcí. Simulované nástroje umožní testovat bez skutečného odeslání či změny dat. Před novou verzí porovnejte kritické scénáře a podle rizika použijte stínový provoz, ve kterém agent navrhuje, ale nejedná.
Provozujte agenta jako řízenou službu
Sledujte úspěšnost úloh, počet kroků, používání nástrojů, zamítnuté autorizace, zásahy lidí, čas, náklady a opakované smyčky. Auditní stopa má ukázat, co agent požadoval a co nástroj skutečně provedl, aniž by unikla tajemství. Alarm upozorní na neobvyklý nástroj, objem nebo kombinaci akcí, které vyžadují pozastavení.
Připravte vypnutí jednotlivého nástroje, snížení limitu a přechod na workflow nebo ruční proces. Změny pokynů, modelu a oprávnění procházejí kontrolou. Pravidelná revize ověří, zda flexibilita stále přináší hodnotu oproti jednoduššímu toku. Pokud se úspěšné cesty ustálí, mohou se přesunout do deterministického workflow s nižším provozním rizikem.
Časté dotazy
Je každý chatbot AI agent?
Ne. Chatbot může pouze generovat odpověď nebo vyhledávat zdroje. Agent si volí kroky a používá nástroje ke splnění cíle, což přináší další oprávnění a rizika.
Kdy je deterministický workflow lepší?
Když jsou kroky známé, pravidla musí být vysvětlitelná a akce má významný dopad. Model může zůstat v úzkém kroku bez řízení celého procesu.
Jak zastavit agenta, který se opakuje?
Nastavte limit kroků, času, spotřeby a opakovaných volání, detekujte opakující se stav a ukončete případ s bezpečnou eskalací. Limit patří do aplikace, ne jen do promptu.
Zdroje a další čtení
Adam Antoni vyvíja weby, aplikácie a softvér na mieru. Prepája firemné systémy, automatizuje procesy a vytvára AI agentov. Pôsobí v Spišskej Novej Vsi a spolupracuje s firmami na celom Slovensku.
