Vyberte ověřené zdroje a testovací otázky, obsah rozdělte podle významu s metadaty a vytvořte vyhledávání kombinující vhodné signály. Kandidáty filtrujte podle oprávnění, seřaďte podle relevance, modelu poskytněte pouze potřebný kontext a vyžadujte citace i stav, kdy odpověď nelze podložit.
Retrieval-Augmented Generation propojuje jazykový model s vyhledáním relevantních firemních podkladů v okamžiku dotazu. Model tak nemusí nést všechny znalosti ve svých parametrech a odpověď může uvádět zdroje. RAG však není automatickou opravou neaktuální dokumentace ani zárukou pravdy. Špatné vyhledání dodá přesvědčivému modelu nesprávný kontext.
Kvalitní návrh začíná konkrétními otázkami, oprávněnými zdroji a způsobem hodnocení. Poté řeší zpracování obsahu, dělení na pasáže, index, filtry, výběr kandidátů a sestavení kontextu. Odpověď má umět citovat, přiznat chybějící podklad a respektovat přístupová práva v každém kroku, nejen v uživatelském rozhraní.
Začněte otázkami a autoritativními zdroji
Shromážděte skutečné otázky od podpory, obchodu nebo interních týmů a přiřaďte k nim očekávaný typ zdroje. Rozlišujte vyhledání faktu, vysvětlení postupu a porovnání více dokumentů. Každý úkol potřebuje hranice. Systém pro technickou dokumentaci nemá bez zvláštního návrhu poskytovat právní nebo personální rozhodnutí.
U zdrojů určete vlastníka, stav schválení, platnost, jazyk a cílové publikum. Duplicitní směrnice a staré přílohy mohou obsahovat konflikty, které index jen znásobí. Zaveďte pravidlo priority a zobrazte konflikt místo náhodného výběru. Obsah bez vlastníka nebo jasného data nemusí být vhodný jako podklad pro odpověď, i když se dobře vyhledává.
Dělte obsah podle významu a zachovejte metadata
Pasáž má nést ucelenou myšlenku a dostatek kontextu k pochopení. Pevný počet znaků může rozdělit tabulku, krok postupu nebo oddělit podmínku od výjimky. Využijte nadpisy, odstavce, sekce a strukturu dokumentu a podle potřeby přidejte krátký nadřazený kontext. Překryv pomáhá na hranicích, ale vytváří podobné kandidáty.
Ke každé pasáži uložte dokument, verzi, cestu nadpisů, datum platnosti, jazyk, typ obsahu a přístupové atributy. Citace musí směřovat na místo, které oprávněný člověk otevře. Při aktualizaci odstraňte nebo označte staré části, aby se nemíchaly s novou verzí. Zpracování potřebuje stabilní identifikátor a opakovatelně dohledatelný původ.
- identifikátor a verze zdrojového dokumentu
- nadpisová cesta a hranice významové pasáže
- platnost, jazyk a stav schválení
- přístupové atributy přenesené do indexu
Kombinujte vyhledávací signály a filtry
Sémantické vyhledávání zachytí podobný význam, klíčové vyhledávání zase přesný kód, název nebo zkratku. Hybridní přístup může spojit jejich silné stránky. Nejprve aplikujte filtry podle oprávnění a vhodný rozsah kolekce. Vyhledávání v celé firemní knihovně u každého dotazu snižuje přesnost a zvyšuje riziko úniku kontextu.
Získejte více kandidátů, než se vejde do konečného kontextu, a následně je přeřaďte podle dotazu. Odstraňte téměř totožné pasáže a zachovejte rozmanitost zdrojů, pokud úloha vyžaduje srovnání. Práh relevance ověřte na dotazech bez odpovědi. Nízké skóre nemá vést k použití nejbližšího textu jen proto, že systém vždy něco našel.
Sestavte odpověď s citacemi a přiznanou nejistotou
Kontext oddělte od systémových pravidel a označte ho jako nedůvěryhodný obsah. Model dostane úkol odpovídat pouze z poskytnutých zdrojů, rozlišovat tvrzení od doporučení a citovat konkrétní pasáže. Citaci technicky ověřte, aby identifikátor existoval a uživatel měl přístup. Dlouhý kontext bez uspořádání může důležitý důkaz spíše ukrýt, než pomoci.
Pokud podklady nestačí nebo si odporují, odpověď to má říct a nabídnout bezpečný další krok. Nevyplňujte mezeru obecnou znalostí modelu, pokud uživatel očekává firemní politiku. U citlivé otázky může systém vrátit relevantní zdroje bez generování závěru. Historie konverzace se nesmí stát neověřeným zdrojem faktů.
Vyhodnocujte vyhledávání odděleně od generování
U testovací otázky nejprve ověřte, zda se správná pasáž dostala mezi kandidáty a na vhodné místo. Teprve poté hodnoťte věrnost odpovědi, úplnost a citace. Pokud chybí zdroj, úprava promptu problém nevyřeší. Sada obsahuje synonyma, přesné identifikátory, konfliktní dokumenty, otázky bez odpovědi a případy s rozdílnými oprávněními.
V provozu sledujte neúspěšná vyhledávání, otevření citací, nahlášené nepřesnosti, zastaralé zdroje, latenci a náklady podle jednotlivých kroků. Nový embedding, dělení nebo reranker porovnejte na stejné sadě. Vlastník obsahu řeší kvalitu zdrojů, technický tým index a produktový vlastník hranice použití; žádná jednotlivá metrika tuto koordinaci nenahradí.
Časté dotazy
Zabrání RAG halucinacím AI?
Ne úplně. Zlepší dostupnost relevantních podkladů, ale vyhledávání může selhat a model může zdroj nesprávně interpretovat. Potřebujete citace, odmítnutí nepodložené odpovědi a evaluace.
Musí se při každé změně dokumentu přeučit model?
Obvykle ne. Aktualizuje se zpracovaný obsah a index. Je však třeba odstranit starou verzi, zachovat metadata a otestovat, že se nové pasáže správně vyhledají.
Je vektorové vyhledávání pro RAG vždy nezbytné?
Ne. U přesných identifikátorů nebo malé strukturované kolekce může stačit klasické vyhledávání. Výběr signálů má vycházet z otázek a ověřených výsledků.