Válasszon ellenőrzött forrásokat és tesztkérdéseket, a tartalmat jelentés szerint, metaadatokkal ossza fel, és alakítson ki a megfelelő jeleket kombináló keresést. A találatjelölteket szűrje jogosultságok szerint, rendezze relevancia szerint, a modellnek csak a szükséges kontextust adja át, és követelje meg a hivatkozásokat, valamint egy állapotjelzést arra az esetre, ha a válasz nem támasztható alá.
A Retrieval-Augmented Generation a nyelvi modellt a releváns céges anyagok kérdés idején történő keresésével kapcsolja össze. Így a modellnek nem kell minden tudást a paramétereiben hordoznia, a válasz pedig megmutathatja a forrásokat. A RAG azonban nem javítja ki automatikusan az elavult dokumentációt, és nem garantálja az igazságot. A rossz keresés helytelen kontextust ad egy meggyőzően fogalmazó modellnek.
A jó tervezés konkrét kérdésekkel, jogosult forrásokkal és az értékelés módjával kezdődik. Ezután a tartalom feldolgozásával, szakaszokra bontásával, az indexszel, a szűrőkkel, a jelöltek kiválasztásával és a kontextus összeállításával foglalkozik. A válasznak képesnek kell lennie hivatkozni, beismerni a hiányzó forrást, és minden lépésben tiszteletben tartani a hozzáférési jogokat, nem csak a felhasználói felületen.
Kezdje kérdésekkel és hiteles forrásokkal
Gyűjtse össze a támogatási, értékesítési vagy belső csapatoktól érkező valós kérdéseket, és rendelje hozzájuk az elvárt forrástípust. Különböztesse meg a tényekre irányuló keresést, egy folyamat magyarázatát és több dokumentum összehasonlítását. Minden feladatnak határokra van szüksége. A műszaki dokumentációra szolgáló rendszer külön tervezés nélkül ne hozzon jogi vagy személyzeti döntéseket.
A forrásoknál határozza meg a tulajdonost, a jóváhagyás állapotát, az érvényességet, a nyelvet és a célközönséget. A duplikált irányelvek és a régi mellékletek ellentmondásokat tartalmazhatnak, amelyeket az index csak megsokszoroz. Vezessen be prioritási szabályt, és a véletlenszerű választás helyett jelenítse meg az ellentmondást. A tulajdonos vagy egyértelmű dátum nélküli tartalom nem feltétlenül alkalmas válaszadásra, még ha jól kereshető is.
A tartalmat jelentés szerint ossza fel, és őrizze meg a metaadatokat
Egy szakasznak egy egységes gondolatot és a megértéshez elegendő kontextust kell hordoznia. A rögzített karakterszám szétválaszthat egy táblázatot, egy lépést vagy egy feltételt a kivételétől. Használja a címsorokat, bekezdéseket, szakaszokat és a dokumentum szerkezetét, és szükség esetén adjon hozzá rövid felettes kontextust. Az átfedés segít a határokon, de hasonló jelölteket hoz létre.
Minden szövegrészhez tárolja el a dokumentumot, a verziót, a címsorútvonalat, az érvényességi dátumot, a nyelvet, a tartalomtípust és a hozzáférési attribútumokat. A hivatkozásnak olyan helyre kell mutatnia, amelyet a jogosult személy meg tud nyitni. Frissítéskor távolítsa el vagy jelölje meg a régi részeket, hogy ne keveredjenek az új verzióval. A feldolgozáshoz stabil azonosító és megismételhető eredet szükséges.
- a forrásdokumentum azonosítója és verziója
- címsorútvonal és a jelentésbeli szakasz határai
- érvényesség, nyelv és jóváhagyási állapot
- az indexbe átvitt hozzáférési attribútumok
Kombinálja a keresési jeleket és a szűrőket
A szemantikus keresés a hasonló jelentést ragadja meg, a kulcsszavas keresés pedig a pontos kódot, nevet vagy rövidítést. A hibrid megközelítés egyesítheti az erősségeiket. Először alkalmazza a jogosultsági szűrőket és a gyűjtemény megfelelő hatókörét. Ha minden kérdésnél a teljes vállalati könyvtárban keres, az csökkenti a pontosságot, és növeli a kontextus kiszivárgásának kockázatát.
Kérjen le több jelöltet, mint amennyi a végső kontextusba belefér, majd rangsorolja újra őket a kérdés alapján. Távolítsa el a szinte azonos szövegrészeket, és őrizze meg a források sokféleségét, ha a feladat összehasonlítást igényel. A relevanciaküszöböt olyan kérdéseken ellenőrizze, amelyekre nincs válasz. Az alacsony pontszám ne vezessen a legközelebbi szöveg felhasználásához csak azért, mert a rendszer mindig talál valamit.
Állítsa össze a választ hivatkozásokkal és a bizonytalanság felvállalásával
A kontextust válassza el a rendszerszabályoktól, és jelölje meg nem megbízható tartalomként. A modell azt a feladatot kapja, hogy kizárólag a megadott forrásokból válaszoljon, különböztesse meg az állítást az ajánlástól, és konkrét szövegrészeket idézzen. Az idézetet technikailag ellenőrizze, hogy az azonosító létezzen, és a felhasználónak legyen hozzáférése. A rendezetlen, hosszú kontextus inkább elrejtheti a fontos bizonyítékot, mintsem segítene.
Ha a háttéranyagok nem elegendők vagy ellentmondanak egymásnak, a válasznak ezt ki kell mondania, és biztonságos következő lépést kell felajánlania. Ne töltse ki a hiányt a modell általános tudásával, ha a felhasználó a vállalati szabályzatot várja. Érzékeny kérdés esetén a rendszer visszaadhatja a releváns forrásokat következtetés generálása nélkül. A beszélgetés előzményei nem válhatnak ellenőrizetlen tényforrássá.
A keresést a generálástól elkülönítve értékelje
Egy tesztkérdésnél először ellenőrizze, hogy a helyes szövegrész bekerült-e a jelöltek közé, és megfelelő helyen szerepel-e. Csak ezután értékelje a válasz hűségét, teljességét és a hivatkozásokat. Ha a forrás hiányzik, a prompt módosítása nem oldja meg a problémát. A készlet tartalmaz szinonimákat, pontos azonosítókat, egymásnak ellentmondó dokumentumokat, megválaszolhatatlan kérdéseket és eltérő jogosultságú eseteket.
Üzem közben kövesse a sikertelen kereséseket, a hivatkozások megnyitását, a bejelentett pontatlanságokat, az elavult forrásokat, a késleltetést és a lépésenkénti költségeket. Egy új embeddinget, darabolást vagy rerankert ugyanazon a teszthalmazon hasonlítson össze. A tartalomgazda a források minőségéért, a technikai csapat az indexért, a termékgazda pedig a felhasználás határaiért felel; egyetlen mérőszám sem helyettesíti ezt az összehangolást.
Gyakori kérdések
Megakadályozza a RAG az AI hallucinációit?
Nem teljesen. Javítja a releváns háttéranyagok elérhetőségét, de a keresés hibázhat, és a modell félreértelmezheti a forrást. Szükség van hivatkozásokra, a megalapozatlan válaszok elutasítására és kiértékelésekre.
Minden dokumentummódosításnál újra kell tanítani a modellt?
Általában nem. A feldolgozott tartalom és az index frissül. Ugyanakkor el kell távolítani a régi verziót, meg kell őrizni a metaadatokat, és tesztelni kell, hogy a keresés helyesen megtalálja-e az új szakaszokat.
Mindig szükség van vektoros keresésre a RAG-hoz?
Nem. Pontos azonosítók vagy kis, strukturált gyűjtemény esetén elegendő lehet a klasszikus keresés. A jelek kiválasztásának a kérdésekből és az ellenőrzött eredményekből kell kiindulnia.
Források és további olvasnivaló
Adam Antoni vyvíja weby, aplikácie a softvér na mieru. Prepája firemné systémy, automatizuje procesy a vytvára AI agentov. Pôsobí v Spišskej Novej Vsi a spolupracuje s firmami na celom Slovensku.
