Vigye át az ellenőrzött identitást és a tenant kontextust minden adatműveletbe, a jogosultságokat már a retrieval előtt szűrje, és ellenőrizze újra egy hivatkozás megnyitásakor vagy egy eszköz meghívásakor. Különítse el a beszélgetéseket és a gyorsítótárat, minimalizálja a szolgáltatási jogokat, naplózza az érzékeny hozzáféréseket, és rendszeresen tesztelje a jogosultság visszavonását, valamint az idegen objektumokhoz való hozzáférési kísérleteket is.
Egy AI-asszisztens összekapcsolhat dokumentumokat, beszélgetési előzményeket és több rendszerből származó adatokat. Ez növeli a hasznosságát, de azt a kockázatot is, hogy a válasz olyan információt fed fel, amelyet a felhasználó az eredeti forrásban nem látott. Ezért a chatbe való bejelentkezés nem elegendő. A jogosultságnak érvényesülnie kell a keresésben, a gyorsítótárban, az eszközökben, a hivatkozásokban és az exportban is.
Az alapot a felhasználó ellenőrzött identitása, valamint a szervezet, a szerepkör és az ügy pontos kontextusa jelenti. A modell nem dönthet a hozzáférésről szöveg alapján, és nem kérhet szélesebb körű adatokat egy jobb válasz érdekében. A szerver a betöltés előtt szűr, minden objektumot ellenőriz, és csak a szükséges minimumot adja vissza. Egy jogosultság visszavonása a származtatott indexekben és a mentett munkaállapotokban is érvényesül.
Határozza meg az identitásokat és a bizalmi határokat
Különböztesse meg a végfelhasználót, az AI-alkalmazás szolgáltatási identitását, az erőforrás tulajdonosát és az adminisztrátort. A felhasználó jóváhagyott mechanizmuson keresztül hitelesíti magát, a szerver pedig a munkamenetből vezeti le a szervezetet és a szerepköröket. Sem a modell által generált szöveg, sem az eszköz paramétere, sem egy nem megbízható kliens fejléce nem írhatja felül ezt az identitást. A más nevében történő eljárásnak láthatónak, időben korlátozottnak és auditáltnak kell lennie.
A szolgáltatási identitás a lekérdezés végrehajtásához szükséges legkisebb jogosultságot kapja, ideális esetben a felhasználó delegált kontextusában. Egyetlen, minden gyűjteményre és műveletre kiterjedő széles fiók megnehezíti az elkülönítést és a vizsgálatot is. Válassza szét a környezeteket, és ne adja meg az éles hitelesítő adatokat a fejlesztői asszisztensnek. Minden hozzáférés felelőse ismeri a rotáció és az azonnali visszavonás módját.
Szűrje a forrásokat a keresés és a generálás előtt
A forrásrendszer jogosultságait csoportok, tenantok vagy objektumok biztonságos azonosítóiként vigye át az indexbe. A szűrő a jelöltek kiválasztása előtt érvényesül, hogy a tiltott szakasz ne kerüljön a modell kontextusába. Az eredmény utólagos eltávolítása már késő, mert a modell felhasználhatta az információt egy összefoglalóban. Szinkronizálási hiba esetén az alapértelmezett állapot az elutasítás.
A jogosultságok változnak, ezért az indexnek és a gyorsítótárnak megbízható frissítésre és a késleltetés mérésére van szüksége. Érzékeny hozzáférés visszavonásakor fontolja meg a származtatott eredmények azonnali érvénytelenítését. A dokumentum nyilvános és belső változatának külön identitása van. A hivatkozás megnyitáskor újra ellenőrzi az aktuális jogosultságot, még ha a válasz korábban készült is.
- ellenőrzött identitás és tenant az alkalmazás munkamenetéből
- jogosultsági szűrő a jelöltek lekérése előtt
- aktuális ellenőrzés a forrás megnyitásakor
- az index, a gyorsítótár és a származtatott kimenetek biztonságos érvénytelenítése
Különítse el a beszélgetéseket, a memóriát és az exportokat
A beszélgetés egy adott felhasználóhoz vagy jogosultan megosztott munkaterülethez tartozik. Egy kitalálható azonosítót tartalmazó hivatkozás nem tehet hozzáférhetővé más felhasználók előzményeit. A hosszú távú memória csak jóváhagyott típusú információkat tárol, és a felhasználó tudja, mi marad meg. A korábbi beszélgetés összefoglalója nem automatikusan hiteles forrás, és nem ad tartós jogosultságot az eredeti dokumentumokhoz.
A cache-kulcs az architektúrától függően tartalmazza az identitást, a tenantot, a szerepköröket, a jogosultságok verzióját és a források körét. Az ilyen határok nélkül megosztott válasz érzékeny tartalmat juttathat át egyik személytől a másikhoz. A válasz exportálása és másolása önálló képességek, saját szabályokkal, forrásmegjelöléssel és auditálással. A diagnosztikai bejegyzéseket redigálja, a támogatás hozzáférését pedig időben korlátozza.
Engedélyezze az eszközöket és minden célműveletet
Tool calling esetén a szerver ellenőrzi, hogy a felhasználó használhatja-e az adott képességet, és olvashatja vagy módosíthatja-e a konkrét objektumot. A modell nem bővítheti a hatókört egy admin true argumentummal vagy egy másik eszköz kiválasztásával. A tömeges lekérdezésnek az adatrétegen van korlátja és szűrője. Az eredmény csak az aktuális lépéshez szükséges mezőket tartalmazza.
Az írási és érzékeny műveletek további megerősítést vagy külön szerepkört igényelhetnek. A megerősítés egy konkrét célhoz és értékekhez kötődik. Ha a jogosultság a javaslat és a végrehajtás között megváltozik, a műveletet újra engedélyeztetni kell, és az elutasítható. A hibaüzenet nem fedi fel, hogy egy idegen objektum létezik-e, de a jogosult személynek biztonságos azonosítót ad az ügyfélszolgálat számára.
Tesztelje az izolációt, és auditálja az érzékeny hozzáféréseket
A tesztek több szervezetet, szerepkört, megosztott és privát dokumentumot, valamint a munkamenet közbeni jogosultságváltozásokat használják. Próbáljon meg idegen nevet keresni, azonosítót kitalálni, régi hivatkozást megnyitni, gyorsítótárat használni, és eszközt idegen objektummal meghívni. Ellenőrizze az adminisztrációt, az exportot és a hibaüzeneteket is. Siker az, ha a tiltott adatok nem töltődtek be.
Az audit rögzíti az érzékeny keresést, a forrás megnyitását, az exportot, a jogosultságok módosítását és a végrehajtott műveletet az identitással és az eredménnyel együtt. Szükség nélkül nem másolhatja le a kérdés teljes tartalmát. A monitoring figyelmeztet az ismétlődő elutasításokra, a szokatlan mennyiségre és a csoportok késedelmes szinkronizálására. A rendszeres újratanúsítás eltávolítja a régi fiókokat és azokat a jogosultságokat, amelyeknek már nincs munkahelyi indoka.
Gyakori kérdések
Elég a jogosultságot csak a válasz legenerálása után ellenőrizni?
Nem. A tiltott tartalom már befolyásolhatta a szöveget. A szűrőt a retrieval előtt kell alkalmazni, a hozzáférést pedig hivatkozáskor, exportáláskor vagy műveletkor újra ellenőrizni kell.
Használhat-e az AI egyetlen szolgáltatásfiókot mindenki számára?
Technikailag igen, de a széles jogosultságok növelik a hibák hatását. Részesítse előnyben a delegált kontextust vagy a szűk jogkörű szolgáltatásidentitásokat, és a szerveren mindig érvényesítse a felhasználói és az objektumszintű jogosultságokat is.
Mi legyen a válasszal, miután megszűnt a hozzáférés a forráshoz?
Érvénytelenítse a vonatkozó gyorsítótárat, és a szabályok szerint korlátozza a forrás vagy az előzmények ismételt megnyitását. Érzékeny esetekben a származtatott, tárolt kimenet törlésére is szükség lehet.
Források és további olvasnivaló
Adam Antoni vyvíja weby, aplikácie a softvér na mieru. Prepája firemné systémy, automatizuje procesy a vytvára AI agentov. Pôsobí v Spišskej Novej Vsi a spolupracuje s firmami na celom Slovensku.
