Přenášejte ověřenou identitu a kontext tenanta do každé datové operace, oprávnění filtrujte ještě před retrievalem a znovu je ověřujte při otevření citace či volání nástroje. Izolujte konverzace a cache, minimalizujte servisní práva, auditujte citlivé přístupy a pravidelně testujte odebrání přístupu i pokusy o přístup k cizím objektům.
AI asistent může propojovat dokumenty, historii konverzace a údaje z více systémů. To zvyšuje užitečnost, ale také riziko, že odpověď prozradí informaci, kterou uživatel v původním zdroji neviděl. Přihlášení do chatu proto nestačí. Oprávnění se musí promítnout do vyhledávání, cache, nástrojů, citací i exportu.
Základem je ověřená identita uživatele a přesný kontext organizace, role a případu. Model nemůže rozhodovat o přístupu podle textu ani si vyžádat širší data pro lepší odpověď. Server filtruje před načtením, kontroluje každý objekt a vrací minimum. Odebrání práva se projeví i v odvozených indexech a uložených pracovních stavech.
Určete identity a hranice důvěry
Rozlište koncového uživatele, servisní identitu AI aplikace, vlastníka zdroje a administrátora. Uživatel se autentizuje schváleným mechanismem a server z relace odvodí organizaci a role. Text modelu, parametr nástroje ani hlavička z nedůvěryhodného klienta nesmějí tuto identitu přepsat. Zastupování musí být viditelné, časově omezené a auditované.
Servisní identita dostane nejmenší oprávnění potřebná k provedení dotazu, ideálně v delegovaném kontextu uživatele. Jeden široký účet pro všechny kolekce a akce ztěžuje izolaci i vyšetřování. Prostředí oddělte a produkční přihlašovací údaje nevkládejte do vývojového asistenta. Vlastník každého přístupu zná způsob jeho rotace a okamžitého odvolání.
Filtrujte zdroje před vyhledáním a generováním
Oprávnění ze zdrojového systému přeneste do indexu jako bezpečné identifikátory skupin, tenantů nebo objektů. Filtr se aplikuje před výběrem kandidátů, aby zakázaná pasáž nevstoupila do kontextu modelu. Následné odstranění výsledku je pozdě, protože model mohl informaci použít v souhrnu. Výchozím stavem při chybě synchronizace je odmítnutí.
Oprávnění se mění, proto index a cache potřebují spolehlivou aktualizaci a měření zpoždění. Při odebrání citlivého přístupu zvažte okamžité zneplatnění odvozených výsledků. Veřejná a interní verze dokumentu mají samostatnou identitu. Citace při otevření znovu ověří aktuální oprávnění, i když odpověď vznikla dříve.
- ověřená identita a tenant z aplikační relace
- filtr oprávnění před získáním kandidátů
- aktuální kontrola při otevření zdroje
- bezpečné zneplatnění indexu, cache a odvozených výstupů
Izolujte konverzace, paměť a exporty
Konverzace patří konkrétnímu uživateli nebo oprávněně sdílenému pracovnímu prostoru. Odkaz s uhodnutelným identifikátorem nesmí zpřístupnit cizí historii. Dlouhodobá paměť ukládá pouze schválené typy informací a uživatel ví, co se zachová. Shrnutí starší diskuse není automaticky autoritativním zdrojem ani trvalým oprávněním k původním dokumentům.
Klíč cache zahrnuje identitu, tenant, role, verzi práv a rozsah zdrojů podle architektury. Sdílená odpověď bez těchto hranic může přenést citlivý obsah mezi lidmi. Export a kopírování odpovědi jsou samostatné schopnosti s pravidly, označením zdrojů a auditem. Diagnostické záznamy redigujte a přístup podpory časově omezte.
Autorizujte nástroje i každou cílovou akci
Při tool callingu server ověří, zda uživatel smí danou schopnost použít a zda smí číst nebo měnit konkrétní objekt. Model nemůže rozšířit rozsah argumentem admin true ani výběrem jiného nástroje. Hromadný dotaz má limit a filtr na datové vrstvě. Výsledek obsahuje pouze pole potřebná pro aktuální krok.
Zápisové a citlivé akce mohou vyžadovat dodatečné potvrzení nebo oddělenou roli. Potvrzení se váže ke konkrétnímu cíli a hodnotám. Pokud se oprávnění mezi návrhem a provedením změní, operace se znovu autorizuje a může být zamítnuta. Chyba neprozrazuje, zda cizí objekt existuje, ale oprávněnému člověku poskytne bezpečný identifikátor pro podporu.
Testujte izolaci a auditujte citlivý přístup
Testy používají více organizací, rolí, sdílených i soukromých dokumentů a změny oprávnění během relace. Zkuste vyhledat cizí název, uhodnout identifikátor, otevřít starou citaci, využít cache a zavolat nástroj s cizím objektem. Ověřte také administraci, export a chybová hlášení. Úspěch znamená, že zakázaná data nebyla načtena.
Audit zaznamená citlivé vyhledání, otevření zdroje, export, změnu oprávnění a provedenou akci spolu s identitou a výsledkem. Nemá bez potřeby kopírovat celý obsah dotazu. Monitoring upozorní na opakovaná zamítnutí, neobvyklý objem a zpožděnou synchronizaci skupin. Pravidelná recertifikace odebere staré účty a oprávnění, pro která již neexistuje pracovní důvod.
Časté dotazy
Stačí zkontrolovat oprávnění až po vygenerování odpovědi?
Ne. Zakázaný obsah už mohl ovlivnit text. Filtr se musí uplatnit před retrievalem a přístup se znovu ověří při citaci, exportu nebo akci.
Může AI používat jeden servisní účet pro všechny?
Technicky může, ale široká práva zvyšují dopad chyby. Upřednostněte delegovaný kontext nebo úzké servisní identity a vždy vynucujte uživatelské i objektové oprávnění na serveru.
Co s odpovědí po odebrání přístupu ke zdroji?
Zneplatněte příslušnou cache a omezte další otevření zdroje či historie podle pravidel. Citlivé případy mohou vyžadovat odstranění odvozeného uloženého výstupu.
Zdroje a další čtení
Adam Antoni vyvíja weby, aplikácie a softvér na mieru. Prepája firemné systémy, automatizuje procesy a vytvára AI agentov. Pôsobí v Spišskej Novej Vsi a spolupracuje s firmami na celom Slovensku.
