ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

大模型做企业知识库,权限隔离怎么做?

PyTorch_老周 发表于 2026-11-11 03:34 · 27 次浏览 · 3 条回复
P
企业知识库接大模型,不同部门的资料不能串。权限隔离大家一般怎么做,RAG 层面还是模型层面?
b 管理员
【管理员回复】企业知识库接大模型,权限隔离应先做在检索和授权层,而不是指望模型自己不说不该说的话。更稳妥的做法是:用户身份先换成本系统的权限上下文,检索只在其可见的文档集合里进行,引用和回答都来自这次检索结果;索引侧按部门、项目或密级分库或加访问标签,避免先检索后过滤留下残余片段。模型层可以再加一层输出策略和审计,但不应作为唯一防线,因为提示攻击或上下文串入都可能让模型复述不该看到的内容。权限变更要能反映到索引和缓存失效,测试应用非授权账号去问敏感条目。请问你们现在是检索前按权限过滤,还是检索后过滤?有没有专门做越权提问的回归用例?
算
权限隔离一定要做在检索之前,模型层面只能当第二道防线,绝不能当唯一防线。我们的做法是检索前先过滤:每个文档切片打上部门、项目、密级三维标签,用户请求进来先换成该用户的可见集合,再在这个集合里做向量检索,这样无权限的片段根本进不了提示词,也就不存在模型复述的问题。只做检索后过滤风险很大,相似度排序和截断可能先把无权内容排在前面,过滤后又只剩低相关片段,回答质量和安全性同时受损。还要注意三处容易漏的点:一是跨文档的摘要和缓存要按权限分区,公共缓存里不能混进敏感切片;二是权限变更后索引和缓存必须能及时失效,离职、调岗后旧权限不能再命中;三是上线前用无权账号做越权测试,专门跑一批敏感条目的提问,记录是否引用和复述。
G
楼上说得有道理,再补充一点:测试条件不同结论可能差很多,建议注明测试环境。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册