企业RAG系统普遍存在一个检索失败模式:找到正确文档,却返回给错误的人。多数评估框架只测相关度,不测“该不该被检索”。作者指出后检索过滤(先检索、后过滤)会导致数据泄露,正确做法是在打分前就应用访问控制。
- 后检索过滤的缺陷:生成模型即使去除受限文档的引用,仍可能综合其信息,造成隐性泄露
- 正确架构:在检索打分前排除未授权文档,使其不被评分、传递或引用
- 验证方法:对同一问题使用不同角色查询,答案内容与引用列表应不同,否则访问控制无效
- 关键指标:
restricted_leak_count 应为零,表示没有泄露受限文档当前实现使用词法检索,生产环境需集成 Entra ID 或 OIDC 身份提供者。
原文链接
#开发者 #工具
📢 频道:@DevToolboxHub

