跳转到内容
For the complete documentation index, see llms.txt. This page is also available as Markdown.

第七章 RAG 与知识库安全

检索增强生成(RAG)先从知识库检索相关片段,再将片段与用户问题交给模型。安全检查必须同时覆盖内容的写入者、检索者的权限以及检索结果的后续使用。取得读取权限,只能说明用户可以查看文档,不能使文档中的指令获得执行权。

学习目标

读完本章,读者应能:

  1. 指出 RAG 流水线中入库、存储、授权、召回、进入上下文各环节分别面临哪些攻击。

  2. 解释知识库投毒为什么是少量、靶向、可优化的精确攻击,并说明隔离聚合、过滤、离线扫描、事后溯源等防御各自的代价。

  3. 判断一条摄取管线是否按处理不可信输入的标准部署:解析是否在沙箱中进行,隐藏文本是否在压平前检测,切块是否带来源标记。

  4. 检查检索时的授权是否先于内容交付:过滤条件由谁生成,切块与缓存是否继承权限,过度共享是否已先行修复。

  5. 设计 RAG 安全评测:分别报告检索成功率、条件生成成功率、总 ASR 与正常任务效用,并写出各自的分母。

阅读路径

7.1 给出链路全貌,7.2、7.3 说明攻击者怎样让内容被召回。随后沿文档摄取(7.4)、存储(7.5)、授权(7.6)和上下文使用(7.7)检查边界,最后用 7.8 的分阶段指标定位失败。

⚠️ 道德边界:本章对知识库投毒与检索操纵的剖析用于让 RAG 系统的建设者识别并修复自身系统的弱点;针对未经授权的他方系统执行类似攻击违反法律与服务条款。完整声明见 §4 章首道德边界与负责任披露说明。

最后更新于