第七章 RAG 与知识库安全
检索增强生成(RAG)先从知识库检索相关片段,再将片段与用户问题交给模型。安全检查必须同时覆盖内容的写入者、检索者的权限以及检索结果的后续使用。取得读取权限,只能说明用户可以查看文档,不能使文档中的指令获得执行权。
学习目标
读完本章,读者应能:
指出 RAG 流水线中入库、存储、授权、召回、进入上下文各环节分别面临哪些攻击。
解释知识库投毒为什么是少量、靶向、可优化的精确攻击,并说明隔离聚合、过滤、离线扫描、事后溯源等防御各自的代价。
判断一条摄取管线是否按处理不可信输入的标准部署:解析是否在沙箱中进行,隐藏文本是否在压平前检测,切块是否带来源标记。
检查检索时的授权是否先于内容交付:过滤条件由谁生成,切块与缓存是否继承权限,过度共享是否已先行修复。
设计 RAG 安全评测:分别报告检索成功率、条件生成成功率、总 ASR 与正常任务效用,并写出各自的分母。
阅读路径
7.1 给出链路全貌,7.2、7.3 说明攻击者怎样让内容被召回。随后沿文档摄取(7.4)、存储(7.5)、授权(7.6)和上下文使用(7.7)检查边界,最后用 7.8 的分阶段指标定位失败。
⚠️ 道德边界:本章对知识库投毒与检索操纵的剖析用于让 RAG 系统的建设者识别并修复自身系统的弱点;针对未经授权的他方系统执行类似攻击违反法律与服务条款。完整声明见 §4 章首道德边界与负责任披露说明。
最后更新于
