第九章 输入输出安全防护
输入进入模型前需要格式与内容检查,输出交付前需要审核、脱敏和下游使用约束。两端检测还要与检索授权及工具权限配合,避免把未授权数据交给模型后才依赖输出过滤补救。
学习目标
读完本章,读者应能:
说出输入验证的处理顺序(格式验证、长度检查、编码规范化、内容检测),并解释为什么规范化必须在关键词检测之前执行。
区分关键词检测、语义分析和守卫模型的定位,说明它们为什么都只能降低攻击频率、不能替代确定性控制。
设计按成本逐级升级的输出审核流程,并识别 Markdown 图片、链接等渲染通道造成的数据外发。
判断敏感信息应在哪个环节保护:输入侧脱敏、输出侧过滤,还是在检索阶段做访问控制与租户隔离。
说明文本水印(KGW、SynthID Text)、C2PA 内容溯源和级联分类器的原理与局限。
阅读路径
沿一次请求阅读输入验证(9.1)与输出审核(9.2),再用 9.3 检查敏感数据是否本就不应进入链路。9.4 讨论生成内容的标识与溯源;9.5 分析级联分类器的检测能力和代价。
最后更新于
