第四章 提示注入攻击与防御
最后更新于
提示注入(Prompt Injection)是 LLM 面临的核心威胁之一,在 OWASP LLM Top 10(2025)中对应 LLM01。攻击者通过精心构造的输入,试图改变模型的行为、绕过安全限制或提取敏感信息。本章将深入剖析提示注入的原理、技术和防御策略。
本章聚焦于提示注入攻击与防御,主要内容包括:
4.1 提示注入原理与分类:理解提示注入的本质和分类体系
4.2 直接提示注入技术:掌握用户直接与模型交互时的注入手法
4.3 间接提示注入技术:了解通过外部数据源实施的注入攻击
4.4 公开案例与研究演示分析:从公开案例与研究演示中学习攻防经验
4.5 分层防御:构建可复制的安全门控架构:实施多层次的提示注入防护体系
4.6 长上下文特有的安全风险与防御:剖析长上下文窗口带来的新型攻击面与防御策略
通过本章的学习,读者将全面理解提示注入的攻击原理和技术细节,为后续的防御工作奠定基础。
⚠️ 道德边界与负责任披露:本章及第五至第七章对攻击技术的描述仅用于安全研究、防御评估和已获明确授权的红队测试。在公开发布、复现或迁移攻击 PoC 前,应遵循组织的负责任披露(Responsible Disclosure)流程,通报受影响的模型提供方与部署方并预留合理的修复期;针对未授权目标的实际攻击违反所在司法管辖区的相关法律与服务条款。本书相关章节中的代码与样例 payload 均假设读者在合法授权场景下使用。
📚 延伸阅读:OpenClaw 的三层纵深防御机制(工具策略、沙箱、审批联动),参见 《OpenClaw 从入门到精通》第 11 章。
最后更新于
