> For the complete documentation index, see [llms.txt](https://yeasy.gitbook.io/ai_security_guide/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://yeasy.gitbook.io/ai_security_guide/di-er-bu-fen-gong-ji-pian/06_data_model_attacks.md).

# 第六章 数据与模型攻击

训练数据和模型本身是 LLM 系统的核心资产。针对数据和模型的攻击可能产生深远且难以检测的影响，是安全防护中不可忽视的威胁。

本章聚焦于数据与模型层面的攻击，主要内容包括：

* **6.1 训练数据投毒**：了解如何通过污染训练数据影响模型行为
* **6.2 后门攻击**：掌握后门的植入机制和检测方法
* **6.3 模型窃取与逆向工程**：理解模型知识产权面临的威胁
* **6.4 成员推理与隐私攻击**：认识训练数据隐私泄露的风险
* **6.5 离散对抗攻击与模型鲁棒性**：了解对抗样本生成与大模型鲁棒性威胁
* **6.6 微调与 PEFT 的安全风险**：分析 LoRA、QLoRA 等参数高效微调方法带来的对齐退化、数据投毒和隐私泄露风险
* **6.7 恶意模型工件与反序列化攻击**：揭示模型文件本身作为可执行载荷的风险（pickle RCE、扫描器绕过）及 Safetensors 等防御

通过本章的学习，读者将全面了解 LLM 在数据和模型层面面临的安全威胁，以及微调环节的安全挑战。

> **⚠️ 道德边界**：数据投毒、后门、模型窃取与隐私攻击的描述用于让防御方理解威胁模型并设计相应的检测、监控与训练流程控制；不构成对第三方模型或数据集发起攻击的指引。完整声明见 [§4 章首道德边界与负责任披露说明](/ai_security_guide/di-er-bu-fen-gong-ji-pian/04_prompt_injection.md)。

```mermaid
flowchart TB
    subgraph "数据与模型攻击"
    A["训练阶段<br/>数据投毒/后门植入"] --> C["被污染的模型"]
    B["部署阶段<br/>模型窃取/隐私推理"] --> D["知识产权/隐私泄露"]
    end
```