> For the complete documentation index, see [llms.txt](https://yeasy.gitbook.io/ai_security_guide/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://yeasy.gitbook.io/ai_security_guide/di-yi-bu-fen-ji-chu-pian/02_fundamentals.md).

# 第二章 大语言模型安全基础

因果掩码、角色标记和安全对齐各自影响模型行为，却不自动构成授权边界。理解这些机制，才能判断训练数据、推理输入与输出在哪个环节需要独立保护。

## 学习目标

读完本章，读者应能：

1. 解释因果掩码和注意力机制为何都不构成安全边界，说明 Token 化带来的表示失配与特殊 Token 风险，并说明防御应落在哪些模型外部的边界上。
2. 列出预训练和微调阶段的主要风险（数据投毒与后门、隐私泄露、对齐退化、供应链攻击等），并把它们对应到相应的数据安全管控措施。
3. 描述一次推理请求的处理流程，指出提示词构建、Token 化、输出生成和资源消耗等环节的风险以及推理安全架构中的防护层。
4. 比较 SFT、RLHF、DPO、ORPO、Constitutional AI 和 RLAIF 的差异，并说明为什么对齐属于概率性防御、不能写成安全保证。
5. 判断部署推理模型时应检查哪几项：平台暴露何种推理内容、推理预算与失败路径如何控制、开放权重本地部署有哪些软件包装器无法消除的风险。

## 阅读路径

先用 [2.1](/ai_security_guide/di-yi-bu-fen-ji-chu-pian/02_fundamentals/2.1_architecture_boundary.md) 区分模型结构与安全边界，再沿训练（[2.2](/ai_security_guide/di-yi-bu-fen-ji-chu-pian/02_fundamentals/2.2_training_security.md)）和推理（[2.3](/ai_security_guide/di-yi-bu-fen-ji-chu-pian/02_fundamentals/2.3_inference_security.md)）两条流程定位风险。[2.4](/ai_security_guide/di-yi-bu-fen-ji-chu-pian/02_fundamentals/2.4_alignment_intro.md) 说明对齐怎样改变模型行为及其局限；[2.5](/ai_security_guide/di-yi-bu-fen-ji-chu-pian/02_fundamentals/2.5_reasoning_model_security.md) 将这些问题用于推理内容、预算和开放权重部署。