# 本章小结

### 本章小结

本章系统介绍了 LLM 安全领域的主要框架和标准，为组织开展安全工作提供了结构化的指导。

#### 1. 核心要点回顾

**OWASP LLM Top 10**：业界广泛采用的 LLM 安全风险清单，覆盖提示注入、敏感信息泄露、供应链风险、数据与模型投毒、输出处理不当、过度自主权、系统提示泄露、向量与嵌入弱点、错误信息、无边界消耗等核心风险类别；具体条目与措辞请以 OWASP 官方最新发布为准。

**NIST AI RMF**：美国 NIST 发布的 AI 风险管理框架，定义了可信 AI 的七组特征和四个核心功能（治理、映射、测量、管理）；在生成式 AI 场景可结合 AI 600-1（GenAI Profile）细化落地控制。

**行业标准**：不同行业对 LLM 安全有各自的要求，但这些要求并不构成一套统一的全球规则。金融行业关注模型验证和审计追踪，医疗行业强调患者安全与隐私保护，政务领域重视透明、问责与持续监控，教育行业需要考虑学术诚信、未成年人保护与学生数据隐私。

#### 2. 框架应用指南

{% @mermaid/diagram content="flowchart TB
subgraph "框架应用流程"
A\["识别适用框架"] --> B\["评估当前状态"]
B --> C\["差距分析"]
C --> D\["制定改进计划"]
D --> E\["实施和监控"]
E --> F\["定期复评"]
F --> B
end" %}

图 3-5：框架应用指南架构图

| 场景   | 推荐框架                   | 应用重点            |
| ---- | ---------------------- | --------------- |
| 风险识别 | OWASP LLM Top 10（2025） | 系统性检查十大风险       |
| 风险管理 | NIST AI RMF            | 建立治理-映射-测量-管理流程 |
| 行业合规 | 行业标准                   | 满足特定监管要求        |

#### 3. 关键建议

1. **不要孤立使用单一框架**：将多个框架结合使用，取长补短
2. **根据组织实际情况调整**：框架是指南，不是教条
3. **从风险优先级出发**：先解决高风险问题
4. **持续改进**：安全不是一次性工程
5. **建立安全文化**：技术措施需要文化支撑

#### 4. 延伸思考

1. 如何选择适合自己组织的安全框架组合？
2. 在资源有限的情况下，如何确定安全投入的优先级？
3. 如何衡量安全投入的投资回报率？

### 与后续章节的关联

* **风险展开**：OWASP 十大风险在第 4-7 章逐一展开，将框架风险转化为具体攻击技术
* **实施指导**：NIST 框架指导第 8-10 章的防御实施，从架构设计到运营验证
* **合规实践**：第 11 章将框架要求转化为治理合规实践，闭合治理环路

### [第四章](/ai_security_guide/di-er-bu-fen-gong-ji-pian/04_prompt_injection.md)将进入“攻击篇”，深入剖析提示注入这一核心威胁。将详细介绍直接注入和间接注入的技术原理、攻击手法和真实案例。

> 📝 **发现错误或有改进建议？** 欢迎提交 [Issue](https://github.com/yeasy/ai_security_guide/issues) 或 [PR](https://github.com/yeasy/ai_security_guide/pulls)。


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://yeasy.gitbook.io/ai_security_guide/di-yi-bu-fen-ji-chu-pian/03_frameworks/summary.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.