> For the complete documentation index, see [llms.txt](https://yeasy.gitbook.io/ai_security_guide/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://yeasy.gitbook.io/ai_security_guide/di-si-bu-fen-zhi-li-yu-zhan-wang/11_governance/summary.md).

# 本章小结

### 本章小结

本章从治理视角探讨了 LLM 安全的更广泛议题，包括法规合规、负责任 AI、新兴威胁和未来展望。

#### 1. 核心要点回顾

**AI 法规与合规**：全球 AI 监管正在快速发展。以 EU AI Act 为例，义务按 2025-02-02、2025-08-02、2027-12-02、2028-08-02 分阶段落地（2027-12-02 / 2028-08-02 为 2026-05-07 政治协议后的公开时间线，详见 11.7），其中 2028-08-02 主要对应嵌入受监管产品框架的特定高风险系统。组织需要建立持续的法规跟踪与控制映射机制。

**负责任 AI 实践**：公平性、透明性、安全性、隐私保护和问责制是负责任 AI 的核心原则。组织应建立与场景相称的治理机制、角色分工和影响评估流程。

**新兴威胁趋势**：AI 对 AI 攻击、深度伪造滥用、智能体风险升级、供应链风险深化，以及生命科学专用模型带来的双用途生物安全（11.3.5）等，是需要关注的新兴威胁。

**可信 Agent 框架**：在 Agent 部署日益广泛的背景下，需要建立统一的可信框架，包括五大核心原则（人类控制、目标对齐、安全、透明、隐私保护）、四层系统构成（模型、Harness、工具、环境）以及行业生态标准化需求。组织级成熟度阶梯以 11.5 为主，11.8 补充 Agent 专属的生产检查点。

**未来技术方向**：更强的安全对齐、形式化验证、可信基础设施、隐私增强技术、AI 驱动安全等是技术发展方向。

#### 2. 治理框架

```mermaid
graph TB
    subgraph "LLM 安全治理"
    A["法规合规"] --> E["可信 LLM/Agent 系统"]
    B["负责任 AI"] --> E
    C["威胁应对"] --> E
    D["Agentic 错位防护"] --> E
    F["可信 Agent 框架"] --> E
    G["技术演进"] --> E
    end
```

图 11-13：治理框架架构图

#### 3. 行动建议

| 维度 | 建议                |
| -- | ----------------- |
| 合规 | 建立法规追踪和合规管理       |
| 伦理 | 制定与场景相称的治理原则与评估模板 |
| 安全 | 持续关注威胁演进并更新控制     |
| 技术 | 投资安全研究和能力建设       |

#### 4. 实操输出

本章更适合作为四类治理输出的汇总入口：

* **法规时间线**：帮助团队按法域和生效批次安排项目排期
* **成熟度模型**：帮助组织判断“当前在哪一层，下一步补什么”；对 Agent 交付，再叠加专门的生产就绪检查点
* **模板与清单**：为风险评估、数据治理、事件响应和审计提供现成起点
* **可信 Agent 框架**：为后续 Agent 采购、评测和治理提供统一语言

### 与其他章节的关联

* **框架基础**：第 3 章框架标准是治理的基础，为本章合规要求提供量化指标
* **技术保障**：第 8-10 章的技术措施需要本章治理框架保障，实现可持续防护
* **学习资源**：附录提供持续学习资源，支持组织的安全能力建设

### 总结

LLM 安全是一个多维度的挑战，需要技术、治理、伦理多方面的协同努力。本书从基础概念到攻击技术，从防御措施到运营实践，再到治理与展望，提供了全面的知识框架。希望读者能够将这些知识应用于实践，构建更安全、更负责任的 LLM 系统。

### 安全是一个持续的旅程，而非终点。随着 LLM 技术的发展，安全挑战和应对方法也会不断演进。保持学习、保持警惕、保持负责任的态度，是每一位从业者应有的姿态。

> 📝 **发现错误或有改进建议？** 欢迎提交 [Issue](https://github.com/yeasy/ai_security_guide/issues) 或 [PR](https://github.com/yeasy/ai_security_guide/pulls)。