# 本章小结

### 本章小结

本章从治理视角探讨了 LLM 安全的更广泛议题，包括法规合规、负责任 AI、新兴威胁和未来展望。

#### 1. 核心要点回顾

**AI 法规与合规**：全球 AI 监管正在快速发展。以 EU AI Act 为例，义务按 2025-02-02、2025-08-02、2027-12-02、2028-08-02 分阶段落地（2027-12-02 / 2028-08-02 为 2026-05-07 政治协议后的公开时间线，详见 11.7），其中 2028-08-02 主要对应嵌入受监管产品框架的特定高风险系统。组织需要建立持续的法规跟踪与控制映射机制。

**负责任 AI 实践**：公平性、透明性、安全性、隐私保护和问责制是负责任 AI 的核心原则。组织应建立与场景相称的治理机制、角色分工和影响评估流程。

**新兴威胁趋势**：AI 对 AI 攻击、深度伪造滥用、智能体风险升级、供应链风险深化等是需要关注的新兴威胁。

**可信 Agent 框架**：在 Agent 部署日益广泛的背景下，需要建立统一的可信框架，包括五大核心原则（人类控制、目标对齐、安全、透明、隐私保护）、四层系统构成（模型、Harness、工具、环境）以及行业生态标准化需求。组织级成熟度阶梯以 11.5 为主，11.8 补充 Agent 专属的生产检查点。

**未来技术方向**：更强的安全对齐、形式化验证、可信基础设施、隐私增强技术、AI 驱动安全等是技术发展方向。

#### 2. 治理框架

```mermaid
graph TB
    subgraph "LLM 安全治理"
    A["法规合规"] --> E["可信 LLM/Agent 系统"]
    B["负责任 AI"] --> E
    C["威胁应对"] --> E
    D["Agentic 错位防护"] --> E
    F["可信 Agent 框架"] --> E
    G["技术演进"] --> E
    end
```

图 11-14：治理框架架构图

#### 3. 行动建议

| 维度 | 建议                |
| -- | ----------------- |
| 合规 | 建立法规追踪和合规管理       |
| 伦理 | 制定与场景相称的治理原则与评估模板 |
| 安全 | 持续关注威胁演进并更新控制     |
| 技术 | 投资安全研究和能力建设       |

#### 4. 实操输出

本章更适合作为四类治理输出的汇总入口：

* **法规时间线**：帮助团队按法域和生效批次安排项目排期
* **成熟度模型**：帮助组织判断“当前在哪一层，下一步补什么”；对 Agent 交付，再叠加专门的生产就绪检查点
* **模板与清单**：为风险评估、数据治理、事件响应和审计提供现成起点
* **可信 Agent 框架**：为后续 Agent 采购、评测和治理提供统一语言

### 与其他章节的关联

* **框架基础**：第 3 章框架标准是治理的基础，为本章合规要求提供量化指标
* **技术保障**：第 8-10 章的技术措施需要本章治理框架保障，实现可持续防护
* **学习资源**：附录提供持续学习资源，支持组织的安全能力建设

#### 5. 总结

LLM 安全是一个多维度的挑战，需要技术、治理、伦理多方面的协同努力。本书从基础概念到攻击技术，从防御措施到运营实践，再到治理与展望，提供了全面的知识框架。希望读者能够将这些知识应用于实践，构建更安全、更负责任的 LLM 系统。

### 安全是一个持续的旅程，而非终点。随着 LLM 技术的发展，安全挑战和应对方法也会不断演进。保持学习、保持警惕、保持负责任的态度，是每一位从业者应有的姿态。

> 📝 **发现错误或有改进建议？** 欢迎提交 [Issue](https://github.com/yeasy/ai_security_guide/issues) 或 [PR](https://github.com/yeasy/ai_security_guide/pulls)。


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://yeasy.gitbook.io/ai_security_guide/di-si-bu-fen-zhi-li-yu-zhan-wang/11_governance/summary.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.