第十一章 安全、伦理与未来

在本书的最后一章，将目光投向智能体的安全与未来。随着能力增强，智能体的破坏潜力也在增加。本章探讨：如何确保智能体站在人类这一边？如何防止恶意利用？法律和伦理边界在哪里？智能体如何通往通用人工智能(AGI)？通过安全防御 → 价值对齐 → 法律伦理 → AGI 路线的完整体系，为智能体发展奠定坚实基础。

学习目标

完成本章后，你将能够：

1. 识别 智能体安全威胁并设计纵深防御

2. 实现 价值对齐与红队测试机制

3. 理解 法律伦理边界与责任归属

4. 展望 智能体发展趋势与 AGI 路线图

章节地图

本章按“先守住当下 → 再对齐目标 → 再划清边界 → 最后看向远处”的顺序展开：

• 11.1 讲提示词注入等安全威胁与分层防御体系

• 11.2 讲价值对齐、红队测试与风险分类

• 11.3 讲法律与伦理边界，以及责任归属链路

• 11.4 讲通往通用人工智能的技术路径与现实约束

---

下一节: 安全边界：提示词注入与防御策略