> For the complete documentation index, see [llms.txt](https://yeasy.gitbook.io/ai_beginner_guide/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://yeasy.gitbook.io/ai_beginner_guide/di-si-bu-fen-jin-jie-yu-zhan-wang/15_ethics_future/15.4_outlook.md).

# 15.4 迈向 AGI

我们现在处于什么阶段？未来会怎样？

## 15.4.1 什么是 AGI？

**AGI（通用人工智能）** 是指具备与人类同等甚至超越人类的智能，能够学习、感知、解决任何智力任务的 AI 系统。

* **ANI（弱人工智能）**：现在的 AI。下围棋很强但不会做饭；会聊天但不会开车。
* **AGI（强人工智能）**：像科幻电影里的 Jarvis，什么都会，能像人一样思考。

## 15.4.2 离 AGI 还有多远？

站在当下回望，很多人觉得我们正在接近 AGI，但“还有多远”依然存在巨大分歧。

* **乐观派（如 OpenAI）**：部分专家认为，随着推理能力与工具使用能力增强，AGI 可能会在未来几年内到来（这是较乐观的预测）。
* **审慎派（如 Yann LeCun）**：依然强调世界模型（World Model，简单说就是“先在脑海里模拟现实再行动”）的重要性，认为单纯的语言模型存在天花板。

## 15.4.3 超级智能与奇点

如果 AI 达到了人类水平，它就能设计出比自己更强的 AI。这种自我迭代会引发智能爆炸，被称为 **“技术奇点”**。

届时，可能会出现 **超级智能（Superintelligence）**——它的智力超越人类的程度，就像人类超越蚂蚁一样。

## 15.4.4 人类的未来

面对超级智能，主要有两种担忧：

1. **失控风险**：AI 把地球变成曲别针工厂（著名的“曲别针思想实验”）。
2. **生存意义**：如果机器什么都做得比人好，人类存在的价值是什么？

这就是为什么现在的 AI 公司都设有 **“安全团队”**，致力于研究如何确保 AI 始终为人类利益服务。

**乐观的愿景**：

AI 帮助人类攻克癌症、解决能源危机、从繁重的劳动中解放，人类进入一个物质极大丰富、专注于精神追求的新纪元。

## 15.4.5 一种公共利益导向的愿景

2024 年底，一篇由 Mariano-Florentino Cuéllar、Jeff Dean、David Patterson 等作者撰写的论文提出了 18 个具体里程碑，试图把 AI 研究引向更明确的公共利益目标：

| 领域     | 里程碑            | 描述                                  |
| ------ | -------------- | ----------------------------------- |
| 🎓 教育  | **全球 AI 导师**   | 让每个孩子都能通过智能手机获得多语言、文化适应的个性化辅导       |
| 🏥 医疗  | **医疗 AI 助手**   | 自动化繁琐的医疗文书（保险理赔、病历记录），让医生回归治病救人     |
| 💼 就业  | **快速技能提升**     | 帮助低收入工人在 3-6 个月内获得市场需求的新技能          |
| 🔬 科学  | **科学家的 AI 伙伴** | 像 AlphaFold 预测蛋白质结构一样，AI 加速各领域的科学发现 |
| 🌍 公平  | **弥合全球差距**     | AI 可作为「跨越式技术」，弥补发展中国家医生、教师等专业人才的短缺  |
| 🛡️ 安全 | **虚假信息侦探**     | 国际协调的高精度工具，检测和标记深度伪造内容              |

这些里程碑不是官方路线图，也不代表全体学术界共识；它们更适合作为一种值得讨论的愿景：**技术进步的目标不应只是替代人类劳动，也应服务于公共利益。**

> 参考文献：Cuéllar, Dean, Patterson et al., *“Shaping AI's Impact on Billions of Lives”* (arXiv:2412.02730, 2024)

## 15.4.6 思考题

如果你要把 AI 用于“教育、医疗、就业”三者之一来创造公共价值，你会优先选哪一项？你的最小可行方案是什么？