# 15.4 迈向 AGI

我们现在处于什么阶段？未来会怎样？

## 15.4.1 什么是 AGI？

**AGI（通用人工智能）** 是指具备与人类同等甚至超越人类的智能，能够学习、感知、解决任何智力任务的 AI 系统。

* **ANI（弱人工智能）**：现在的 AI。下围棋很强但不会做饭；会聊天但不会开车。
* **AGI（强人工智能）**：像科幻电影里的 Jarvis，什么都会，能像人一样思考。

## 15.4.2 离 AGI 还有多远？

站在当下回望，很多人觉得我们正在接近 AGI，但“还有多远”依然存在巨大分歧。

* **乐观派（如 OpenAI）**：部分专家认为，随着推理能力与工具使用能力增强，AGI 可能会在未来几年内到来（这是较乐观的预测）。
* **审慎派（如 Yann LeCun）**：依然强调世界模型（World Model，简单说就是“先在脑海里模拟现实再行动”）的重要性，认为单纯的语言模型存在天花板。

## 15.4.3 超级智能与奇点

如果 AI 达到了人类水平，它就能设计出比自己更强的 AI。这种自我迭代会引发智能爆炸，被称为 **“技术奇点”**。

届时，可能会出现 **超级智能（Superintelligence）**——它的智力超越人类的程度，就像人类超越蚂蚁一样。

## 15.4.4 人类的未来

面对超级智能，主要有两种担忧：

1. **失控风险**：AI 把地球变成曲别针工厂（著名的“曲别针思想实验”）。
2. **生存意义**：如果机器什么都做得比人好，人类存在的价值是什么？

这就是为什么现在的 AI 公司都设有 **“安全团队”**，致力于研究如何确保 AI 始终为人类利益服务。

**乐观的愿景**：

AI 帮助人类攻克癌症、解决能源危机、从繁重的劳动中解放，人类进入一个物质极大丰富、专注于精神追求的新纪元。

## 15.4.5 一种公共利益导向的愿景

2024 年底，一篇由 Mariano-Florentino Cuéllar、Jeff Dean、David Patterson 等作者撰写的论文提出了 18 个具体里程碑，试图把 AI 研究引向更明确的公共利益目标：

| 领域     | 里程碑            | 描述                                  |
| ------ | -------------- | ----------------------------------- |
| 🎓 教育  | **全球 AI 导师**   | 让每个孩子都能通过智能手机获得多语言、文化适应的个性化辅导       |
| 🏥 医疗  | **医疗 AI 助手**   | 自动化繁琐的医疗文书（保险理赔、病历记录），让医生回归治病救人     |
| 💼 就业  | **快速技能提升**     | 帮助低收入工人在 3-6 个月内获得市场需求的新技能          |
| 🔬 科学  | **科学家的 AI 伙伴** | 像 AlphaFold 预测蛋白质结构一样，AI 加速各领域的科学发现 |
| 🌍 公平  | **弥合全球差距**     | AI 可作为「跨越式技术」，弥补发展中国家医生、教师等专业人才的短缺  |
| 🛡️ 安全 | **虚假信息侦探**     | 国际协调的高精度工具，检测和标记深度伪造内容              |

这些里程碑不是官方路线图，也不代表全体学术界共识；它们更适合作为一种值得讨论的愿景：**技术进步的目标不应只是替代人类劳动，也应服务于公共利益。**

> 参考文献：Cuéllar, Dean, Patterson et al., *“Shaping AI's Impact on Billions of Lives”* (arXiv:2412.02730, 2024)

## 15.4.6 思考题

如果你要把 AI 用于“教育、医疗、就业”三者之一来创造公共价值，你会优先选哪一项？你的最小可行方案是什么？


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://yeasy.gitbook.io/ai_beginner_guide/di-si-bu-fen-jin-jie-yu-zhan-wang/15_ethics_future/15.4_outlook.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.