13.4 迈向 AGI

我们现在处于什么阶段？未来会怎样？

13.4.1 什么是 AGI？

AGI（通用人工智能） 是指具备与人类同等甚至超越人类的智能，能够学习、感知、解决任何智力任务的 AI 系统。

• ANI（弱人工智能）：现在的 AI。下围棋很强但不会做饭；会聊天但不会开车。

• AGI（强人工智能）：像科幻电影里的 Jarvis，什么都会，能像人一样思考。

13.4.2 离 AGI 还有多远？

站在当下回望，很多人觉得我们正在接近 AGI，但“还有多远”依然存在巨大分歧。

• 乐观派（如 OpenAI）：部分专家认为，随着推理能力与工具使用能力增强，AGI 可能会在未来几年内到来（这是较乐观的预测）。

• 审慎派（如 Yann LeCun）：依然强调世界模型（World Model，简单说就是“先在脑海里模拟现实再行动”）的重要性，认为单纯的语言模型存在天花板。

13.4.3 超级智能与奇点

如果 AI 达到了人类水平，它就能设计出比自己更强的 AI。这种自我迭代会引发智能爆炸，被称为 “技术奇点”。

届时，可能会出现 超级智能（Superintelligence）——它的智力超越人类的程度，就像人类超越蚂蚁一样。

13.4.4 人类的未来

面对超级智能，主要有两种担忧：

1. 失控风险：AI 把地球变成曲别针工厂（著名的“曲别针思想实验”）。

2. 生存意义：如果机器什么都做得比人好，人类存在的价值是什么？

这就是为什么现在的 AI 公司都设有 “安全团队”，致力于研究如何确保 AI 始终为人类利益服务。

乐观的愿景： AI 帮助人类攻克癌症、解决能源危机、从繁重的劳动中解放，人类进入一个物质极大丰富、专注于精神追求的新纪元。

13.4.5 学术界的共识愿景

2024 年底，图灵奖得主和业界领袖联合发布了 AI 发展的 18 个里程碑，描绘了 AI 造福人类的具体路径：

领域	里程碑	描述
🎓 教育	全球 AI 导师	让每个孩子都能通过智能手机获得多语言、文化适应的个性化辅导
🏥 医疗	医疗 AI 助手	自动化繁琐的医疗文书（保险理赔、病历记录），让医生回归治病救人
💼 就业	快速技能提升	帮助低收入工人在 3-6 个月内获得市场需求的新技能
🔬 科学	科学家的 AI 伙伴	像 AlphaFold 预测蛋白质结构一样，AI 加速各领域的科学发现
🌍 公平	弥合全球差距	AI 可作为「跨越式技术」，弥补发展中国家医生、教师等专业人才的短缺
🛡️ 安全	虚假信息侦探	国际协调的高精度工具，检测和标记深度伪造内容

这些里程碑代表了学术界和业界一种重要的共同愿景：技术进步的目标不是取代人类，而是服务于公共利益。

参考文献：Cuéllar, Dean, Patterson et al., “Shaping AI's Impact on Billions of Lives” (arXiv:2412.02730, 2024)

13.4.6 思考题

如果你要把 AI 用于“教育、医疗、就业”三者之一来创造公共价值，你会优先选哪一项？你的最小可行方案是什么？