> For the complete documentation index, see [llms.txt](https://yeasy.gitbook.io/ai_beginner_guide/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://yeasy.gitbook.io/ai_beginner_guide/di-si-bu-fen-jin-jie-yu-zhan-wang/15_ethics_future/15.1_ethics.md).

# 15.1 AI 的偏见与伦理

我们总以为机器是绝对理性的，但实际上，AI 就像一面镜子，照出了人类社会的偏见。

## 15.1.1 算法也会“歧视”吗？

是的，而且很常见。

**原因**：AI 是通过学习互联网上的数据长大的。如果数据本身包含偏见，AI 就会学会这种偏见。

**案例**：

1. **招聘筛选**：据路透社（Reuters）2018 年的调查报道，亚马逊曾开发过一个 AI 简历筛选系统，结果发现它会歧视女性（系统会自动因“女子学院”等字眼而降分）。因为历史上科技行业的男性简历居多，AI 误以为“男性”才是优秀的统计学特征。
2. **人脸识别**：在麻省理工学院著名的“性别阴影（Gender Shades）”研究论文（2018 年）中揭露，早期的部分主流商业人脸识别算法在这方面存在严重偏差：对白人男性的识别率极高，但对深肤色女性的错误率最高甚至可达 34.7%。
3. **系统困境**：国内一些外卖平台的派单算法，为了追求全局效率最高，会不断压缩甚至无视现实中骑手面临的交通环境，导致骑手“困在系统里”。

## 15.1.2 刻板印象的放大

如果你让 AI “画一个医生”，它大概率会画一个男性；让它“画一个护士”，大概率是女性。

这就是 **刻板印象**。虽然在统计学上可能是事实，但如果 AI 在做决策（比如贷款审批、医疗诊断）时带入这种偏见，就会造成社会不公。

## 15.1.3 “对齐”难题

即使我们想教 AI “要做个好人”，也很难定义什么是“好”。

* 电车难题：该救一个人还是救五个人？
* 文化差异：在美国被认为是自由的言论，在其他国家可能是冒犯。

让 AI 的价值观与人类价值观保持一致，这被称为 **“对齐问题”（Alignment Problem）**，是目前 AI 研究最核心的领域之一。我们在之前学过的 [**RLHF**](/ai_beginner_guide/di-er-bu-fen-he-xin-ji-shu-jie-xi/04_machine_learning/4.4_reinforcement.md) 正是解决对齐问题的核心技术手段之一。

## 15.1.4 思考题

如果让你设计一个“招聘 AI”的公平性规则，你会加入哪 2 条硬性约束，来降低性别或地域偏见？