# 15.1 AI 的偏见与伦理

我们总以为机器是绝对理性的，但实际上，AI 就像一面镜子，照出了人类社会的偏见。

## 15.1.1 算法也会“歧视”吗？

是的，而且很常见。

**原因**：AI 是通过学习互联网上的数据长大的。如果数据本身包含偏见，AI 就会学会这种偏见。

**案例**：

1. **招聘筛选**：据路透社（Reuters）2018 年的调查报道，亚马逊曾开发过一个 AI 简历筛选系统，结果发现它会歧视女性（系统会自动因“女子学院”等字眼而降分）。因为历史上科技行业的男性简历居多，AI 误以为“男性”才是优秀的统计学特征。
2. **人脸识别**：在麻省理工学院著名的“性别阴影（Gender Shades）”研究论文（2018年）中揭露，早期的部分主流商业人脸识别算法在这方面存在严重偏差：对白人男性的识别率极高，但对深肤色女性的错误率最高甚至可达 34.7%。
3. **系统困境**：国内一些外卖平台的派单算法，为了追求全局效率最高，会不断压缩甚至无视现实中骑手面临的交通环境，导致骑手“困在系统里”。

## 15.1.2 刻板印象的放大

如果你让 AI “画一个医生”，它大概率会画一个男性；让它“画一个护士”，大概率是女性。

这就是 **刻板印象**。虽然在统计学上可能是事实，但如果 AI 在做决策（比如贷款审批、医疗诊断）时带入这种偏见，就会造成社会不公。

## 15.1.3 “对齐”难题

即使我们想教 AI “要做个好人”，也很难定义什么是“好”。

* 电车难题：该救一个人还是救五个人？
* 文化差异：在美国被认为是自由的言论，在其他国家可能是冒犯。

让 AI 的价值观与人类价值观保持一致，这被称为 **“对齐问题”（Alignment Problem）**，是目前 AI 研究最核心的领域之一。我们在之前学过的 [**RLHF**](/ai_beginner_guide/di-er-bu-fen-he-xin-ji-shu-jie-xi/04_machine_learning/4.4_reinforcement.md) 正是解决对齐问题的核心技术手段之一。

## 15.1.4 思考题

如果让你设计一个“招聘 AI”的公平性规则，你会加入哪 2 条硬性约束，来降低性别或地域偏见？


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://yeasy.gitbook.io/ai_beginner_guide/di-si-bu-fen-jin-jie-yu-zhan-wang/15_ethics_future/15.1_ethics.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.