# 11.2 负责任 AI 实践

负责任的 AI 开发和使用是企业社会责任的重要组成部分。

## 11.2.1 负责任 AI 原则

**核心原则（结合 OECD / NIST / UNESCO 等框架的综合归纳）**

{% @mermaid/diagram content="mindmap
root((负责任 AI))
公平性
避免偏见
平等对待
透明性
可解释
可审计
安全性
可靠稳健
防止滥用
隐私保护
数据保护
最小化收集
问责制
明确责任
可追溯" %}

图 11-2：负责任 AI 原则思维导图

## 11.2.2 公平性与偏见

**识别偏见**

| 偏见类型 | 描述      | 示例       |
| ---- | ------- | -------- |
| 数据偏见 | 训练数据不均衡 | 某群体代表性不足 |
| 算法偏见 | 模型放大偏见  | 强化既有歧视   |
| 部署偏见 | 应用场景偏差  | 不适用于特定人群 |

**缓解措施**

* 数据多样性审查
* 偏见检测评估
* 公平性指标监控
* 持续改进

## 11.2.3 透明度与可解释性

**透明度层次（示例性归纳）**

| 层次   | 内容            |
| ---- | ------------- |
| 模型透明 | 公开模型信息        |
| 过程透明 | 提供与场景相称的解释与说明 |
| 使用透明 | 明确 AI 使用场景    |
| 结果透明 | 说明影响          |

**用户告知**

```
示例：
"您正在与 AI 助手对话。
此 AI 可能会产生不准确的信息，
请自行验证重要信息。"
```

## 11.2.4 安全与可靠性

**设计原则**

{% @mermaid/diagram content="flowchart LR
A\["安全设计"] --> B\["失效安全"]
B --> C\["人类控制"]
C --> D\["持续监控"]
D --> A" %}

图 11-3：安全与可靠性流程图

**关键措施**

* 故障情况下默认安全
* 按风险和影响设置适当的人类监督、升级和复核机制
* 建立监控和干预机制
* 定期安全评估

## 11.2.5 隐私保护

**隐私实践**

| 实践    | 描述      |
| ----- | ------- |
| 数据最小化 | 只收集必要数据 |
| 目的限制  | 明确使用目的  |
| 保留期限  | 设置数据保留期 |
| 用户控制  | 支持访问和删除 |

## 11.2.6 组织实践

**建立 AI 伦理委员会（可选治理机制之一）** 职责包括：

* 审查高风险 AI 项目
* 制定 AI 伦理准则
* 处理伦理问题
* 推动培训教育

**AI 伦理影响评估（示例模板）**

```
评估内容：
1. 项目目标和预期影响
2. 潜在风险和危害
3. 受影响群体分析
4. 缓解措施
5. 监控计划
```

负责任 AI 不仅是道德要求，也是赢得用户信任的基础。


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://yeasy.gitbook.io/ai_security_guide/di-si-bu-fen-zhi-li-yu-zhan-wang/11_governance/11.2_responsible_ai.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.