# 什么是 AI 偏见？

AI 偏见，也称为 [机器学习](/content/cn-zh/think/topics/machine-learning/index.html) 偏见或算法偏见，指的是由于人为偏见造成原始训练数据或 AI 算法扭曲，出现 [有偏倚的结果](/content/cn-zh/think/topics/shedding-light-on-ai-bias-with-real-world-examples/index.html)，从而导致输出失真和可能有害的结果。

如果 AI 偏见得不到有效解决，便会影响组织取得成功，并导致人们无法公平地参与经济和社会生活。这一偏见会降低 AI 的准确性，从而削弱其潜力。

企业不太可能从产生扭曲结果的系统中获益。而由 AI 偏见引起的丑闻可能会加剧有色人种、女性、残疾人、LGBTQ 社区或其他边缘群体之间的不信任。

AI 所依赖的模型 [吸收了社会的偏见](https://research.ibm.com/blog/debugging-AI-bias) ，而这些偏见可能会悄无声息地嵌入到训练 AI 的大量数据之中。在招聘、警务、信用评分等用例中，反映社会不平等现象的历史偏见数据收集可能会对历史上被边缘化的群体造成伤害。据《华尔街日报》报道，“随着人工智能的日益普及，企业仍在努力解决普遍面临的偏见问题。”

### 真实世界的例子和风险

当 AI 由于偏见而犯错，例如，拒绝为特定群体提供机会、错误识别其照片或对其进行不公正的惩罚时，违规组织的品牌形象及声誉都会受到损害。与此同时，这些群体中的人和整个社会都可能在不知不觉中遭受伤害。以下是一些有关 AI 差异和偏见及其潜在危害的典型案例。

在医疗保健领域，女性或少数群体的数据代表性不足可能会导致预测性 AI 算法出现扭曲。例如，计算机辅助诊断 (CAD) 系统对非裔美国人患者的诊断准确率比白人患者低。

虽然 AI 工具可以简化搜索过程中简历扫描的自动化，以帮助识别理想的候选人，但所请求的信息和筛选出的答案可能会导致不同群体之间的结果不成比例。例如，如果一则招聘广告使用“忍者”一词，它可能会吸引更多的男性而不是女性，尽管这绝不是工作要求。

作为图像生成的测试，彭博社要求创建 5,000 多张 AI 图像，结果发现“Stable Diffusion 模型的结果显示，这个世界是由白人男性 CEO 统治的。女医生、律师或法官屈指可数。黑皮肤的男性会犯罪，而黑皮肤的女性则以翻汉堡为生。”

刑事司法系统中的一些组织使用的人工智能驱动预测性警务工具，旨在识别犯罪可能发生的区域。然而，这些工具通常依赖历史逮捕数据，可能会加剧现有的种族定性模式，并导致对少数族裔社区的过度攻击。

### 偏见的根源

扭曲的结果会损害整个组织和社会。以下是一些最常见的 AI 偏见类型：

- **算法偏见：** 如果提出的问题不完全正确或不够具体，或者输入机器学习算法的反馈无法引导其搜索解决方案，则可能会导致错误信息。  
- **认知偏见：** AI 技术需要人类提供信息，而人类是容易犯错的。个人偏见会在从业者不知不觉中被带入，这可能会影响数据集或模型行为。  
- **确认偏见：** 当 AI 过度依赖数据中预先存在的信念或趋势时，就会发生这种情况，即加倍依赖已有的偏见，无法识别新的模式或趋势。  
- **排除偏见：** 当重要数据被排除在正在使用的数据之外时，就会发生这种类型的偏见，通常是因为开发人员未能看到新的重要因素。  
- **测量偏见：** 由不完整的数据造成的。这通常是由于疏忽或缺乏准备而导致数据集中的结果不包括应考虑的全部人口。  
- **外群体同质性偏见：** 这是一个不知道自己不知道什么的情况。人们倾向于更了解内群体（一个人所属的群体）成员，并认为他们比外群体成员更多元化。  
- **预测性偏见：** 当刻板印象和错误的社会假设进入算法的数据集中时就会发生，这不可避免地会导致有偏见的结果。  
- **回忆偏见：** 这在数据标注过程中形成，其中，主观观察结果应用标签的方式不一致。  
- **样本/选择偏差：** 当用于训练机器学习模型的数据不够大、不够有代表性或太不完整而无法充分训练系统时，就会出现问题。

### 避免偏见的原则

避免偏见陷阱的第一步就是从一开始就退后一步，对 AI 工作进行一些思考。与几乎所有业务挑战一样，预先修复问题比等待训练失败然后对损坏的结果进行梳理要容易得多。

要识别并解决 AI 中的偏见问题，需要培养 [AI 治理](/content/cn-zh/think/topics/shedding-light-on-ai-bias-with-real-world-examples/index.html) 能力，即指导、管理和监控组织的 AI 活动的能力。