一句话解释
AI训练数据永远无法做到完全没有偏见，我们需要明确自身选择的偏见类型并知晓其带来的影响。
通俗理解
我们可以用生活化类比来理解：如果只用重点中学的考试成绩来训练一个AI招生模型，这个模型就会天然偏向重点中学的学生。这种偏见源于你选取的数据本身存在局限，想要完全消除它几乎不可能，我们只能尽量清晰地识别所用数据中包含的偏向。
适用场景
该主题主要适用于AI基于数据做出决策的场景，比如AI招聘、信贷审批、教育资源分配等，这类场景中的偏见会直接影响群体公平性。
相关概念
相关概念包括训练数据偏差、算法偏见、公平AI、数据标注偏差等。
本文来源：Towards AI