AI中的性别偏见：从词向量到人脸分类

AI模型并不天然客观。它们从人类创建的数据中学习，也可能继承甚至放大现实中的性别偏见。要缓解这些问题，首先需要把偏见转化为可以检验、比较和追踪的指标。

下面通过三项代表性研究，介绍性别偏见如何出现在不同类型的AI系统中。这些研究反映的是当时接受测试的模型与任务，不能直接视为所有现有AI系统的表现。

如何理解“性别偏见”

这里的AI既包括词向量等统计表示方法，也包括基于Transformer的模型。“偏见”则指不同群体受到不平等、不利或不公平的对待。

需要注意，相关研究经常将性别简化为男性与女性两个类别，有时加入中性类别。这有利于构造测试，却不能完整覆盖现实中的性别多样性。

词向量把词语表示为数值向量。它们能够捕捉语义关系，例如通过向量运算表达“男人与国王的关系，类似于女人与王后的关系”。

2016年的一项研究发现，使用新闻文本训练的词向量，也会呈现带有性别刻板印象的类比，例如：

这些关系不是对职业归属的合理规定，而是模型从训练文本中学到的关联。

研究提出，通过调整词向量，减少不恰当的性别关联，同时保留兄弟、姐妹等词语中合理的性别语义。

**意义与局限：**这项工作展示了如何以数学方式测量并缓解偏见。但其方法面向词向量，不能直接套用于结构更复杂的大语言模型。若带有偏见的词向量被用于情感分析、文档排序等下游任务，相关偏见也可能继续传播。

2018年的“Gender Shades”研究测试了三个商业面部性别分类系统，并按性别与肤色划分群体进行比较。

测试发现，这些系统对男性面孔的表现优于女性面孔，对浅肤色面孔的表现优于深肤色面孔。其中：

这里评估的是根据面部图像进行性别分类的任务，不应与所有人脸识别任务混为一谈。

研究之后，参与测试的微软和IBM采取了改进措施，包括调整和扩充训练数据，增加肤色、性别和年龄的多样性。

这项研究的重要启示是：**只按单一维度检查公平性，可能遗漏问题。**只看性别或只看肤色，都不如同时考察二者的交叉群体更容易发现差异；整体准确率也不能替代分组评估。

指代消解是判断代词指向哪个人物或实体的任务，例如确定一句话中的“他”或“她”是否指向“外科医生”。

2018年的一项研究构建了测试句子：正确的指代关系不应随代词性别改变。然而，受测模型仍倾向于把某些职业与男性代词关联起来。

例如，在一个模型中，“外科医生”可以与男性或中性代词建立指代关系，却不能在对应句子中与女性代词建立同样的关系。研究还发现，在测试数据中，没有一个受测模型将“经理”预测为女性。

这说明，模型可能没有仅依据句子的语法与语义作判断，而是受到了职业性别刻板印象的影响。

类似问题也与机器翻译有关，尤其是在不同语言对语法性别的表达要求不一致时，模型可能作出缺乏文本依据的性别判断。

这几类研究分别考察了词语关联、分类错误率和语言理解行为，也提示了几个共同问题：

讨论AI是否公平，不能只看模型是否“总体上好用”，还需要检查：它在哪些人群、哪些任务和哪些条件下，更容易出错或重复刻板印象。