Although deep face recognition has achieved impressive progress in recent years, controversy has arisen regarding discrimination based on skin tone, questioning their deployment into real-world scenarios. In this paper, we aim to systematically and scientifically study this bias from both data and algorithm aspects. First, using the dermatologist approved Fitzpatrick Skin Type classification system and Individual Typology Angle, we contribute a benchmark called Identity Shades (IDS) database, which effectively quantifies the degree of the bias with respect to skin tone in existing face recognition algorithms and commercial APIs. Further, we provide two skin-tone aware training datasets, called BUPT-Globalface dataset and BUPT-Balancedface dataset, to remove bias in training data. Finally, to mitigate the algorithmic bias, we propose a novel meta-learning algorithm, called Meta Balanced Network (MBN), which learns adaptive margins in large margin loss such that the model optimized by this loss can perform fairly across people with different skin tones. To determine the margins, our method optimizes a meta skewness loss on a clean and unbiased meta set and utilizes backward-on-backward automatic differentiation to perform a second order gradient descent step on the current margins. Extensive experiments show that MBN successfully mitigates bias and learns more balanced performance for people with different skin tones in face recognition. The proposed datasets are available at http://www.whdeng.cn/RFW/index.html.

中文翻译：

---

用于公平人脸识别的元平衡网络。

尽管近年来深度人脸识别取得了令人瞩目的进展，但基于肤色的歧视引发了争议，质疑其在现实场景中的部署。在本文中，我们旨在从数据和算法两个方面系统、科学地研究这种偏差。首先，使用皮肤科医生批准的 Fitzpatrick 皮肤类型分类系统和 Individual Typology Angle，我们提供了一个名为 Identity Shades (IDS) 数据库的基准，它有效地量化了现有人脸识别算法和商业 API 中肤色的偏差程度。此外，我们提供了两个肤色感知训练数据集，称为 BUPT-Globalface 数据集和 BUPT-Balancedface 数据集，以消除训练数据中的偏差。最后，为了减轻算法偏差，我们提出了一种新的元学习算法，称为元平衡网络 (MBN)，它在大边距损失中学习自适应边距，这样通过这种损失优化的模型可以在不同肤色的人中表现公平。为了确定边距，我们的方法优化了干净且无偏的元数据集上的元偏度损失，并利用向后对向自动微分对当前边距执行二阶梯度下降步骤。大量实验表明，MBN 成功地减轻了偏见，并在人脸识别中为不同肤色的人学习了更平衡的表现。拟议的数据集可在 http://www.whdeng.cn/RFW/index.html 获得。它在大边缘损失中学习自适应边缘，这样通过这种损失优化的模型可以在不同肤色的人中表现得相当好。为了确定边距，我们的方法优化了干净且无偏的元数据集上的元偏度损失，并利用向后对向自动微分对当前边距执行二阶梯度下降步骤。大量实验表明，MBN 成功地减轻了偏见，并在人脸识别中为不同肤色的人学习了更平衡的表现。拟议的数据集可在 http://www.whdeng.cn/RFW/index.html 获得。它在大边缘损失中学习自适应边缘，这样通过这种损失优化的模型可以在不同肤色的人中表现得相当好。为了确定边距，我们的方法优化了干净且无偏的元数据集上的元偏度损失，并利用向后对向自动微分对当前边距执行二阶梯度下降步骤。大量实验表明，MBN 成功地减轻了偏见，并在人脸识别中为不同肤色的人学习了更平衡的表现。拟议的数据集可在 http://www.whdeng.cn/RFW/index.html 获得。我们的方法优化了干净且无偏的元数据集上的元偏度损失，并利用向后对向自动微分在当前边距上执行二阶梯度下降步骤。大量实验表明，MBN 成功地减轻了偏见，并在人脸识别中为不同肤色的人学习了更平衡的表现。拟议的数据集可在 http://www.whdeng.cn/RFW/index.html 获得。我们的方法优化了干净且无偏的元数据集上的元偏度损失，并利用向后对向自动微分在当前边距上执行二阶梯度下降步骤。大量实验表明，MBN 成功地减轻了偏见，并在人脸识别中为不同肤色的人学习了更平衡的表现。拟议的数据集可在 http://www.whdeng.cn/RFW/index.html 获得。