新研究揭示面部识别软件对跨性别 非二进制人错误分类

科罗拉多大学博尔德分校的一项新研究表明，流行的面部分析服务包括Amazon，Clarifai，IBM和Microsoft，它们将无法识别传统性别二进制的个人分类错误。

在过去的十年中，面部识别技术已成为社会结构中重要且有争议的一部分。现在，它变得如此普遍，以至于许多主要的智能手机都具有人脸解锁功能，该功能使用前置摄像头扫描用户的脸部以授予对设备的访问权限。预计到2024年，该技术的市场将增加一倍以上。

然而，尽管取得了所有的进步，但通过在大量人脸照片数据集上训练计算机视觉算法而创建的面部识别技术却可能存在严重的缺陷：只能“看到”两个性别。

科罗拉多大学博尔德信息科学系的杰德·布鲁贝克(Jed Brubaker)，雅各布·保罗(Jacob Paul)和摩根·克劳斯·舒尔曼(Morgan Klaus Scheuerman)(主要作者)进行的新研究表明，许多主要的面部识别服务对跨性别者和非二进制人的性别进行了错误分类。

“我们发现面部分析服务在跨性别人士中的表现一直较差，并且普遍无法对非二元性别进行分类，”同时也是CU Boulder信息科学博士学位的Scheuerman说。“尽管外面有许多不同类型的人，但是这些系统对性别的看法极为有限。”

为了检验这个假设，研究人员从社交媒体平台Instagram收集了2,450张面部图像，这些图像上标有七个表明其性别身份的标签之一：#妇女，#man，#transwoman，#transman，#agender，#agenderqueer和#非二进制。然后，由四个最大的面部分析服务提供商对这些图片进行了分析：亚马逊，Clarifai，IBM和Microsoft。

平均而言，这些系统正确地识别出有98.3%的顺子妇女和99.7%的顺子男人。

但是，在多达38%的实例中，跨性别男人被错误地识别为女性。更令人不安的是，那些被识别为性别，性别酷儿或非二进制的人被错误地分类为100%，因为这些性别身份尚未内置到算法中。

研究高级作者，信息科学助理教授布鲁贝克在一份声明中说：“我们知道这些系统在种族和种族方面存在固有的偏见，我们怀疑在性别方面也会存在问题。”“最重要的是：我们发现，运行我们所有面部检测和面部分析的计算机视觉系统无法处理我们每天生活的性别多样性水平。”

至少，这种错误归类有可能导致社会不适和排斥，从而增强了刻板印象，使“其他”无法与传统性别二元身份认同的人“相处”。

布鲁贝克说：“当你走在街上时，你可能会看着某人，并假定你知道他们的性别，但这是从90年代开始就很古怪的想法，现在世界已经不一样了。”“随着我们对性别的看法和文化理解的发展，驱动我们技术未来的算法还没有。那是个严重的问题。”

但是，在实践中部署该技术的方式也带来了更为严重的影响。Scheuerman指出，身份识别差异可能会导致通过机场安全检查被允许。这也可能会限制针对特定类型人群的研究类型，就像在拥有医学数据的非裔人人群中发生的那样。

值得注意的是，执法机构目前正在通过闭路电视和隐藏式摄像机对该技术进行测试，以预测情绪状态和给定个人在大型公共事件中可能的可能性。这个用例本身是有问题的，并且受到怀疑，但是如果基于编程到算法中的过时偏差的不正确数据不能正确识别，则这将变得更加复杂。

Scheuerman说：“人们认为计算机视觉是未来主义，但是很多人可能会被排除在所谓的未来之外。”

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！