CDEC2020 搜索 导航菜单

美商务部研究机构:人脸识别技术存在种族、性别偏见

[摘要] 美国警察使用脸部识别技术办案 图自《纽约时报》 脸部识别技术已逐渐融入人们的生活,许多智能手机用户选择开启 刷脸 功能,方便自己的生
美国警察使用脸部识别技术办案 图自《纽约时报》

美国警察使用脸部识别技术办案 图自《纽约时报》

脸部识别技术已逐渐融入人们的生活,许多智能手机用户选择开启“刷脸”功能,方便自己的生活。此外,人脸识别技术也相继被应用于执法机构和政府部门。

不过近日,美国商务部一研究机构指出,脸部识别技术存在“种族、性别偏见问题”,一些在美国开发的算法“错误率很高”。

研究人员发现,面部识别软件对黑人和亚洲人的识别错误率高于白人,大约高出10到100倍。系统对于女性的识别错误率也高于男性,美国原著民的识别错误率最高。

此外,不同软件和算法的错误率有明显差别。对此,部分提供软件识别技术的公司并不认同,他们称研究人员“没有正确使用软件”或“用了过时的算法”。

美国商业内幕网(Business Insider)20日消息,美国国家标准技术研究所(National Institute of Standards and Technology 属于美国商务部)当地时间周二声明称,一项针对脸部识别的研究显示,相比识别男性和白人,一些脸部识别软件对女性和有色人种的识别能力相对较弱。

报道称,该研究选取了99个公司作为实验对象,其中包括因特尔、微软、松下等等知名品牌。研究团队用超过800万人的1800万张照片对这些脸部识别系统进行了测试。

美国《华盛顿邮报》报道称,对亚洲人、非洲裔美国人、印第安人和太平洋岛民进行“一对一”搜索时,一些在美国开发的算法错误率很高。这类搜索对机场登机等功能至关重要,错误可能会让冒名顶替者更容易钻空子。

该媒体还指出,这种情况在警方查案时经常出现,非裔美国女性的面孔经常被警方使用的人脸识别软件认错。

但值得注意的是,亚洲公司生产的面部识别软件不太可能误认亚洲面孔。

“虽然针对算法作出声明通常来说是不合理的,但我们确实发现了一些事实证据证明,我们研究的人脸识别算法中,存在人种差异。”美国国家标准技术研究所研究院帕特里克·格罗瑟 (Patrick Grother)、报告的首席作者说道,“这些数据对议员、开发者以及终端用户来说,会很有价值。他们能够以此来考量一些算法的局限和合理使用性。”

报道称,在过去的一年中,美国各地的执法机构已经开始采用面部识别技术,作为跟踪任务和识别嫌疑人的工具。

这一举动,遭到美国公民自由主张者(Civil-liberties advocates)的反对,一些城市开始禁止执法部门使用面部识别技术。

美联社今年5月15日报道称,旧金山是美国第一个禁止警方使用脸部识别技术的城市。紧随其后的还有奥克兰、萨默维尔和布鲁克林。

到了今年10月,美国公民自由联盟(ACLU)起诉美国司法部、联邦调查局(FBI)和缉毒局(DEA),要求它们提供与使用监控技术有关的文件。美国知名财经媒体石英财经网(Quartz)指出,这其中,就涉及亚马逊和微软向政府客户提供的面部识别软件。

早在今年2月,有关人脸识别技术存在种族识别问题的研究就闹到的沸沸扬扬。

美联社报道称,当时,麻省理工的研究人员发现,亚马逊的面部识别软件Rekognition对有色人种的误认率高于白人,对深色皮肤的女性的识别错误尤为突出。

然而,亚马逊公司并不认同实验结果,并称研究人员“没有正确使用软件”或“用了过时的算法”。

美国商业内幕网指出,美国国家标准技术研究所本次99个实验对象公司中,并没有亚马逊的名字,而且该公司没有为这项研究提供任何软件支持。




免责声明:

本站系本网编辑转载,会尽可能注明出处,但不排除无法注明来源的情况,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本网联系, 来信: liujun@soft6.com 我们将在收到邮件后第一时间删除内容!

[声明]本站文章版权归原作者所有,内容为作者个人观点,不代表本网站的观点和对其真实性负责,本站拥有对此声明的最终解释权。
微信公众号 微信公众号