登录 注册 返回主站
F10资料 推荐产品 炒股必读

英国护照人脸识别系统漏洞真相:黑人正常照片被判为“未睁眼”

  • 作者:救赎neck悔悟
  • 2019-10-14 20:26:36
  • 分享:


智东西(公众号:zhidxcom)编 | 李水青

智东西10月12日消息,近日,据BBC报道,在英国内政部试行护照人脸识别系统期间,系统在遇到面部较白或较暗的人士时系统就会出现无法识别的情况。对此,英国内政部承认其人脸识别系统存在问题,但仍因系统“整体效果良好”而选择继续部署该系统,并表示在使用中会对其进行改进优化。

英国相关部门在针对息自由而发布的一份件中写道:“他们确实发现皮肤很浅或非常深色的人很难通过护照照片检测。但是考虑到这个系统大体效果良好,还是选择部署。”

英国平等与人权委员会发言人说:“种族不应该成为使用技术提供基本公共服务的障碍。尽管有证据表明面部识别系统对一些肤色的人脸具有识别障碍,但政府依然在推进这项技术的实施,这令我们感到非常失望。”

一、黑人正常照片被判为“未睁眼”,训练数据不足致“偏见”

自2016年6月英国相关部门启用该服务以来,一些用户在接触人脸检服务时就遇到了问题。近日,黑人体育教练Joshua Bada被检测系统拦截了,因为系统把他的嘴唇识别成了张开的嘴。人脸识别系统的问题早就显现,谷歌在2015年的一套人脸识别系统将一对黑人夫妇标记为大猩猩,为此谷歌不得不向当事人道歉。

英国基尔大学的黑人技术官Cat Hallam也遇到过类似情况,她上传了一张表情正常的照片,但人脸识别系统告诉她,她的眼睛紧闭,嘴巴张开。Cat Hallam说:“最让人沮丧的是,他们明知道这个系统Bug,却照常在使用问题系统。”

人脸检测软件通常需要对数千张图像进行训练。如果训练数据不够大或不够多样化,“偏见”就会进入人脸检测系统。

Sam Smith来自英国隐私保护组织MedConfidential,曾提交了息自由(FOI)要求。Sam说:“很明显,护照系统部署者的逻辑是,如果没有其它的图像数据集可以为黑人服务,那么我们也可以不用。”

二、英国政府:系统整体表现良好,会在使用中完善服务

内政部表示,当机器发生故障后,用户可以手动纠正人脸识别器,然后继续办理护照。但是相关的研究人员认为,这种说法就是在避重就轻。

西雅图华盛顿大学的Os Keyes说:“即使用户能够手动修改检测结果,它仍然会在用户之间造成很大的种族差异。”对此,英国基尔大学的黑人技术官Hallam说,如果网站提示人们,有些照片可能无法通过检测,他们的应用会出现问题,那么用户可能就不会有意愿使用这一功能。

为减轻该系统故障的影响,政府表示会采取措施。据称,相关部门将继续与适当的参与者进行用户研究和可用性测试,进而使不同种族的用户都能在遵循指导的情况下通过照片检测。内政部发言人表示:“我们将努力使上传数字照片的体验尽可能简单,并为所有客户改进这一流程。”

对此,Keyes表示,政府承诺“稍后解决”的举措让人感到非常沮丧。种族平等基金会的Samir Jeraj说:“这太离谱了。Jeraj呼吁政府对将要做出的改进以及在什么时候进行改进要更加清楚、有力。

英国谢菲尔德大学的计算机科学家Noel Sharkey表示,此案表明需要制定新法规。“众所周知,对于肤色较深的人,当前的面部识别系统非常不准确。这已经够糟糕了,但现在这一有问题的技术却被大肆用于护照部门,这会使不公正现象被合理化。我们迫切需要新的法规来制止不平等现象。”

章来源:BBC



温馨提醒:用户在赢家聊吧发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。本文中出现任何联系方式与本站无关,谨防个人信息,财产资金安全。
点赞12
发表评论
输入昵称或选择经常@的人
聊吧群聊

添加群

请输入验证信息:

你的加群请求已发送,请等候群主/管理员验证。

时价预警 查看详情>
  • 江恩支撑:18.71
  • 江恩阻力:21.05
  • 时间窗口:2024-04-01

数据来自赢家江恩软件>>

本吧详情
吧 主:

虚位以待

副吧主:

暂无

会 员:

46人关注了该股票

功 能:
知识问答 查看详情>