到底该不该用人脸识别技术?IBM/亚马逊/ACLU已经吵得不可开交了

2019-03-28 16:02:32 来源:EEFOCUS
标签:

 

吉米戈麦斯是加州民主党人,哈佛大学毕业生,也是少数在美国众议院任职的西班牙裔立法者之一。

 

但在亚马逊的面部识别系统里,他被识别为一个潜在的罪犯。

 

戈麦斯是28名美国国会议员中的一员,与被逮捕的人的照片完全匹配,这是去年美国公民自由联盟对亚马逊重新认知计划进行测试的一部分。

 

 

亚马逊被警方使用工具中将近有40%的虚假匹配,涉及有色人种。

 

这些发现被公民自由团体,立法者甚至一些科技公司越来越多的关注,随着技术变得更加主流,面部识别可能会伤害少数人种。iPhone和Android手机上已经开始使用面部识别技术进行解锁,警察、零售商、机场和学校也在慢慢接触它。但是研究表明,面部识别系统更难以识别女性和肤色较黑的人,这可能导致灾难性的误报。

 

“这是一个例子,说明技术在执法领域的应用如何对已经过度监管的社区造成有害后果,”北加州ACLU的技术和公民自由律师Jacob Snow说。

 

面部识别有它的好处。马里兰州的警察利用这项技术在首都公报的大规模枪击案中找出了一名嫌犯;在印度,它帮助警察在四天内识别了近3000名失踪儿童;Facebook使用该技术为视障人士识别照片中的人物;它已成为解锁智能手机的便捷方式。

 

但这项技术并不完美,而且还有一些尴尬的失误。谷歌照片曾将两个黑人识别成大猩猩。在中国,一位女士声称她的同事能够使用Face ID 解锁她的iPhone X。当执法机构使用面部识别来识别犯罪嫌疑人或在抗议中揭露人们时,被误认的风险就会增加。

 

“当执法部门使用这项技术确定某人是否因犯罪而被通缉时,那就是完全不同的情况,”戈麦斯说,“错误的身份有可能会导致执法部门和那个人之间发生致命的互动。”

 

立法者对ACLU的调查结果并不感到震惊,并指出科技工作者通常更多地考虑如何使某些东西发挥作用,而不是关于他们构建的工具如何影响少数人种。

 

科技公司通过改进用于培训面部识别系统的数据来回应批评,但与民权活动家一样,他们也呼吁更多的政府监管,以帮助保护技术不被滥用。乔治敦大学法学院的研究人员估计,每两名美国成年人中就有一名被用于执法人员使用的面部识别网络。

 

亚马逊不赞同ACLU研究,认为组织在测试识别系统时使用了错误的方法。

 

“机器学习是一个非常有价值的工具,可以帮助执法机构,虽然可能存在误判,我们不能因为设定了错误的温度导致烤焦了披萨而扔掉烤箱。”人工智能总经理Matt Wood在亚马逊网络服务公司的一篇博文中辩解道。

 

识别问题

与白人男性相比,面部识别服务可能更难以识别少数民族和女性,这有多种原因。

 

 

乔治城法学院隐私与技术中心的高级助理克莱尔加维说,科技工作者用来训练计算机识别面孔的公开照片可能包括比白人更多的白人。例如,如果一家公司使用名人数据库中的照片,那么它就会倾向于白人,因为好莱坞的少数人种人数不足。

 

Garvie说,科技公司的工程师,大多是白人,也可能在不知不觉中设计面部识别系统,以更好地识别某些种族。研究表明,人们更难以识别另一个种族的面孔,并且“跨种族偏见”可能会渗入人工智能。她还补充说,对于深色皮肤缺乏色彩对比的问题,以及女性使用化妆品来掩盖皱纹或头发不同的问题,都存在挑战。

 

 根据麻省理工学院媒体实验室的研究人员进行的一项研究,微软,IBM和Face ++制作的面部识别系统很难确定像非洲裔美国人这样的黑皮肤女性的性别。35%的黑皮肤女性的性别会被误认为是高加索人等1%的浅肤色男性。

 

麻省理工学院于1月份发布的另一项研究表明,亚马逊的面部识别技术比微软或IBM确定黑皮肤女性性别的工具更难。

 

科技公司的作用

亚马逊对麻省理工学院的研究结果提出了质疑,一名女发言人指出,该研究称这项研究“具有误导性”。研究人员使用“面部分析”来识别面部特征,如性别或微笑,而不是面部识别,将人脸与照片或视频中的相似面部相匹配。

 

“面部分析和面部识别在底层技术和用于训练它们的数据方面完全不同,”伍德在一篇关于麻省理工学院研究的博客文章中说。“尝试使用面部分析来衡量面部识别的准确性是不明智的,因为它不是用于此目的的预期算法。”

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

作者简介
与非网 小编
与非网 小编

电子行业垂直媒体--与非网小编一枚,愿从海量行业资讯中淘得几粒金沙,与你分享!

继续阅读
保护隐私,美两党达立法监管人脸识别技术

在周三的美国国会听证会上,共和党和民主党领导人讨论了对执法部门使用面部识别软件所带来的日益担忧。不同寻常的是,两党这次都表现出了合作的态度,两党一致认为,现在是时候认真研究这项技术并还有可能起草法律来监管它。

美分析师评贸易战:芯片是贸易战复苏的最前沿

上周我们报告称,中国的经济贸易可能会进一步下滑,为何这么快就实现了?从目前的来看,美国股票明显没有上涨,通过和平的方式来解决这次贸易战争还并未实现。

亚马逊新专利被曝光:Alexa 或将入驻尽可能多的硬件产品

此时此刻,亚马逊可能知道你方方面面的事情,所以,为什么不让他们也来追踪你的情绪呢?有报道称,该公司正在研发一款可穿戴健康追踪设备,据称它可以检测用户的情绪状态。彭博社 最先报道了这件事 ,消息来源是所谓的 “内部文件”。

半导体行业加速战争?IBM 已获美国防微电子专项2.75亿美元合同

IBM已获得美国国防微电子专项活动的2.75亿美元合同,以帮助创建一个专注于半导体技术安全的可靠供应链。

又有5家企业被美方考虑断供!人工智能、人脸识别是重点

5月23日,继美国将华为列入 “实体管制名单”,国内安防龙头海康威视、大华也被“盯上”,同时人工智能厂商科大讯飞、商汤、旷视、依图以及电子数据取证行业龙头企业美亚柏科皆在美国考虑之中……

更多资讯
触觉力反馈手套曝光,VR 的春天要来了?

近日,有外媒挖出了一份来自索尼的“触觉力反馈手套”新专利,预示着索尼有望为PSVR消费者带来更加沉浸式的体验。

苹果新专利曝光:利用全息元件将光投射到眼睛中以呈现虚拟物体

今天,美国专利商标局公布了一份来自苹果的专利申请,该专利涉及一种头戴式系统,如智能眼镜,该系统包括全息元件和一种光学扫描设备,该设备通过全息元件记录入射到眼睛上的光。

凭借这些创新技术,这家公司在智能摄像领域拿到80%的市场份额

“智能传感器、深度感知、传感器融合,是智能感知未来发展的三个趋势。传统的图像传感技术是由手机推动的,但是智能感知已经不同于传统的图像传感,现在智能传感器被广泛应用在汽车、机器视觉、边缘人工智能这三个领域。” 在近期的媒体发布会上,安森美半导体智能感知部全球市场及应用工程副总裁易继辉表示,“关于像素,很多手机厂商宣称已经可以达到2000万像

思特威推出SC8238 CMOS图像传感器,开启4K消费级视频应用新时代

近日,技术领先的CMOS图像传感器供应商思特威(SmartSens)宣布其行业领先的SmartClarityTM CMOS图像传感器系列再添新成员——SC8238。

新纳传感推出全新产品OpenRTK330

新纳传感系统有限公司(Aceinna, Inc. 下称新纳传感)今天在第10届中国卫星导航年会发布了全新产品OpenRTK330。

电路方案