到底该不该用人脸识别技术?IBM/亚马逊/ACLU已经吵得不可开交了

2019-03-28 16:02:32 来源:EEFOCUS
标签:

 

吉米戈麦斯是加州民主党人,哈佛大学毕业生,也是少数在美国众议院任职的西班牙裔立法者之一。

 

但在亚马逊的面部识别系统里,他被识别为一个潜在的罪犯。

 

戈麦斯是28名美国国会议员中的一员,与被逮捕的人的照片完全匹配,这是去年美国公民自由联盟对亚马逊重新认知计划进行测试的一部分。

 

 

亚马逊被警方使用工具中将近有40%的虚假匹配,涉及有色人种。

 

这些发现被公民自由团体,立法者甚至一些科技公司越来越多的关注,随着技术变得更加主流,面部识别可能会伤害少数人种。iPhone和Android手机上已经开始使用面部识别技术进行解锁,警察、零售商、机场和学校也在慢慢接触它。但是研究表明,面部识别系统更难以识别女性和肤色较黑的人,这可能导致灾难性的误报。

 

“这是一个例子,说明技术在执法领域的应用如何对已经过度监管的社区造成有害后果,”北加州ACLU的技术和公民自由律师Jacob Snow说。

 

面部识别有它的好处。马里兰州的警察利用这项技术在首都公报的大规模枪击案中找出了一名嫌犯;在印度,它帮助警察在四天内识别了近3000名失踪儿童;Facebook使用该技术为视障人士识别照片中的人物;它已成为解锁智能手机的便捷方式。

 

但这项技术并不完美,而且还有一些尴尬的失误。谷歌照片曾将两个黑人识别成大猩猩。在中国,一位女士声称她的同事能够使用Face ID 解锁她的iPhone X。当执法机构使用面部识别来识别犯罪嫌疑人或在抗议中揭露人们时,被误认的风险就会增加。

 

“当执法部门使用这项技术确定某人是否因犯罪而被通缉时,那就是完全不同的情况,”戈麦斯说,“错误的身份有可能会导致执法部门和那个人之间发生致命的互动。”

 

立法者对ACLU的调查结果并不感到震惊,并指出科技工作者通常更多地考虑如何使某些东西发挥作用,而不是关于他们构建的工具如何影响少数人种。

 

科技公司通过改进用于培训面部识别系统的数据来回应批评,但与民权活动家一样,他们也呼吁更多的政府监管,以帮助保护技术不被滥用。乔治敦大学法学院的研究人员估计,每两名美国成年人中就有一名被用于执法人员使用的面部识别网络。

 

亚马逊不赞同ACLU研究,认为组织在测试识别系统时使用了错误的方法。

 

“机器学习是一个非常有价值的工具,可以帮助执法机构,虽然可能存在误判,我们不能因为设定了错误的温度导致烤焦了披萨而扔掉烤箱。”人工智能总经理Matt Wood在亚马逊网络服务公司的一篇博文中辩解道。

 

识别问题

与白人男性相比,面部识别服务可能更难以识别少数民族和女性,这有多种原因。

 

 

乔治城法学院隐私与技术中心的高级助理克莱尔加维说,科技工作者用来训练计算机识别面孔的公开照片可能包括比白人更多的白人。例如,如果一家公司使用名人数据库中的照片,那么它就会倾向于白人,因为好莱坞的少数人种人数不足。

 

Garvie说,科技公司的工程师,大多是白人,也可能在不知不觉中设计面部识别系统,以更好地识别某些种族。研究表明,人们更难以识别另一个种族的面孔,并且“跨种族偏见”可能会渗入人工智能。她还补充说,对于深色皮肤缺乏色彩对比的问题,以及女性使用化妆品来掩盖皱纹或头发不同的问题,都存在挑战。

 

 根据麻省理工学院媒体实验室的研究人员进行的一项研究,微软,IBM和Face ++制作的面部识别系统很难确定像非洲裔美国人这样的黑皮肤女性的性别。35%的黑皮肤女性的性别会被误认为是高加索人等1%的浅肤色男性。

 

麻省理工学院于1月份发布的另一项研究表明,亚马逊的面部识别技术比微软或IBM确定黑皮肤女性性别的工具更难。

 

科技公司的作用

亚马逊对麻省理工学院的研究结果提出了质疑,一名女发言人指出,该研究称这项研究“具有误导性”。研究人员使用“面部分析”来识别面部特征,如性别或微笑,而不是面部识别,将人脸与照片或视频中的相似面部相匹配。

 

“面部分析和面部识别在底层技术和用于训练它们的数据方面完全不同,”伍德在一篇关于麻省理工学院研究的博客文章中说。“尝试使用面部分析来衡量面部识别的准确性是不明智的,因为它不是用于此目的的预期算法。”

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

作者简介
与非网 记者
与非网 记者

电子行业垂直媒体--与非网记者一枚,愿从海量行业资讯中淘得几粒金沙,与你分享!

继续阅读
亚马逊能否用Alexa颠覆苹果和谷歌在车联网的龙头地位?

据国外媒体报道,随着Spotify音乐服务崩溃,以及Alexa找不到自己最喜欢的寿司店,拉斐尔·里维拉(Rafael Rivera)感觉,他正在使用一个未完成的产品。

苹果 Siri 负责人跳槽微软,管理其人工智能小组

8月20日消息,据国外媒体报道,曾一度担任苹果公司Siri开发部门负责人的比尔·斯塔西尔(Bill Stasior)已经离开苹果,并成为微软公司技术副总裁。

AMD准备好与英伟达展开GPU终极之战
AMD准备好与英伟达展开GPU终极之战

还有一个GPU市场,多年来AMD一直落后于英伟达。不过,就像它在CPU市场对英特尔打了个漂亮的翻身仗一样,AMD这次做足了准备,要改变GPU市场的格局。

更安全?36款指纹识别智能门锁全部被破解
更安全?36款指纹识别智能门锁全部被破解

时至今日,科技时代的锁具不仅要保证安全可靠,同时也要便捷。于是钥匙不再和锁成双入对,取而代之的是IC卡、密码、指纹识别、虹膜识别、面部识别等高科技手段。那么,在便捷有余的情况下,智能门锁真的更安全了?

多市“拒绝”人脸识别,隐私数据到底属于谁?

作为身份认证的重要手段之一,人脸识别已经成为智慧城市建设中的重要组成部分。

更多资讯
冲压、电镀、注塑、组装,这四种连接器制作流程你懂吗?
冲压、电镀、注塑、组装,这四种连接器制作流程你懂吗?

连接器是一种连接电气端子以形成电路的耦合装置。生活中很多地方都用到连接器,像汽车、计算机等电子设备都是连接器的必备选择。

一氧化碳传感器在地下车库一氧化碳浓度监控中的应用
一氧化碳传感器在地下车库一氧化碳浓度监控中的应用

一氧化碳(CO)做为一种无色无味的有毒性气体,随着私家车辆及地下车库的普及,其导致的中毒事件也频频见于报端。近年来国家对地下车库一氧化碳检测系统也开始要求,如《江苏省绿色建筑设计标准》8.6.3条规定:“设有机械通风的地下车库应对CO浓度进行实时监测和控制”。

跻身全球前五大CMOS图像传感器厂商,安森美半导体靠什么?
跻身全球前五大CMOS图像传感器厂商,安森美半导体靠什么?

安森美半导体的信心来自哪里?CMOS图像传感器产品线又会如何向前推进?……怀着诸多疑问,与非网专访了安森美半导体大中华区智能感知部工业市场营销经理颜凯,他的回答让我们对安森美半导体CMOS图像传感器的未来发展战略有了更深的理解。

绝对式编码器之接触编码器原理解析
绝对式编码器之接触编码器原理解析

接触式编码器的码盘基体是个绝缘体,码道是一组同心圆。码道的数目根据分辨率决定,同心圆环的径向距离即是码道宽。

成像雷达:一个传感器控制所有传感器

业界对三种主要传感器(摄像头、雷达和LIDAR)在汽车中的不同作用,以及它们各自如何满足先进驾驶辅助系统(ADAS)和自动驾驶的感测需求仍然存在一些困惑。