面部识别背后的隐私无人监管,会变得一发不可收拾吗?

2019-03-14 12:58:43 来源:雷锋网
标签:

 

面部识别技术成为整个AI 行业最为常见的技术应用之一;不过,在识别效率越来越高的同时,人们也开始担心面部识别技术发展过程中的隐私安全问题。比如说最近IBM 利用Flickr 下载的图片来进行面部识别训练,就引起了人们的质疑;NBC News 针对此事进行了详细的报道,记者对这篇报道进行了不改变原意的编译。
 
近些年来,面部识别技术得到了长足发展,除了帮你解锁iPhone,还能让执法机关在人山人海中“一眼”就认出犯罪分子,商店甚至用它来识别自己的“死忠”客户。不过,法律专家却警告称,大量未经允许滥用网络照片最终会画地为牢,反过来成为监控你的“帮凶”。
 
现在的面部识别技术还不完美,它工作时靠的是算法,目标则很简单——认出那张独一无二的脸。
 
想把这个任务完成好,技术人员就必须提前“喂给”算法“养料”,即天量的面部照片。那么这些照片从哪来呢?当然是互联网。
 
起初,算法学习的照片都会按照不同的标准进行分类,比如年龄、性别、肤色等,但经过一段时间的学习后,它的能力开始变得有些吓人了,于是法律和人权专家开始大声疾呼,他们担心技术人员对普通人照片的滥用会带来“反噬”效果。
 
“这是AI 训练数据集背后的肮脏小秘密。技术人员可不管三七二十一,只要能用的照片他们都不放过。”纽约大学法学院教授Jason Schultz 说道。
 
最近IBM 公司也进了“暴风圈”,今年1 月它们向研究人员分享了自己的数据集,包含了Flickr 上近100 万张照片,虽然IBM 号称此举是为了减少面部识别的偏差。
 
了解真相后的摄影师们不愿意了,因为IBM 在他们的作品上加了各种细节注释,包括面部几何结构、肤色等信息,而这些照片最终可能会成为面部识别算法的“养料”。
 
“我拍过的人可没想过,自己的照片居然会被用在面部识别算法训练上。”公关经理Greg Peverill-Conti 气愤地说道,他有700 多张照片被收录在了IBM 的“训练数据集”中。“IBM 太草率了吧,它们怎么能不经同意就使用这些照片”。
 
IBM 公司AI 研究主管John Smith 则表示,公司“致力于保护个人隐私”,如果谁想从数据集中移除照片,尽管联系IBM。
 
虽然IBM 信誓旦旦的保证Flickr 用户可以随时移除数据集中的照片,但事情哪有那么简单,这本就是个有来无回的“不归路”。
因为IBM 需要拍摄者发送想要移除图片的链接(光靠Flickr 账号不管用),而它们却从没分享过到底这个数据集用了谁的Flickr 照片,所以你大概率会被蒙在鼓里。
 
对于这个数据集,IBM 有自己冠冕堂皇的理由——它将用于学术工作,且担负着让面部识别变得更加公平的重任。当然,在网络照片滥用方面,IBM 并不是独一家,数十家其他研究机构或公司也在采集网络照片训练自己的面部识别系统。
 
一些法律专家认为,这不仅仅是对数百万人肖像权和隐私权的侵犯,它还加重了人们对面部识别技术的担忧,也许有一天执法部门会让它“双手沾满鲜血”。
 
面部识别技术的进化历程
面部识别工具刚刚诞生时,研究人员会付钱请人来试验室“帮忙“,这些人拿钱办事,将自己不同姿态和光照角度下的照片留了下来以供研究之用。不过,这样的方案成本高还浪费时间,因此早期的数据集往往只有数百个样本。
 
进入新世纪后,互联网飞速发展,研究人员突然意识到,面部识别的好时光来了,因为网上有天量的照片可供使用。
 
 
“直接打开搜索引擎,输入名人的姓名,然后下载各种360 度无死角的照片既可。”美国国家标准技术局数据集采集人员P. Jonathon Phillips 说道。
 
随着社交网络的兴盛和自媒体的发展,普通人的照片也突然多了起来。研究人员默认这些照片是对所有人开放的,有时他们甚至会从YouTube 的视频中抓取面部图片。
 
由于工作的非经营性质,学术人员用起照片来绝对是近水楼台,因为他们能绕过版权问题了,而Flickr 的性质更是让它们成了研究人员绝对的安全之选。
 
为了保证数据集的多样性,IBM 其实从Flickr 上Down 了超过1 亿张照片,随后又精选了100 万张有注释的面部照片。为了力求精确,它们甚至为这些照片定了200 多种分类标准。
 
 
谷歌学术指出,这种研究方法在业内几乎已经是尽人皆知,因为有数百篇学术论文都在靠照片采集来佐证自己的论点,没人敢说自己是完全清白的,或者拿到了授权或同意。因此,面部识别准确性的提高和分析工具的进步主要就是靠这些“野路子”来的照片。
 
IBM 真没拿面部数据集赚钱?
 
“要想让面部识别系统超常发挥,训练数据必须足够多样化,而且覆盖范围足够广。”IBM 的John Smith 说道。
 
在IBM 看来,自己的数据集并未将图片中的人脸和具体的名字联系起来,这就意味着系统不会侵犯人们的隐私。不过,依然有人质疑IBM 的动机,因为它们可是向政府出售过监控工具。
 
举例来说,911 袭击发生后,IBM 就将面部识别技术卖给了纽约警方,执法部门通过搜索监控录像就能识别出特殊的肤色或发色。IBM 还曾推出过“智能视频分析”产品,它们能通过监控摄像头给人们加标签(亚裔、黑人或白人)。
 
如今,IBM 则有了Waston 视觉识别系统,通过图片算法就能识别出人的年龄和性别。配合正确的训练算法,客户就能从图片或视频中识别出特定的人。在被问到Waston 用了什么训练数据时,IBM 称数据有多个来源,不过却拒绝披露具体的数据来源,并美其名曰保护知识产权。
 
一再逼问下,IBM 称从Flickr 拿到的相片数据集仅用于研究,不会用来提升公司的商用面部识别工具。不过,有专家指出,类似IBM 和Facebook 这样的公司,其研发和商业运营部门之间的界限非常模糊,而且研发部门的知识产权均归IBM 所有。因此,面部识别公司Kairos 前CEO Brian Brackeen 断言,即使学术部门研发的算法有其非商业化性质,这些算法最终还是会被拿来赚钱。
 
他还打了个形象的比喻,“你可以把它看做拿面部识别技术洗钱,公司将网上的照片洗成了自己的知识产权。”
 
“被选中”的摄影师们怎么想?
 
澳大利亚摄影师Georg Holzer 将自己的作品上传Flickr 是为了记录自己声明中的精彩瞬间,他也签署了创意认证,只要是非营利性项目,就能免费使用他的照片。不过,他没想到自己的照片会成为面部识别技术的“养料”。
 
“我了解技术能造成的伤害。”Holzer 说道。“当然,面部识别技术也有其积极的一面,但如果用得不对,它也能剥夺人的基本权利和隐私。我是无法接受这项技术广泛应用的。”
 
“我觉得IBM 可不是家慈善公司,最终它们还是会用这项技术牟利,所以面部识别技术还是会进入商业市场。”Holzer 说道。
Dolan Halbrook 也有452 张照片被IBM 的数据集“侵吞”,他也认为IBM 在使用这些照片时应该征得自己的同意。
 
当然,也有摄影师觉得自己的照片能被IBM 选中并用在推动面部识别发展上是一大幸事。
 
瑞士的Guillaume Boppe 就表示:“如果我的照片能帮助AI 进化,降低探测错误率并最终提升全球安全指数,我举双手赞同。”
 
想从数据集中删图?没那么容易
如果你不同意IBM 将自己的照片当成训练数据,也可以联系它们删除,但操作起来没那么容易。一位被抓取1000 多张照片的摄影师忙活了半天,也只删除了4 张照片,因为他无法找到所有照片的链接,而Flickr 账号IBM 可不认。
 
此外,即使从IBM 的数据集中删除了照片,IBM 研究伙伴拿到的数据集也无法一并删除(已经有250 多家组织和机构接入了IBM 的数据集)。
 
显然,IBM 的数据集不是公共场所,没法想来就来想走就走。
 
好在,各国对隐私数据的保护正在加强。举例来说,欧洲就将照片看做“敏感个人数据”,如果IBM 不按规定删图,可能就会被欧盟重罚。在美国,也有一些州有了相关规定,在不征得当事人同意的情况下采集、存储和分享生物信息属违法行为,而生物信息包含指纹、虹膜和面部几何结构等。
 
近期,芝加哥的律师Jay Edelson 就向Facebook 发起了集体诉讼,称其面部识别工具触犯了相关法律。
 
至于典型的法院判例,现在还是一片空白。
 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

继续阅读
看似一骑绝尘的百度无人驾驶的背后,却是人才流失“暗流涌动”的危机
看似一骑绝尘的百度无人驾驶的背后,却是人才流失“暗流涌动”的危机

陆奇离开后,张亚勤接棒Apollo,转眼张亚勤也要在10月从百度退休,这一次谁来接衣钵?在留不住人才的路上越走越焦急的百度,要何去何从?

谷歌Pixel 4XL设计图曝光,颜值有点高
谷歌Pixel 4XL设计图曝光,颜值有点高

Android Q刚刚发布第一个测试版,下一代Pixel手机的新消息就来了,爆料者Slashleaks发布了一张Pixel 4 XL的工程设计图,打孔全面屏的设计十分惹眼。

特斯拉的全球自动驾驶排名竟然垫底?谁是第一?
特斯拉的全球自动驾驶排名竟然垫底?谁是第一?

全球科技公司和汽车企业都已经布局了自动驾驶技术的开发,那么他们的研发水平到底如何呢?最近一个第三方机构的研究报告给自动驾驶研发企业进行了一个“排行”。

从智能音箱到5G,谷歌和亚马逊的“战火”就没消停过
从智能音箱到5G,谷歌和亚马逊的“战火”就没消停过

早些时候谷歌做流量广告生意,亚马逊则以电商为主要业务,过程中亚马逊还找了谷歌买广告和流量,两家各自经营自己范围的生意。

人脸识别的隐私问题来了,IBM擅自用网络相册Flickr上的照片训练AI
人脸识别的隐私问题来了,IBM擅自用网络相册Flickr上的照片训练AI

当面部识别成为越来越广泛应用的技术,随之而来的是关于个人数据隐私泄露的担忧。IBM这次就撞在了枪口上。近日,外媒报道曝光IBM未经许可,利用网络相册Flickr上近100万张个人照片,训练它们面部识别系统,同时与外部研究人员共享这些照片。

更多资讯
人工智能与机器靴学习的区别到底在哪里?

当人们被要求评估人工智能或机器学习的潜力以解决其组织的问题时,最好了解两者之间的区别。

3D打印能用来干啥?这篇文章说全了
3D打印能用来干啥?这篇文章说全了

相信对于很多朋友而言,对互联网、人工智能等技术已经并不陌生,毕竟这些技术已经成功的融入到了我们的生活当中,给我们的生活带来了很大的便利。而我们今天要说的3D打印技术你又了解多少呢?

量子计算“八字还没一撇”,用于保密通讯是否真的可行?

最近几年,我国在量子通讯领域取得了一些重要进展,但也出现了一些争议,我来简单谈一谈都是怎么回事。

3D打印行业迎来拐点,政策支持和技术进步推动行业发展

从总体来看,目前我国3D打印产业的发展已经取得了一定的成绩,市场规模不断扩大、行业标准日趋完善、投资热度持续攀升。

为什么工业4.0下的工业机器人需要5G?
为什么工业4.0下的工业机器人需要5G?

2019年,将迎来5G商业化的元年,而5G商用化最值得人期待的就是机器人、无人驾驶等技术。

电路方案