人工智能这把双刃剑,如何能在用户隐私安全轨道有序发展?

2019-06-13 13:14:50 来源:中国科学报
标签:

在人们越来越看重个人隐私和信息安全的当下,人工智能技术是把双刃剑。如何让人工智能在保障用户隐私安全的轨道上有序发展,正成为国内外共同关注的焦点和难点。


5月16日,美国旧金山市政府通过《停止秘密监察条例》法案,禁止旧金山的政府机构使用人脸识别技术,并将“靠人脸识别技术获得某些信息”列为违法行为。这无疑是一种隐私保护的措施,但也引起诸多争议。


国内某著名计算机视觉创业公司一位要求匿名的副总裁在接受《中国科学报》采访时反问:“旧金山已经不再是一座能让人感到安全的城市,人脸识别作为提高安全系数的基础工具,反而禁止使用,不知道什么技术手段可以保证安全?”

 

让人工智能在保障用户隐私安全的轨道上有序发展。


人工智能和隐私安全不可兼得?

有意思的是,最近亚马逊公司的股东以压倒性多数票,否决了该公司停止向政府机构出售其人脸识别技术的一项提议,只有2.4%的股东投票赞成这项禁令。


“这两件事情放在一起看非常有意思。”上述副总裁说,这说明围绕个人隐私、群体安全问题,对于人脸识别技术的使用需要一个平衡。“这个平衡,就是一个好的规则规范——不仅要去规范人脸识别技术企业,还要去规范使用这些技术的机构。”


实际上,人脸识别技术所创造的价值是被认可的。该副总裁认为,假使只是因为不确定使用人脸识别技术能够带来什么后果就直接禁用,那么这只能是一种短视或者短期行为。

“在满足某些条件的情况下,这种技术当然是可以应用的。”他说道,“作为发明和使用新技术的人,都要去认真思考这些问题,并且一起努力促使新规范的形成,而不是直接禁止掉。”


随着大数据的使用、算力的提高和算法的突破,人工智能正变得无处不在。由此带来的问题是,人们一方面享受人工智能带来的“红利”,另一方面则面临隐私被当做“资源”过度和非法使用的困境。如何应对人们隐私“裸奔”的挑战变得越发严峻。


技术手段:区块链技术被派上场
以“人工智能+医疗”为例,人工智能技术在医疗健康领域的应用潜力巨大,但也面临着数据的问题——用以训练人工智能模型的大量医学数据,可能是图像、基因组、电子健康记录等这些非常敏感的信息。


基于医院的数据进行训练的人工智能算法有望获得诊断、预防疾病和甚至治疗疾病的能力。但在许多国家,由于法律原因,医疗记录无法轻易共享并提供给算法。这使得利用人工智能在医学图像或数据中发现疾病的研究通常只能涉及相对较小的数据集,极大地制约了技术应用前景。


美国加州大学伯克利分校一家创业公司“绿洲实验室”(Oasis Labs),致力于探索利用云计算和区块链等技术确保用于研究的医疗数据等信息不被泄露或滥用。目前,斯坦福大学医学院已经批准绿洲实验室与相关的研究人员一道在该院开展实验,测试他们的技术对解决上述两难问题是否有效果。


绿洲实验室首先将患者的个人数据存储在一款合作设计的安全芯片上,并保存在云端。外部人员——希望以数据集训练算法的工程师们,可以在该系统(安全芯片+云端)下,利用数据运行算法并输出结果。该系统也会在接收到数据访问请求时,触发基于区块链的软件上的智能合约系统,智能合约不仅会记录数据的使用方式,还能检查机器学习计算是否被正确执行。


绿洲实验室联合创始人兼加州大学伯克利分校教授Dawn Song介绍说,该技术还可以推及人工智能在其他领域的应用,例如财务记录、个人购买习惯或网页浏览数据。不过他表示,在探索其他领域之前,他们的计划是先推动此技术在医疗领域的应用。


尽管绿洲实验室的技术探索展现出了潜力,但美国弗吉尼亚大学专门研究机器学习与安全问题的专家埃文斯仍持保守态度。他指出,在安全硬件中存储数据也有失败的风险。一旦硬件制造方遭遇攻击,它所处理的数据就会面临风险。并且,现在也没有证据证明,区块链一定就是可靠的技术。


立法约束:让合规应用有章可循
在没有好的技术措施解决问题之前,使用法规法律保护隐私和个人信息安全,是全球通用的做法。


2018年5月,欧盟颁布的被称为“史上最严”的《通用数据保护条例》(GDPR),就对企业获取及使用数据的方式进行了严格的限定。GDPR要求经营者告知并获得客户同意才可记录用户搜索等记录,且不能使用模糊、冗长的语言政策来获取用户数据使用许可等。并且,GDPR对违法企业的惩处力度也是空前的。


中国科学院自动化研究所研究员曾毅认为,GDPR值得我国借鉴。虽然GDPR在实施初期,遭到很多企业质疑且难以推行,但随着企业接受并按要求落实,他们将得到更多用户的认可和信任。


曾毅告诉《中国科学报》,如果人工智能系统不能尽力确保个人数据的安全性,不但无法赢得用户信赖,而且将触犯相关法律。人工智能的研发者、服务提供者、使用者都应充分了解有关个人数据安全的行业共识、规范、管理办法、法律,以促进人工智能的健康发展。


“加快立法的同时,还应考虑我国国情,保护人工智能的发展‘土壤’。”国内智能设备体系安全服务提供商同余科技创始人袁开国对《中国科学报》举例说,比如要明确数据的所有权属于用户,企业不能非法使用、兜售用户数据;但如果企业是为了更好地服务用户,在经过用户授权允许下,可以对用户数据进行深层次分析,明确数据的使用权。


“隐私保护是对公民基本人权的保护,也影响着国民经济的发展。”中国社会科学院哲学研究所研究员、北京协和医学院生命伦理学研究中心学术委员会主任邱仁宗在接受《中国科学报》采访时表示,随着技术的发展,人们的各种信息可以被轻易获取。


“我反对这种未经授权的‘人肉搜索’。”邱仁宗表示,应该认真研究GDPR,开展由人工智能专家、伦理学家、公众代表、监管人员参与的个人数据保护研讨会,尽快制定我国的专门法律法规。

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

继续阅读
Habana Labs宣布推出Gaudi人工智能训练处理器

Gaudi™处理器的创新架构可实现训练系统性能的近线性扩展,即使是在较小Batch Size的情况下,也能保持高计算力。因此,基于Gaudi™处理器的训练性能可实现从单一设备扩展至由数百个处理器搭建的大型系统的线性扩展。

天鹰兄弟植保无人机亮相2019世界无人机大会

6月20-22日,2019世界无人机大会暨第四届深圳国际无人机展览会在深圳开幕。

几年后,RPA 和人工智能真的会成为商品生产力工具?

UiPath机器人技术总监鲍里斯•克鲁姆雷(Boris Krumrey)上周在伦敦举行的人工智能峰会上表示:“3至5年后,RPA和人工智能将成为一种大宗商品生产力工具。”

工业互联网安全状况恐将存在风险?来听听大咖们的最新解读

人工智能技术的加持,5G建设的全面铺开,加速了工业互联网的普及,与此同时,工业信息安全产业规模加速扩容。

谷歌加纳 AI 总监称:机器学习研究的未来就在非洲

IBM在非洲有两个研究中心,Wayua就在内罗毕领导着其中的一个。即便飞机航程途径丹吉尔,她也不得不前往迪拜停留,再折回卡萨布兰卡,然后驱车3个半小时才到达丹吉尔。本来是7到8小时的直飞航班,结果却变成了近24小时的漫长旅程。Wayua说,这种情况并不少见。

更多资讯
鸿海代理董事长澄清:对于自建晶圆厂计划,不在规划当中

鸿海代理董事长吕芳铭澄清表示,对于半导体领域,鸿海的定位,一直是整合者的角度,至于自建晶圆厂,不在鸿海的规划当中。

是何缘故导致 MOSFET 市场需求出现回温?8 英寸硅晶圆市场也恐将出现供不应求状况?

电子行业即将进入第三季度旺季,随着第二季度去库存陆续告一段落,MOSFET市况预计也将回温,反映出第三季度市场需求转热。

谷歌似乎重蹈 IE 覆辙,开发者应如何应对?

IE 的历史证明,如果一个浏览器占据绝对主导地位,那么就会带来一系列负面的连锁反应!

三星电子被官司包围,商标侵犯未来该如何发展?

中关村,仅次于深圳华强北的电子集散中心,在20年后在悄然发生变化,柜台被撤下,取而代之的是写字楼。

Arm 发布全新 IP 抢攻 5G,预计明年出现

Arm是一家制造 IP的“机器”,他们开发了各种类型的新产品,包括人工智能的Trillium项目、基础设施的Neoverse、汽车增强型生产线和Pelion物联网平台。