未雨绸缪的防范,给人工智能戴上“紧箍咒”

2018-01-14 10:40:00 来源:互联网
标签:

 

刚刚过去的一年,人工智能带来的冲击一波接着一波:继谷歌人工智能程序“阿尔法狗”碾压中韩顶级棋手后,全球第一个被授予“公民身份”的机器人索菲亚又扬言“要毁灭人类”,接着出现了会后空翻的机器人“阿特拉斯”,以及可执行“斩首”任务的微型无人机纷纷登台亮相……

 

在人工智能高速发展的今天,正如许多专家所预言的那样,战争机器人可能是继核武器之后,又一把悬在人类头上的“达摩克利斯之剑”。这引发人们深思:人工智能究竟会被“驯服”,成为人类的朋友?还是会“叛逆”,给人类带来无尽的灾难?

 

难以抗拒的诱惑

高度智能化突破人类生理极限

人工智能作为物联网、大数据、先进算法和强大计算能力支持下的一种“群技术”,通过赋予“物”以人的智力,模拟和扩展人的智慧,辅助甚至代替人实现多种功能,进行认识、分析、决策、行动等活动。其核心优势是高度自主性,能够较少或完全不需要人工干预就可完成复杂、繁重和精确性高的任务。

 

人工智能可以使人从繁重的重复性工作中解放出来,专注于发现性、创造性的工作。比如,在以前的指挥决策中,指挥人员85%的时间用于情报处理分析,只有15%的时间考虑作战,而采取智能化情报处理系统后正好相反。现代战场态势高度复杂、瞬息万变,完全依赖人的认知去理解战场态势变得越来越困难。而运用智能化数据处理技术,就可以在大数据中发现复杂事物间的关系,从本质上突破人类分析联系事物的局限性,还可依据对大量战场数据的分析,提供可行性的决策建议。

 

人工智能具备自主学习能力,且运算精确度高,不受环境与心理等因素影响。2017年12月14日,美国宇航局宣布利用谷歌人工智能机器人的学习能力,对开普勒太空望远镜收集的3.5万个可能的行星信号、140亿个数据点及大约2万亿个行星轨道进行分析,发现了首个几乎和太阳系一样的星系,其效率和准确性远超传统的分析方法。同样,高度自主化的无人作战系统,在后方操纵人员的监控下,能够自动搜索和跟踪目标,自主识别环境并规划机动路线,快速捕捉战机实施精确打击。

 

人工智能还可通过计算机视觉、语音处理、自然语言处理等技术,使系统更加精准地理解人的行为并按照人的意志行动,实现人机高度融合。比如,在智能控制领域,能够通过语音方式下达指令,由系统转化为机器语言,实现作战命令的快速下达和武器装备的精确操控。在单兵助力方面,外骨骼系统可通过感知人体运动意图,提升士兵的承载携行、搬举能力,同时又能实现人机一体化,保持士兵的高度灵活性。

 

可以预见的风险

人工智能带给人类巨大威胁

美国“脸书” CEO马克·扎克伯格曾放言:“人类当下面临的最大威胁是什么?无疑是人工智能!”但就当前来讲,人工智能的“威胁”还不存在,因为它只专注于完成某个特别设定的任务,比如下围棋就仅仅会下围棋。而未来超过人类智慧的超人工智能具备知识迁移能力,可以充分利用已掌握的技能解决新问题,这就有可能给人类造成巨大威胁。

 

实现高度自主并可能“失控”。未来超人工智能开始具备自主思维意识,能够像人类一样独立思考,并自我决定如何行动。因此,自主智能机器系统虽然由人类设计制造,但它们的行为却不受人类的直接指令控制,而是可以基于在不同情境中对其所获得的信息进行分析、判断和决策,形成不需要人类介入或干预的“感知—思考—行动”模式,并最终超出创造者预料或事先控制的范围而失控。

 

这种高度智能化的系统还能够通过学习进行机器再造,可以快速复制或再生其他新的人工智能体。据专家推算,一个失去控制的正在自我复制的纳米机器人,完成130个复制周期只需要3个半小时,考虑到纳米机器人向外移动扩张等因素,最多只需数周就可以“摧毁”地球上的一切生物。这也就是为什么霍金多次“告诫”人们:人工智能一旦脱离束缚,就会以不断加速的状态重新设计自身。而人类由于受到漫长生物进化的限制,无法与之竞争,最终或将被取代。

 

遭遇非法入侵可能被“黑化”。人工智能作为一种新兴的技术领域,一般来说,没有安全漏洞是不可能的。而如果有人利用这种漏洞控制智能系统或机器人去实施破坏活动,这样的后果是极其可怕的。而且,随着人工智能的发展,其他工具包括人工智能的技术开发和复制也变得越来越容易。也就是说,未来任何人都可以使用该系统去实现自我复制或繁殖其他人工智能系统。因此,超人工智能系统一旦被非法获取或操纵,将产生巨大的破坏力量。

 

爆发机器战争造成武力“滥用”。未来大量智能化无人系统将运用于战场,“死伤”的主要是没有生命并可以大量再造的“智能机器”,使战争成本大大降低,并能够实现作战人员的“零伤亡”。战争的政治、外交风险明显降低,这就可能会因战争顾虑和压力减少而降低战争决策的门槛,导致军事强国在武力使用上更加随意,从而使战争的爆发更加频繁,战争从“最后的选择”转变为“首先的手段”。为此,许多科学家呼吁禁止“致命性自主式武器”的研发和使用,并警告这将引发全球性人工智能“军备竞赛”,人类社会将可能深陷战争泥潭。

 

未雨绸缪的防范

给人工智能戴上“紧箍咒”

霍金曾这样评价人工智能:“它既可能成为人类迄今发生过的最好的事,也可能成为最糟糕的事”。我们既不能盲目乐观,也不能因噎废食,必须及早给未来人工智能的发展套上必要的安全、伦理等方面的“紧箍咒”,同时又不能阻碍技术创新和人类社会进步的步伐。

 

从技术安全角度建立共同遵守的发展准则。根据人工智能可预见的风险,建立世界范围内的人工智能发展准则,对研究范围、内容、目的、用途等各个方面进行规范,确保安全、可控地发展人工智能。比如,对于智能系统到底应该实现到什么样的自主程度,赋予其多大的自主权利以及哪些方面不能实现等进行明确限制。2017年1月,在美国加利福尼亚州举办的阿西洛马人工智能会议上,近千名人工智能和机器人领域专家已联合签署了《阿西洛马人工智能23条原则》,呼吁世界在发展人工智能时共同遵守,成为人工智能安全、有序发展的良好开端。

 

从道德伦理角度建立科学严格的评估机制。人工智能主要是基于算法,而算法在本质上是“以数学方式或计算机代码表达的意见”,是设计者、开发者的主观创造,有可能将自己的偏见、价值观嵌入算法系统,制造出不符合社会道德规范的智能机器,这就需要对其进行严格评估以确保安全。2016年12月,美国电气和电子工程师协会启动了人工智能伦理工程,提出对嵌入智能系统的规范和价值进行评估,以确定其是否和现实中的道德价值体系相一致。我国在《新一代人工智能发展规划》中也提出“建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力”。

 

从规范运用角度建立具有法律约束力的普遍性制度条约。任何一种先进技术能否产生威胁,主要看使用者出于何种目的、如何运用。诚然,面对人工智能的巨大优势和潜在利益,特别是在涉及国家安全领域方面,直接禁止使用人工智能技术是不现实的。这正如国际上禁止或限制使用“致命性自主武器系统”一样,至今无法取得任何实质性进展。因此,应呼吁建立具有法律约束力的国际性条约,对某些特殊功能的智能系统风险和技术扩散等进行规范和预防。

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

继续阅读
精密电子元器件是机器人迈向智能化的硬件基础

在人工成本不断攀升的大背景下,几乎全球的制造工厂都在扩大机器人的使用范围,一是机器人可以24小时工作,不喊累不叫苦,容易管理;二是成本低于人工工资,企业可以增加收益。根据国际机器人联合会(IFR)发布的2018年世界机器人统计,以工业机器人密度为衡量标准,统计过去一年各国工业机器人分布,其中,2017年的全球平均值为每10,000名员工8

2019年,物联网技术和应用领域有这些大事将发生

以下预测探讨了2019年物联网的发展状况,内容涵盖物联网对业务和技术等方面的影响,包括数字化转型、区块链、人工智能(AI)和5G。

寄云科技成功落地智慧化工解决方案

近期,某能源化工集团(以下简称“集团”)智慧化工项目建设奏响了胜利的凯歌。推进“智慧化工”建设,强化信息化和工业化融合,是集团公司打造具有全球竞争力的世界一流企业的重要步骤,也是实现弯道超车的重要手段。

高通推出骁龙855芯片,首发是......

12月5日,在一年一度的高通骁龙技术峰会首日,高通宣布推出首款商用5G移动平台——骁龙855移动平台。

GBAS2018机器人与人工智能聚焦7大亮点,带你轻松看大会

由中国国际科技交流中心、深圳市科协、深圳产学研合作促进会共同主办的“GBAS2018大湾区机器人与人工智能大会”将于12月6日在深圳前海万豪酒店盛大开幕,大会为期两天,届时将有国内外享有盛誉的科学家、院士、学者、行业领袖、金融机构代表、专业媒体人等约3000人次参加此次盛会。

更多资讯
华为致供应商一封信:都是了啥?

12月6日消息,今日早间,任正非女儿、华为CFO孟晚舟在加拿大被暂扣一事轰动市场。中国外交部就此事要求对方立即对拘押理由作出澄清,立即释放被拘押人员。

美洲市场占比不大,美国如何牵制华为?
美洲市场占比不大,美国如何牵制华为?

12月6日,华为官方和多位华为高管在微信朋友圈发布消息称,近期,华为CFO孟晚舟女士在加拿大转机时,被加拿大当局代表美国政府暂时扣留,美国正在寻求对孟晚舟女士的引渡,面临纽约东区未指明的指控。

爱立信产品导致英日等过手机断网,官方道歉

北京时间12月7日消息,根据报道,瑞典的爱立信表示其目前正在努力解决导致英国、日本和其他国家数百万智能手机用户周四无法接入互联网的问题。爱立信表示为此软件故障道歉。

三星Note9和华为Mate20Pro横评:谁才是安卓机皇?

把智能手机市场比喻成《热血高校》里的铃兰男高,一直以来三星多摩雄都占据着最接近顶点的位置,华为源治作为从运营商技校过来的转校生也是迅速崛起。哦对了还有单挑最强林达果,置身事外却又横梗在铃兰制霸的道路上。

新飞电器开始盈利,康佳的野心不只是让其“重生”

不到半年的时间,新飞电器的“重生”就取得了实质性的进展。近日,深康佳一位内部人士接受记者采访称,新飞电器最近两个月的销量超出预期,新飞电器目前已经实现盈利。