边缘计算+人工智能,一起解物联网带来的数据洪流之困

2017-12-06 18:39:23 来源:EEFOCUS
分享到:
标签:

物联网设备在疯狂增长,预计到2020年全球物联网设备数量将达到204亿,同时,这些设备也在以超乎我们想象的速度产生数据。以智能摄像头为例,随着摄像头的分辨率从1080P转向4K,其一天所采集到的数据量将达到200GB。同样,智能医院、自动驾驶和智能工厂,它们一天所产生的数据将分别超过3TB、4TB和1PB。有人预测,到2020年,一个互联网用户平均每天将产生的数据量大概是1.5GB。由此可见,世界正在面临着汹涌澎湃的数据洪流。

 

如果将源源不断产生的数据全部传输到云端,云端服务器将面临巨大的存储压力,因此有人提出了边缘计算的解决方案。所谓边缘计算,是一种在物理上靠近数据生成的位置处理数据的方法。在2017边缘计算产业峰会上,英特尔中国区物联网事业部首席技术官张宇博士分享了如何在网络边缘实现智能化,是驾驭数据洪流的关键环节之一,也是物联网未来发展的重要趋势。他表示,“在物联网时代,随着数字化的转型,它需要更敏捷地连接、更有效地数据处理,同时要有更好地数据保护。由于边缘计算能够有效的降低对带宽的要求,能够提供及时的响应,并且对数据的隐私提供保护,因此边缘计算在今后物联网的发展过程中会起到非常重要的作用。”

 

英特尔中国区物联网事业部首席技术官-张宇博士

 

边缘计算不会替代云计算,二者会实现互补
既然边缘计算如此重要,这是否意味着它可以替代云计算?张宇强调,“边缘计算不会代替云计算,二者之间会实现互补。因为边缘计算所处理的数据是个局部的数据,并不能形成对于全局的认知。这些认知的形成还需要云计算平台,在后端对各种不同的边缘采集到的数据进行融会贯通。”

 

他列举了智能交通领域和双十一的例子,智能摄像头通过各种智能方法能够识别出摄像头前经过的各种人,以及对车辆的车型、车的颜色、车款以及车牌的识别,但是并不能了解车的轨迹。如果要形成车辆的完整轨迹,还是需要有云计算平台的支持。双11天猫商城上销售峰值超过25亿/秒,如此大量的计算也需要一个很大的云计算平台在后面支撑。

 

张宇博士认为,物联网发展可以分成三个阶段:互联、智能、自治。物联网系统发展到自治阶段同样是端到端的一个系统,边缘计算和云计算二者之间会协同工作。

 

人工智能和负载整合的结合会在边缘计算系统里发生
分析数据洪流你会发现,以前需要处理的数据很多都是结构化数据,通过Excel表格或者简单关系型的数据库就可以对其进行维护和管理。但今后,物联网会带来越来越多的非结构化数据,我们要从非结构化的数据中发现内在的关联,就需要用到人工智能技术。

 


人工智能的识别率越来越高

 

在2012年以前,人工智能做图像识别的准确度低于人类。虚线的部分代表人的识别水平,这样一个曲线代表机器识别的错误率。到2012年,AlexNet等一大批新的人工神经网络的出现,使得人工智能的水平上了一个新档次。在人工智能新技术的推动下,机器进行图像识别的水平开始超过人类。

 

虽然人工智能现在已经取得了非常大的突破,但同样还面临着很多挑战。最大的就是,人工智能在进行处理时,还需要消耗大量的计算资源和存储资源。以百度搜索为例,要完成一次搜索需要完成千亿亿次计算,在推理阶段即使去处理一个非常典型的224×224分辨率的图片,像AlexNet或者是GoogleNet这样一些人工智能网络,处理起来计算量同样是要超过10亿次。如此大量的计算,需要一个很强大的计算芯片支撑,所以说,人工智能的发展实际上对芯片提出了更高的要求。

 

在芯片研制的过程中,芯片的工艺是决定性因素,英特尔是摩尔定律的创始者,也是摩尔定律的践行者。从22纳米到14纳米,从14纳米到10纳米的过程中,从半导体晶体管的密度变化来看,密度增长速度实际超过2倍,虽然英特尔的工艺迭代时间延长了,但是从更新速率来看,仍然是按照摩尔定律的速度向前发展。摩尔定律还在不断推动半导体工艺的进步,同时为人工智能等新的计算模式提供源源不断的计算力。因此,人工智能的应用对边缘计算提出了更高的要求,对边缘计算设备的演进起到了推动作用。

 

张宇博士强调,在边缘侧趋向负载整合是物联网演进的一个必然趋势。原来在不同设备上分立的负载会越来越多地通过虚拟化等技术,整合到一个单一的高性能的计算平台上,来实现一个综合的复杂的功能,各个功能子系统既能分享设备提供的计算,存储,网络等资源,同时还能具有一定的独立性,避免彼此的相互影响,从而可以简化系统架构,降低系统总体。同时,负载整合实际上也为边缘计算的实现以及为实施人工智能的应用提供了条件。整合后的设备既是边缘数据的汇聚节点,同时也是边缘控制的中心,这为边缘智能提供了处理所需的数据,同时也提供了控制的入口。因此英特尔认为人工智能和负载整合的结合,会在今后的边缘计算的系统里发生。

 

利用硬件优势,给用户提供全面合适的解决方案
张宇博士指出,物联网系统一定是一个边缘协同的端到端系统,人工智能会在物联网系统里广泛应用,不仅是在前端,也在后端。物联网中不同的网源所需要的计算力需求不同,再加上人工智能部署,需要不同特性硬件平台以及软硬件协同优化。英特尔提供了端到端的、业界领先的人工智能全栈解决方案,包括:涵盖至强处理器、至强融核处理器、英特尔Nervana神经网络处理器和FPGA、网络以及存储技术等领先而完整的硬件平台,以及多种软件工具及函数库,优化开源框架。值得一提的是,对于边缘计算而言如何平衡功耗和计算力所面临的一大挑战,凭借Movidius领先的单瓦计算能力,英特尔可以为业界提供低功耗、高性能的边缘计算解决方案。对于前端的摄像机来说,对功耗要求严格,使用Movidius这样的低功耗芯片更合适;对于设备偏向于边缘域的连接相机的设备或者服务器服务中心运行算法的,使用FPGA更适合。

 

目前针对人工智能应用也涌现出AI芯片设计公司,AI芯片未来会是会怎样的发展态势?张宇认为,“现实系统要解决的问题不同,以及在系统里所处的位置不同,对硬件要求、计算要求也不一样,用户要根据不同的要求来选择比较合适的硬件架构。当下的人工智能很多的应用实际是围绕着图象处理,即使像AlphaGo,Alphago下围棋也是把棋盘转变成二维的图像作为输入,然后用神经网络分析得到最终结果,包括权重网络、估值网络等,最后得到下一步棋放在哪个位置赢面最大的结论。但这是不是代表了人工智能的未来?很难说。原因在于以后用人脑或者用机器分析的问题的种类很多,有些可以归结到图像,有些不可以,如果归结到图像可以用卷积来做,如果不能归结到图像是不是有另外一个更有效的架构?随着对处理问题的复杂度越来越高、处理问题的种类越来越多、对问题的认识越来越清晰,可能在今后会找到适于某种特定应用、特定问题的应用架构。”

 

有了边缘计算和云计算,开发者做设计的时候更关注如何界定边缘计算和云计算?采用哪个更合适?英特尔认为,我们有一个共性的技术需要理解和掌握,就是怎么样使计算架构变得更容易被软件定义。不管是什么样的业务类型都可以更灵活的在云端、在边缘侧,甚至在终端节点上运行。如果没有软件定义的灵活性,我要把工作负载从云端迁移到前端是非常困难的事情,从芯片厂商角度来说我们要做一个这样的考量。

 

网络优化是人工智能运用于边缘计算的关键
人工智能理论基础尚不完备,这就造成目前很多人工智能很大一部分计算是冗余的,如果想将人工智能用到边缘侧,网络优化是一个关键的技术。英特尔的网络优化思路分三个方面:低比特、剪枝和参数量化。

 

所谓低比特,在传统的深度学习领域,参数往往是用32比特的单精度浮点来进行表述,但是我们看到,在很多应用场景里,比如在安防领域、机器学习以及机器视觉领域,实际上精度要求没有那么高,英特尔把整个参数的精度在不影响最终的识别率的情况下,从32比特的单精度浮点,转变成16比特的半精,甚至于转变成8比特的整精或者是2比特的整精。随着比特数量不断地降低,存储量和计算量都降低了,这样就可以在原来相对计算能力有限的平台上做更复杂的操作。

 

剪枝也类似,如果把一个人工智能的网络比喻成一个树枝,这个树的每个不同的分杈,实际上对应的是不同的检测特征。对于不同的应用场景关注的特征不一样,很可能这些处理和检测特征对最终检测是没有效果的。对于没有效果的分支,完全可以剪掉,剪枝能够极大地降低计算。

 

量化就是参数可以根据它的一些特征做聚类。一类参数可以用相对简单的一些符号或者一些数字来表述,这样能够极大地降低人工智能对于存储的要求。对这样的优化思路,英特尔在不断地发展人工智能技术和硬件配合,形成很好的互动。

 

壮大生态系统,才能更好地推动发展

边缘计算是一个很大的生态,任何一家公司都无法提供这个产业链里所涉及的上下游所有环节。在这个产业链,英特尔定位自己是一家芯片公司,提供计算、通信、存储所需要的芯片解决方案。张宇表示,“仅凭我们的一己之力不足以实现边缘计算产业的宏大目标,我们需要众多类型的公司和机构来参加,就像各位在ECC边缘计算联盟所看到的,有来自学术机构的参与,有来自政府机构的支持,这样才能齐头并进,才能够真正地让人工智能的潜力全部发挥出来,让人能够凭借人工智能技术做到更多以前我们做不到的事情。”

 

边缘计算需要芯片,但是光有硬件还不够,还需要软件进行配合。张宇提出,“我们还为用户提供围绕芯片相关的底层软件和中间件元素。利用我们提供的零件能够帮助合作伙伴更好地开发它们的相应产品。”目前英特尔与华为和沈阳自动化研究所已经达成了合作,华为刚发布了基于英特尔处理器的边缘网关产品AR550i,利用这个产品,华为在整个产业链起到ODM、OEM的角色。在本次边缘计算产业联盟峰会上,英特尔联合沈阳自动化研究所展示边缘计算测试床——智能机器人,目的是验证基于深度学习的机器视觉方案在实际系统中的工作效果。

 

张宇强调,“我们对于垂直行业的认知肯定没有行业合作伙伴那么深,在这方面我们和他们之间是很好的配合作用,我们提供解决方案,他们提供他们的应用方案,大家一起构架满足特定垂直行业要求的整体方案来加速它的落地。英特尔除了可以在边缘计算的节点持续做研发外,还具有云计算的能力以及在网络通信基础设施上的能力,我们可以更宏观、更整体的服务于整个行业的需求。”

 

与非网原创文章,未经允许,不得转载!

 

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

作者简介
郭云云
郭云云

与非网北京站编辑,网名:咖啡不解困。混迹在电子社区,混迹在电子产业圈,虽不如工程师懂技术但也算半个电子人,喜欢听别人讲故事,喜欢思考电子圈的是是非非,更喜欢发表自己的“正理邪说”,时刻保持对所见所得的思考。

继续阅读
PC硬盘时代要结束?英特尔Optane存储技术能行吗

英特尔(Intel)推出自有Optane全新存储储存技术,似乎要以Optane来完全消灭传统PC硬盘的生存空间,让PC本地储存(local storage)从PC端消失、并移转至云端储存,虽然存储技术持续进步与迭代可期,但英特尔Optane是否能完全取代PC硬盘恐仍待商榷,因即使英特尔基于Optane的全新储存概念适合应用在教育及商业这类

亚马逊被指“抄袭”苹果,开始自研AI芯片
亚马逊被指“抄袭”苹果,开始自研AI芯片

亚马逊已经开始设计定制人工智能芯片,将用于未来的Echo设备,并提升Alexa语音助手的品质和响应时间。

处理器系转型、存储器系暴涨,一文看懂2017年Q4半导体局势
处理器系转型、存储器系暴涨,一文看懂2017年Q4半导体局势

2017年第四季度,半导体行业迎来一波涨潮,其中以三星、SK海力士、美光、英伟达以及AMD表现最为明显。三星以615.54亿美元的营收夺得第一,美光以91%的同比增长率稳居第五,高通与联发科营收则出现了不同程度的下滑之势……

英特尔极限大师赛平昌电子竞技锦标赛:总决赛于2018年冬奥会前夕历史性完美收官

电子竞技是全球增长最快的娱乐领域之一,英特尔极限大师赛平昌电子竞技锦标赛证明,这仅仅只是开始。作为顶级电子竞技赞助商之一和国际奥委会全球TOP合作伙伴,英特尔于2018年冬奥会前夕在韩国举办了英特尔极限大师赛平昌电子竞技锦标赛,展现了电子竞技的魅力和影响力。

英特尔反击AMD,六核心的笔记本芯片是杀手锏吗?
英特尔反击AMD,六核心的笔记本芯片是杀手锏吗?

更多核心成了Intel反击AMD崛起的杀手锏:发烧级一口气推进到18核心,桌面主流i7/i5全部上六核心,i3也都是四核心,而在笔记本上,U系列低压版都普及了四核心。

更多资讯
2017年CPU市场硝烟未散,AMD靠Ryzen大败8代酷睿?

去年8代酷睿和AMD Ryzen在2017缠斗了一年,结局如何呢?

为了下好物联网这盘期,各大MCU厂商都祭出啥大招

物联网为MCU带来了庞大商机,由于厂商竞争激烈,如何降低成本同时提高效能以达到更好的性价比,成为众业者的重要课题。

博通/高通并购陷僵局,到底要不要换高通董事成关键?

代理咨询公司Institutional Shareholder Services Inc(ISS)建议高通与博通谈判出售事宜,并在周五晚些时候发布的报告中建议高通股东,投票选出博通在3月6日举行的高通股东大会上提名的六名董事会候选人中的四名。ISS是一家咨询公司,向共同基金、对冲基金和其他大型机构投资者推荐如何投票处理公司事宜。

联发科将在AI芯片时代重回巅峰?
联发科将在AI芯片时代重回巅峰?

在双摄和全面屏普及后,手机行业需要新的技术来激发消费者的购买意欲,那么5G和AI就成为目前手机行业新的催化剂,不过5G受限于技术标准和移动运营商的步伐,要到2019年下半年才能与普通消费者见面,而AI技术才是2018年真正的主角。

博通高通好事将近,首次会谈已完成

北京时间2月15日早间消息,关于博通以1210亿美元收购高通的交易提议,两家公司之间的首次会谈本周结束。高通表示,董事会将举行会议,讨论下一步举措,但没有透露两家公司是否已接近达成协议。

Moore8直播课堂
电路方案