人工智能让内存更接近计算资源,那么数据处理究竟在哪进行?

2019-03-14 11:34:19 来源:互联网
标签:

 

大数据应用推动了“让内存更接近计算资源”的架构需求,而人工智能和机器学习则进一步证明了硬件和硬件架构在成功部署中发挥的关键作用。不过有一个关键问题——数据处理应该在哪里进行。

 

在Forrester Research近期的一项调查中,有89%的受访者表示,计算和内存在架构上紧密相连是至关重要的。这项调研由美光(Micron Technology)公司委托,调查结果中还发现,内存和存储是如今限制人工智能和机器学习发展的非常重要的因素。此外,还有超过75%的受访者指出,他们需要升级或重新构建内存和存储架构以打破这种局限性。

 

因为机器学习能够通过神经网络对庞大的数据矩阵进行多次累积操作,这使得大数据及其分析过程中的很多问题得以解决。同时,随着更多结果的产生,这样的操作还会反复进行,以生成最佳路径和最佳选择的算法,并且这些算法都是通过处理数据进行反复学习的。

 

美光公司企业战略副总裁Colm Lysaght表示,因为数据量非常大,所以解决内存问题的常见方案就是增加更多的DRAM(Dynamic Random Access Memory),即动态随机存取存储器。这是最为常见的系统内存,能够将性能瓶颈从原始计算转移到数据所在的位置。“内存和存储就是数据所在的地方。我们必须把数据带入CPU,然后再返回,如此反复。因为这些庞大的数据集都需要被处理。”

 

Lysaght说,如果能够让计算和内存更紧密地结合在一起,就意味着可以节省更多电力能源,因为在内存和计算之间就不需要往返太多次。“这会提高性能,因为数据处理直接发生在它所在的位置。”

 

在Lysaght看来,有很多不同的方法都可以打造出更好的架构。拿神经形态处理器举例,它在内部使用神经网络,并将内部核心数据分解为更多的较小颗粒。“因为要对大量的数据要进行处理,所以让更多的核心反复执行相对简单的操作是一种更好的解决方案,”Lysaght说。

 

最近,内存公司Crossbar与Gyrfalcon Technology、mtes Neural Networks(mtesNN)、RoboSensing等公司一起,打造了一个致力于提供加速、节能型人工智能平台的联盟——SCAiLE(用于边缘学习的SCABLE AI)。该联盟将结合先进的加速硬件、电阻式RAM(ReRAM)和优化神经网络,打造就绪的低功耗解决方案,使得整个过程无需进行监督学习。

 

Crossbar公司战略营销和业务开发副总裁Sylvain Dubois表示,目前很多企业面临的挑战是,他们既希望在设备上采用人工智能,但是又不知道该怎么做,无论是智能扬声器、智能摄像头还是智能电视。而该联盟的目标,就是提供一个将所有必要部分组合在一起的平台。

 

Crossbar的主要贡献在于内存(特别是ReRAM),它将通过各种输入处理机器学习系统中的数据,包括文本、关键字、GPS坐标、传感器可视数据等大量非结构化数据。

 

Dubois设想了一种存储器阵列,它的架构能够以非常宽且高度并行的方式由实例中的每一个特定处理代码读取,实现在边缘设备中并行读取一千个字节。“如果匹配了,你就会知道该怎么做。如果没有匹配,那么这就是我们所说的学习曲率。”Dubois说。

 

例如,对摄像头传感器来说,该系统将能够在ReRAM阵列备用位置保存新事件或一组功能。“下次当有类似事件在这个摄像头前发生的时候,摄像头本身就能够在没有任何训练的情况下检测到该事件。”Dubois举例说。

 

这提供了一种完全不同的人工智能计算方式,因为如果出现需要快速决策的意外事件(例如关注安全性的交通场景)时,它就不再需要依赖于云中的训练能力,而能够在当下快速处理。

 

Forrester Research的这项研究表明,有越来越多的企业将在公有云和边缘位置进行数据分析,从而在边缘完成更多的机器学习能力。有51%的受访者表示,他们正在公有云中运行分析,预计未来三年这一比例将增加到61%。此外,有44%的人已经在边缘设备中进行数据分析,预测到2021年这一比例将增长到53%。

 

Forrester基础设施和运营高级分析师Chris Gardner对于硬件的重要性感到惊讶,特别是存储和内存。他表示,一个非常重要的研究结果是,有大量工作是脱离了存储在内存本身进行的。但值得注意的是,这取决于你的需求是什么。根据Gardner的说法,训练模型需要大量的内存和存储空间。除外之外,你根本不需要任何东西。

 

Gardner说,在完美的情况下,企业希望拥有一个数百GB的RAM大型环境。但实际上,他们不得不自己构建或者付费让供应商来实现,而且这需要的是硬件方面的转变。“我们需要更多以内存为中心的架构,让计算围绕内存以及存储来进行,而不是让计算本身成为中心。“这并不是说当前的计算架构很糟糕,但这可能并不是做人工智能和机器学习最有效的方式。”Gardner表示。

 

此外,Gardner还提到了边缘计算,有一个场景是某个举行大型体育赛事的体育场内安装了很多摄像头,这些摄像头实时产生了大量需要快速处理的数据,以确定是否存在危险情况。“他们可以把这些数据发送到云端并返回,但是他们没有时间去这么做,因为他们必须尽快处理这些数据。”

 

未来还将有一些机器学习是在云中进行的,然后返回到物联网设备,但是其中一些设备将变得越来越智能化,并且可以自主地进行机器学习,共享回云端以及其他设备。对于内存制造商来说,这意味着商用组件制造商要持续进行转型,而且要重新编译应用以利用人工智能和机器学习工作负载所需的、以内存为中心的架构。但是现在这些技术还处于实验阶段,还没有一个真正的采用内存为中心、在实验环境之外有很多延迟表现的架构。

 

Gardner说:“几十年来我们一直是用以CPU为中心的心态去构建架构,而想要摆脱这种想法是非常具有革命性的。”

 

对此,去年秋天美光还宣布投资1亿美元用于人工智能,并在实验室中打造了一个类似DRAM的产品,目标是在2021年进行采样,同时美光的研究人员也在研究处理器内存架构,这也是其他很多初创公司正在研究的领域。

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

继续阅读
我国人工智能市场规模、行业短板、发展前景一览

人工智能是新一轮产业变革的核心驱动力,将进一步释放历次科技革命和产业变革积蓄的巨大能量,我国政府高度重视人工智能的技术进步与产业发展,人工智能已上升国家战略。

华为自研操作系统OS即将面市,有望兼容全部安卓应用和所有Web应用?

有消息称,最快今年秋天,最晚明年春天,华为自己的OS将可能面市,华为的OS打通了手机、电脑、平板、电视、汽车、智能穿戴,统一成一个操作系统,同时还兼容全部安卓应用和所有Web应用。

剧透版《面对面》采访,任正非做 2 万个写有“不死的华为”奖牌
剧透版《面对面》采访,任正非做 2 万个写有“不死的华为”奖牌

5月21日下午2点30分,华为创始人、CEO任正非在华为总部接受了中央广播电视总台央视《面对面》记者董倩独家专访。

华为刚遭受禁令,竟还有几家公司或将面临相同处境?

美国正考虑要不要将旷视科技、浙江大华、海康威视及商汤科技、依图科技列入黑名单,禁止它们使用美国的部件或软件。五家企业的共同特点是属于视频监控领域。

全球1000多个智慧城市项目,哪些才能真正被冠以智慧?

去年德勤发布的《超级智慧城市报告》显示,目前全球已经启动或在建的智慧城市已达1000多个,中国在建的就超过500个。然而,这么多个智慧城市项目,哪些才能真正被冠以智慧?

更多资讯
视频:看INFOS柔性执行器如何实现更智能的机器人设计

序言:《科技观》这个系列,与非网将全球硬件开发者的一些创新项目和想法,对电子科技的进步产生重要影响的那些人和事,以及前沿科技趋势,通过视频的方式展示给国内的工程师朋友们,希望通过这些观点碰撞,事件梳理,让我们感受到科技的力量和温度。

视频:哈工大多款机器人开发平台,学硬件设计什么时候都不晚

序言:《科技观》这个系列,与非网将全球硬件开发者的一些创新项目和想法,对电子科技的进步产生重要影响的那些人和事,以及前沿科技趋势,通过视频的方式展示给国内的工程师朋友们,希望通过这些观点碰撞,事件梳理,让我们感受到科技的力量和温度。

台积电发言人表示:不会改变对华为的出货态度

晶圆代工厂台积电2019技术论坛今(23)日盛大展开,对媒体关心华为供货态度,发言人孙又文重申表示,台积电目前不会改变对华为的出货态度。

联创电子:无线充电接收芯片和发射芯片已开始大批量供应,华为背夹项目也已进入量产阶段

今日,联创电子在互动平台上表示,江西联智的无线充电芯片已通过华为、三星等一线品牌客户认证,华为背夹项目已进入量产阶段。

ARM停止与华为合作对华为将有什么影响?中国芯片发展又将面临怎样的局面?

英国芯片设计公司ARM已告知员工,必须暂停和华为的业务往来。ARM要员工停止和华为及其子公司的“所有有效合同、支持权利和任何待定合作”,以遵守最近的美国贸易禁令。在一份公司备忘录中,该公司称其设计包含“美国原产技术”,虽然ARM不是美国的公司,也会受到特朗普政府禁令的影响。

电路方案