人工智能让内存更接近计算资源,那么数据处理究竟在哪进行?

2019-03-14 11:34:19 来源:互联网
标签:

 

大数据应用推动了“让内存更接近计算资源”的架构需求,而人工智能和机器学习则进一步证明了硬件和硬件架构在成功部署中发挥的关键作用。不过有一个关键问题——数据处理应该在哪里进行。

 

在Forrester Research近期的一项调查中,有89%的受访者表示,计算和内存在架构上紧密相连是至关重要的。这项调研由美光(Micron Technology)公司委托,调查结果中还发现,内存和存储是如今限制人工智能和机器学习发展的非常重要的因素。此外,还有超过75%的受访者指出,他们需要升级或重新构建内存和存储架构以打破这种局限性。

 

因为机器学习能够通过神经网络对庞大的数据矩阵进行多次累积操作,这使得大数据及其分析过程中的很多问题得以解决。同时,随着更多结果的产生,这样的操作还会反复进行,以生成最佳路径和最佳选择的算法,并且这些算法都是通过处理数据进行反复学习的。

 

美光公司企业战略副总裁Colm Lysaght表示,因为数据量非常大,所以解决内存问题的常见方案就是增加更多的DRAM(Dynamic Random Access Memory),即动态随机存取存储器。这是最为常见的系统内存,能够将性能瓶颈从原始计算转移到数据所在的位置。“内存和存储就是数据所在的地方。我们必须把数据带入CPU,然后再返回,如此反复。因为这些庞大的数据集都需要被处理。”

 

Lysaght说,如果能够让计算和内存更紧密地结合在一起,就意味着可以节省更多电力能源,因为在内存和计算之间就不需要往返太多次。“这会提高性能,因为数据处理直接发生在它所在的位置。”

 

在Lysaght看来,有很多不同的方法都可以打造出更好的架构。拿神经形态处理器举例,它在内部使用神经网络,并将内部核心数据分解为更多的较小颗粒。“因为要对大量的数据要进行处理,所以让更多的核心反复执行相对简单的操作是一种更好的解决方案,”Lysaght说。

 

最近,内存公司Crossbar与Gyrfalcon Technology、mtes Neural Networks(mtesNN)、RoboSensing等公司一起,打造了一个致力于提供加速、节能型人工智能平台的联盟——SCAiLE(用于边缘学习的SCABLE AI)。该联盟将结合先进的加速硬件、电阻式RAM(ReRAM)和优化神经网络,打造就绪的低功耗解决方案,使得整个过程无需进行监督学习。

 

Crossbar公司战略营销和业务开发副总裁Sylvain Dubois表示,目前很多企业面临的挑战是,他们既希望在设备上采用人工智能,但是又不知道该怎么做,无论是智能扬声器、智能摄像头还是智能电视。而该联盟的目标,就是提供一个将所有必要部分组合在一起的平台。

 

Crossbar的主要贡献在于内存(特别是ReRAM),它将通过各种输入处理机器学习系统中的数据,包括文本、关键字、GPS坐标、传感器可视数据等大量非结构化数据。

 

Dubois设想了一种存储器阵列,它的架构能够以非常宽且高度并行的方式由实例中的每一个特定处理代码读取,实现在边缘设备中并行读取一千个字节。“如果匹配了,你就会知道该怎么做。如果没有匹配,那么这就是我们所说的学习曲率。”Dubois说。

 

例如,对摄像头传感器来说,该系统将能够在ReRAM阵列备用位置保存新事件或一组功能。“下次当有类似事件在这个摄像头前发生的时候,摄像头本身就能够在没有任何训练的情况下检测到该事件。”Dubois举例说。

 

这提供了一种完全不同的人工智能计算方式,因为如果出现需要快速决策的意外事件(例如关注安全性的交通场景)时,它就不再需要依赖于云中的训练能力,而能够在当下快速处理。

 

Forrester Research的这项研究表明,有越来越多的企业将在公有云和边缘位置进行数据分析,从而在边缘完成更多的机器学习能力。有51%的受访者表示,他们正在公有云中运行分析,预计未来三年这一比例将增加到61%。此外,有44%的人已经在边缘设备中进行数据分析,预测到2021年这一比例将增长到53%。

 

Forrester基础设施和运营高级分析师Chris Gardner对于硬件的重要性感到惊讶,特别是存储和内存。他表示,一个非常重要的研究结果是,有大量工作是脱离了存储在内存本身进行的。但值得注意的是,这取决于你的需求是什么。根据Gardner的说法,训练模型需要大量的内存和存储空间。除外之外,你根本不需要任何东西。

 

Gardner说,在完美的情况下,企业希望拥有一个数百GB的RAM大型环境。但实际上,他们不得不自己构建或者付费让供应商来实现,而且这需要的是硬件方面的转变。“我们需要更多以内存为中心的架构,让计算围绕内存以及存储来进行,而不是让计算本身成为中心。“这并不是说当前的计算架构很糟糕,但这可能并不是做人工智能和机器学习最有效的方式。”Gardner表示。

 

此外,Gardner还提到了边缘计算,有一个场景是某个举行大型体育赛事的体育场内安装了很多摄像头,这些摄像头实时产生了大量需要快速处理的数据,以确定是否存在危险情况。“他们可以把这些数据发送到云端并返回,但是他们没有时间去这么做,因为他们必须尽快处理这些数据。”

 

未来还将有一些机器学习是在云中进行的,然后返回到物联网设备,但是其中一些设备将变得越来越智能化,并且可以自主地进行机器学习,共享回云端以及其他设备。对于内存制造商来说,这意味着商用组件制造商要持续进行转型,而且要重新编译应用以利用人工智能和机器学习工作负载所需的、以内存为中心的架构。但是现在这些技术还处于实验阶段,还没有一个真正的采用内存为中心、在实验环境之外有很多延迟表现的架构。

 

Gardner说:“几十年来我们一直是用以CPU为中心的心态去构建架构,而想要摆脱这种想法是非常具有革命性的。”

 

对此,去年秋天美光还宣布投资1亿美元用于人工智能,并在实验室中打造了一个类似DRAM的产品,目标是在2021年进行采样,同时美光的研究人员也在研究处理器内存架构,这也是其他很多初创公司正在研究的领域。

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

继续阅读
人工智能与机器靴学习的区别到底在哪里?

当人们被要求评估人工智能或机器学习的潜力以解决其组织的问题时,最好了解两者之间的区别。

走进智能家居2019,OLED还是5G?这些看点不容错过
走进智能家居2019,OLED还是5G?这些看点不容错过

在过去几十年,整个中国家电产业跨越了人口红利期、政策刺激周期(家电下乡、能效补贴、以旧换新)后,确实带来了产品的结构升级以及销量的增长。但到目前为止,以电视为代表的家电行业均出现下滑态势。

AI如何帮助企业争夺万亿智能家居市场?

AWE2019期间智能家居再次引发热议,不管是海尔、长虹,亦是包括云米在内的等创新企业,同时还有华为和小米等手机厂商积极发展,一场围绕人们的智慧生活事业在国内迅速展开,也让智能家居进入黄金时期,且市场规模高达万亿元,整个行业呈现出群雄逐鹿的竞争格局。

响应“智能+”,AIoT要怎么做?

“智能+”意味着技术赋能,这是AIoT的职责,问题在于如何做好。

AI 人才存量小、需求旺盛,应届80w起薪不足为奇?
AI 人才存量小、需求旺盛,应届80w起薪不足为奇?

据Boss直聘的平台数据显示,从2016年开始,人工智能领域的人才需求正以每年5倍的速率增长。

更多资讯
3D打印能用来干啥?这篇文章说全了
3D打印能用来干啥?这篇文章说全了

相信对于很多朋友而言,对互联网、人工智能等技术已经并不陌生,毕竟这些技术已经成功的融入到了我们的生活当中,给我们的生活带来了很大的便利。而我们今天要说的3D打印技术你又了解多少呢?

量子计算“八字还没一撇”,用于保密通讯是否真的可行?

最近几年,我国在量子通讯领域取得了一些重要进展,但也出现了一些争议,我来简单谈一谈都是怎么回事。

3D打印行业迎来拐点,政策支持和技术进步推动行业发展

从总体来看,目前我国3D打印产业的发展已经取得了一定的成绩,市场规模不断扩大、行业标准日趋完善、投资热度持续攀升。

为什么工业4.0下的工业机器人需要5G?
为什么工业4.0下的工业机器人需要5G?

2019年,将迎来5G商业化的元年,而5G商用化最值得人期待的就是机器人、无人驾驶等技术。

Manz将激光应用于防水密封技术

德国高科技设备制造商Manz在2019年3月20-22日举办的慕尼黑上海光博会上展示了面向电子和储能行业的最新激光制程应用产品。

电路方案