数据大爆炸?让人焦虑的内存计算怎么克服?

2019-03-07 19:16:31 来源:EEFOCUS
标签:

 

在过去的几十年中,计算性能的提高是通过更快、更精确地处理更大数量的数据来实现的。

 

内存和存储空间现在是以千兆字节和兆字节来衡量的,而不是以千字节和兆字节。处理器操作64位而不是8位数据块。然而,半导体行业创造和收集高质量数据的能力比分析数据的能力增长得更快。

 

 

一方面,互联网和物联网正在推动数据爆炸。惠普实验室(Hewlett-Packard Labs)的研究科学家约翰·保罗·斯特拉坎(John Paul Strachan)在Leti设备研讨会(12月的IEEE电子设备会议的一个附带活动)上的一次演讲中指出,仅Facebook用户每天就产生4千兆字节(1千兆字节=1015字节)的数据。

 

通过传感器、摄像头和其他所有设备对现实的数字捕捉产生了更大的效果。一辆独立的汽车每天可以收集4 TB的数据,将来一个大城市可能会有数百万的数据。仅仅捕获这些信息并将其上传到中央数据中心所需的能量和带宽就很惊人。

 

神经网络和冯诺依曼瓶颈
同时,对大型数据集的大部分分析都属于神经网络。

神经网络的工作原理是计算矩阵的积和。将数据矩阵加载到数组中,并将每个元素乘以预定权重。在大多数情况下,结果将传递到网络的下一层并乘以一组新的权重。经过几个这样的步骤,就能得出关于数据是什么的结论。这有点像猫,可疑的行为模式,或者某种特殊的电活动。

 

在训练阶段,将网络的结论与先前已知的“正确”答案进行比较。然后,一个称为反向传播的过程使用预测值和正确值之间的差异向上或向下调整网络每个层中的每个权重。

 

从概念上讲,这种方法非常简单。但实际上,数据集很大,计算步骤也很大。ImageNet图像分类基准测试中表现最佳的是使用具有6000万个参数的8层神经网络。一次通过算法获得一个图像需要200亿次操作。

 

对于网络的每一层,现有权重和每个训练示例的元素都被加载到处理器的寄存器中,然后相乘,并将结果写回到存储器中。性能瓶颈不是计算,而是处理器和存储器阵列之间的带宽。存储器和处理器之间的这种分离是冯·诺依曼架构的定义特征之一,并且存在于几乎所有现代计算系统中。

 

大数据集,带宽受限的机器学习工作负载以及Dennard扩展的结束正在将行业基准从原始计算性能转变为计算效率。对于给定的任务,硅片面积,功耗和计算精度之间的最佳平衡是什么?

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

作者简介
与非网记者
与非网记者

电子行业垂直媒体--与非网记者一枚,愿从海量行业资讯中淘得几粒金沙,与你分享!

继续阅读
中微公司 H1 财报:营收增长 72.03%,已获 5nm逻辑电路、64 层 3D NAND 订单

与非网8月22日讯,科创板中微公司上半年营收同比增72%,净利润同比扭亏为盈。

信息孤岛难破,AI 如何解决安全难题?

震网病毒、乌克兰电网大停电事件、韩国核电站资料泄露、勒索病毒爆发,工业控制系统安全事件的频频爆发,暴露了工业控制系统安全隐患对社会的危害。

深知落后就要挨打的道理,韩国再投4.7万亿韩元支持半导体产业发展

与非网8月21日讯,韩国在半导体行业的投入真的让人觉得恐怖。

数字化转型充满挑战,大联大如何帮助中小企业?

当前科技发展迅速,人工智能、物联网、云计算等等高新词汇层出不穷,而作为高技术领域发展不可或缺的重要原料供应方,半导体元器件行业也处于快速演变当中。

格芯转攻 3D 封装,“IP”或将成趋势之一?

近日,全球第二大晶圆代工厂格芯(GlobalFoundries)宣布,采用12nm FinFET工艺,成功流片了基于ARM架构的高性能3D封装芯片。这意味着格芯亦投身于3D封装领域,将与英特尔、台积电等公司一道竞争异构计算时代的技术主动权。

更多资讯
用MCU的PWM产生负电压的教程
用MCU的PWM产生负电压的教程

我们应该知道,有一种开关电源是通过PWM波来实现的,但你知道通过PWM波也能输出负电压吗?

台积电谈论摩尔定律如何继续生存?

在日前于美国举办的Hotchips上,台积电负责新技术研究的Phillip Wong博士做了一个题为《What will the next node offer us》的演讲,他就摩尔定律未来的看法、台积电研究和产品组合的最新发展等方面,阐述了他的观点。

被误会的鸿蒙

华为发布了鸿蒙操作系统,业界的争论也播散开来。智能相对论ihahe先不讲技术,只讲1、为什么要做鸿蒙;2、鸿蒙生态是什么;3、鸿蒙如何变现。

银的散热效果这么好,为何 CPU 看不上它?
银的散热效果这么好,为何 CPU 看不上它?

DIY玩家都知道CPU的顶盖为铜材质的金属,而为了增加硬度和耐腐蚀性等,CPU制造商会在铜的表面镀一层镍,所以我们看到CPU顶盖不是铜的颜色,同时为了让提高CPU的焊接紧密度和芯片安全性,又要添加阻挡层和一层浸润贵金属,一般为钛、镍、钒和金,这就是一块CPU顶盖的所有材质了。

敢挑战 Intel,AMD 到底行不行?

在任何芯片设计中,天使和魔鬼都在细节之中。AMD过去对皓龙处理器(Opteron)做出的一些架构选择让它备受煎熬,关于代码如何利用硬件的假设并没有按计划实现。老款皓龙处理器(Opteron)处理器最初的设计非常出色,但公司似乎有意避免在后续产品上犯同样的错误,比如第二代霄龙(Epyc)服务器芯片。