CPU并非万能,深度学习为啥更看好GPU、FPGA发挥?

2017-02-17 10:26:36 来源:动点科技
标签:

 

深度学习全称深度神经网络,本质上是多层次的人工神经网络算法,即模仿人脑的神经网络,从最基本的单元上模拟了人类大脑的运行机制。近年来,其所取得的前所未有的突破掀起了人工智能新一轮的发展热潮。


最早的神经网络的思想起源于 1943 年的 MCP 人工神经元模型,当时是希望能够用计算机来模拟人的神经元反应的过程,但直到最近,它才真正让人工智能火起来。主要原因在于:算法的突破、数据量的激增和计算机能力/成本的下降。其中计算能力的提升的作为人工智能实现的物理基础,对人工智能发展的意义不言而喻。


本文我们就来分析目前主流的深度学习芯片的优缺点。


CPU 不适合深度学习

深度学习与传统计算模式最大的区别就是不需要编程,它是从输入的大量数据中自发地总结出规律,而传统计算模式更多都需要人为提取所需解决问题的特征或者总结规律来进行编程。也正因为如此,深度学习对计算能力要求非常高,以至于有人将深度学习称之为“暴力计算”。


因此,传统的 CPU 并不适用于深度学习。


从内部结构上来看,CPU 中 70%晶体管都是用来构建 Cache(高速缓冲存储器)和一部分控制单元,负责逻辑运算的部分(ALU 模块)并不多。控制单元等模块的存在都是为了保证指令能够一条接一条的有序执行。


这种通用性结构对于传统的编程计算模式非常适合,但对于并不需要太多的程序指令,却需要海量数据运算的深度学习的计算需求,这种结构就显得有心无力了。


GPU 深度学习主流芯片

与 CPU 少量的逻辑运算单元相比,GPU 整个就是一个庞大的计算矩阵,GPU 具有数以千计的计算核心、可实现 10-100 倍应用吞吐量,而且它还支持对深度学习至关重要的并行计算能力,可以比传统处理器更加快速,大大加快了训练过程。GPU 是目前最普遍采用的深度学习运算单元之一。


目前,谷歌、Facebook、微软、Twitter 和百度等互联网巨头,都在使用 GPU 作为其深度学习载体,让服务器学习海量的照片、视频、声音文档,以及社交媒体上的信息,来改善搜索和自动化照片标记等各种各样的软件功能。而某些汽车制造商也在利用这项技术开发无人驾驶汽车。
不过,由于 GPU 的设计初衷是为了应对图像处理中需要大规模并行计算。因此,根据乐晴智库介绍,其在应用于深度学习算法时有数个方面的局限性:


第一, 应用过程中无法充分发挥并行计算优势。深度学习包含训练和应用两个计算环节,GPU 在深度学习算法训练上非常高效,但在应用时一次性只能对于一张输入图像进行处理, 并行度的优势不能完全发挥。


第二, 硬件结构固定不具备可编程性。深度学习算法还未完全稳定,若深度学习算法发生大的变化,GPU 无法灵活的配置硬件结构。


另外,在能耗上面,虽然 GPU 要好于 CPU,但其能耗仍旧很大。

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

作者简介
与非网小编
与非网小编

电子行业垂直媒体--与非网小编一枚,愿从海量行业资讯中淘得几粒金沙,与你分享!

继续阅读
ARM发展史,它是如何一步步走到今天的?
ARM发展史,它是如何一步步走到今天的?

1978年,一家名字叫CPU的公司,悄悄在英国剑桥诞生。

一文看懂CPU是怎么制造的?国产要自强这么都要会
一文看懂CPU是怎么制造的?国产要自强这么都要会

CPU是现代计算机的核心部件,又称为“微处理器”。对于PC而言,CPU的规格与频率常常被用来作为衡量一台电脑性能强弱重要指标。Intelx86架构已经经历了二十多个年头,而x86架构的CPU对我们大多数人的工作、生活影响颇为深远。

万字长文让倪光南院士成网红,国产芯/操作系统最难的是什么?

早上9点,中关村银谷大厦,79岁的倪光南院士没有挤高峰时间的电梯,而是选择爬了8层楼,来到与新浪财经约定的会议室。

中国“造芯”之路漫漫,这把在头顶的剑什么时候才能移开?
中国“造芯”之路漫漫,这把在头顶的剑什么时候才能移开?

进入到千禧年后的信息时代,巨量的半导体芯片需求,使得中国成为全世界最大的半导体市场,根据相关数据显示,2017年我国集成电路市场规模高达到13050亿元人民币。

解读国产FPGA现状,发展需靠自力更生

2018年上半年对于中国半导体行业而言是多事之秋,发生了几件让国人深入思考的大事。我作为IC产业的逃兵,最近也在思考很多的问题,包括资本市场、集成电路行业和研究所的一些不成熟的想法。

更多资讯
苹果:如果风有速度的话,那大概就是用了A12处理器的我吧
苹果:如果风有速度的话,那大概就是用了A12处理器的我吧

眼看新一代iPhone就要跟大家见面,苹果也是为了它们的量产工作疯狂忙碌,毕竟这是一个需要个供应商都整齐配合的生产过程,任何一环出现问题,都会导致手机跳票。

谁说中国没有“芯”?这款提速1000倍的存储芯片即将面世
谁说中国没有“芯”?这款提速1000倍的存储芯片即将面世

芯片是信息社会的粮食,其中存储器芯片是应用最广泛的,市场最大的芯片,所有的电子产品,包括手机、相机、电脑都离不开它。当前,我国每年进口额高达2600亿美元,其中四分之一是存储器,95%的存储器芯片依靠进口。

全力制造“中国芯”,华强称将建立半导体集团
全力制造“中国芯”,华强称将建立半导体集团

深圳华强宣布了一记重磅消息,决定将成立半导体集团作为今年的工作重点!同时深圳华强宣布将成立半导体集团,拟将持有的旗下各授权分销企业的股权转到华强半导体集团。

大基金二期开始筹备,国家或加大投资力度

中国政府支持的国家集成电路产业投资基金(简称”大基金”)已接近完成1,200亿元人民币(189.8亿美元)的二期募资。在中国与美国的贸易摩擦升温之际,这个半导体基金将用于支持中国国内芯片产业,协助降低对进口芯片的依赖。

芯片市场这款蛋糕谁都想吃,投资收购能否为国内众厂带来喜报呢?
芯片市场这款蛋糕谁都想吃,投资收购能否为国内众厂带来喜报呢?

近日,国内外科技厂商们纷纷开始布局芯片领域,包括BAT、Facebook,Google等,都已开始进行自主研发芯片,其优势在于降低成本的同时,尽量减少对其他芯片供应商的长期依赖和牵制,可为自身的长远发展提供保障。

Moore8直播课堂
电路方案