CPU并非万能,深度学习为啥更看好GPU、FPGA发挥?

2017-02-17 10:26:36 来源:动点科技
分享到:
标签:

 

深度学习全称深度神经网络,本质上是多层次的人工神经网络算法,即模仿人脑的神经网络,从最基本的单元上模拟了人类大脑的运行机制。近年来,其所取得的前所未有的突破掀起了人工智能新一轮的发展热潮。


最早的神经网络的思想起源于 1943 年的 MCP 人工神经元模型,当时是希望能够用计算机来模拟人的神经元反应的过程,但直到最近,它才真正让人工智能火起来。主要原因在于:算法的突破、数据量的激增和计算机能力/成本的下降。其中计算能力的提升的作为人工智能实现的物理基础,对人工智能发展的意义不言而喻。


本文我们就来分析目前主流的深度学习芯片的优缺点。


CPU 不适合深度学习

深度学习与传统计算模式最大的区别就是不需要编程,它是从输入的大量数据中自发地总结出规律,而传统计算模式更多都需要人为提取所需解决问题的特征或者总结规律来进行编程。也正因为如此,深度学习对计算能力要求非常高,以至于有人将深度学习称之为“暴力计算”。


因此,传统的 CPU 并不适用于深度学习。


从内部结构上来看,CPU 中 70%晶体管都是用来构建 Cache(高速缓冲存储器)和一部分控制单元,负责逻辑运算的部分(ALU 模块)并不多。控制单元等模块的存在都是为了保证指令能够一条接一条的有序执行。


这种通用性结构对于传统的编程计算模式非常适合,但对于并不需要太多的程序指令,却需要海量数据运算的深度学习的计算需求,这种结构就显得有心无力了。


GPU 深度学习主流芯片

与 CPU 少量的逻辑运算单元相比,GPU 整个就是一个庞大的计算矩阵,GPU 具有数以千计的计算核心、可实现 10-100 倍应用吞吐量,而且它还支持对深度学习至关重要的并行计算能力,可以比传统处理器更加快速,大大加快了训练过程。GPU 是目前最普遍采用的深度学习运算单元之一。


目前,谷歌、Facebook、微软、Twitter 和百度等互联网巨头,都在使用 GPU 作为其深度学习载体,让服务器学习海量的照片、视频、声音文档,以及社交媒体上的信息,来改善搜索和自动化照片标记等各种各样的软件功能。而某些汽车制造商也在利用这项技术开发无人驾驶汽车。
不过,由于 GPU 的设计初衷是为了应对图像处理中需要大规模并行计算。因此,根据乐晴智库介绍,其在应用于深度学习算法时有数个方面的局限性:


第一, 应用过程中无法充分发挥并行计算优势。深度学习包含训练和应用两个计算环节,GPU 在深度学习算法训练上非常高效,但在应用时一次性只能对于一张输入图像进行处理, 并行度的优势不能完全发挥。


第二, 硬件结构固定不具备可编程性。深度学习算法还未完全稳定,若深度学习算法发生大的变化,GPU 无法灵活的配置硬件结构。


另外,在能耗上面,虽然 GPU 要好于 CPU,但其能耗仍旧很大。

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

作者简介
与非网小编
与非网小编

电子行业垂直媒体--与非网小编一枚,愿从海量行业资讯中淘得几粒金沙,与你分享!

继续阅读
Intel第八代酷睿处理器价格一览,性价比很高
Intel第八代酷睿处理器价格一览,性价比很高

Intel在今天中午正式发布了第八代酷睿处理器,Intel官方称全新的酷睿处理器将是目前最快的游戏CPU。今天发布的第八代酷睿处理器分别是i7-8700K/i7-8700/i5-8600K/i5-8400/i3-8350K/i3-8100。

Google 计算引擎采用更快的 GPU
Google 计算引擎采用更快的 GPU

今天,我们将一次性宣布多条与云 GPU 相关的消息。首先,Google 云端平台 (GCP) 的性能将随着 NVIDIA P100 GPU 测试版的公开发布获得进一步提升。第二,Google 计算引擎现已普遍采用 NVIDIA K80 GPU。第三,我们很高兴地宣布 K80 和 P100 GPU 均将推出阶梯使用折扣。

Imagination官方公布被收购,凯桥资本这次能如愿吗?
Imagination官方公布被收购,凯桥资本这次能如愿吗?

9月24日消息,据英国媒体报道,世界排名第三的图片处理、半导体IP授权公司Imagination被凯桥资本完整收购。Imagination在其官放网站发布消息进行了证实。

中国资本收购Imagination,回顾Imagination被苹果抛弃后的日子
中国资本收购Imagination,回顾Imagination被苹果抛弃后的日子

9 月 22 日,世界知名的 GPU 芯片企业 Imagination 在官网宣布,已经同意以 5.5 亿英镑的价格出售,收购方为位于硅谷的私募基金 Canyon Bridge。

谷歌TPU和英伟达GPU都来抢市场,英特尔能靠FPGA稳住吗?
谷歌TPU和英伟达GPU都来抢市场,英特尔能靠FPGA稳住吗?

随着神经网络的研究和应用越来越多,人们也越发地认识到神经网络所需的计算力近乎于无底洞 。如果说高校实验室和一般爱好者在耐心等待之外办法不多的话,大公司们要面对的则是“做还是不做”的问题。

更多资讯
抢苹果A11芯片的人工智能风头,英特尔Myriad X VPU哪来的实力?

苹果A11 Bionic SoC有着非常杰出的benchmark分数,然而我认为英特尔的Myriad X VPU未来更具潜力。英特尔子公司Movidus最初设计了第一个Myriad VPU,作为智能手机和其他移动设备的协处理器。Myriad X现在变成了一款独立处理器,而且具有专用的神经计算引擎。

谷歌收购HTC,其实是“抄袭”苹果?

9月26日报道,上周,谷歌宣布收购HTC部分智能手机业务。此举不但重塑了搜索巨人的硬件野心,也代表了科技界大震荡的新趋势,一场争夺用户的大戏正在上演。

奥巴马1年赚4亿,这个事件在他的回忆录要写一笔
奥巴马1年赚4亿,这个事件在他的回忆录要写一笔

据外媒报道,奥巴马一卸任就和妻子米歇尔,签订了一份超过6000万美元(约合人民币4亿元)预付款的天价图书出版合同,创造了美国总统回忆录的最高竞价记录!这样的“天价”著书可以说让奥巴马这位美国历史上第一位黑人总统卸任后也衣食无忧。

芯片制造上重心转移,技术嫁接到汽车芯片
芯片制造上重心转移,技术嫁接到汽车芯片

随着汽车能做的事情越来越多,需要更先进的处理器来驱动汽车,加强汽车控制,并提供娱乐。市场研究机构IDC估计,到2021年,半导体供应商将从汽车市场获得50.1亿美元的收入,比2016年增长52%。

三星半导体部门利润飞涨,堪比整个苹果公司

苹果是全世界市值最大的上市公司,利润率在科技公司中也名列前茅,不过许多人想不到的是,苹果的老对手三星电子,正在依靠业务多元化的优势,在利润方面赶超苹果,甚至将苹果越拉越远。据分析师的预测,三季度和四季度,三星与苹果的差距将会越拉越大。

微话题

年初定的哪些“小目标”没有阵亡?

2017年能耗过半,年初定的哪些“小目标”没有阵亡? ……