CPU并非万能,深度学习为啥更看好GPU、FPGA发挥?

2017-02-17 10:26:36 来源:动点科技
分享到:
标签:

 

深度学习全称深度神经网络,本质上是多层次的人工神经网络算法,即模仿人脑的神经网络,从最基本的单元上模拟了人类大脑的运行机制。近年来,其所取得的前所未有的突破掀起了人工智能新一轮的发展热潮。


最早的神经网络的思想起源于 1943 年的 MCP 人工神经元模型,当时是希望能够用计算机来模拟人的神经元反应的过程,但直到最近,它才真正让人工智能火起来。主要原因在于:算法的突破、数据量的激增和计算机能力/成本的下降。其中计算能力的提升的作为人工智能实现的物理基础,对人工智能发展的意义不言而喻。


本文我们就来分析目前主流的深度学习芯片的优缺点。


CPU 不适合深度学习

深度学习与传统计算模式最大的区别就是不需要编程,它是从输入的大量数据中自发地总结出规律,而传统计算模式更多都需要人为提取所需解决问题的特征或者总结规律来进行编程。也正因为如此,深度学习对计算能力要求非常高,以至于有人将深度学习称之为“暴力计算”。


因此,传统的 CPU 并不适用于深度学习。


从内部结构上来看,CPU 中 70%晶体管都是用来构建 Cache(高速缓冲存储器)和一部分控制单元,负责逻辑运算的部分(ALU 模块)并不多。控制单元等模块的存在都是为了保证指令能够一条接一条的有序执行。


这种通用性结构对于传统的编程计算模式非常适合,但对于并不需要太多的程序指令,却需要海量数据运算的深度学习的计算需求,这种结构就显得有心无力了。


GPU 深度学习主流芯片

与 CPU 少量的逻辑运算单元相比,GPU 整个就是一个庞大的计算矩阵,GPU 具有数以千计的计算核心、可实现 10-100 倍应用吞吐量,而且它还支持对深度学习至关重要的并行计算能力,可以比传统处理器更加快速,大大加快了训练过程。GPU 是目前最普遍采用的深度学习运算单元之一。


目前,谷歌、Facebook、微软、Twitter 和百度等互联网巨头,都在使用 GPU 作为其深度学习载体,让服务器学习海量的照片、视频、声音文档,以及社交媒体上的信息,来改善搜索和自动化照片标记等各种各样的软件功能。而某些汽车制造商也在利用这项技术开发无人驾驶汽车。
不过,由于 GPU 的设计初衷是为了应对图像处理中需要大规模并行计算。因此,根据乐晴智库介绍,其在应用于深度学习算法时有数个方面的局限性:


第一, 应用过程中无法充分发挥并行计算优势。深度学习包含训练和应用两个计算环节,GPU 在深度学习算法训练上非常高效,但在应用时一次性只能对于一张输入图像进行处理, 并行度的优势不能完全发挥。


第二, 硬件结构固定不具备可编程性。深度学习算法还未完全稳定,若深度学习算法发生大的变化,GPU 无法灵活的配置硬件结构。


另外,在能耗上面,虽然 GPU 要好于 CPU,但其能耗仍旧很大。

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

作者简介
与非网小编
与非网小编

电子行业垂直媒体--与非网小编一枚,愿从海量行业资讯中淘得几粒金沙,与你分享!

继续阅读
嵌入式系统让AI+IoT成为可能,专家们如何解读AIoT?
嵌入式系统让AI+IoT成为可能,专家们如何解读AIoT?

在半导体技术进步与AI朝专用化发展两大因素的加持下,人工智能得以与物联网中各种嵌入式系统(Embedded System)结合,形成AIoT(AI+IoT)。

一文读懂CPU/核心/线程

作为一个后台开发人员,我想有必要了解这些基础知识。如果本文有不严谨或者疏忽的地方,请指正。

苹果自研CPU惹官司,被判赔偿5.06亿美元
苹果自研CPU惹官司,被判赔偿5.06亿美元

美国地方法院法官威廉· 康利(William Conley)日前做出裁决,要求苹果公司(以下简称「苹果」)向威斯康星大学麦迪逊分校赔偿5.06 亿美元的侵权费。该赔偿金额较法庭之前的裁决高出一倍多。

深度学习已经过时?迁移学习来了

当前,人工智能的主流算法——深度学习模型在语音识别、图像识别、信息推荐等方面已经非常有影响,但是在医疗、教育等领域的应用还存在困难。

Imagination 有买家了?想收购不容易
Imagination 有买家了?想收购不容易

据外媒报道,此前收购美国莱迪思半导体公司的私募基金Canyon Bridge Capital Partners 正在计划收购 Imagination 公司,目前谈判仍处于早期阶段。

更多资讯
骁龙835潜力无限,高通:未来世界是属于VR的
骁龙835潜力无限,高通:未来世界是属于VR的

7月27日,以“智能引领未来”为主题,2017天翼智能生态博览会在广州盛大开幕。在第九届天翼智能生态产业高峰论坛上,Qualcomm执行董事长保罗·雅各布博士发表题为《加速移动创新 开启智能未来》的主题演讲。

戴尔外星人Area 51上市,搭配AMD Ryzen处理器售价高昂
戴尔外星人Area 51上市,搭配AMD Ryzen处理器售价高昂

7月28日消息 6月份的E3游戏展,戴尔外星人正式发布新一代的Area 51主机,搭载的是当今性能最强大的消费级CPU。

英特尔公布第二季度财报,哪个业务最赚钱?

英特尔今天公布了2017财年第二季度财报。报告显示,英特尔第二季度营收为147.63亿美元,与去年同期的135.33亿美元相比增长9%;净利润为28.08亿美元,与去年同期的13.30亿美元相比增长111%。英特尔第二季度业绩以及第三季度和全年业绩展望均超出华尔街分析师此前预期,推动其盘后股价一度大幅上涨4%以上,但随后削减涨幅。

魅族Pro 7处理器没追求,Helio X30拉低性能?
魅族Pro 7处理器没追求,Helio X30拉低性能?

魅族Pro 7以及Pro 7 Plus作为MTK Helio X30处理器的首秀,性能上真的很差吗?和高通骁龙835比又是如何?

一文总结AMD Vega架构变革史,Vega显卡真的能实现计算和游戏的大一统吗?
一文总结AMD Vega架构变革史,Vega显卡真的能实现计算和游戏的大一统吗?

AMD在并购ATI以后,需要同时兼顾CPU、GPU两个事业部,在过去的几年之中也仅仅是表现平平。不过今年可谓是AMD意气风发之年,锐龙横空出世,以多核、性价比打得Intel措手不及,无奈之下Intel只能匆忙地祭出全新Core i9系列处理器。

微话题

年初定的哪些“小目标”没有阵亡?

有偿征稿 | 2017年能耗过半,年初定的哪些“小目标”没有阵亡? ……
Moore8直播课堂
【第七幕】万人FPGA大赛系列培训课程——状态机(序列检测+交通灯设计)

【第七幕】万人FPGA大赛系列培训课程——状态机(序列检测+交通灯设计)

2017-07-28 16:00:00
关键词:FPGA万人大赛(想想就心潮澎湃) 柒月,蝉声缭绕,数以万计FPGA工程师和爱好者摩拳擦掌,掀起一场FPGA的热浪。在这个夏天,一切都将改变! 让学生利用FPGA平台学习数字电路设计,
STM32快速开发笔记——控制器局域网络之CAN

STM32快速开发笔记——控制器局域网络之CAN

2017-07-30 21:00:00
以前,嵌入式MCU功能简单、种类较少,软件开发起来相对容易,而今天,MCU功能强大、种类繁多,软件中实现的功能也要比以前更多更复杂。该系列课程,针对基于ARM的STM32 MCU,将利用STM32cu
【第八幕】万人FPGA大赛系列培训课程——IP核例化及Reveal工具使用

【第八幕】万人FPGA大赛系列培训课程——IP核例化及Reveal工具使用

2017-07-31 16:00:00
关键词:FPGA万人大赛(想想就心潮澎湃)柒月,蝉声缭绕,数以万计FPGA工程师和爱好者摩拳擦掌,掀起一场FPGA的热浪。在这个夏天,一切都将改变!让学生利用FPGA平台学习数字电路设计,就像写代码看
恩智浦技术日直播——安全互联解决方案研讨会

恩智浦技术日直播——安全互联解决方案研讨会

2017-08-02 10:00:00
随处可见的NFC,越来越成熟的语音识别技术……越来越便利的革新技术给我们带来便利的生活的同时,也带来安全隐患。物联网的火爆发展,大大推动了无线通信、智能移动设备、大数据、处理器等领域的快速发展。万物互
【第三讲】Altium Designer软件PCB电路板制作细则

【第三讲】Altium Designer软件PCB电路板制作细则

2017-08-04 15:00:00
Altium Designer是一款比较受大家喜欢的PCB制作软件,在我们做些项目已经做毕业设计的时候都会用到。这两天本专业在做生产实习,主要就如何使用Altium Designer制作电路板进行学习