CPU并非万能,深度学习为啥更看好GPU、FPGA发挥?

2017-02-17 10:26:36 来源:动点科技
分享到:
标签:

 

深度学习全称深度神经网络,本质上是多层次的人工神经网络算法,即模仿人脑的神经网络,从最基本的单元上模拟了人类大脑的运行机制。近年来,其所取得的前所未有的突破掀起了人工智能新一轮的发展热潮。


最早的神经网络的思想起源于 1943 年的 MCP 人工神经元模型,当时是希望能够用计算机来模拟人的神经元反应的过程,但直到最近,它才真正让人工智能火起来。主要原因在于:算法的突破、数据量的激增和计算机能力/成本的下降。其中计算能力的提升的作为人工智能实现的物理基础,对人工智能发展的意义不言而喻。


本文我们就来分析目前主流的深度学习芯片的优缺点。


CPU 不适合深度学习

深度学习与传统计算模式最大的区别就是不需要编程,它是从输入的大量数据中自发地总结出规律,而传统计算模式更多都需要人为提取所需解决问题的特征或者总结规律来进行编程。也正因为如此,深度学习对计算能力要求非常高,以至于有人将深度学习称之为“暴力计算”。


因此,传统的 CPU 并不适用于深度学习。


从内部结构上来看,CPU 中 70%晶体管都是用来构建 Cache(高速缓冲存储器)和一部分控制单元,负责逻辑运算的部分(ALU 模块)并不多。控制单元等模块的存在都是为了保证指令能够一条接一条的有序执行。


这种通用性结构对于传统的编程计算模式非常适合,但对于并不需要太多的程序指令,却需要海量数据运算的深度学习的计算需求,这种结构就显得有心无力了。


GPU 深度学习主流芯片

与 CPU 少量的逻辑运算单元相比,GPU 整个就是一个庞大的计算矩阵,GPU 具有数以千计的计算核心、可实现 10-100 倍应用吞吐量,而且它还支持对深度学习至关重要的并行计算能力,可以比传统处理器更加快速,大大加快了训练过程。GPU 是目前最普遍采用的深度学习运算单元之一。


目前,谷歌、Facebook、微软、Twitter 和百度等互联网巨头,都在使用 GPU 作为其深度学习载体,让服务器学习海量的照片、视频、声音文档,以及社交媒体上的信息,来改善搜索和自动化照片标记等各种各样的软件功能。而某些汽车制造商也在利用这项技术开发无人驾驶汽车。
不过,由于 GPU 的设计初衷是为了应对图像处理中需要大规模并行计算。因此,根据乐晴智库介绍,其在应用于深度学习算法时有数个方面的局限性:


第一, 应用过程中无法充分发挥并行计算优势。深度学习包含训练和应用两个计算环节,GPU 在深度学习算法训练上非常高效,但在应用时一次性只能对于一张输入图像进行处理, 并行度的优势不能完全发挥。


第二, 硬件结构固定不具备可编程性。深度学习算法还未完全稳定,若深度学习算法发生大的变化,GPU 无法灵活的配置硬件结构。


另外,在能耗上面,虽然 GPU 要好于 CPU,但其能耗仍旧很大。

手慢无!20W USB PD电源管理方案曝光
STM32微控制器HID与音频冲突问题解析
汽车充电新方案,不看你就OUT了!
下载MATLAB实用白皮书,囊括无线设计工作流程和性能
 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

作者简介
与非网小编
与非网小编

电子行业垂直媒体--与非网小编一枚,愿从海量行业资讯中淘得几粒金沙,与你分享!

继续阅读
芯片世界观︱NVIDIA想靠GPU霸占人工智能版图,谷歌TPU同意吗?

由于NVIDIA步入人工智能的领域早,公司已经从中有所收益。从最近的财报可以看出,数据中心收入中的人工智能部分,比去年同期上涨了186%。NVIDIA最新季度收入近20亿美元,人工智能就占据了超21%的比例,两年前仅占到6%。公司的股价也在过去的五年里增加了近1000%。

从投资看软银的科技野心,准备抱上NVIDIA的AI大腿?

本周早些时候,软银公布,其英伟达持股已达4.9%,刚好在监管披露要求的5%以下。软银持有的英伟达股票价值约40亿美元,使其成为英伟达第四大股东。

为了招人工智能人才,谷歌给大学应届毕业生开这么高年薪
为了招人工智能人才,谷歌给大学应届毕业生开这么高年薪

包括AI和人类如何进行职能分工等,伦理层面的讨论或成为课题。

芯片世界观︱软银投资英伟达的理由显而易见,布局人工智能和物联网它还需要啥

据彭博社报道,软银已经购买了英伟达价值40亿美金的股票,现在软银已经跻身英伟达第四大股东;软银远见卓识的大当家孙正义是人工智能和物联网的坚定支持者;英伟达目前在GPU加速人工智能、深度学习和云计算方面处于垄断地位;软银对英伟达40亿美金的投资可能只是个开始;英伟达的GPU加速深度学习软件和硬件平台对软银去年320亿美金收购的ARM形成了

CPU/GPU/FPGA都不给力,为啥说TPU才是未来?

本文来自计算机体系结构专家王逵。他认为,“摩尔定律结束之后,性能提升一万倍”不会是科幻,而是发生在我们眼前的事实。

更多资讯
程序员“趣事”一箩筐 | 在单位任职9年后,总工李凯被裁员了

在陈涛的咖啡厅见到了我的同学李凯,李凯在春节前刚刚被老板辞退,从现在看来老板在辞退李凯这件事上还是费了一些心思。李凯在这家单位已经工作了9年了,单位从不到10人发展到员工过百。

一纸协议诞生一个芯片巨无霸,瓴盛科技到底要干点啥
一纸协议诞生一个芯片巨无霸,瓴盛科技到底要干点啥

长达九个月的谈判与沟通,美国高通与联芯科技的合作终于以四方合资的方式达成协议。

风雨20年,联发科蔡明介怎么看待这样一份成绩单
风雨20年,联发科蔡明介怎么看待这样一份成绩单

历经二十载,联发科自1997年创立至今,已成长为具有全球影响力的无晶圆半导体的领导者。2016年,联发科董事长蔡明介表示,未来5年将投资超过2000亿元新台币,投入物联网、5G、工业4.0、车联网、虚拟实境(VR)/扩增实境(AR)、人工智能(AI)、软件与网络服务等七大新兴应用领域,通过不断精进和多元的技术,追求新一波的成长契机和成长动

芯片世界观︱英特尔为啥设计不出优秀的移动处理器,ARM:他们已经尽力了

大约10年前,回溯到2008年,ARM正跟英特尔在移动处理器领域鏖战,而ARM有三大优势:作为现有移动处理器的领导者,作为一个内核授权方而不是单一来源芯片的供应商,以及作为功耗的领导者。

只能靠中低端芯片市场混饭吃?联发科:我也很无奈
只能靠中低端芯片市场混饭吃?联发科:我也很无奈

由于上半年的高端芯片helio X30错失时机导致被中国大陆手机企业纷纷放弃,全球第二大手机芯片企业联发科下半年将聚焦于中低端市场,希望挽回中国大陆的客户,这是它迫于现实的无奈。

微话题

首届“华为手机开放日”启动

你是如何看待余承东反思的? ……
Moore8直播课堂
【技能篇】留学小鲜肉教你数据手册正确的打开方式

【技能篇】留学小鲜肉教你数据手册正确的打开方式

2017-06-01 20:00:00
电赛准备阶段重要一环——数据手册。想要了解一个芯片最核心有效的工作方式,唯有熟读其官方给出的数据手册。很多小伙伴在阅读英文版数据手册时常常遇到一些无法理解的语言或词汇,怎么办?百度、有道?但有时翻
【工具篇】PCB深坑不断!老铁带你电赛三步走之第1步

【工具篇】PCB深坑不断!老铁带你电赛三步走之第1步

2017-06-02 20:00:00
PCB设计称得上电赛中最重要的一环。不少同学设计之初没有精益求精导致项目进展缓慢,延误了比赛进度。相信众多网友在PCB设计中都遇到过各种坑,今天具有电赛丰富经验的大神考诉你PCB、原理图设计时必须
【工具篇】PCB深坑不断!老铁带你电赛三步走之第2步

【工具篇】PCB深坑不断!老铁带你电赛三步走之第2步

2017-06-04 20:00:00
PCB设计称得上电赛中最重要的一环。不少同学设计之初没有精益求精导致项目进展缓慢,延误了比赛进度。相信众多网友在PCB设计中都遇到过各种坑,今天具有电赛丰富经验的大神考诉你PCB、原理图设计时必须
【工具篇】PCB深坑不断!老铁带你电赛三步走之第3步

【工具篇】PCB深坑不断!老铁带你电赛三步走之第3步

2017-06-09 20:00:00
PCB设计称得上电赛中最重要的一环。不少同学设计之初没有精益求精导致项目进展缓慢,延误了比赛进度。相信众多网友在PCB设计中都遇到过各种坑,今天具有电赛丰富经验的大神考诉你PCB、原理图设计时必须
【第四期】“众所周知”的电子研发经验分享-倾角传感器和加速度传感器的研发(下)

【第四期】“众所周知”的电子研发经验分享-倾角传感器和加速度传感器的研发(下)

2017-06-14 19:30:00
本系列课程主要围绕嵌入式研发工程师”众所周知”的从业历程分享进行,从线上实习到研发总监的各类项目工作经验分享。通过交流让大家了解相关的技术以及那个时代研发的部分情况,古今一辙,抛砖引玉,给人以灵感