一、CPUGPU 对比

CPU 是一个有多种功能的优秀领导者。它的优点在于调度、管理、协调能力强,计算能力则位于其次。而 GPU 相当于一个接受 CPU 调度的“拥有大量计算能力”的员工。

 

下图是处理器内部结构图:

 

DRAM 即动态随机存取存储器,是常见的系统内存。

 

Cache 存储器:电脑中作高速缓冲存储器,是位于 CPU 和主存储器 DRAM 之间,规模较小,但速度很高的存储器。

 

算术逻辑单元 ALU 是能实现多组算术运算和逻辑运算的组合逻辑电路。

 

 

当需要对大数据 bigdata 做同样的事情时,GPU 更合适,当需要对同一数据做很多事情时,CPU 正好合适。

 

GPU 能做什么?关于图形方面的以及大型矩阵运算,如机器学习算法等方面,GPU 就能大显身手。

 

简而言之,CPU 擅长统领全局等复杂操作,GPU 擅长对大数据进行简单重复操作。CPU 是从事复杂脑力劳动的教援,而 GPU 是进行大量并行计算的体力劳动者。

 

二、机器深度学习

深度学习是模拟人脑神经系统而建立的数学网络模型,这个模型的最大特点是,需要大数据来训练。因此,对电脑处理器的要求,就是需要大量的并行的重复计算,GPU 正好有这个专长,时势造英雄,因此,GPU 就出山担当重任了。

 

GPU 具有如下特点:

提供了多核并行计算的基础结构,且核心数非常多,可以支撑大量数据的并行计算。并行计算或称平行计算是相对于串行计算来说的。它是一种一次可执行多个指令的算法,目的是提高计算速度,及通过扩大问题求解规模,解决大型而复杂的计算问题。
拥有更高的访存速度。


更高的浮点运算能力。浮点运算能力是关系到处理器的多媒体、3D 图形处理的一个重要指标。现在的计算机技术中,由于大量多媒体技术的应用,浮点数的计算大大增加了,比如 3D 图形的渲染等工作,因此浮点运算的能力是考察处理器计算能力的重要指标。
这三个特点,非常适合深度学习了。

 

三、怎样发挥 GPU 的大数据处理能力

GPU 只是显卡上的一个核心元件,又不能单独工作,它还需要缓存来辅助工作。独立显卡是直接焊死了 GPU 在显卡电路板上,上面有一个散热风扇供它单独使用。集成显卡是把 GPU 与 CPU 放在一起,共用缓存来工作,并且公用一个散热风扇。

 

电脑处理一大块数据比处理一个一个数据更有效,执行指令开销也会大大降低,因为要处理大块数据,意味着需要更多的晶体管来并行工作,现在旗舰级显卡都是百亿以上的晶体管。

 

因此,要利用 GPU 做大数据处理工作,至少目前来说,还没有单独的 GPU 板卡可购。只能购买 GPU 性能优越的超级独立显卡,或集成集卡中 GPU 性能优秀的主板。