芯片市场新的竞争格局正在形成。

 

英伟达(NVIDIA)400亿美元收购Arm的交易还未最终达成,但并不妨碍英伟达推出其首款基于Arm架构的数据中心CPU。今年的GTC 21依旧选择了线上的方式,英伟达首席执行官黄仁勋还是在自家厨房介绍了AI、汽车、机器人、5G、实时图形、协作和数据中心等领域的最新进展。

 

虽然还是穿着皮衣的黄教主,但他今年更具摇滚气质。不仅推出了全球首款为terabyte 级别计算设计的 CPU Grace,还将英伟达的数据中心产品路线图升级为GPU+CPU+DPU,只为提供10倍甚至更高的性能,保持其在AI领域的竞争力,也推动芯片行业的竞争进入“组合拳”时代。

 

 

不要忽略,作为一家系统公司,英伟达有更高远的目标。

 

黄仁勋说:“NVIDIA正在为当今时代的每一位‘达芬奇’推进他们的各项研究工作,包括语言理解、药物研发或量子计算等。英伟达将助力成就他们毕生的事业。”

 

1、英伟达首款数据中心CPU性能,提升一个数量级

英伟达发布的首款数据中心CPU叫做Grace,是以美国海军少将、计算机编程先驱Grace Hopper的名字命名。雷锋网了解到,Grace采用台积电5nm工艺。

 

注意,Grace是一款高度专用型处理器,主要面向大型数据密集型HPC和AI应用。也就是说,绝大多数的数据中心仍将继续使用现有的CPU,Grace主要将用于计算领域的细分市场,预计2023年可以供货。

 

 

Grace在计算的细分领域可以实现数量级的性能提升。黄仁勋称,基于Grace的系统与英伟达GPU紧密结合,性能将比目前最先进的NVIDIA DGX系统(在x86 CPU上运行)高出10倍。

 

Arm属于精简指令集,相比x86这样的复杂指令集实现高性能的挑战更大,英伟达分三步来实现超越x86 CPU的性能。

 

第一,Grace内置下一代Arm Neoverse内核,每个CPU能在SPECrate2017_int_base基准测试中分数超过300分,为Grace提供足够的计算性能。

 

第二,有了足够的计算性能,要满足AI计算的需求,内存带宽成为瓶颈。因此,Grace采用了新内存LPDDR5x技术,带宽是LPDDR4的两倍,能源效率提高了10倍。

 

第三,CPU和GPU之间的数据传输速度同样限制了数据密集的AI计算,Grace采用第四代NVIDIA NVLink,可以实现从CPU到GPU连接速度超过900GB/s,相当于目前服务器14倍的带宽。

 

从计算性能到解决带宽问题,再到CPU和GPU的紧密结合,使得英伟达的Arm架构Grace可以实现10倍的性能提升,达到一个数量级的提升。

 

Grace对于英伟达而言,是保持其AI竞争力的关键。由于超大规模的模型很难完全放进GPU内存,如果存储在系统内存,访问速度则会大大受限,如果选用其它CPU供应商的产品,不能实现最高的性能优化。

 

自研一款CPU,不仅可以实现更高性能,未来的迭代,以及进行系统优化也更容易。同时,英伟达还能帮助Arm将优势拓展到移动计算之外,无论是对英伟达自身还是Arm而言都是优选。

 

毕竟,黄仁勋对于达成收购Arm的交易持乐观态度。在发布会后的电话会议上,黄仁勋表示目前收购工作在有序进行,相信监管部门会支持这笔收购,2022年会有积极正面的结果。

 

2、升级GPU+CPU+DPU三芯片系统公司

英伟达强劲的GPU加上最新发布的CPU Grace,再加上最新更新的Bluefield DPU,构成了英伟达最新的数据中心芯片路线图。“我们每年都会发布激动人心的新品。三类芯片,逐年飞跃,一个架构。”黄仁勋表示。

 

 

数据中心路线图包括CPU、GPU和DPU这三类芯片,而Grace和BlueField是其中必不可少的关键组成部分。每个芯片架构历经两年的打磨周期(周期内可能出现转变),一年专注于 x86 平台,另一年专注于 Arm 平台。

 

“目前市场上每年交付的 3000 万台数据中心服务器中,有 1/3 用于运行软件定义的数据中心堆栈,其负载的增长速度远远快于摩尔定律。除非我们找到加速的办法,否则用于运行应用的算力将会越来越少。”黄仁勋说,“新时代的计算机需要新的芯片、新的系统架构、新的网络、新的软件和工具。”

 

显然,英伟达推出自家的Arm架构CPU并非要与x86阵营的AMD和Intel争夺市场,而是面向新兴的细分市场,通过三种芯片的组合实现差异化,并保持竞争力。

 

GPU是英伟达AI领导力的基石,黄仁勋说:“只需一张 GeForce 显卡,每个学生都可以拥有一台超级计算机,这正是 Alex Krizhevsky、Ilya 和 Hinton 当年训练 AI 模型 AlexNet 的方式。”

 

在今天的GTC上,英伟达还更新了DPU(Data processing unit,数据处理单元)。“现代超大规模云技术推动数据中心从基础上走向了新的架构, 利用一种专门针对数据中心基础架构软件而设计的新型处理器, 来卸载和加速由虚拟化、网络、存储、安全和其它云原生AI服务产生的巨大计算负荷。BlueField DPU正是为此而生。”黄仁勋如此解释。

 

 

去年10月,英伟达发布首代DPU BlueField-2,能够卸载相当于30个CPU核的工作负载。今天发布的最新一代BlueField-3 DPU,是专为AI和加速计算设计,实现了10倍的性能提升,有16个Arm A78 CPU核,和4倍的加密速度,能够替代300个CPU核,能以400Gbps的速率,对网络流量进行保护、卸载和加速。

 

 

BlueField-3通过NVIDIA DOCA(集数据中心于芯片的架构)软件开发包为开发者提供一个完整、开放的软件平台,新一代DPU预计将于2022年第一季度发布样品。

 

包括黄仁勋在内的多位英伟达发言人曾不止一次表示,英伟达是一家系统公司。作为系统公司,软件自然也是重点。

 

GTC 21上,黄仁勋发布了用于训练Transformers的框架—— 英伟达Megatron。Transformers能够生成文档摘要、将电子邮件中的短语补充完整、对测验进行评分、生成体育赛事现场评论、甚至生成代码,已经帮助开发者在自然语言处理领域取得了突破性进展。

 

他还介绍了英伟达用于计算药物研发加速库Clara Discovery的一些新模型。

 

还有量子电路模拟器提供加速cuQuantum,目标是为加快有赖于量子位(或量子比特,能作为单个的0或1存在,也可以同时作为二者存在)的量子计算研究,帮助研究人员设计出更完善的量子计算机。

 

针对数据中心的安全,英伟达也推出了Morpheus数据中心安全平台,基于英伟达AI、BlueField、Net-Q网络遥测软件和EGX而构建,能够对完整的数据包进行实时检测。

 

面向会话式AI,英伟达Jarvis已经可用,其能够实现语音识别、语言理解、翻译和表达性语音。雷锋网了解到,Jarvis支持五种语言。

 

为加快包括搜索、广告、在线购物等推荐系统的速度,黄仁勋宣布NVIDIA Merlin现可通过NGC(NVIDIA的深度学习框架容器目录)获取。

 

还有,为了帮助客户将自身专业知识应用于AI领域,黄仁勋发布了NVIDIA TAO,可以运用客户和合作伙伴的数据,对NVIDIA预训练模型进行微调和适配,同时保护数据隐私。

 

3、英伟达的“三芯”时代

有了全新的数据中心芯片路线图,匹配丰富的软件,英伟达能做什么?

 

首先是获益的就是数据中心。黄仁勋透露,基于今天新发布的Grace CPU以及下一代GPU,瑞士国家超级计算中心、苏黎世联邦理工大学将构建一台名为阿尔卑斯的超级计算机,算力 20Exaflops(目前全球第一超算富岳的算力约为0.537Exaflops),将实现两天训练一次GPT-3模型的能力,比目前基于英伟达GPU打造的 Selene 超级计算机快7倍。

 

 

另外,美国能源部下属的洛斯阿拉莫斯国家实验室也将在2023年推出一台基于Grace 的超级计算机。

 

更进一步,英伟达可以扩展Arm从云到边缘的市场,包括将基于AWS Graviton2的Amazon EC2实例与NVIDIA GPU相结合;通过新HPC开发者套件,为科学和AI应用的开发提供支持;提升边缘视频分析和安全功能;打造新一类基于Arm并搭载NVIDIA RTX GPU的新款PC。

 

除了在高性能计算市场,英伟达的三芯片组合也能提升其在自动驾驶汽车市场的竞争力。基于英伟达新一代GPU架构、全新Arm CPU以及深度学习和计算机视觉加速器,黄仁勋推出了新一代面向自动驾驶汽车的NVIDIA DRIVE Atlan,该处理器性能最高达每秒超过1000万亿次(TOPS)运算,约是上一代Orin处理器的4倍,超过了绝大多数L5无人驾驶出租车的总计算能力。

 

 

DRIVE Atlan SoC也集成BlueField DPU,可以支持自动驾驶汽车中的复杂计算和AI工作负载。预计DRIVE Atlan将搭载在多家汽车制造商的2025年车型上。

 

 

“对于汽车而言,更高的算力意味着更加智能化,开发者们也能让产品更快迭代。TOPS 就是新的马力。”黄仁勋说。

 

不仅如此,英伟达还推出了Hyperion 8 AV平台,这是一个先进的数据采集、开发和测试平台,包含参考传感器、自动驾驶汽车和中央计算机、3D地面真实数据记录仪、网络以及所有必要的软件。

 

不难发现,面向AI、数据中心、自动驾驶这些新兴市场,再强大的单芯片也很难满足需求,因此,英伟达将其数据中心芯片路线图升级为GPU+CPU+DPU,匹配的丰富软件,进行系统优化,能够帮助英伟达保持领先地位。

 

4、小结

对于以GPU见长的英伟达发布CPU,许多人可能会表示惊讶。其实,去年以CPU见长的英特尔也发布了自研GPU。AMD也在拥有CPU和GPU的基础上要收购FPGA。巨头们都做出了相同的选择,意味着的是芯片行业的竞争已经进入了新的阶段,靠单一的芯片已经很难满足AI、5G、自动驾驶等应用的需求,组合拳以及系统优化是未来的重点。

 

英伟达的优势在于,通过GPU+CPU+DPU的产品组合,能够最大程度维持其在AI领域优势,加上软件和系统的优化,更好地满足新兴应用的需求,在新的市场占据领导力,而非与竞争对手抢夺已有的市场。比如,用英伟达Omniverse创建共享虚拟3D世界。

 

芯片行业新的竞争格局正在形成。