8月19日,英特尔举办了一年一度的架构日(Intel Architecture Day 2021)。在这场两个多小时的活动里,英特尔详细分享了包括Alder Lake SoC, Sapphire Rapids、Xe HPG GPU、Ponte Vecchio、Mount Evans等一系列芯片和系统的架构细节,同时也深入介绍了包括AMX、XeSS、oneAPI等指令集和软件框架的最新进展。

 

从2018年英特尔第一次举办架构日至今,它都是我每年必追的重要技术活动,因为它能从架构师的视角,带我们深入探究这些驱动下一代技术革新的最新进展,而不只是单纯的进行产品发布,这也能极大地帮助我们提升视野,并从中看清未来技术发展的大方向。

 

总体来说,这次的架构日发布的11个技术内容可以分成三个大类,分别是客户端CPU、数据中心、以及GPU。在之前的两篇文章中,我们首先聊了客户端CPU Alder Lake、最新的能效核与性能核混合架构,然后介绍了数据中心CPU Sapphire Rapids和IPU Mount Evans。这篇文章我们一起来看这次披露的GPU产品线细节,包括最新的独立显卡、以及高性能GPU Ponte Vecchio。

 

1、Xe – 异构计算矩阵的最后一块拼图

在去年的架构日活动里,英特尔正式发布了名为Xe的GPU架构。和之前的集成GPU不同,Xe更多是一个基础架构,并可由此衍生出多种针对不同应用领域和场景的GPU产品。

 

目前基于Xe架构的产品主要有四类,分别是主打集成显卡和入门级独显的XeLP、针对游戏和桌面性能进行优化的Xe HPG、主要用于数据中心和AI应用的Xe HP,还有面向高性能计算的Xe HPC。Xe的出现,正式宣告英特尔进军高性能GPU领域,也完成了英特尔对Scalar(CPU)、Vector(GPU)、Matrix(ASIC)、Spatial(FPGA)四大计算类型的芯片全覆盖。

 

在去年的架构日里,Raja曾经多次强调,希望使用相同的软件栈、相同的微架构设计,实现多个Xe产品的快速扩展。这表明Xe并非是作为一个孤立的产品出现,而是会结合英特尔完整的硬件产品组合,以及统一的软件开发环境而协同设计。这种高度重视扩展性的架构设计思路,也在今年的架构日发布里得到了充分的延续。

 

2、Xe HPG 微架构

顾名思义,Xe HPG就是针对高性能游戏应用进行深度优化的独立显卡微架构,它就是一个可扩展设计的典型例子。首先,它的基本组成单元叫做Xe-core,也就是Xe内核。每个Xe内核包含16个矢量引擎和16个矩阵引擎,前者主要用来计算浮点或者整型运算,后者主要用来加速AI应用中常见的卷积和矩阵运算。

 

 

四个Xe内核可以组成一个名叫“Render slice”的单元,中文可翻译成渲染切片。这个单元在Xe内核的基础上增加了针对DX12 Ultimate的优化、用来做实时3D渲染的硬件,以及4个光追模块。

 

 

再往上,最高8个渲染切片可以共享二级缓存并连接在一起,就组成了Xe HPG的主要计算微架构。

 

 

根据英特尔的数据,Xe HPG在同等电压下的频率是XeLP独显的1.5倍,同时每瓦性能也比XeLP提升1.5倍。

 

采用Xe HPG架构的GPU产品代号为Alchemist,可能大家更熟悉之前的代号DG2。值得注意的是,英特尔也正式官宣,Alchemist将采用台积电的N6、也就是6纳米工艺进行代工。当然这一点我们在去年就已经知道了。

 

英特尔还发布了一个新的品牌名称Intel Arc,中文名叫英特尔锐炫,Alchemist将是这个品牌的第一款产品,并计划于2022年第一季度上市。另外很有意思的是,英特尔还公布了Xe HPG接下来三款的代号,分别是Battlemage、Celestial、Druid。他们不仅首字母按字母表排列,还分别代表游戏和漫画里的某一种角色或者职业,比如Alchemist是炼金术师,Battlemage是战斗法师,Celestial是天神,Druid是德鲁伊。照这种思路,第五代产品或许会叫Elf吧……

 

 

3、XeSS

除了硬件架构的创新之外,Xe HPG的软件架构也进行了重构,特别是驱动、API、还有对各种游戏引擎更优的支持。除此之外,英特尔还推出了一个名叫XeSS的技术,全名叫做Xe Super Sampling,也就是Xe超采样技术。它的本质就是使用深度学习来合成非常接近原生高分辨率的图像,同时兼顾渲染性能。也就是说,XeSS可以从相邻像素或者对前一帧进行运动补偿,来重建当前的像素细节,并且得到高分辨率的画面。

 

在英特尔公布的渲染动画里,通过XeSS技术重建的4k分辨率动画,和原生的4k动画,用肉眼很难看出区别,但前者可大大减少渲染时间,并且提升帧率。

 

 

此外英特尔还提到,XeSS可以使用DP4a指令,在多种硬件平台上提供这种基于AI的超采样,这些硬件平台可以是集成显卡,也可以是竞争对手的显卡。所以理论上,只要AMD或者英伟达的显卡支持DP4a指令,比如AMD的RDNA2架构,就可使用XeSS技术。另外英特尔也会把XeSS工具和SDK进行开源。这种开放的态度,应该也是开发者和用户希望看到的。

 

4、集大成者 – Ponte Vecchio

这次架构日的压轴大戏,就是针对AI和高性能计算领域特别设计的Xe HPC架构,以及它的首款产品Ponte Vecchio。

 

Xe HPC的基本组成单元也叫做Xe内核,但它和前面介绍的、面向游戏应用的HPG内核有着显著区别。这里所指的Xe内核也由向量引擎和矩阵引擎组成,从数量上看少于HPG,每个引擎只有八个,但每个引擎的宽度和深度都有大幅提升。比如相比HPG,浮点和整形运算的向量引擎位宽增长至2倍,达到512位;矩阵引擎的位宽增长至4倍,达到4096位;每个内核还有512KB的一级缓存。

 

看到这个数据我就很惊,因为我不记得之前看过这么大的一级缓存。而且这个一级缓存可以通过软件直接配置,就像我们在CPU和FPGA设计里经常会用到的scratch pad寄存器一样,非常灵活,只不过这里的L1 cache要比传统寄存器大很多,所以可以缓存的数据量也要大得多。

 

 

再往上,16个Xe HPC内核可以组成一个切片,也就是slice,它包含8MB一级缓存、16个光追单元。在这个结构层级的最上层是stack,也就是堆栈,它由4个切片组成,并且由更大容量的二级缓存联系起来,同时还包含4个HBM2e控制器、8个Xe链路等等。

 

 

说到这个Xe链路,也是这次提出的一个创新接口技术,它除了传统的串行收发器之外,还内嵌了一个交换单元,可连接高达8个GPU,这些GPU再通过EMIB封装技术集成在一个芯片里,这就是对芯片性能进行线性扩展的基础。

 

Ponte Vecchio就是上面列举的所有创新技术的集大成者。事实上,它在一块芯片里集成了很多全新的技术,除了前面说的微架构、IO、互联、存储、封装等技术之外,还有混合工艺的集成、新的设计方法学、验证方法学、功率控制、信号一致性控制、可靠性设计、以及软件架构设计等等。毫不夸张的说,它也是我目前看到的异构程度与复杂度最高的芯片之一。

 

根据英特尔的介绍,Ponte Vecchio将包含超过1000亿个晶体管,采用5种半导体工艺,包含了47个不同功能的子芯片(Tile),并通过EMIB和Foveros 3D封装技术组合堆叠在一起。

 

 

比如它的计算单元采用了台积电的5纳米工艺、并且位于芯片顶层;基础结构使用Intel 7工艺,它是一个巨大的640平方毫米的基础芯片,包含了各种接口单元和二级缓存,可以在水平和垂直的三维空间里做高速互连和高吞吐量交换。前面说的Xe链路单元,使用台积电N7工艺制造,可提供90G的Serdes带宽。

 

根据英特尔的数据,Ponte Vecchio的A0版芯片可以提供超过45TFLOPS的FP32吞吐量、高于5TBps的内存带宽,以及超过2TBps的连接带宽。使用Ponte Vecchio可以实现超过每秒43000张图片的ResNet推理性能,以及每秒超过3400张图片的ResNet训练性能。

 

四个Ponte Vecchio还可以组成一个更大的计算板卡,并且结合两个Sapphire Rapids CPU和傲腾存储单元组成一个完整的计算节点,用户可以使用oneAPI对CPU和GPU直接编程。这种架构也将被用于美国阿贡实验室的Aurora超级计算机项目。

 

 

5、统一编程模型 – oneAPI

最后再简单介绍一下oneAPI。可以说它是异构计算时代的必然产物,因为人们需要一个一个跨架构、跨厂商的开放编程模型,来对各种不同的芯片和硬件进行编程,这个也是oneAPI最大的愿景。

 

通过oneAPI这种统一的编程模型,就能极大地减轻开发人员的负担,特别是软件和算法工程师的负担。因为他们不用太过于关心底层架构的细节,甚至不需要知道算法究竟是CPU还是GPU还是FPGA实现的,只需要专注于算法本身的创新就可以了。

 

 

oneAPI的主要实现语言叫Data Parallel C++,除了英特尔自己的CPU和GPU之外,英伟达GPU、AMD GPU和ARM CPU都有相应的oneAPI库,以及对Data Parallel C++的支持。而且oneAPI已经开源,并获得了很多开发者的采用和支持。

 

总结

Xe 从发布至今,就一直是业界关注的重点。它是英特尔异构计算矩阵的最后一块拼图,它不仅有之前发布的移动端和桌面端产品,还在继续扩展到本次架构日上公布的游戏、数据中心、高性能计算等更多领域。Ponte Vecchio更是这次Xe架构和英特尔各种软硬件技术的集大成者,有望将英特尔高性能计算的算力输出水平提升到一个全新的层次,因此英特尔将其称之为moonshot和tour-de-force,也就是杰作和壮举。当然Ponte Vecchio的实际表现,应该也不愧于这个称号。

 

(注:本文不代表老石任职单位的观点。)