芯耀
966
作为 AI 硬件领域的绝对龙头，英伟达从未停止技术迭代的脚步。从 2010 年 Fermi 架构首次搭建完整 GPU 计算体系，到 Hopper 架构将 AI 算力推向新高度，每一次架构升级都引领着行业变革。如今，Blackwell 架构携 B100、B200 等一众新品强势登场，带来了翻倍的算力、海量的显存和更高效的能耗比，这场技术风暴正悄然重塑 AI 产业的底层逻辑。
本文来自“100+份AI芯片技术修炼合集”，“SuperPod技术介绍合集（1）”和“SuperPod技术介绍合集（2）”，所有资料都已上传至“智能计算芯知识”星球对应的AI芯片专栏。
一、十年磨剑：英伟达 GPU 架构的进化之路
回顾英伟达 GPU 的发展历程，每一代架构都承载着明确的技术突破使命。2010 年 Fermi 架构横空出世，作为首个完整的 GPU 计算架构，其创新的 Cache 层次设计和 ECC 支持，为 GPU 从游戏娱乐走向通用计算奠定了基础。随后的 Kepler 架构大幅提升游戏性能，首次引入 GPU Direct 技术，让数据传输效率实现质的飞跃。
Maxwell 架构通过优化 SM 单元设计，在降低功耗的同时提升了逻辑控制能力；Pascal 架构推出第一代 NVLink 技术，双向互联带宽达到 160GB/s，打破了多 GPU 协同的通信瓶颈。2017 年 Volta 架构首次集成 Tensor Cores，正式开启 GPU 对 AI 运算的原生支持，成为深度学习爆发的关键推手。
Turing 架构新增 RT Core，实现了实时光线追踪，同时升级 Tensor Core 至 2.0 版本；Ampere 架构进一步强化 AI 算力，Tensor Core3.0 配合 NVLink3.0，让 A100 成为大模型训练的标配。2022 年 Hopper 架构登场，800 亿晶体管加持下，Tensor Core4.0 和 NVLink4.0 让 H100 的 FP16 算力达到 1P FLOPS，成为当时的性能王者。
而 2024 年推出的 Blackwell 架构，更是集十年技术积淀之大成。通过采用先进制程工艺和创新的双芯设计，Blackwell GPU 在算力、显存、互联等关键指标上全面超越前代，标志着 AI 硬件进入全新发展阶段。从 Fermi 到 Blackwell，英伟达用 14 年时间完成了从 "能用" 到 "好用" 再到 "极致高效" 的三级跳，每一代架构的晶体管数量、核心性能和功能特性都实现了指数级增长。
二、性能狂飙：Blackwell 架构核心产品深度解析
（一）单 GPU 产品：算力与显存的双重突破
Blackwell 架构的单 GPU 产品阵容堪称豪华，B100、B200、Full B200 和 GB200 四款产品覆盖了从边缘计算到超级计算的全场景需求。与前代产品相比，Blackwell GPU 在核心参数上实现了跨越式提升：
在显存配置上，B100 和 B200 的 HBM 容量达到 180GB/192GB，是 A100（80GB）的 2.25 倍以上，而旗舰级的 GB200 更是将 HBM 容量拉满至 384GB，配合 16TB/s 的显存带宽，彻底解决了大模型训练中的显存瓶颈。对于需要处理千亿参数甚至万亿参数模型的企业而言，超大显存意味着无需频繁进行模型切分，训练效率大幅提升。
算力方面，Blackwell GPU 首次支持 FP4 精度运算，其算力达到 FP8 精度的两倍。B100 的 FP4 算力为 7P FLOPS，B200 达到 9P FLOPS，而 GB200 更是高达 20P FLOPS，是 H100（2P FLOPS）的 10 倍。值得注意的是，在算力飙升的同时，能耗比也得到了显著优化：B200 的 FP16 算力是 A100 的 7 倍，而功耗仅为其 2.5 倍；从 H200 升级到 B200，FP16 算力增加 2 倍多，功耗仅从 700w 提升至 1000w。
架构设计上，Blackwell GPU 采用创新的 2 Die 设计，配合 Grace CPU 协同工作，形成 "CPU+GPU" 的异构计算架构。GB200 作为旗舰产品，更是集成了 1 颗 Grace CPU 和 B200 GPU，实现了计算资源的最优配置，为 AI 训练和推理提供了强大的硬件支撑。
（二）HGX 服务器：集群算力的中坚力量
如果说单 GPU 是性能基石，那么 HGX 服务器就是集群算力的核心载体。Blackwell 架构下的 HGX B100 和 HGX B200 服务器，在扩展性能和互联效率上实现了全面升级。
HGX B200 服务器搭载8 颗B200 SXM GPU，总 HBM 容量达到 1.44TB/1.5TB，总 FP16 算力高达 18P FLOPS，是 HGX A100 的 57 倍。GPU 之间的互联带宽达到 1.8TB/s，NVLink 总带宽更是高达 14.4TB/s，相比 HGX H100 的 7.2TB/s 实现翻倍。这意味着在多 GPU 集群训练中，数据传输延迟大幅降低，集群整体性能更接近线性扩展。
网络配置方面，HGX B100 和 HGX B200 采用 BlueField-3 DPU+ConnectX-7 NIC 的组合，以太网带宽达到 2×400Gb/s，IB 带宽保持 8×400Gb/s，虽然网络速率没有大幅升级，但通过优化数据处理流程，整体网络传输效率提升明显。功耗控制上，HGX B200 的总功耗为 14.3kw，相比 HGX H100 的 10.2kw 有所增加，但考虑到算力提升幅度，其能耗比依然处于行业领先水平。
（三）NVL 与 SuperPod：超级计算的终极形态
对于超大规模 AI 模型训练，普通集群已经难以满足需求，NVL 和 SuperPod 产品应运而生。Blackwell 架构下的 NVL72 和 GB200 SuperPod，将集群算力推向了新的巅峰。
NVL72 由 36 台 GB200 组成，包含 72 颗 GPU，总 HBM 容量达到 13.8TB，FP16 算力高达 180P FLOPS，是前代 NVL32（32P FLOPS）的 5.6 倍。GB200 SuperPod 则采用 288 台 GB200，集成 576 颗 GPU，总 HBM 容量达到 110TB，FP16 算力更是惊人的 1440P FLOPS，相当于 1440 个 H100 的算力总和。
互联性能方面，GB200 SuperPod 的 NVLink 总带宽达到 1PB/s，IB 带宽高达 576×800Gb/s，配合 Gen4 72 Port/NVSwitch，实现了 GPU 之间的高速互联。如此强大的集群性能，使得万亿参数大模型的训练周期从数月缩短至数周，甚至数天，为 AI 技术的快速迭代提供了可能。
三、实战赋能：Blackwell 架构的 AI 场景革命
（一）大模型训练：效率倍增的算力引擎
在大模型训练领域，Blackwell 架构带来的提升堪称革命性。HGX H100 升级到 HGX B200 后，FP16/FP8 算力提升 2.25 倍，显存带宽提升 2.3 倍，NVLink 带宽翻倍，在 MFU（模型计算利用率）为 50% 的情况下，整体训练速度提升 3 倍。
对于 GPT-MoE-1.8T 这样的超大模型，DGX B200 的训练速度相比 DGX H100 提升 3 倍，实时吞吐量更是达到 15 倍。这意味着原本需要 100 天完成的训练任务，现在仅需 30 多天即可完成，大大降低了大模型研发的时间成本和资金成本。
Blackwell GPU 支持的 FP4 精度运算，在保证模型精度损失可控的前提下，进一步提升了训练效率。通过采用 FP4 精度，相同模型的训练时间可缩短一半，同时显存占用减少一半，使得更大规模的模型能够在现有硬件资源下进行训练。
（二）实时推理：毫秒级响应的智能体验
在大模型推理场景，Blackwell 架构同样表现出色。DGX B200 的实时吞吐量达到 DGX H100 的 15 倍，能够支持更多用户同时进行推理请求，大幅降低推理延迟。对于需要实时响应的应用场景，如智能客服、自动驾驶、实时翻译等，Blackwell GPU 的高吞吐量和低延迟特性将带来质的体验提升。
四、未来展望：AI 硬件的发展趋势
Blackwell 架构的推出，不仅是一次产品升级，更是 AI 硬件发展趋势的集中体现。从技术演进来看，未来 AI 硬件将呈现三大趋势：
一是算力持续飙升。随着大模型参数规模的不断扩大，对算力的需求将呈指数级增长。Blackwell 架构的 FP4 精度支持和多芯设计，为算力提升提供了新的思路，未来 GPU 将继续通过优化架构设计、采用更先进制程工艺，实现算力的持续突破。
二是显存与带宽同步升级。大模型训练和推理对显存容量和带宽的要求越来越高，Blackwell GPU 将 HBM 容量提升至 384GB，带宽达到 16TB/s，未来显存技术将继续向高容量、高带宽方向发展，HBM3e 甚至更先进的显存技术有望得到广泛应用。
三是异构计算成为主流。Blackwell 架构下的 "Grace CPU+GPU" 组合，实现了计算资源的最优配置。未来，CPU、GPU、DPU 等不同计算单元的协同工作将更加紧密，异构计算架构将成为 AI 硬件的主流设计方案，以满足不同场景下的计算需求。
AI/GPU/CPU芯片专题资料都已上传至“智能计算芯知识”星球。更多芯片资料请参阅“《105+份GPU芯片技术及白皮书合集》”，“《100+份AI芯片技术修炼合集》”，“《42+份半导体芯片图谱》”，“《70+份半导体研究框架》”等。
本号资料全部上传至知识星球，更多内容请登录智能计算芯知识（知识星球）星球下载全部资料。
