• 正文
  • 相关推荐
申请入驻 产业图谱

昇腾七年:一部中国AI芯片的系统重构史

5小时前
177
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

故事要从2018年说起。

那年10月,华为在全联接大会上第一次公开了昇腾310和昇腾910。当时公布的指标确实吓人:FP16算力256 TFLOPS,INT8算力512 TOPS,最大功耗310W。

2019年8月23号,910正式发布,MindSpore同天推出。

但我觉得比"全球最强"更值得关注的,是华为选了一条跟英伟达完全不同的路。

英伟达走的是GPU路线。GPU天生是做图形渲染的,后来发现也能跑AI计算,就一路改改改成了今天的AI加速器。

华为没有走这条"改"的路。达芬奇架构从一开始就是为AI计算长的。

芯片里同时配了矩阵、向量、标量三种计算单元,然后用片上缓存、数据搬运和任务调度让它们一起干活。

Cube单元负责密集的矩阵乘加。

Vector单元处理激活函数和归一化。

Scalar单元管控制和地址逻辑。

真正难的不是把每种单元做多强,而是让数据在正确的时间抵达正确的计算单元。

说白了——哦不对,坦率的讲:AI加速器首先是一台数据搬运机器,然后才是一台算术机器。

这也是为什么910一定要和MindSpore同一天发布。

硬件划了能力边界,但编译器和算子库才真正决定你的模型能不能跑起来、跑多快。

后来不断迭代的CANN承担了类似「操作系统」的角色,向上对接框架,向下管理算子、内存、调度和通信。

然后2020年来了。

这一年发生的事,大家多少都知道。

美国对华为的出口管制全面收紧。设计完成的芯片没法流片,所有的路线图都被打断了。

网上很多人喜欢说「910的7nm工艺一夜之间成了泡影」。

这个说法听起来很悲壮,但不算准确。

更准确的说法是:原来的供应模式被切断了,后续产品必须在可获得的制造条件下,重新平衡性能、面积、功耗和产能。

流片、良率封装、HBM、基板、测试。任何一环中断,路线图就废了。

这就是910B出现的原因。

华为从来没像发布910那样完整公开过910B的规格,工艺节点、量产细节都是保密的。

可以确认的是,910B在2023年前后成为了昇腾大模型算力的主力。

它的意义不是创造了什么新的峰值。

它的意义是恢复并扩大了可交付的训练和推理能力。就这么简单。

但还有一个很多人没注意到的点。

当制程红利被锁死,软件优化的价值会突然变得特别大。

算子融合可以减少中间结果回写内存。更好的切分能提高Cube利用率。

通信库优化能减少多卡同步等待。

这些说起来轻巧,实际上每一条都得靠大把工程师死磕。

不过我也必须说一句大实话。

CUDA的壁垒不是编程接口本身,而是它积累了几十年的算子库、框架、调试工具、社区代码和人才惯性。

CANN和MindSpore要面对的,不只是「能不能运行」,还包括「跑起来数值对不对」「长尾算子能不能覆盖」「性能能不能稳定复现」「出了问题能不能快速定位」。

这几个问题,任何一个都够吃好几年。

到了2025年,910C开始大规模部署。

这时候华为的路线发生了一个很有意思的变化。

多家媒体和分析机构把910C描述成双计算Die方案——就是把两颗上一代的芯粒通过先进封装整合在一起。

Chiplet不是把两颗芯片粘在一起就完事了。

芯粒之间的通信延迟、封装面积、功耗密度、HBM布线、良率组合、软件对非均匀访存的处理——每一条都是要还的债。

只有当封装互联、内存系统和调度软件一起搞定,双Die才能接近「一颗更大芯片」的使用体验。

但910C最大的价值不在这里。

它释放了一个重要信号:华为开始把单芯片的制造约束,转化成封装和系统设计的问题。

它未必在所有任务上都等价于同时代的顶级GPU。但它为后面的一切铺了路。

2025年3月,华为推出了Atlas 900 A3 SuperPoD。华为云在这上面提供CloudMatrix 384实例。

满配384颗NPU协同工作,FP16算力300 PFLOPS级别,片上内存48TB,D2D双向带宽784GB/s。

我第一眼看到384 NPU这个数字的时候,第一反应也是:所以这是384台八卡服务器

不是。

384颗NPU就是384颗NPU。不是384乘以8。

传统集群的玩法是先在一台服务器里做高速互联,再通过网络连很多台服务器。但这里有两个概念:Scale-up追求更低时延、更高带宽、更统一的资源视图。Scale-out追求往外扩展到更多机柜。

华为「超节点」的方向是把Scale-up的边界从一台服务器推到多机柜。

让几百颗NPU在逻辑上更像一台大机器。

大模型训练最怕的不是某张卡不够快。

是木桶效应。

张量并行、流水并行、数据并行、专家并行——这些并行的方式会持续制造通信。

某条链路拥塞了,某张卡降速了,某个节点故障了,其他所有设备都得等着。

规模越大,检查点保存、故障恢复和长稳运行的重要性甚至超过单卡峰值。

我自己做AI这块也踩过类似坑。

单卡跑demo的时候一切都好,一上集群就开始各种莫名其妙的慢。网络拓扑、通信策略、负载均衡——这些在单卡场景下根本不用考虑的问题,到了集群就是噩梦。

华为384超节点遇到的也一定是同样的问题,只是规模大了几百倍。

然后就是我们今天最关心的产品了。

2025年9月,华为第一次公开了未来三年的路线图。

950PR计划2026年一季度推出,950DT四季度,然后是2027年的960和2028年的970。

950PR和950DT用的是同一个Ascend 950 Die。

但面向的工作负载不同,配的内存和互联也不同。

共同的目标峰值是FP8 1 PFLOPS、FP4 2 PFLOPS。

但我得说一句,这个数字必须跟数据格式、稀疏性、板卡功耗一起看,不能直接等同H100或者其他GPU的端到端性能。

来说说这两款芯片的分工。

950PR首先面向大模型Prefill阶段和互联网推荐业务。

配的是HiBL 1.0 HBM,目标128GB容量、1.6TB/s带宽。2026年3月搭载950PR的Atlas 350加速卡已经公开亮相了。

Prefill阶段要处理比较长的输入序列,矩阵运算密度高,更容易把计算单元喂饱。

推荐系统也是一样,大量Embedding查找、特征交互、批量推理,对容量和访问粒度有自己的要求。

950DT则是面向训练和Decode阶段。

配的是HiZQ 2.0 HBM,目标144GB容量、4TB/s带宽。

芯片总互联带宽2TB/s。原生支持FP8、MXFP8、MXFP4和HiF8。

看到这里你可能觉得:挺好的,一个die配两种内存,降低成本嘛。

但我不这么看。

这更像是一次「分型」。计算密集的场景和带宽密集的场景,对硬件的需求是完全不同的。

用一个统一方案去覆盖两种场景,一定会有妥协。950直接一刀切开,各自优化。

至于FP8和FP4,我必须多说一句。

低精度确实能提高吞吐、降低显存占用。

但它不是免费的。能不能保持模型精度,取决于数值格式、缩放策略、累加精度、量化感知训练、算子实现。一串很长的链条。

厂商公布的FP4峰值更适合说明硬件上限,不能说明你的模型在同等质量下能白捡两倍性能。

然后说集群。

华为路线图里Atlas 950 SuperPoD的满配目标是8192张基于950DT的卡。

注意是8192张卡,不是8192个节点。

满配系统包括128个计算柜和32个互联柜,FP8总峰值8 EFLOPS,FP4总峰值16 EFLOPS。计划2026年四季度上市。

就在前几天,2026年7月的世界人工智能大会上,华为第一次线下展示了Atlas 950 SuperPoD的真机。是1024卡配置。

你猜怎么着。

1024卡这个阶段性成果,已经达到1 EFLOPS FP8、2 EFLOPS FP4、256TB统一内存编址空间、3微秒级RTT时延。

从384卡到1024卡,再到8192卡。难点不是把端口数量放大21倍。是控制拓扑直径、拥塞、时钟同步、光互联成本、散热、电力和故障概率。

超节点越大,系统软件就越像真正的操作系统。它得管理全局资源,还得让上层框架不用关心每一次物理故障。

这让我想起来一件事。前段时间我写文章的时候查资料,发现很多人在说「用系统创新弥补制程差距」。

这句话本身没错,但容易被理解成「芯片落后点也没关系」。

不是这样的。

系统创新消除不了所有代价。更多芯片意味着更高的总功耗、更大的机房面积、更多的光模块和交换设备、更复杂的运维。如果单卡性能、能效或者良率确实有差距,系统必须用更多的资源去抵消。

反过来也一样。先进制程也不会自动给你一个可用的AI系统。HBM、先进封装、高速互联、液冷、电源、编译器、通信库——今天所有领先的公司都在把这些要素当成战场的中心。

昇腾只是被外部约束逼着更早、更激进地做了这件事。

最后聊聊生态。

很多人说昇腾缺生态。

这话对,但不全对。

昇腾软件生态要解决的问题分三层。

第一层是兼容。主流框架、模型、算子能跑。

第二层是性能。同一个模型在目标精度下有可预测的吞吐和时延。

第三层是工程效率。开发者能定位问题、做性能剖析、管理集群、复用社区成果。

截至2026年7月,CANN开源社区有67个项目、1244万行代码、月活开发者3500多人。昇腾384超节点累计部署超过750套。

这些数字说明生态在扩大。但它能不能形成长期壁垒,还得看开源治理质量、第三方贡献比例、框架上游合入速度、客户迁移后的总拥有成本。

对开发者来说,真正有价值的不是「国产替代」这四个字。

而是迁移之后能不能稳定升级。有没有足够多的高质量算子。性能能不能复现。遇到问题的时候有没有透明的工具链和知识库。

如果这些都能做到,不用喊国产替代,开发者自己就会来。

所以回顾昇腾从910到950的这七年,我觉得最值得说的不是某个参数有多高,而是这个团队一直在换解题思路。

910确立了面向AI的达芬奇架构和全栈起点。

910B在供应链被打乱之后,扛起了产品连续性的担子。

910C用多Die和先进封装,把制造约束转化成了系统工程问题。

950更进一步,把内存、低精度和互联作为产品分型的核心。

如果一定要给这七年提炼一个关键词。

我觉得不是「追平」。

是「重构」。

重构芯片和内存的关系。

重构单卡和集群的边界。

重构硬件和软件的协同方式。

也重构中国AI产业对供应链风险的理解。

未来的胜负不会由一张参数表决定。

它会被更诚实的指标决定:

真实模型的端到端性能。

每Token的成本。

万卡规模的长期稳定可靠性。

以及开发者愿不愿意把下一代模型长期押在这个生态上。

这三件事,比发布会上的每一个数字都难。

但也比发布会上的每一个数字都重要。

以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧。

相关推荐