近一年,笔者跑了不少智算中心,如中国移动智算中心(武汉)、粤港澳大湾区(韶关)算力集群、中国联通呼和浩特云数据中心等等。当我站在一排排整齐的超节点机柜前,看着设备闪烁的指示灯、丰富的液冷管道等,直观感受到算力时代的真实脉搏。
笔者和现场的运维、技术团队聊中发现,“超节点”一词出现的频率越来越高,越来越受认可。据华为昇腾计算产品线总裁张迪煊透露,昇腾910C超节点规模部署超1000+套,累计超过6.5亿在线卡时,已经有40多个大模型完成昇腾原生预训练,是国内唯一支持预训练的算力底座。
具体来说,昇腾超节点已在金融、轨道交通、文旅、AI原生企业等行业落地,吸引邮储银行、兴业银行、国泰海通、青岛地铁、商汤、陕文投等企业部署,凭借高算力利用率、训推一体化、弹性扩容等价值,支撑行业垂类大模型与智能业务落地,获得多行业客户实践验证与认可。
我清晰记得,前两年聊起超节点,不少人充满疑惑:传统服务器集群用了这么多年,超节点真的能落地?能给金融、制造、运营商、互联网等千行百业带来什么新价值?为什么昇腾率先跑完从技术验证到规模商用的闭环?
如今看来,这些悬在行业心头的疑问,正在被昇腾超节点的商用落地成绩逐步消解。
01、 架构之变:击穿传统集群的效率瓶颈
进入Agentic AI时代,智能体、AI 编程带来颠覆性的产业变化,也对底层算力基础设施提出更高要求:既要支撑更大规模的MoE模型、承载更长的上下文序列,又要实现更低的推理时延,同时持续提升算力效率、降低落地成本。传统集群的架构短板在新需求下被持续放大,而超节点成为Agentic AI时代算力基础设施的主流形态。
相信很多人听过超节点,却很少有人能说清它和传统服务器集群的区别。笔者给大家打个比方:传统AI集群就像一间办公室里几十台独立电脑,协同干活的时候,数据要靠网络在电脑之间传来传去,花在传文件、等数据上的时间就越多,用来干活的算力反而被稀释了。
这就是行业常说的内存墙和通信墙——当集群规模到了万卡、十万卡级别,通信开销能占到训练时间的30%-50%,堆再多卡,效率也上不去。而超节点是一种在物理上由多个计算节点通过高效互联协议紧密连接组成,具备跨物理节点统一内存编址能力的计算系统。
超节点在底层架构上拥有强大的核心竞争力,主要来自三大核心特性。
第一是超大带宽。MoE模型的专家路由需要高频跨卡交互,传统集群的互联带宽瓶颈会拖慢整体效率。昇腾超节点依托自研灵衢互联协议,实现TB级的NPU互联超大带宽;物理层芯片互联带宽较上代提升2.1倍,通信库针对MoE场景做了专属调度优化,全域带宽无收敛,不会因为节点规模扩大就出现性能下降,彻底打通制约效率的通信墙。
第二是超低时延。生产级智能体应用要求毫秒级的稳定响应,传统集群链路长、调度粒度粗,时延抖动难以控制。昇腾超节点通过全链路架构优化,实现跨节点3μs超低RTT时延;推理场景下可实现小于10毫秒的极致低时延,且解码时延越低,性能提升越明显,完全满足高并发推理场景的稳定要求,支撑万亿模型训推一体化落地。
第三是跨物理节点的统一内存编址。传统集群跑十万级Token长上下文、大参数量模型时,数据需要在节点间反复拷贝同步,不仅时延高,还容易出现上下文丢失、推理中断。昇腾超节点通过架构创新,将跨节点的内存空间整合成256TB全局统一编址的整体,任意算力芯片可以像访问本地内存一样读取全节点数据,数据无需反复搬移,从根源上消解内存墙。
可以看出,超节点的底层逻辑不是堆更多的服务器,而是开创了下一代的算力架构,两者的底层逻辑完全不同,带来的效率差距也是本质性的。
02、 落地之实:千套规模的全行业渗透版图
架构层面的技术突破是基础,算力的价值要在业务场景兑现。昇腾超节点千套规模的背后,是超节点渗透到各行各业核心生产场景的真实写照。
第一类是互联网与大模型厂商。大模型训练是对算力要求最苛刻的场景,万亿、十万亿参数的全参数训练,而传统集群难以支撑。比如商汤大装置Sense Core完成昇腾384超节点的全量适配,在集群调度、跨节点训练稳定性上实现多项技术突破,支撑大模型高效训推;基于昇腾AI,蚂蚁阿福构筑“离线持续优化、在线实时纠偏”的双反馈体系,使得阿福负反馈率下降20.43%,正反馈率上升11.99%。
第二类是金融和运营商这类对稳定性要求最严苛的行业。例如,邮储银行完成昇腾384超节点规模化部署,支撑全行260余项AI应用落地,单卡吞吐性能提升10倍;国泰海通落地金融行业首个AI液冷超节点,满足核心业务7×24小时零宕机的严苛标准;湖北移动上线昇腾超节点推理方案,长序列推理吞吐提升数倍,支撑智能客服等核心业务。
第三类是教育、交通、文旅等千行百业。例如,青岛地铁用昇腾超节点搭建城轨行业最大的智算中心,设备故障处置效率提升70%;陕文投基于昇腾超节点算力底座打造文旅大模型,内容创作效率提升6倍;深圳河套学院基于昇腾超节点,完成1.6万亿参数大模型的全参数后训练。
03、 领跑之因:全栈能力锻造的商用护城河
有朋友问笔者,行业里布局超节点的厂商不止一家,为什么昇腾第一个跑出千套规模商用?笔者认为,这是昇腾从架构定义、系统协同到工程落地、生态适配的全链路体系化能力,共同构筑起难以复制的商用护城河。
第一是架构定义权:抓住真假超节点的核心分界。市面上不少超节点方案,本质还是多台服务器的堆叠,逻辑上依然是分散的多台设备。而昇腾超节点通过自研灵衢互联协议,实现跨机柜的全局统一内存编址,让上千张算力卡共享同一片内存空间,整套集群逻辑上就是一台完整超级计算机。这是超节点架构的本质门槛,也是昇腾率先释放架构红利的前提。
第二是系统协同力:算网存全栈优化释放有效算力。光有统一架构还不够,超节点的最终效率,取决于算、网、存三层的协同深度。昇腾从芯片微架构到算子优化,从内存池化调度到通信库专属适配,做了全链路系统级打磨。
其中,计算层通过低精度计算、算子融合提升利用率,内存层靠全域池化突破单卡显存限制,通信层针对MoE模型的专家路由特征优化跨卡调度。三层能力配合动态负载均衡,把硬件性能充分释放出来,让算力真正用在计算上,而非耗在调度、通信和数据搬运里。
第三是工程硬实力:跨过规模商用的系统工程门槛。超节点是复杂的系统工程,供电、散热、可靠性每一块短板,都会制约部署规模和运行稳定性。从去年昇腾910C超节点正式商用,到今年9月950系列超节点正式上市,再到最新发布的明年Q3即将推出的业界首个采用NPO的960系列超节点,看出昇腾在超节点领域不断的创新与实现更强系列产品,同时在多代产品的打磨中沉淀出成熟的工程化体系。
比如,昇腾自研电源模块平抑供电波峰,冰川铠甲冷板搭配高密散热方案应对高功率密度,正是这些工程细节,支撑起万卡级集群的月级长稳训练,让超节点在Agentic AI时代充分释放算力价值。
第四是生态适配性:开箱即用降低产业落地门槛。很多企业不敢尝试新算力架构,担心适配周期长、调优门槛高,而昇腾的基础软件栈采用组件化开源架构,开发者像搭积木一样按需定制开发流水线;DeepSeek、Kimi、GLM等主流模型均在发布后0 Day快速上线,客户拿到算力就能跑业务。
笔者获悉,目前昇腾已携手3000多家行业伙伴,孵化7000多个行业解决方案,从底层适配到行业应用的完整生态,大大降低传统行业的上云用智门槛。
我们可以看出,昇腾超节点千套规模背后,是架构、技术、工程、生态四层能力的叠加,必须全链路打透才能跑通规模商用,这也正是昇腾超节点最核心的竞争壁垒。
笔者观察:智算建设进入效率优先新周期
前两年大家聊算力,比的是谁的卡多、谁的总算力数字大。但真正走进机房、和业务团队聊过就会发现,很多规模庞大的集群,实际算力利用率并不高,大量算力浪费在通信、调度和适配环节。行业正在回归务实,真正关心算力能产出多少价值。
一方面,1000套是超节点行业的分水岭,标志着它从技术尝鲜进入规模普及阶段。在这之前,行业还在争论超节点是不是伪需求;但千套落地之后,当最严苛的金融、运营商场景都跑通生产级应用,技术路线的走向已经非常清晰。在笔者看来,接下来行业会加速向成熟方案收敛,那些没有真实商用案例的超节点,会很快被市场淘汰。
另一方面,智算中心的建设逻辑正在切换,超节点将成为下一代AI基础设施的标准配置。前几年的智算建设,核心是做大,接下来的智算建设,核心是做强。当堆卡换不来线性的效率提升,当算力成本成为AI落地的核心瓶颈,系统效率就会成为最核心的竞争力。
而超节点通过架构创新带来的效率跃升,恰好踩中这个趋势。就像当年多核CPU取代单核,就像集群取代单台大型机,算力架构的迭代从来都是不可逆的。未来两三年,超节点会逐步成为中大型AI算力集群的标配,就像今天的服务器集群一样普遍。
算力潮涌千帆竞,架构新程万业兴。1000多套昇腾超节点商用落地,不是超节点技术路线的终点,而是中国AI算力完成代际切换、走向规模化普及的全新起点。随着超节点产品持续迭代、产业生态持续完善、落地场景持续向产业深处渗透,这套新型算力架构终将深度嵌入数字经济的每一处肌理,让智能算力真正像水与电一般,随取随用、普惠万业。
28
