摘要:在刚刚结束的WAIC 2026期间,国产AI算力芯片企业集中展示了通用GPU、NPU、TPU、3D近存计算、边缘推理芯片及超节点系统。华为、阿里云、摩尔线程、沐曦、壁仞科技、燧原科技等厂商将竞争重点从单颗芯片参数扩展到Scale-up高速互连、统一内存、软件栈、模型适配和规模交付;天数智芯、中昊芯英、东方算芯等企业则分别从通用GPU、专用AI计算和近存计算寻找差异化路径。
2026世界人工智能大会于7月17日至20日在上海举行。今年大会以“智能伙伴共创未来”为主题,算力芯片依然是展馆中最受关注的技术板块之一,但展台上最醒目的产品已经从单张加速卡变成了机柜、超节点和大规模计算系统。包括华为、阿里云、摩尔线程、沐曦、壁仞科技、燧原科技等企业密集展示超节点产品,天数智芯、中昊芯英、东方算芯则分别从通用GPU、TPU和3D近存计算方向推进新的芯片及系统方案。
过去几年,国产AI芯片企业首先要回答的问题是芯片能否点亮,能否运行主流框架,能否完成大模型训练或推理。随着产品逐步进入数据中心,客户提出的问题开始变得更加具体:几百张卡能否稳定协同,模型迁移需要多长时间,发生单卡故障后任务能否继续,整套系统的Token吞吐量、能耗和运维成本是多少。
这意味着国产算力竞争正在跨过单芯片阶段。芯片仍是底层基础,但一套AI计算系统的实际能力,越来越取决于芯片、内存、互连、服务器、液冷、通信库、编译器和模型适配共同形成的系统效率。
从本次WAIC 2026释放的信号来看,大致可以概括为:国产AI算力正在从“拼单卡参数”转向“拼系统能力与规模交付”。
超节点为什么突然成为主角?

什么是超节点,来源:与非研究院制图
超节点并不是把许多GPU装进同一个机房,也不只是扩大服务器数量。它希望通过高带宽、低时延的Scale-up互连,把几十、几百乃至上千颗AI芯片组织成一个更大的计算单元。
要理解超节点,首先需要理解大模型如何使用芯片。
当模型规模较小时,一颗GPU或一台服务器可以容纳全部模型参数。模型变大后,参数、激活数据和KV Cache无法全部存入一颗芯片的显存,系统只能把模型拆分到多颗芯片上。不同芯片分别负责模型中的不同层、不同参数或不同计算任务,并持续交换中间结果。
MoE模型进一步提高了通信需求。MoE模型内部包含大量“专家”,每次计算只激活一部分专家。专家可能分布在不同芯片甚至不同服务器中,Token需要在芯片之间频繁路由。长上下文、多模态数据和高并发推理也会增加显存及互连压力。
此时,芯片计算速度只是系统性能的一部分。如果芯片之间传输数据太慢,大量计算单元会停下来等待。峰值算力很高,真正用于模型运算的有效算力却可能远低于理论值。
传统AI集群主要依靠Scale-out扩展。多台服务器通过以太网、InfiniBand或其他网络连接,增加服务器即可扩大总体规模。这种架构部署灵活,但跨服务器通信通常需要经过网卡、交换机和多个软件层级,时延和带宽难以达到服务器内部互连的水平。
超节点则试图扩大Scale-up高速计算域。在这个计算域内,更多AI芯片通过专用互连协议紧密连接,有些系统还提供统一内存编址或统一资源视图。对于上层软件而言,这些芯片更接近一台大型计算机,而不是大量彼此独立的服务器。
可以把普通AI集群比作许多分散的小团队。每个团队都有自己的人员和资料,跨团队合作需要反复传递文件。超节点更像一个内部协作高度紧密的大团队,所有成员共享统一的任务调度和资料目录,沟通路径更短。
华为对超节点的定义较为直接:物理上由多台机器组成,逻辑上像一台计算机一样学习、思考和推理。其Atlas 950 SuperPoD以64卡机柜为基本单元,通过灵衢互联构建大规模Scale-up计算域,并采用统一内存编址降低多芯片资源管理的复杂度。该产品在2026年3月发布,WAIC期间首次以真机形式公开亮相。
不过,超节点的卡数不能直接等同于模型性能。判断一套超节点方案是否成熟,至少还要观察五项指标:
首先是互连带宽和通信时延。带宽决定单位时间能够传输多少数据,时延决定芯片发出请求后要等待多久。
其次是集群有效利用率。芯片真正参与计算的时间越多,峰值算力转化为有效算力的比例越高。
第三是模型吞吐量,包括训练过程中单位时间处理的数据量,以及推理过程中每秒生成的Token数量。
第四是可靠性。数百乃至上千张卡长时间运行,单卡、链路和交换设备出现故障是大概率事件。系统必须能够隔离故障、重新组织拓扑,并从断点恢复任务。
第五是总体拥有成本。超节点需要配套供电、液冷、网络和机房空间,卡数增加也会提高运维复杂度。客户最终购买的不是一组漂亮的峰值参数,而是一套能够长期稳定输出Token的生产系统。
从华为到阿里云,超节点开始形成不同技术路线

部分算力芯片汇总,来源:与非研究院制图
华为在WAIC现场展出的Atlas 950 SuperPoD,代表了目前国产超节点中规模较大的系统路线。根据公开信息,该产品以64卡机柜为基本单元,最大支持8192张NPU卡高速互联,采用灵衢协议、UB-Mesh递归直连拓扑和统一内存编址,面向超大规模训练和高并发推理。华为还同步展示了CANN、Mind系列基础软件及多个行业应用案例,强调硬件、基础软件和行业生态的协同。
这里需要区分两个概念:超节点和超节点集群。超节点内部主要通过Scale-up互连,让更多芯片形成一个高速计算域;多个超节点还可以通过Scale-out网络进一步组成更大集群。华为此前披露的Atlas 950 SuperCluster,就是以多个Atlas 950超节点为基本单元继续扩展。超节点解决局部高效协同,集群解决整体规模扩大,两者共同构成大模型数据中心的基础设施。
阿里云的磐久AL128采取单柜128芯片的产品形态。其核心计算芯片真武M890采用平头哥自研并行计算架构,配置144GB显存和800GB/s片间互连带宽,支持FP32至FP4等多种精度。磐久AL128通过ALink互连和自研交换芯片,将128颗AI芯片组织成一个计算节点。该产品已接入阿里云百炼,支持千问、DeepSeek和Kimi等模型。
真武M890和磐久AL128于2026年5月阿里云峰会发布,本届WAIC主要承担集中展示和生态推广的作用,不能写作大会首发。更值得关注的是阿里云开始把芯片、超节点、云平台、模型服务和软件栈放在同一个产品体系中。第一财经报道显示,平头哥开源的SAIL软件架构覆盖操作系统、SDK和接口层,并适配多个主流训练与推理框架。对于云服务商而言,自研芯片的价值不仅在于替代外部GPU,还包括将硬件与模型平台、调度系统及云服务深度结合。
摩尔线程在WAIC首次公开展出MTT C256超节点。公开资料显示,该系统在标准单宽机柜内部实现128卡全互联,两柜可构成256卡的一层Scale-up网络。与多层交换网络相比,一层互连可以减少中间交换层级,降低通信路径和时延,但也会对交换芯片、布线和系统拓扑提出更高要求。
摩尔线程的展示重点还包括“模型训练工厂、词元生产工厂和智能体生产工厂”。公司披露,其系统已经完成部分MoE模型从零训练,推出基于MTT S5000的PD分离推理方案,并适配DeepSeek、MiniMax等模型。这里的“工厂”概念反映出算力公司的产品逻辑正在变化:客户需要的是模型训练、推理和智能体开发的连续生产环境,GPU只是其中一个环节。
沐曦在WAIC首发曦景S系列超节点与曦索X300系列科学智能GPU。曦景S600采用单机柜64卡设计,支持EP、TP等多维并行方式,面向大模型训练和推理;曦索X300则面向气象海洋、流体力学、分子动力学、材料和生命科学等AI4S场景。
这两条产品线体现了训练、推理和科学计算逐渐分化的趋势。大模型训练重视混合精度计算、多卡互连和长时间稳定性;推理强调并发、时延、显存利用率和Token成本;传统科学计算则需要较完整的浮点精度、科学计算软件和高性能计算生态。很难再用同一颗芯片、同一套软件覆盖所有工作负载。
互连正在成为与芯片架构同等重要的竞争点
当超节点规模从8卡、16卡扩大到64卡、128卡乃至更高,系统瓶颈会逐渐从计算单元转向互连。
壁仞科技在WAIC推出基于BR2xx GPU、BLink 2.0互连协议和NPO光互连的超节点方案,形成16卡服务器、128卡整机柜和最高1024卡的产品规划。BR2xx延续Chiplet架构并支持FP8、FP4,BLink 2.0则强调内存语义互连、在网计算、拥塞控制和链路自愈。
内存语义互连的目标,是让不同芯片以更接近访问本地内存的方式交换数据,减少软件层面的显式拷贝和通信管理。在网计算则把部分归约、聚合等通信操作下沉到交换设备,避免所有数据都返回GPU处理。这些技术并不会让通信成本消失,但有机会降低数据搬运对计算单元的占用。
壁仞科技提出的1024卡方案仍属于产品路线和系统规划,不能直接等同于已经形成同等规模的客户部署。超节点从设计走向商业交付,还需要经过服务器、光模块、液冷、固件、软件和长时间稳定性验证。
燧原科技在WAIC展示云燧ESL64-O、ESL64-C和NPO光互连原型。ESL64-O采用正交架构,ESL64-C采用Cable-tray布线方案,两者代表了超节点内部连接的不同工程实现。正交无背板设计让计算板和交换板直接连接,可以缩短信号路径并减少部分线缆;Cable-tray方案相对成熟,部署和维护路径更加接近现有数据中心。
随着连接距离和传输速率提高,铜互连面临信号衰减、功耗和布线密度压力。NPO,即近封装光学,尝试把光学引擎放置在靠近交换芯片或计算芯片的位置,缩短高速电信号传输距离,再利用光纤完成更远距离连接。壁仞和燧原同时展示NPO路线,说明光互连正在从数据中心柜间网络向超节点内部继续靠近。
光互连也并非简单替换铜缆。光模块成本、封装良率、散热、维修方式以及光电转换功耗都会影响最终方案。未来一段时间,数据中心更可能形成分层互连:芯片内部和短距离仍以电互连为主,机柜间和更大规模超节点逐步提高光互连比例。
通用GPU继续演进,产品评价开始转向Token效率
天数智芯在WAIC正式发布新一代通用GPU天垓300。该芯片基于SIMT通用计算架构,围绕Attention、MoE、AF分离、PD分离和大规模系统扩展进行优化。公司同时表示,天垓300正与云厂商、服务器厂商和超节点系统进行适配。
SIMT架构能够让大量线程执行相同或相近指令,适合矩阵运算和高度并行的AI工作负载。通用GPU的优势在于适用范围较广,可以覆盖训练、推理、科学计算和部分图形计算;代价是芯片和软件系统复杂度较高,需要投入大量资源建设编译器、运行时、通信库和开发工具。
天数智芯公布了与Hopper架构产品的内部测试比较,但这些数据来自公司测试环境,模型配置、精度、并行策略和系统条件可能影响结果,因此更适合作为产品优化方向的参考。行业仍需要独立测试和统一基准,才能判断不同国产GPU的真实效率。
低精度计算是本届WAIC多款产品的共同方向。真武M890和壁仞BR2xx均明确支持FP4,华为也公布了超节点层面的FP4算力。FP4、FP8能够减少模型权重和激活数据占用的空间,降低显存及数据传输压力,在模型精度可以接受的前提下提高推理吞吐量。
但不同精度下的TOPS和TFLOPS不能直接放在一起排名。一款产品可能公布FP4稀疏算力,另一款公布BF16稠密算力,端侧芯片则经常使用INT8口径。即使数字相同,实际可运行的模型、功耗和精度也可能完全不同。
进入推理时代后,更具参考价值的指标正在变成首Token时延、Decode速度、并发请求数量、单位Token能耗和百万Token成本。算力芯片最终要解决的是Token生产效率,而不是只在参数表上制造更大的峰值数字。
PD分离就是针对推理负载的一种系统优化。大模型推理通常分为Prefill和Decode两个阶段。Prefill需要处理用户输入,计算密集度较高;Decode逐Token生成答案,更依赖显存带宽和通信。把两个阶段部署在不同硬件或资源池中,可以减少互相干扰,提高整体资源利用率。摩尔线程和天数智芯都在WAIC相关产品中强调了PD分离,显示推理系统正走向更精细的负载调度。
TPU与近存计算试图绕开同质化GPU竞争
通用GPU拥有成熟的开发模式,但并非所有企业都选择复制GPU路线。
中昊芯英展示了新一代TPU芯片“须臾”和泰则2.0服务器。该芯片于6月30日发布,WAIC属于集中展示。企业公布的参数显示,“须臾”单芯片混合精度算力为896TFLOPS,8-bit推理算力为1792TOPS,额定功耗600W。上述数据属于公司口径,尚不能与采用不同精度和测试条件的GPU直接比较。
TPU针对神经网络中的张量和矩阵运算设计专用计算单元、指令集和数据流。它减少部分GPU通用功能,目标是在特定AI负载下获得更高能效和更可预测的性能。专用架构的局限也很明显:当模型算子快速变化,或者客户需要运行大量非标准负载时,芯片的灵活性和软件生态会受到考验。
东方算芯的DF1000采用“软件定义计算+3D近存计算”路线。公开资料显示,该芯片使用国产成熟工艺,通过DRAM与逻辑芯片的晶圆级混合键合实现垂直堆叠,企业公布的BF16算力为520TFLOPS。与芯片同时展示的还有拓域TY64超节点、服务器和集群方案。
近存计算瞄准的是“内存墙”。AI芯片执行矩阵运算的速度不断提高,但数据仍需要在计算单元和显存之间来回搬运。许多工作负载消耗的时间和能量并不在乘加运算本身,而在数据移动。
将存储和计算逻辑通过3D封装放得更近,可以提高连接密度、缩短信号路径并降低部分数据搬运成本。不过,3D堆叠会增加制造、散热和良率控制难度。软件定义架构也需要证明其动态重构能力能够适配主流模型,而不只是完成特定算子演示。
云端与端侧算力正在形成两条并行路线
WAIC上的大规模超节点主要面向云端数据中心,但端侧算力也在快速上升。
爱芯元智在大会上披露“元曦”系列大算力产品,A系列AI推理卡的企业公开算力超过1000TOPS,面向高端边缘推理。由于具体精度、功耗、显存容量和模型测试尚未完整公开,目前不适合与数据中心GPU或其他端侧芯片进行直接性能比较。
黑芝麻智能则展示华山A2000芯片家族及SesameX具身智能计算平台,将原本面向智能驾驶的车规级算力延伸至机器人和泛AI设备。汽车芯片需要同时满足实时性、功能安全、环境可靠性和较长生命周期,这些能力与机器人端侧计算存在一定共性。
后摩智能展示的M50 Inside终端覆盖个人智算设备、智能办公、机器人和边缘推理。一些终端已经可以在无网络情况下运行本地大模型,强调隐私、低时延和持续在线。
笔者认为,端侧AI不会完全取代云端模型。更可能出现的形态是端云协同:语音唤醒、实时感知、运动控制和隐私数据在本地处理;复杂推理、模型训练、知识更新和大规模仿真仍依赖云端超节点。
终端数量远高于数据中心服务器,一旦智能体进入PC、汽车、机器人和可穿戴设备,端侧推理芯片将形成庞大的市场。但端侧产品对功耗、成本和内存更加敏感,评价标准也与云端GPU不同。
结语:系统能力将决定国产算力下一阶段的座次
最后,WAIC 2026释放出的关键信号,是国产AI算力正在从单芯片突破进入系统整合阶段。笔者认为,越来越多算力芯片厂商已经具备产品化和工程化能力,但从样机走向大规模商业部署,仍要跨过交付、效率、软件、可靠性和成本五道门槛。
首先,芯片良率、先进封装、服务器生产、光模块、液冷和供应链能力,将直接决定超节点能否按期交付。其次,TOPS、TFLOPS和卡数只能反映理论能力,训练吞吐、首Token时延、Decode速度、集群利用率和长时间运行表现,才更接近客户的真实体验。软件迁移成本同样不能忽视,模型适配、算子开发、性能调优和人员培训,都会影响国产芯片进入客户系统的速度。
随着超节点规模扩大,链路故障、单卡异常和任务中断将更加常见,链路自愈、故障隔离、断点续训和资源重组能力会成为采购的重要依据。最终,市场还要回到总体拥有成本:芯片、网络、液冷、电力、机房和运维支出,都将体现在单位Token成本和单位业务产出的能耗上。
未来,GPU、NPU、TPU、近存计算和光互连仍会长期并行。能够将峰值算力稳定转化为模型吞吐,把复杂硬件封装成易用的软件平台,并以可控成本完成规模交付的企业,才更有可能进入国产AI算力竞争的下一阶段。
来源: 与非网,作者: 李坚,原文链接: https://www.eefocus.com/article/2054309.html
1021
