英伟达为AI智能体工厂打造的“全栈原生系统” Vera Rubin全面量产

当前，AI的重心正在从大规模训练转向智能体推理，传统以GPU算力为核心的硬件设计思路已经很难覆盖智能体的真实负载特征。智能体的工作流由大量循环推理、工具调用、代码执行、结果校验迭代串联而成，整个链路会生成海量Token，长上下文处理与解码延迟交织在一起，微小的延迟会在多轮循环中持续放大，这也是现在很多智能体项目落地遇到的底层硬件瓶颈。

所以，Hot Chips 2026上NVIDIA亮出的整套Vera Rubin方案，看点不在于某一颗芯片的参数暴涨，而是一整套面向智能体场景，横跨芯片、网络、整机机架的全栈系统工程思路。

Groq 3 LPX量产

这次发布的重头戏无疑是Groq 3 LPX的全面量产，它不是独立的加速器，而是Vera Rubin NVL72平台的交互式推理扩展——专门解决智能体AI面临的两个计算挑战：处理海量上下文，以及以极低的延迟生成Token。

在Artificial Analysis基准测试中，运行Gemma 4 31B开源智能体模型、处理100K Token上下文时，Groq 3 LPX跑出了每秒3,400个输出Token的纪录。这是该模型有史以来录得的最快性能。更关键的是，它比同类平台的响应速度快了4倍——这意味着智能体编程这类任务可以从数小时缩短到数分钟。

这种性能的来源是架构层面的分工。Rubin GPU负责大规模上下文处理，而LPX专门加速延迟敏感的Decode负载。两者协同计算模型的每一层，从而消除传统架构在速度和吞吐量之间的取舍。

落地层面，Nebius率先采用了Groq 3 LPX，将其集成到Nebius Token Factory生产推理平台，开发者不需要迁移技术栈，通过同一套API就能获得极致的Token生成速度。此外，Groq也紧随其后成为首批采用者。

专为AI智能体打造的Vera CPU

如果说Groq 3 LPX解决的是生成阶段的速度问题，那么Vera CPU解决的是智能体在模型调用之间“思考”的效率问题。

智能体AI越来越依赖CPU来编排工具、执行代码、处理数据、运行模拟——这些工作发生在GPU推理步骤的间隙，但传统x86 CPU在这些场景下的表现并不理想。

于是，NVIDIA推出了Vera CPU，这是全球首款专为AI智能体打造的CPU，搭载88个自研Olympus核心，采用空间多线程技术，配备LPDDR5X内存提供1.2TB/s带宽。

Spectrum-X 多平面，突破网络瓶颈

AI工厂规模扩张到一定程度时，传统三层网络拓扑会成为性能和成本的瓶颈。增加第三层网络意味着延迟增加、性能不可预测、布线光模块和电力成本飙升。

Spectrum-X多平面采用了不同的思路：把每台服务器的网络连接拆分为多个独立的路径（平面），每个平面运行轻量化的两层网络。结果是一个扁平、简单的网络拓扑，可以扩展到512,000个GPU，同时避免第三层网络的开销。在八平面拓扑中，即使一个平面发生故障，网络仍能保持约90%的总带宽——硬件恢复速度比软件多平面负载均衡快11倍，这将直接转化为AI工厂产出1.6倍的提升。

CoreWeave已经将Spectrum-X Multiplane部署到生产环境，用于连接Vera Rubin机架。这套方案基于Spectrum-6 Ethernet ASIC（102.4Tb/s）和ConnectX-9 SuperNIC（每GPU 1,600Gb/s），从交换机芯片到SuperNIC再到软件，全是针对Vera Rubin NVL72的协同设计产物。

Scale-In，基础设施即算力的一部分

NVIDIA还推出了AI网络的第五大支柱——Scale-In。这个概念的提出本身就很说明问题：传统的“南北向”接入网络在智能体AI时代必须被重新定义。

智能体AI工厂汇聚了大规模加速计算、海量用户和自主智能体，它们持续与数据、存储和服务交互。网络、存储、安全和运维必须与AI计算同步加速，不能再作为独立模块“外挂”到系统上。

Scale-In由BlueField-4 DPU和DOCA软件平台驱动，通过Spectrum-X Ethernet连接，提供多租户网络、高性能存储访问、芯片级安全、弹性配置和实时可观测性——所有基础设施服务都将保持独立于主机计算资源，但作为AI工厂的有机组成部分被协同设计和加速。

NVLink Fusion，半定制 AI 工厂的开放路径

NVLink Fusion代表的是另一个维度的思考：不是所有AI工厂都需要完全同质化的硬件堆栈。超大规模企业和AI原生公司有自己的定制XPU，但把定制芯片快速推向大规模数据中心部署面临巨大的工程障碍——从CPU和纵向扩展接口集成，到机架散热供电设计，再到供应商生态管理。

NVLink Fusion的解法是把定制XPU和CPU接入NVIDIA的纵向扩展互连域。第六代NVLink支持72个XPU的互连域，端到端延迟可降至通用以太网替代方案的三分之一，数据包速率提高10倍。NVLink-C2C能把XPU连接到Vera CPU或其他生态CPU，能效最高可达PCIe接口的6倍。

更重要的是，采用NVLink Fusion的客户可以直接利用NVIDIA MGX机架级方案——QCT 透露，Vera Rubin NVL72的生产线系统构建已接近100%自动化。这意味着运营商可以在芯片尚未就绪时就开始数据中心扩容，之后根据工作负载需求和芯片供应情况灵活调配GPU和XPU的比例。MediaTek和GUC都已经作为合作伙伴参与其中。

写在最后

通盘看Vera Rubin整套平台，可以发现：智能体时代评估硬件，已经不能只看单芯片算力数字。实际业务真正关心的，是单位时间输出Token、每瓦算力产出、单Token成本、集群实际利用率。Groq 3 LPX专攻解码，Vera CPU承接调度编排，Spectrum‑X Multiplane解决大规模网络，NVLink Fusion打通定制芯片生态，所有组件最终都服务于搭建一座能稳定跑智能体闭环的“Token工厂”。

黄仁勋说推理是AI的增长引擎。落到当下，增长已经不只是把模型跑起来，而是要高效、低延迟跑完智能体成千上万次循环。而Vera Rubin就是在把AI工厂当作一个完整系统去做联合设计，而不是简单把一堆高性能芯片堆在一起。