HPE & AMD：标准Open-Rack机架系统

在刚刚举办的2026 OCP Global Summit峰会，《HPE and AMD：Buiding AI Rack System with Open Standards》对AMD Helios AI Rack机架方案进行剖析，面向 AI 大模型算力需求，依托 OCP 开放计算项目、Ultra Accelerator Link over Ethernet（UALoE）、Ultra Ethernet Consortium、SONIC 等开放标准，打造机架级 AI 基础设施，分为硬件规格、架构设计、网络协议、运维能力、AI-NIC、关键技术、方案总结几大部分。

一、Helios AI 机架基础硬件规格

整套机架为Open Rack 规格，单机架核心参数：

1.单机架搭载72颗GPU，配置 HBM4 显存总容量31TB；

2.AI算力：2.9 Exaflops；

3.HBM4 带宽：1.7 PB/s；Scale-Up（机内 GPU 直连）带宽 260TB/s；Scale-Out（机架间扩展）带宽 43TB/s；

4.硬件组成：18 个计算托盘（Compute Trays），每个托盘部署多颗 MI455X GPU 搭配 EPYC CPU；配套交换托盘（Switchtray），搭载 TH6 交换机，支持 512 通道大规模交换；采用 ORW 机架，集成供电、散热与整套管理能力。

二、两大核心网络架构：Scale-Up（机内纵向扩展）与 Scale-Out（横向跨机架扩展）

1. Scale-up Pod 架构（机架内 GPU 高速互联）

硬件：12 台 TH6 512 通道 ScaleUp 交换机，72 颗 GPU 分布在 18 个计算托盘；

UALoE 网络：每个 GPU 目录访问带宽可达1.8 TB/s，Pod 内实现跨托盘共享加载 / 存储访问，可统一访问超过 30TB HBM4 显存；

同时配套 Scale-Out 以太网网络，每 GPU 对外以太网带宽最高 2.4TB/s，接口为 4×200G 以太网；

架构实现 72 颗 GPU 可作为一个统一计算引擎对外提供算力。

2. Helios Scale-up Fabric 机架级管控架构（AFM，AMD Fabric Manager）

AFM 为机架全域智能管理组件，基于 gRPC 与机架内各个托盘 Agent 通信，SONIC 运行在交换托盘交换机上。 AFM 内部模块：集群管理守护进程、节点管理器、交换机管理器、事件处理器、拓扑服务、配置管理器、API 服务器。带来运维收益：

1.从整个交换网络全局视角完成控制、监控、故障排查；

2.零接触部署 Scale-up 网络，简化上线流程；

3.部署更快、降低专业运维技能门槛，统一遵循最佳实践；

4.同时支持高级自定义部署和开箱即用两种模式。

三、整体方案总结

1.AI 算力爆发催生机架级开放 AI 系统，HPE 与 AMD 联合设计 Helios 机架适配新兴 AI 工作负载；

2.计算层面：单机架 72 颗 GPU 作为统一计算引擎；ORW 机架集成供电散热管理；

3.Scale-up（机内）：通过 UALoE 协议实现每 GPU 1.8TB/s 目录访问，共享 30TB+ HBM4 显存；支持网络分区、安全隔离、多层故障弹性；

4.Scale-out（跨机架）：Pensando AI-NIC 提供协议灵活度、高级拥塞控制、遥测与错误管理；搭配 64×1.6T 以太网交换机，支持大基数、多平面、标准化负载均衡；

5.整套方案全部基于开放行业标准，面向大规模 AI 训练 / 推理集群提供高弹性、高可靠基础设施底座。