希奥端计算：ARM与RISC-V双路并行，瞄准AI推理服务器CPU增量市场

“在Agent AI时代，CPU的处理时延占据了整个Agent负载的端到端时延的大概50%到90%。”在近期举行的ICDIA创芯展上，希奥端计算（南京）技术有限公司生态合作总监肖军给出的这一数字，道出了AI Agent负载对CPU提出的全新挑战。

希奥端计算（南京）技术有限公司生态合作总监肖军

过去两年，大模型训推对GPU算力的追逐几乎掩盖了另一条关键线索——AI Agent负载对CPU性能的重定义。随着Agentic AI从概念走向落地，从感知、认知到决策、行动的闭环中，CPU承担的环境感知、任务编排与工具调用功能，使其不再只是系统中的一个“配角”。肖军判断：“对CPU的要求——核性能、内存带宽和IO带宽——比原来云的时代要更高。”

这一技术拐点，恰好撞上了CPU产业格局的微妙时刻。x86统治服务器市场已逾三十年，但2024年至2026年间，以亚马逊Graviton 5、微软Cobalt 200为代表的ARM服务器CPU在头部云厂商中加速渗透，ARM在服务器领域的份额已从零星占比跃升至20%到25%。与此同时，RISC-V正以年复合增长率超过30%的预期增速，从IoT和嵌入式领域向更高算力场景试探——两大阵营正在从边缘地带向x86的核心腹地发起冲击。

希奥端正是站在这一交叉点上成立的新玩家。这家成立于2022年7月的服务器CPU初创企业，选择了一条国内罕见的战略路径：ARM与RISC-V双技术路线并行。第一代ARM产品已流片，第二代在研；第一代RISC-V产品同步推进。在肖军看来，这不是资源的分散，而是“用ARM尽快商业落地”与“用RISC-V布局未来”的务实组合。而24核的BlueDot V1芯片，瞄准的是边缘AI推理服务器这一巨大增量市场。

双路并行：ARM求落地，RISC-V谋未来

希奥端最引人注目的战略选择，是同时布局ARM和RISC-V两条技术路线。

“我们确实是两条路线并行。”肖军在采访中坦言，“ARM现在的生态和性能比较好，选择ARM是因为我们可以尽快地商业落地。但同时，RISC-V由于它的开放性和灵活性，未来的潜力很大，所以我们要提前布局。”

肖军将这一战略概括为“三个项目并行”：第一代ARM产品已流片，第二代ARM产品在研发，第一代RISC-V产品也在同步研发。在人力投入上，目前ARM方向的投入更大，但公司规模在扩张，RISC-V上的投入也在逐渐加大。

从产品规划来看，希奥端的第一代ARM产品BlueDot V1基于ARM v9指令集Neoverse V3核构建，重点强化向量运算能力、乱序流水线效率、任务调度智能性、内存互联带宽及能效比。同时这款芯片支持PCIe 6.0高速互联协议与DDR5-8000MT/s内存速率。希奥端采用的核与国际主流——亚马逊的Graviton 5和微软的Cobalt 200采用的是同款ARM V3核。据公司披露，BlueDot V1已在流片中，计划在2026年底启动小批量试商用。

Agent AI时代：CPU的时延挑战与架构变革

AI大模型和Agent的兴起，正在重新定义CPU的设计需求。

肖军指出，Agent AI引入了“感知、认知、决策和行动”的自主循环。在这一循环中，CPU主要负责环境感知、任务编排和工具调用。“CPU的时延占据了整个时延的大概50%到90%，占的时延比较高，”肖军说，“所以在Agent AI时代，对CPU的要求——核性能、内存带宽和IO带宽——比原来云的时代要更高。”

这一判断直接影响了希奥端的产品定义。BlueDot V1在内存速率和IO互联上的高规格——DDR5-8000MT/s和PCIe 6.0——正是为了应对AI推理场景中数据吞吐的瓶颈。肖军进一步解释了推理场景对内存带宽和IO带宽的依赖：“由于AI模型参数量大，当Agent的上下文长度较长时，GPU的显存容量很难同时容下模型权重和上下文的KV Cache，所以推理过程中KVCache需要在GPU的显存和CPU的内存之间来回传输，这个时候内存带宽和IO带宽就显得非常重要。”

从行业趋势来看，面向AI的异构CPU正在成为新的发展方向。肖军在演讲中判断：“未来看到是面向AI的异构CPU会异军突起，CPU中有单独的Tensor处理单元或者单独的NPU加速器，相对适合在AI推理场景发力。”希奥端未来的异构架构方案中，大核采用ARM V3核，小核则用RISC-V做加速，小核数目将达到千数级别——这一设计思路，既回应了AI推理对并行计算的需求，也体现了双技术路线在产品层面的深度融合。

团队壁垒：大芯片的“经验门槛”

在国内CPU赛道上，能够真正做出产品的厂商并不多。肖军对此直言不讳：“在国内做服务器CPU这个领域的厂商，两只手掰着手指头是可以数得过来的。为什么？因为这个行业的门槛很高。”

在他看来，希奥端的核心优势在于团队。“我们的核心团队主要是来自前大厂里面的核心团队。在服务器CPU芯片里面，研发过程中每一个环节都需要很有经验的人来独挡一面。这个有经验的人不是说你干了三年五年就有经验，可能至少要八到十年，甚至十年以上，才能够完全独挡一面。”

“这么多环节里面，每一个环节都需要一些这么有经验的人，这样的团队在国内是比较难找的。”肖军如是说。

这一判断道出了服务器CPU研发的本质特征——与消费级芯片不同，服务器级CPU对可靠性、稳定性、安全性，性能的要求极高，每一个环节的失误都可能导致数千万甚至上亿的损失。经验的积累没有捷径，只能靠时间和项目的沉淀。

生态先行：从产品定义阶段开始布局

作为生态合作总监，肖军在采访中反复强调“生态先行”的理念。

“芯片产业，特别是CPU这个芯片产业，是一个生态型产业。生态型产业的特点是：要生态先行。”肖军解释道，“你不能等产品出来之后再去做生态，这个时候就来不及。我们在芯片产品定义的时候，就开始进行生态布局。”

具体而言，希奥端在多个层面同步推进生态建设。在工具层面，公司在产品研发过程中就开始构建迁移调优工具，确保产品出来后工具能够同步发布。在社区层面，公司加入了欧拉社区、龙芯社区以及国内多个联盟和组织，参与标准制定和白皮书的编写。在软件适配层面，公司将行业内主流的基础开源软件——操作系统类、数据库类、中间件类——全部梳理出来，提前准备好测试用例；商业软件方面，已与多家大厂商沟通，双方都有较强的合作意愿。

在产品验证层面，希奥端在流片之前的EMU环境和FPGA环境上，已经将主要的操作系统跑了起来。据公开信息，公司已能够在EMU和FPGA环节上运行CentOS、OpenEuler和Ubuntu等操作系统。

肖军还特别强调了生态建设中的标准化问题。他以历史上MIPS指令集的失败为例：“MIPS技术是不错的，但它没有控制住生态的发展，他将指令集授权给客户后，客户可以在指令集上添加自己的指令，导致生态碎片化。”而RISC-V同样面临开源带来的碎片化风险。希奥端的应对策略是“遵循基金会的相关标准，在基金会里推动相关标准，融入基金会和国内RISC-V的生态，不制造生态碎片化”。

市场定位：错位竞争，聚焦商业市场

在产品定位上，希奥端选择了差异化路线。

BlueDot V1为24核设计，聚焦四大场景：通用服务器、边缘AI推理服务器、存储服务器和工作站。与英伟达、ARM等国际厂商的高端产品相比——ARM的136核、X86的200多核——希奥端明确选择了错位竞争。

“它们走的是高端路线，用在训练或者云数据中心的场景。我们用在边缘推理场景，首先场景上就有区别”。 肖军说，“高端市场可以一个CPU配4个或8个高端的推理设备，我们一个CPU可以配1个，2个、4个推理设备“。从市场角度来说，我们和他们错开，避免正面竞争。”

在市场区域上，希奥端现阶段聚焦国内市场。在市场类型上，公司主打商业市场，而非信创。“信创市场是有一定资质要求的，要进入这个市场，首先要拿到这个资质，需要时间，也有一定的门槛。所以我们现阶段还是以商业市场为主。”

在商业模式上，希奥端也提供了比国内其他厂商更灵活的选择。“我们可以只卖芯片。如果有销售渠道型的厂商需要整机，我们也可以提供整机。我们有比较完善的上下游生态，可以帮客户把整机产品做出来，客户打上他们Logo后，就可以销售了。”据公开信息，公司已启动前期客户导入工作，覆盖智能边缘服务器、推理一体机及文件服务器等典型场景。

RISC-V的机遇与挑战：生态是必要条件

对于RISC-V CPU的未来，肖军既有期待也有审慎。

从指令集发展历史来看，他总结了三个案例的启示：MIPS技术不错，但因生态碎片化而失败；ALPHA技术同样优秀，但因商业模式封闭而衰落。ARM和X86之所以成为主流，在于它们既保持了生态的统一性，又允许第三方参与。

肖军认为，RISC-V CPU要发展起来，“生态是必要条件之一”。具体而言，需要“支持开源生态，通过统一的标准和软硬件平台长期防止生态碎片化”，“在性能、可靠性、稳定性、安全特性、虚拟化方面持续提升”，“从部分的中低算力场景开始落地，逐步扩展到更高算力层级”。

从RISC-V CPU关键组件的成熟度来看，肖军的判断是：核的成熟度中等，单核性能与ARM和X86仍有距离；总线成熟度相对较高；MMU成熟度一般，系统特性有缺失；PCIe和DDR控制器成熟度较高，但系统稳定性还需打磨。生态层面，“RISC-V CPU的生态成熟度还不足，距离X86和ARM还有较大距离。主要涉及到硬件部件生态，基础软件生态和应用软件生态，其中难度最大的是商业应用软件生态。

“RISC-V CPU的技术栈与ARM的技术栈是不太一样的，不能完全去复用，”肖军说，“但两个圈子里面有一些伙伴是同一个伙伴，比方说有的操作系统厂商既有ARM版本的产品，也有RISC-V版本的产品，所以同一个伙伴在两种技术路线上进行合作，这一块可以说是复用。”

2026年以来，RISC-V产业正在加速发展。中国科学院发布了“香山”开源高性能RISC-V处理器系统与“如意”RISC-V原生操作系统；阿里巴巴达摩院发布了新一代旗舰CPU玄铁C950；联想与蓝芯算力联合推出了全球首款搭载RISC-V处理器的服务器整机产品。

在这一背景下，希奥端选择ARM与RISC-V双路并行的战略，既是对产业趋势的回应，也是一种务实的风险对冲——用ARM的成熟生态保证商业落地，用RISC-V的开放性布局未来。