芯耀
与非AI
114
近年来，AI行业风起云涌，从大语言模型到具身智能，前沿科技百花齐放。对安谋科技而言，自提出“All in AI”产品战略以来，公司先后发布了“周易”X3 NPU IP、代号“白马”的山海SPU IP以及玲珑系列峨眉VPU IP，构建了一套覆盖云、边、端的完整AI矩阵。
2026年7月18日，在上海世博展览馆召开的“世界人工智能大会”现场，安谋科技举办了一场聚焦端侧AI的发布会，安谋科技CPU产品总监朱晓鸣带来了题为《STAR CPU Helium以及Ethos赋能万物AI》的演讲，系统阐述了公司对于端侧AI的发展思路与解决方案。
万物AI时代来临，端侧设备从“连接”走向“认知”
当前，随着模型小型化与智能化水平的不断提升，正推动端侧AI从概念验证走向规模化落地，过去以“连接”为核心的IoT（万物互联），正在加速转向以“认知”为标志的AIoT（万物智联）演进。
此前业界普遍认为，达到MMLU基准测试60分及格线的模型，才具备初步的商用条件。而在2022至2023年，这需要数百亿（＞100B）参数的模型规模。但得益于算法的快速演进，到2025至2026年，接近10亿（1B）参数体量的模型也能跨越这条商用门槛。这意味着，原本只能运行在云端的强大AI能力，现在有机会被装进指甲盖大小的端侧芯片中，终端普惠的“AIoT”时代正加速到来。
朱晓鸣也指出：“IoT是连接万物，AIoT是认知万物。”这一转变有几个显著特点：系统从强调互联转向强调认知能力；端侧设备从被动响应进化为具备主动性；计算从单纯的数据采集，发展到边、端侧能够承载一定规模的本地计算；设备的部署也从静态的数据收集器，演变为具备自我进化能力的智能体。
他进一步指出了驱动这一变革的四大核心动力：
数据重心在端侧：端侧设备是物理世界最直接的感知触点。
数据主权与隐私：用户不希望所有高度私密的实时数据都上传至云端。
实时性与自主性：端侧AI交互需要实时响应，无法像云端那样等待数秒的思考链。
低功耗技术长足发展：轻量级芯片技术为端侧设备的长续航提供了基础。
市场需求与受限资源的博弈
然而，从IoT转向AIoT这条演进之路并非坦途。对于海量的嵌入式设备而言，部署AI始终面临着功耗、时延、存储等多重资源约束。如何在指甲盖大小的芯片上，让AI推理跑得既快又省电，是摆在每一位芯片设计者面前的现实考题。
在朱晓鸣看来，一个具备决策能力的端侧AI系统架构，它需要三种算力：Always-on（始终在线） 的低功耗感知系统、作为控制与逻辑核心的通用CPU以及处理复杂任务的AI加速器。同样，这一切都建立在一个功耗、时延、存储、成本等众多资源的限制之下。他强调：“端侧的AI并非资源无限、‘子弹’无限的AI，而是一个资源极度受限的AI。”
这就形成了市场需求与物理限制之间的激烈博弈：用户希望端侧AI拥有强大的推理能力、能处理更多的上下文数据，并且永远在线。但工程师们面临的现实是有限的电池能源、与CPU能力绑定的实时计算能力，以及更为严峻的“内存墙”和“带宽墙”瓶颈。如何在这种平衡木上挖掘出最大的AI计算潜力，成为核心课题。
技术破局：“星辰”之下的三条并行路径
针对此矛盾，安谋科技规划了三条并行不悖的技术路径：
路径一：CPU指令集扩展，走“通通一体”之路。 在通用CPU基础上，增加向量和张量处理指令，将通用计算与AI计算高效融合。
路径二：引入通用小算力NPU。 通过专用处理器（如Arm Ethos系列）卸载并加速CPU不擅长的矩阵计算，其特点是泛化性强、生态友好，可与CPU灵活耦合或解耦。
路径三：探索存内计算。 尤其在SRAM上实现存内计算，针对特定算法优化，可获得极高的能效比。
基于前两条成熟路径，Arm生态推出了由三部分组成的一整套嵌入式AI计算IP解决方案。
第一部分是A-M系列CPU，其面效比和能效比极高，特别是从Armv8.1-M架构开始集成的Helium矢量扩展指令集，大大提升了向量处理能力。
朱晓鸣通过具体案例展示了Helium技术的威力。在音频编解码场景中，搭载Helium的Cortex-M52、M55、M85相较于未搭载的前代产品M4，性能分别提升了30%、50%和65%。而在机器学习任务中，优势更为惊人，平均性能提升达到3倍，在部分特定测试用例中甚至有8倍以上的提升，这是Helium指令集优势的集中体现。
第二部分是面向特定需求优化的Cortex-A系列产品线引入了SVE2（Scalable Vector Extension 2），旨在显著提升向量处理和机器学习（ML）性能。它是对原有 Neon SIMD 引擎的演进，提供了更灵活的向量长度和更强的数据处理能力。
第三部分则是Ethos系列NPU，其设计不追求极致算力，而是聚焦面积与功耗，为端侧设备提供关键算力补充。
而Ethos NPU（包括U55、U65、U85三代产品，可提供从64 GOPS到4 TOPS的算力）则让应用场景得以大幅扩展。对于简单的音频检测等任务，CPU足以胜任；但当扩展到视觉识别、实时交互乃至语言模型时，算力需求激增，此时Ethos NPU的加入便能覆盖几乎所有端侧AI场景。
“M核和A核是基座，Ethos NPU是非常强的补充，它们结合基本能解决所有端侧场景的AI需求。”朱晓鸣总结道。
下一代星辰CPU曝光
最后，朱晓鸣还特别介绍了安谋科技自研的“星辰”（STAR）CPU产品线。该系列已发布三款产品，从第二代产品STAR-MC2开始，就已全面支持Arm Helium技术，STAR-MC3同样支持。
安谋科技还透露正在研发当中的代号为“天璇”的下一代星辰系列CPU，依然是基于Armv8.1-M指令集架构，但是带来了高性能的标量和矢量两种计算能力。Dhrystone性能达到了2.5 DMIPS/MHz，说明每MHz主频可执行250万条整数指令。假设运行在1GHz，则单核整数性能约2500 DMIPS，在嵌入式领域属于较高水平。
此外，“天璇”还支持Dual Beats MVE，即每个周期可处理两个矢量单元，相比上一代单周期处理能力，矢量运算效率提升约一倍，对端侧AI和音频/视觉信号处理增益显著。同时，还支持FuSa ASIL-D车规功能安全等级。这意味着该CPU可用于自动驾驶、线控底盘等对安全苛求的系统，具备硬件级的故障检测与冗余机制。
星辰300平台发布
安谋科技CPU团队还推出了“星辰300”平台，将支持Helium技术的STAR-MC2（即Cortex-M52）CPU和Ethos-U55 NPU做了无缝对接，组成了高效的异构计算平台，可以全面支持主流小模型，从传统MCU拓展出AI算力，为嵌入式设备加上AI引擎。
现场展示的“星辰300”原型验证FPGA平台部署了6个端侧主流AI模型，演示案例生动展示了其在真实场景下的处理能力。
比如在实时人脸探测场景，如果只用一颗CPU，比如在门禁系统中跟踪单颗人脸能做到，但是加了Ethos NPU之后能同时跟踪五六个人脸，能力得到了大幅提升。
结语：
从星辰CPU到Helium矢量扩展，再到Ethos NPU，安谋科技正以“通用计算+专用加速”的组合拳，为端侧AI在功耗、成本与算力的多重约束下，铺就一条清晰的Arm生态路径。可以说，当端侧设备从“连接”走向“认知”，安谋科技正以“All in AI”的战略定力，为万物智联时代筑牢算力基座。
编辑：芯智讯-浪客剑
