芯耀
189
当前，边缘AI已不再停留于理论层面的概念，而是深度渗透至制造业、自动驾驶、医疗以及零售等众多行业。凭借实时数据处理与本地化决策能力，它正有力推动各行业开启智能化变革的进程。其发展的核心逻辑在于，从过往对云端的过度依赖，转向在数据产生的源头进行实时、高效且安全的智能处理。
数据说话。SHD Group在《边缘AI市场分析报告》中明确指出，至2030年，基于边缘AI的系统级芯片（SoC）市场营收规模预计将达到800亿至1000亿美元。这一庞大的市场规模，无疑预示着边缘AI硬件市场蕴含着极为广阔的发展空间。
VDC Research的报告则显示，到2028年，AI将在物联网（IoT）各类项目中占据应用占比最高的主导地位。这意味着边缘AI将在物联网领域实现全面渗透，成为连接万物智能的关键纽带，进一步凸显其在未来科技格局中的重要地位。
Wevolver/Edge AI Foundation发布的《边缘AI技术报告》同样表明，到2028年，边缘AI基础设施投资将实现60%以上的增长。大量资金的涌入，将为边缘AI技术的研发与应用提供强劲动力，推动其迈向新的发展高度。
可以说，边缘AI时代已然来临。
边缘AI的关键特性
Arm物联网事业部硬件产品管理高级总监Lionel Belnet指出，在边缘AI向通用AI迈进的过程中，存在若干关键特性，其中延迟和隐私安全尤为关键。
以边缘AI的应用场景为例，人机界面（HMI）在其中扮演着不可或缺的角色。在机器人、智能家居等众多涉及人与机器或设备交互的场景和市场里，人机界面发挥着至关重要的作用。对于人机界面而言，低延迟和高响应速度是基本要求。用户普遍期望能够获得流畅、即时的交互体验，任何延迟都可能影响使用感受。而数据隐私保护更是重中之重，无论是业务数据还是文本数据，都需要得到严格的安全保障。这两点也成为当前边缘AI的主要应用方向。
从人机交互的用例来看，搭载端侧智能的设备能够敏锐感知场景，准确识别当前状态、参与者身份以及用户交互意图。通过本地化智能处理，数据无需上传至云端，即可在本地完成计算。这一过程不仅增强了数据安全性，还使系统响应更具可预测性，为用户带来更加稳定、高效的交互体验。
能效则是边缘AI的另一大关键优势。边缘侧设备具备本地计算能力，无需依赖网络或云端，通过专用硬件处理特定任务。这种模式不仅有效降低了运营成本，还极大地增强了系统韧性。即便设备处于离线状态，也能持续稳定运行，为用户提供安全可靠的服务。成本降低和系统韧性增强，正是边缘AI迈向通用人工智能过程中的重要特征。
Lionel Belnet强调，从感知与识别的角度来看，边缘AI在极低功耗下运行的能力对于人机界面至关重要。当复杂的人工智能算法仅凭几毫瓦的功率就能顺利运行时，边缘设备的小型化、低功耗化发展便成为现实，为设备的广泛应用和便携性提供了可能。
始终在线（Always - on）的感知能力是提升边缘设备用户交互体验的关键途径。Lionel Belnet表示，该能力具有实时响应、通过本地数据存储提升隐私保护以及在设备端直接运行复杂AI模型等明显优势。用户无需担忧数据传输延迟或隐私泄露问题，能够随时随地与设备进行自然、流畅的交互。
此外，无缝的用户交互体验和本地智能能力也是边缘AI的优势特性。它能够持续保持场景感知能力，根据用户所处环境自动调整交互方式。即使在离线状态下，系统也能凭借本地智能做出安全稳定的响应，确保用户使用的连贯性和稳定性。
在无缝的用户交互体验方面，先进的模型正快速落地边缘侧，为设备带来更智能的功能。同时，硬件与模型架构的能效正持续提升。以工业自动化为例，当网络连接中断时，边缘AI设备依然可以安全持续运行，确保生产流程不受影响，为企业降低损失、提高生产效率。
从MCU到边缘AI系统的演进
凭借深厚的技术实力，Arm在边缘AI领域持续创新，为行业发展奠定了坚实基础。不久前，Arm展示了其运行在基于Arm架构的MCU（Cortex - M85与Ethos - U85组合）上的复杂语音模型。该模型实现了高速低延迟的语音识别，同时具备超低功耗表现。在实际应用中，它能够快速准确地识别语音指令，几乎无需等待即可给出响应，为用户带来流畅的交互体验。而且，其超低的功耗使得设备在长时间使用过程中无需频繁充电，大大提升了使用的便利性。
从传统MCU到边缘AI系统，性能的提升带来了更为广阔的发展空间。Lionel Belnet表示，Arm正积极将物联网的性能从传统MCU扩展到更复杂的边缘AI系统。其中，Arm Cortex - A320作为首款超高能效Armv9 CPU，成为这一进程中的关键力量。它不仅具备强劲的性能，还拥有熟悉的开发环境，让开发者能够轻松上手。更重要的是，它具备运行更大规模语言模型的能力，为边缘设备实现更智能的交互提供了可能。
与前代产品相比，Cortex - A320充分发挥了Armv9架构的优势。例如，其针对机器学习（ML）性能的第二代可伸缩矢量扩展（SVE2）技术，使得ML性能相较于前代产品Arm Cortex - A35提升了10倍，能效提升了50%，性能提升了30%。这一重大技术飞跃，标志着边缘AI处理能力迈向了一个新的台阶，能够更高效地处理复杂的机器学习任务。
值得注意的是，为了推动边缘AI技术的广泛应用，Arm推出了新的授权模式——将Armv9边缘AI计算平台纳入了Arm技术授权订阅模式中的Arm Flexible Access方案。该平台集成了Cortex - A320 CPU和Ethos - U85 NPU，为其合作伙伴提供了强大的技术支持。
通过这一方案，Arm的合作伙伴能够在前期以低成本或免费（适用于符合条件的初创企业）的方式，获取Arm的技术、工具及资源支持。目前，中国已有70余家合作伙伴通过Arm Flexible Access方案进行技术创新，其中包括帝奥微电子、摩芯半导体、杭州芯势力等知名企业。这一模式不仅降低了合作伙伴的技术门槛，还加速了边缘AI技术的创新与应用。
Armv9边缘AI计算平台的推出，为相关应用的要求带来了关键支撑。例如，Meta线性模型等复杂模型已实现最高10倍的能效提升，并可在边缘端高效运行。这一进展得益于Armv9架构的强大能力，它在提升安全性与机器学习能力的同时，实现了本地化的感知、决策与执行。这意味着边缘设备能够在本地完成更多的任务，减少了对网络连接的依赖，提高了系统的稳定性和可靠性。
结语
Arm在边缘AI领域的创新实践，充分展示出边缘计算的巨大潜力。Lionel Belnet表示，人工智能的未来在边缘，Arm正在定义边缘AI的方向。AI的终点并非边缘，而是始于边缘，并从边缘侧推动着下一波智能计算的浪潮。在Arm等科技企业的引领下，边缘AI必将开启智能计算的新时代，引领产业走向更加智能、高效的未来，为全球科技发展注入新的活力与动力。
