AI (人工智能) 正在重塑我们的世界。一方面,新一代数据中心的建设如火如荼,从云端提供更强算力,加速AI技术的迭代;另一方面,AI也在不断向网络边缘端延伸,藉由网络“末梢”的边缘设备走到用户的身边,边缘AI正在加速崛起。
顾名思义, 边缘AI由边缘计算演化而来,无需依赖云端的资源,即可在靠近用户的地方部署AI应用,它既继承了边缘计算本地化处理、实时性、更安全的特点,又能够在边缘端实现包括推理乃至训练等AI功能,让边缘设备的智能化水平跃上一个新台阶。
进一步探究,我们会发现,想要实现边缘AI有两个必要条件:一是连接,二是算力。
01
连接,特别是无线连接,将大量的边缘设备与云端连为一个整体,一方面,可以让来自海量边缘设备的“小数据“汇聚成云端的“大数据”,建立更深入的洞察;另一方面也让更丰富的AI应用跨越数据边界,经由边缘设备在真实的物理世界落地。
02
边缘端的算力挑战也不容忽视,如何在资源有限且对功耗更为敏感的边缘设备中部署比较“吃算力”的AI功能,是开发者必须面对的一个课题。业界的解决方案不外乎两个路径:一是在硬件上加码,提升主处理器性能或添加专用的协处理器 (如NPU),二是从软件上入手,裁剪出更适合于在嵌入式设备上运行的“小”模型。
上述边缘AI的技术趋势正在波及到半导体行业的方方面面,也为无线SoC的发展带来了新机遇。
想当年,通过将无线通信模块、微控制器或处理器,以及存储器和I/O接口等资源集成在一颗单芯片中,无线SoC凭借这一创新的产品定位,令硬件产品能够更便捷地获得联网能力,并大大简化了系统设计,有力地推动了物联网的发展。
如今,边缘AI的发展无疑为无线SoC的“进化”指明了新方向——如果能够在原有平台基础上将AI功能集成进来,在提供连接性的同时也为实现“边缘智能“带来更大的便利,打造一颗能够“玩得转AI”的无线SoC,那就稳稳地获得一张边缘AI市场盛宴的“入场券”。
大目标已然清晰,但是想要顺利达到终点,则需要周密的计划和积极的实践,一场新的竞逐已经拉开序幕。
面对这一市场机遇,作为无线SoC领域的主力厂商, Nordic Semiconductor (以下简称Nordic) 早已开始谋篇布局,并且通过关键的“三步走”策略,推动无线SoC加速迈向边缘AI时代。
无线SoC平台升级
升级自身的无线SoC技术平台,是Nordic向边缘AI迈进的第一步。
物联网硬件工程师都知道,Nordic的nRF52系列是非常成功的无线SoC,累计出货量高达数十亿,不过面对边缘AI在连接性、算力、安全性等诸多方面更高的要求,必须有新一代的产品来接棒。于是,nRF54系列应运而生。
图1:nRF54L15低功耗蓝牙SoC(图源:Nordic Semiconductor)
以极具代表性的nRF54L15系列低功耗蓝牙SoC为例,其在各个方面都将无线SoC的性能推升到了一个新高度:
更高的算力:nRF54L15系列SoC内置128 MHz的Arm Cortex-M33处理器内核,配备1.5MB非易失性存储器和256KB RAM,与上一代的nRF52840相比处理能力提高一倍,处理效率也提高了三倍。这使其有能力处理更复杂的通信协议和应用程序,满足更高阶的边缘智能开发需求。
支持多协议:nRF54L15系列支持新版BLE 6.0标准,也支持新增的蓝牙信道探测 (Channel Sound),以及蓝牙Mesh等功能。与此同时,nRF54L系列也支持Zigbee、Thread、Matter、Amazon Sidewalk和专有2.4GHz协议,与Nordic的nRF70系列协同IC搭配,还可运行Wi-Fi协议栈,可以应对多样化的无线互连设计要求。
超低的功耗:与上一代无线SoC相比,nRF54L15系列将无线电与高效的MCU相结合,显著降低了典型BLE用例的功耗,在低功耗条件下可实现高达8dBm的发射功率和-96dBm的接收灵敏度。
先进的安全功能:在nRF54L15系列中,集成了安全启动、安全固件更新、安全存储、基于TrustZone的可信执行环境、具有侧信道泄漏保护功能的加密加速器和篡改检测器等安全特性,以满足不断提升的边缘设备安全需求。
此外,nRF54L15系列蓝牙SoC还集成了RISC-V协处理器和丰富的外设资源,提供Pin-to-Pin的封装变体,以及配套的高性价比、多功能开发套件,为应用开发带来极大的便利性和灵活性。
图2:nRF54L15开发套件(图源:Nordic Semiconductor)
围绕nRF54系列的所有这些性能提升和开发资源的完善,不仅是在引领新一代无线SoC的技术升级,也是在为应对边缘AI的开发挑战夯实基础。
整合创新TinyML方案
众所周知,在算力资源有限的边缘设备中部署AI,就像是“将大象装进冰箱”,极具挑战性。想要完成这个任务,要么是“加大冰箱容量”,即提升边缘主控器件的硬件性能——但这不可避免地会受到功耗、成本等因素的制约;要么就是“压缩大象的体积”,即开发出适合于在MCU等性能有限的嵌入式处理器上运行的小体量的及其学习模型(即所谓TinyML)。
通过推出nRF54系列,Nordic已经在提升硬件性能上迈出了关键的一步,接下来在TinyML上的布局,则是其要迈出的第二步。
通过收购边缘设备全自动TinyML解决方案供应商Neuton.AI,Nordic得以将Neuton.AI创新的Neuton神经网络框架与nRF54系列出色的性能相结合,使得在边缘设备上实现超高效机器学习应用成为可能。
具体来讲,相较于结构冗余的传统全连接网络,Neuton神经网络有极高的效率:它在生长过程中会自动剔除不重要的神经元与权重,并支持跨层连接,这种特性使得模型不再是死板的层级堆叠,而是一个高度精简、按需连接的稀疏拓扑结构。因此,通过Neuton神经网络训练后的机器学习模型仅有5KB甚至更小,比其他类似的模型小10倍,运行速度也更快,且无需手动调优或数据科学专业知识,简单易用,非常适合在MCU上快速部署,这无疑是边缘AI开发者的福音!
图3:精简的Neuton神经网络(图源:Nordic Semiconductor)
显而易见,创新的Neuton神经网络适用于包括nRF54系列在内的Nordic所有无线SoC产品组合,将其整合进Nordic的边缘AI生态系统,有助于开发者快速创建人工智能应用,同时保持低功耗的特性,并节省各种宝贵的设备和系统资源。藉此,Nordic又向边缘AI的愿景迈出了坚实的一步。
集成硬件NPU
在“推进无线SoC进化,迈入边缘AI时代”的道路上,Nordic并未就此止步。
有了Neuton神经网络框架的加持,可以让模型高效率地运行在Arm Cortex-M系列CPU上,处理运动传感器、光电传感器等时间序列数据。不过,这种“在CPU上跑精简模型”的方案覆盖的应用场景有限,想要进一步提升模型推理速度和能效,满足音频流、小型视频流处理等具有较高数据量的时间序列数据处理工作,则需要一种新的技术方案来补位——在芯片中集成专用的NPU (神经处理单元) 硬件加速器。
为此,Nordic扩展了nRF54系列的产品组合,推出了首款搭载NPU的nRF54LM20B系列SoC。
图4:nRF54LM20B超低功耗无线SoC(图源:Nordic Semiconductor)
nRF54LM20B集成了Axon NPU,针对TensorFlow Lite级别模型的处理速度比Arm Cortex CPU快15倍,且能耗大幅降低。根据Nordic提供的数据,与类似的边缘AI精品解决方案相比,nRF54LM20B性能高出7倍,能效则提升8倍,这使得高速率传感器数据、音频及事件驱动型边缘AI应用,也可在电池供电条件下稳定运行。
与此同时,nRF54LM20B还配备了2MB非易失性存储器和512KB RAM,以及扩展的外设集群、高速USB接口、多达66个GPIO引脚,以应对更高阶的应用开发所需。在无线连接方面,nRF54LM20B也是能力值拉满,支持BLE、Matter、Thread、Zigbee及2.4 GHz专有协议,数据速率高达4Mbps,配合nRF70系列协同IC,还可支持蓝牙信道探测、蓝牙Mesh及Wi-Fi功能,极大地拓展了边缘AI开发的想象空间。
值得一提的是,伴随着nRF54LM20B的推出,与其配套的开发套件nRF54LM20-DK也已同步上架,有了这款经济实惠的单板开发套件,开发者就能够快速上手体验该nRF54LM20B的所有功能,探索在电池供电的可穿戴、智能家居与音频、工业和医疗传感器以及追踪器等设备上,快速部署边缘AI应用。
图5:nRF54LM20-DK开发套件(图源:Nordic Semiconductor)
本文小结
边缘AI正在悄然改变嵌入式开发的生态和游戏规则。如何快速迭代,跟上行业和市场发展的大势,是摆在芯片厂商面前的必答题。
Nordic通过缜密的布局和积极而稳健的行动,逐渐集齐了在边缘AI所需的关键技术拼图,也为加速无线SoC在边缘AI时代的进化,夯实了基础。
如果你也想让边缘AI在下一个物联网应用中落地,敬请访问贸泽电子相关的技术专题——
该发布文章为独家原创文章,转载请注明来源。对于未经许可的复制和不符合要求的转载我们将保留依法追究法律责任的权利。
320
