在边缘侧 MCU可以担当AI处理器

AI处理已经从云端向边缘渗透，到2025年，将有75%的AI处理会在边缘侧完成，而不需要上云，这是半导体硬件技术发展所推动的。如今，AI的硬件处理已经不仅仅是FPGA、GPU或者专用加速处理器，MCU这类器件也正在成为AI处理的主力。考虑到MCU广泛的适用性，这将极大地促进AI边缘计算的进程，同时扩大嵌入式应用的内涵。

一些大厂很早就看到了这一趋势背后的商机，结合自身产品和技术积极布局。现已成为ADI一部分的Maxim早在2013年就开始研发卷积神经网络 (CNN) 加速器，并将之和自家MCU进行整合，在两年前推出了MAX78000。去年，该公司被ADI收购。最近这条产品线又推出了升级版的MAX78002。

一切有效的产品技术的创新，都源自应用需求。AI MCU的出现，原因在于端侧智能化，即边缘端越来越需要更多的基于数据处理的决策能力。这些端侧涵盖消费、工业、医疗和汽车等领域。但传统上，MCU的主要应用是逻辑控制，并逐渐扩展到传感器管理、数据采集、嵌入式安全认证、数据通讯、算法，以及电源管理等。ADI在总结其MCU性能时，给出的一组评价维度也反映出传统应用对MCU的要求，即低功耗、丰富的接口资源、对BLE的支持、全面的评估资源（外设驱动、评估套件和开发平台）、简易的开发，以及很高的安全性。

AI这一新的应用给MCU带来了变化。应用上看，ADI将其MCU分为3类，低功耗、安全和AI。小体积、低功耗和大存储的低功耗MCU适用于工业、物联网、医疗和可穿戴设备；具有抗攻击的加密能力和安全系统架构的安全MCU适用于移动支付终端和读卡器等；具有边缘AI处理能力的AI MCU则适用于电池供电的人工智能和物联网设备，比如说智能家居、人脸打卡、语音控制等等。

ADI中国技术支持中心高级工程师辛毅认为，传统上依赖软件技术的音视频检测和识别技术已经难以胜任现在的应用需求，AI技术已经成为标准手段。但无论是物联网还是消费类设备，在融合AI的过程中都要克服大量计算、高存储空间带来的功耗和成本的挑战。在诸如体征监测、语音识别和智能预警这类边缘AI应用中，系统通常不联网，并采用电池供电，这就需要处理器小而美。

这正是MCU一直努力的方向。而MAX78000的特性则证明了MCU在AI化上的努力是有效的。该器件采用了基于FPU的Arm Cortex-M4F处理器（100MHz）+32位RISC-V协处理器（60MHz）的双处理器内核，并内置了自研的CNN 引擎。该引擎有64个8位处理器，频率为50MHz，拥有432KB的权重存储内存，可支持1、2、4、8位权重（支持权重高达350万的网络），其权重内存基于SRAM（128KB），因此可以即时进行 AI 网络更新。该引擎可编程网络深度达64层，每层网络通道数达1024。引擎具有512KB的数据存储器，其架构高度灵活，支持包括MLP和循环神经网络在内的其他网络类型，允许在PyTorch和TensorFlow等传统工具集中训练网络，然后使用 ADI提供的工具进行转换以在MAX78000上执行。

据ADI MCU产品线资深业务经理李勇介绍，在具体工作中，Arm Cortex-M4F负责MCU的控制处理，而RISC-V协处理器则专门配合CNN 引擎进行AI推理中的数据搬运。ADI提供的资料显示，与MCU+DSP方案相比，这种方案使得复杂的AI推理功耗降低99%以上。此外，该AI MCU的成本只是FPGA或GPU方案的零头，而执行推理的速度比低功耗微控制器上实施的软件方案快100倍。

不久前，ADI推出了升级版的MAX78002，原有架构不变，主要是提高了CNN引擎的内存资源和网络支持能力，其频率大幅提高到200MHz，权重存储内存增加到2 MB，可支持1600 万个权重的网络，可编程网络深度达256层。另外，该引擎的数据内存提高到1.31MB 。除了CNN引擎，MAX78002也升级了更多的片内资源，包括内核主频提升至120MHz，2.5 MB闪存和384 KB SRAM，支持更多的高速和低功耗通信接口，包括I2S、MIPI CSI-2串行摄像头、并行摄像头(PCIF)和SD 3.0/SDIO 3.0/eMMC 4.51安全数字。

显然，有了CNN引擎，MCU可以实现更多的应用，诸如目标检测和分类（人脸、物体和宠物等）、灾难检测（烟感、烟雾监测；火灾监测；泥石流监测；震动监测）、医疗应用（心电图；心率、血液数据）、指令识别（语音指令控制智能家居），以及人声识别（可以识别指令的发出人）等。

如上图所示，在这些应用中，AI MCU可以用更小的处理器内核实现一些大内核MCU所不能达到的性能，并大大降低了功耗，这为降低MCU以及边缘AI应用的边际成本提供了新的途径。ADI的AI MCU已经在智能门锁、垃圾分类、车载冰箱、智能头盔和管道泄漏检查等系统中应用。现阶段，AI MCU的应用面向那些基于RTOS而非安卓或Linux的操作系统，以及并不需要很高算力的边界内。相信不久的将来，面对广阔的边缘智能化市场，AI MCU将会承担越来越关键的角色。