2473
我们对于AI的一个憧憬就是让它能够更普及和更便捷，就像已经深入生活中、又不可或缺的水和电一样，能够触手可及，享受到它们所带来的便利。
日前，意法半导体（ST）亚太区人工智能技术创新中心和智能手机技术创新中心高级经理Matteo MARAVITA在接受<与非网>等媒体时指出，“AI是一项真正能改变许多事情的变革性技术，对于建设未来的互联世界至关重要。而对于云连接的智能边缘设备来说，它们将具有更强的自主能力，将有更多的设备连接到云端，不仅是数据量在提高，本地的数据处理能力也在提高。”
ST亚太区人工智能技术创新中心和智能手机技术创新中心高级经理 Matteo MARAVITA
如何通过边缘AI构建未来世界？
边缘AI具备三个基本要素：安全性、连接性、自主性，Matteo MARAVITA深入分析了第三大要素，即如何提高设备的自主性，来实现我们对于AI的未来设想。
事实上，AI已经深入到了传感器、MCU等领域，通过虚拟化方案、模型训练、AI算法等方式，来提升边缘设备的智能性和自主性。
Matteo MARAVITA分享了三个案例：
在车规传感器领域，ST与HPE集团合作，利用边缘AI优化电动汽车的电机运维——双方联合开发的虚拟传感器方案，通过在Stellar系列车规微控制器上运行AI算法，获取电机运行数据，进而推断和估计电机内部无法测量到的温度。该方案为电动汽车的预测性维护提供了新的可能，以识别减震、机械和电气系统中可能存在的异常状态。
在PC领域，ST利用六轴IMU MEMS智能传感器，与惠普共同优化了笔记本电脑的电源监控。这些传感器能够收集机器在不同条件下的运行数据，以此为基础，双方工程师合作开发和训练了基于设备和用户动作的AI模型。这种模型能够识别特定的使用场景，例如在关闭笔记本电脑前避免过热和电池耗尽，从而延长笔记本电脑的待机时间并提高使用寿命。
在家电领域，通过在洗衣机电机控制的STM32微控制器上运行AI算法，ST能够估算待洗衣物的重量。根据计算，一个洗涤周期可以节省15%-40%的能源和水。同时，AI算法还能够检测滚筒在旋转时可能发生的碰撞情况，提高洗衣机的稳定性和耐用性。
基于这些示例，Matteo MARAVITA指出，其实边缘AI的需求非常大，许多公司非常期待在他们的产品中集成AI。
直面边缘AI开发挑战
不过，摆在边缘AI开发者面前的有许多现实问题：比如硬件性能、安全性、能效等，软件方面，他们需要在设备中实现机器学习模型的创建、训练、部署和维护。这些挑战，都需要像ST这样的老牌半导体企业提供底层支持。
据了解，ST的AI研发计划约始于十年前。从机器学习技术的基础研究开始，逐步发展到专门针对硬件资源受限的边缘设备进行AI优化。多年来，ST推出了STM32 AI库(Cube AI)、内置MLC机器学习核的MEMS传感器、集成更先进硬件加速器的MEMS传感器ISPU、STM32开发者云模型库、更新了Stellar系列车规MCU工具等等。生态建设方面，ST也取得了诸多进展：加入TinyML联盟、将AI布局和支持范围扩展到汽车、Linux等领域，发布NanoEdge AI生态系统……
正是通过多年的布局和推进，ST率先在嵌入式AI领域获得了重要进展：STM32成为部署嵌入式AI的事实硬件平台。根据ML Perf Tiny benchmark基准测试数据：STM32位列第一，有73%的提交项目基于STM32开发。
“我认为这与以下三大因素有关：首先是我们在通用微控制器、工业和消费微控制器市场的优势地位，STM32适用于工业和消费应用；其次是我们为边缘AI基准测试做出的贡献，例如ML Perf Tiny 基准测试;第三是我们的在线平台 STM32 AI开发者云，可帮助客户和开发人员用我们的在线工具和各种STM32板轻松测试他们的模型。我们相信，所有这些都鼓励了围绕STM32进行广泛的AI创新”，Matteo MARAVITA表示。
先进算力+工具，赋能边缘AI应用
正如上文所提到的“在洗衣机电机控制的STM32微控制器上运行AI算法”的应用实例，电机上运行的 STM32，其中AI模型可通过NanoEdge AI工具开发，最终通过优化工具和库来实现机器学习模型在硬件设备上的实现和移植，帮助客户解决性能、安全和能效方面的挑战，方便开发者把机器学习模型导入CPU算力和内存受限的硬件设备。
除此之外，AI加速器能够进一步赋能应用。集成自研NPU的STM32N6是ST比较有代表性的硬件方案，ST与合作伙伴Lacroix合作开发的机器学习模型进行多对象识别跟踪AI算法结果显示，每秒18帧的行人、自行车和汽车检测和跟踪算法全部在NPU上执行，基于Cortex内核的负荷不到5%。在安全性方面，产品不仅在内部集成了可信区域，还增加了安全功能外设，例如防篡改等功能，有了这些新功能，客户和开发者不仅可以保护存储器内的数据，还能保护机器学习模型的安全。
汽车行业对于边缘AI来说是一个更大的机会。例如ADAS自动驾驶，AI帮助汽车避免车外发生的意外事故和危险情况，在车内检测可能存在的危险情况、监视驾驶员驾车状态等。“我们很快就会看到边缘AI在车内的应用普及，并与多个传感器整合，可能出现不同类型的用例。一个可能的例子是监测电池的健康状态，或是识别系统中可能存在的异常，例如结合MEMS加速器来检测系统中的振动等”， Matteo MARAVITA表示。
而除了硬件方面，他认为软件带来的挑战更多。为此，需要提供强大的开发工具和支持，帮助开发人员更轻松地创建、训练和部署模型。比如ST Edge AI 开发套件，整合了边缘AI开发所需的全部工具和模块，从模型库创建用例开始，到收集数据集，再到把模型部署到特定的硬件上，涵盖了整个开发过程，适用于包括嵌入式硬件工程师，软件工程师以及机器学习工程师在内的所有开发者。
此外，ST致力于将AI工具集成到全面的边缘AI开发套件中，并兼容外部的AI开发生态系统。比如支持广泛使用的深度学习框架TensorFlow Lite、Keras、PyTorch 等，并实现与英伟达工具包的兼容性，以及连接到亚马逊云科技(AWS)和微软 Azure等云服务的可能性，同时还兼容MATLAB等仿真工具。
通过这些日趋强大的AI工具和生态上的推进，ST希望加快边缘AI的推广应用。Matteo MARAVITA强调，ST边缘AI解决方案的核心是ST Edge AI，它可以帮助用户根据自己的知识和资源找到最佳的方法和工具。目前，ST Edge AI和Nano AI Studio均免费提供给STM32的客户，同时根据特殊许可协议，其他ARM Cortex-M的微控制器也可以免费使用。
边缘AI设备将百花齐放
“目前边缘AI并没有一个统一通用的开发方法，因此在开发过程中，为开发者提供指引和信息是非常重要的”， Matteo MARAVITA表示，“我们的STEdgeAI 套件就考虑到了这个因素，这套工具可以帮助用户根据自己的知识和资源找到最佳的方法和工具。我们还将考虑融合和统一各种工具的用户体验，以简化人工智能库的设计流程。”
而随着边缘AI的日益普及，许多应用需要长期供电以保证其持续在线状态。针对这些设备开发商，Matteo MARAVITA提出了以下建议，以确保设备的高效、低功耗和智能化运行。
首先，他建议将部分AI算法的处理任务从云端迁移到边缘设备。这是ST在边缘AI解决方案方面所专注的核心思路。通过将处理任务本地化，不仅可以节省系统功耗，提高响应速度和安全性，还能有效降低解决方案的总体成本。
其次，选择集成AI加速器和配套软件工具的产品是关键。例如集成了NPU的STM32系列产品，以及在MEMS传感器内部增加的AI加速器（ISPU）。如果AI算法能从应用处理器迁移到MCU，将会显著节省电能。再进一步，如果模型能够从微控制器迁移到MEMS传感器（适用于较小模型的情况），则可以实现总功耗从毫安级降低至微安级。这不仅能确保AI算法在后台持续在线，保证整体系统的有效性，还能实现按需唤醒整个系统，从而进一步实现节能目标。
通过这些策略，设备开发商可以确保边缘AI设备的高效、低功耗和智能化运行，从而满足长期供电和始终在线的需求。
“目前，ST在边缘AI的创新有三大看点：首先是集成AI硬件加速器的硬件产品；第二是配套的软件工具，比如ST Edge AI Suite、AI专用编译器等;第三是为客户提供参考设计和概念验证原型，帮助他们利用人工智能进行产品创新”， Matteo MARAVITA总结道。
他强调，AI仍处于大规模发展初期，预计智能设备的数量即将达到数十亿，加速各行各业的数字化进程。随着研发的进一步推进，越来越多边缘AI加持的设备会进入市场，呈现百花齐放的局面。
下载ECAD模型
