TinyML微型机器学习技术正在加速物联网行业的智能革新,但通信功耗限制和模型更新困难仍是阻碍其在真实场景落地的“最后一公里“难题。近日,纵行科技宣布将和QuickLogic公司联合推出ZETA-TinyML开发套件,以满足远距离、低功耗和成本敏感的嵌入式人工智能产品的原型验证及应用需求,打造一站式连接-训练-部署-应用的泛在智联新生态。该开发套件面向企业、高校、个人开发者,即日起接受预定,并从9月份开始发货。此开发套件为那些运营商信号难以覆盖、远距离和需要实时处理的物联网应用带来了无限可能,例如偏远山区的环境监测、畜牧群动态跟踪、户外广告牌的松动检测;工厂中设备的预测性维护、皮带机的启停和状态识别、管道气体的异常泄露监测;智能可穿戴设备、手势和语音识别等多种复杂场景。

 

1.实现TinyML应用的最后一公里:通讯和升级

在嵌入式设备部署和运行机器学习模型向来困难重重,但越来越多的软硬件平台正让这一切变得容易起来。QuickLogic是其中领先的佼佼者,其超低功耗可编程SOC半导体技术和旗下SensiML子公司一站式AutoML平台,为TinyML的训练部署和验证提供了一个完整的解决方案。


QuickFeather低功耗开源代码硬件开发工具包(HDK)是一个小型系统,这是第一款Arm CortexR-M4F MCU并完全支持Zephyr RTOS和FreeRTOS,是下一代低功耗、支持机器学习(ML)的物联网设备的理想选择。与其他基于专有硬件和软件工具的开发包不同,QuickFeather基于100%开源硬件并围绕100%开源软件(包括Symbiflow FPGA工具)构建。

 

QuickFeather开发板


SensiML提供了一套完整的TinyML数据捕获、算法生成和验证的工具包解决方案,适用于自动化创建并优化AI物联网传感器识别代码过程的每个步骤。整个工作流使用不断增长的高级ML和AI算法库来生成代码,这些代码可以在开发阶段或部署后从新数据中学习。

 

SensiML工具包流程图


借助QuickFeather开发板和SensiML训练平台,现在可以将一个训练并验证好的机器学习推理模型直接部署到MCU中,但这些对于一个完整的TinyML应用来说还不够。物联网的应用大部分由电池驱动,虽然模型已经极度压缩节省了内存和计算耗能,但模型的推理结果仍需要上传,还需要考虑业务下行的传输要求。一般来说,通信耗能和计算耗能占比至少为3:1,低功耗传输仍是TinyML产品开发者必须直面的最大挑战之一。


此外,TinyML模型部署后并非一劳永逸,还存在一些不确定性的升级需求,这些不确定性包括模型参数调整、重新训练需求、业务逻辑变化等。有线连接更新仅适用于调试阶段,对于安装到客户现场的应用几乎不具备可行性。传统远程升级方式(OTA)占用资源且耗电,对于大部分物联网场景并不友好,升级困难无疑在某种程度上限制了端侧智能产品的发展。


所以,当一个算法工程师正在为串口打印出的98%模型精度击掌欢呼时,产品设计师却只是耸耸肩,“很好,还剩最后一公里。“

 

2.ZETA+TinyML满足“低功耗+通信+远程升级”需求

ZETA作为国内唯一全栈国产化的LPWAN物联网通信技术,解决物联网产业存在的终端功耗高、海量连接、广域覆盖能力不足和成本高等困难,非常适合大规模部署。作为全球首个支持分布式组网的LPWAN通讯标准,ZETA利用搭载Advanced M-FSK调试解调的超窄带技术,提出“LPWAN2.0泛在物联”愿景,旨在以更高性能、更强穿透力、更低成本加速物联网在工业、物流等成本敏感性行业的应用。

 

ZETA LPWAN 2.0泛在物联


ZETA并不局限于传统LPWAN行业的低速率场景,针对诸如图像、振动和声音等中、高速率应用,ZETA与TinyML技术 深度融合,各种“端智能“传感器内置着机器学习AI算法,以低成本、低功耗和穿透力更强的ZETA通信技术为载体,使智能泛在物联无处不在。


与此同时,针对TinyML远程升级难题,ZETA自研差分OTA算法,可在server端对新旧软件包进行对比分析和高效压缩,在保留远距离覆盖性能基础上完成低功耗升级。以100kB、10%差异的TinyML模型来说,最终的差分包大小将在11kB以下,而仅要求10kB的额外内存空间,几乎适用于所有物联芯片使用。


3.ZETA+ QuickLogic:加速端侧AI产品应用进程

此次与QuickLogic的合作,将在QuickFeather开发板基础上,上叠ZETA高性能通信模组,并搭配ZETA低成本网关使用。软件层面,ZETA通信部分SDK将直接集成到SensiML软件平台上,可直接生成能部署运行的Binary文件,用户只需配置推理结果的对应关系。同时,ZETA为开发者提供云Server服务,进行终端管理、ZETA网络配置、协议解析和差分OTA升级功能,当有新的TinyML模型时,可一键完成远程升级。此开发套件将帮助那些端侧AI产品的开发者们进一步缩短原型验证周期,提前发现并评估网络环境带来的影响,从而加速整个产品的落地进程。

 

ZETA-TinyML开发套件包


主要技术指标
 


4.ZETA-TinyML开发套件:丰富泛在物联应用场景

此开发套件为那些运营商信号难以覆盖、远距离和需要实时处理的物联网应用带来了无限可能,无论是偏远山区的环境监测、畜牧群动态跟踪、户外广告牌的松动检测,还是工厂中设备的预测性维护、皮带机的启停和状态识别、管道气体的异常泄露监测,抑或是智能可穿戴设备、手势和语音识别,都能通过ZETA-TinyML开发套件来快速完成原型验证和匹配于真实场景的测试。


声音和语音分析需求是推动着TinyML应用快速发展的新劲动力,关键词唤醒应用正是到目前为止TinyML的最佳代表作。与此同时,自然界、工厂、城市、家居场景中无时无刻都存在着各种声音:动物的叫声、机器的轰鸣声、汽车行驶的噪声、婴儿的啼哭声…尽管这些声音没有确切的理论模型,但是通过ZETA-TinyML开发套件,仍能快速完成模型创建和验证,并瞄准于始终在线的低功耗检测。比如智能咳嗽检测以在公共场所排查新冠疫情风险、野外珍稀动物的叫声识别以帮助统计其活动范围和数量、变电站内声音异响检测以识别变压器异常放电故障、蓝牙耳机在使用中识别到地铁运行声音以自动开启主动降噪功能…这些音频分析场景都能在ZETA-TinyML套件上完成开发和样机测试。

 

 

使用声音识别皮带机脱落故障


QuickLogic中国区总经理张贵表示,“我们非常高兴能与纵行科技在嵌入式人工智能领域展开合作,ZETA超低功耗特性和LPWAN2.0的泛在物联构想与QuickLogic的战略方向不谋而合。不论你是高校、企业还是个人开发者,都能使用ZETA-TinyML套件来激发你完成一些非常有创意、更具实用价值的智能物联网应用,甚至是一款‘杀手级’产品。”