在近日落下帷幕的Wave Summit+ 2021深度学习开发者峰会期间,英特尔携手百度飞桨展示了英特尔OpenVINO工具套件与百度飞桨PaddlePaddle深度学习框架的深度融合,以及为开发者社区带来的一系列技术优势与生态优势,还进一步强调了两家公司共促开源生态建设,助力复合型AI人才培养的承诺。峰会期间,由英特尔与百度飞桨共同举办的“飞桨黑客马拉松”大赛也圆满落幕,呈现了由企业携手广大AI开发者在开放、开源的舞台上,共同打造优质开源技术,构建开放协作氛围的繁荣局面。

 

英特尔携手百度飞桨深化开源合作

 

自2018年正式推出OpenVINO工具套件以来,英特尔专注于为开发者提供交流学习的平台以及实践机会,来帮助开发者化解开发难题、提升开发体验。与此同时,英特尔还面向开发者打造了多种高性能、易使用、广部署的软硬件创新产品及应用,推出了诸多支持学习认证和专业知识培训的资源。如今,OpenVINO已经不仅仅只限于计算机视觉领域,更将触角伸到了自然语言处理NLP领域的很多模型,进行支持、优化以及推理引擎的加速。

 

今年以来,英特尔与百度飞桨展开了一系列开发者社区活动,为开发者提供全面的技术培训与动手实践机会,帮助开发者基于双方的工具平台快速实现AI创意。通过PaddlePaddle与OpenVINO工具套件,开发者可实现AI模型的快速构建、优化与部署。在一系列项目中,双方不仅为开发者提供海量的产业级开源模型库,还已验证并支持多个飞桨PaddlePaddle模型及算子,覆盖检测、分类、语义分割以及光学字符识别(OCR),可直接作为OpenVINO推理引擎的输入。得益于OpenVINO工具套件提供的“一次编写,随处部署”特性,开发者还能够实现即训即用,输出结果受CPU硬件广泛支持。

 

据介绍,OpenVINO和PaddlePaddle的合作过程中,力求给开发者简洁方便的体验,通过搭建、优化、部署三个步骤,就可以达到使用OpenVINO对PaddlePaddle的模型进行读取,加速推理,而且很方便部署在多个硬件环境中,对最后的深度模型学习进行落地和使用。

 

在同期落下帷幕的“飞桨黑客马拉松”大赛中,英特尔OpenVINO作为大赛关键开源项目之一,也通过8道任务吸引到众多开发者共同参与,贡献代码。今年,近200支团队认领了OpenVINO– 飞桨PaddlePaddle任务,数十支团队完成任务并递交代码,经过层层选拔,有6个作品符合验收标准。这6个优秀作品的代码将会进一步完善, 并被合入OpenVINO开源版本的代码中,共同打造优质的开源技术,构建开放的协作氛围。

 

AI软件走向开源,如何打造差异化优势?

 

软件越来越成为AI应用的框槛,业界一些AI软件平台都走向开源开放。英特尔如何看待当前AI开放平台的发展潮流?又将如何打造差异化竞争优势?

 

英特尔高级首席工程师、物联网视频事业部全球首席技术官、物联网事业部中国区首席技术官张宇博士谈到,国内外的AI开源社区如今都非常活跃,而开源开放一直是英特尔秉承的方针,也和合作伙伴付出很多努力,投入了OpenVINO中文开源社区的建设,并组织了很多开源社区相关的活动,例如“领航者”联盟活动、开发者认证计划等。英特尔希望通过这样一些活动,推动国内国外AI开发者更好、更方便地去了解英特尔的硬件平台以及软件工具。

 

他强调,在开源方面,人工智能可以作为一项技术、一个负载来看待。而从AIoT的角度,视角要更加广阔,不仅要关注人工智能的开源开放,更要关注AIoT的开源开放。AIoT的开源开放既包括关键的技术点,也有相应的基础设施、物联网基础架构的开源开放,以及边缘的内容编排、及时更新等解决方案的开源开放。比如在基础设施方面,Linux基金会下有一个EdgeX Foundry的项目,目标就是构建一个轻量级的、能够在边缘运行的基础架构,开发者能在这个基础架构之上快速实现设备的注册、数据的导入、分析,以及分析结果的输出等一整套完整的基础设施。英特尔在其中是重要的贡献者,跟很多合作伙伴进行合作,来共同推动技术和平台方案在国内的落地。

 

至于差异化优势方面,张宇博士认为英特尔一个很重要的优势就是把自己定义成一个数据公司,而这个“数据”背后的含义是很广泛的,因为数据在处理过程中会涉及到数据的采集、传输、存储、分析等一系列操作。英特尔的产品涵盖了从计算到存储到通讯的各个方面,是业界为数不多的能够从端到端、从数据的服务平台角度去看待数据,从而能够真正从计算、通讯和存储去提供一系列解决方案。

 

他强调,AI的实现离不开计算也离不开数据,而数据的获取离不开数据的传输和存储。回看AI的发展,目前这一轮AI的发展起点是2012年,也是这一轮人工智能高潮的起点。而上一轮人工智能的高潮是上世纪90年代,如果把上世纪90年代的技术和这一轮当下的技术进行对比可以发现,计算、通讯、存储这三者的能力提升都有超过百万倍以上的提升。

 

也正是由于这些底层基础架构方面、数据能力方面的提升,真正推动了人工智能的发展,而英特尔在这其中扮演了一个很重要的角色。今年下半年刚刚公布的全球超级计算机500强的榜单中,80%以上使用的是英特尔的产品。而通讯和存储方面,英特尔在5G、Wi-Fi 6都是深度参与者。因此他认为,英特尔的差异化就在于数据产品能够涵盖所有数据从采集、计算、存储、传输的完整流程,帮助用户搭建端到端的带有人工智能能力的训练和推理的平台,使得人工智能的应用能够更快落地。此外,要发挥这些芯片的能力离不开软件,英特尔还提供了包括OpenVINO在内的多种软件,从而帮助开发者快速获取硬件能力,从而在解决方案中发挥出来。


如何降低开发者应用门槛?

 

英特尔物联网事业部中国区边缘智能开发工具产品营销总监王珅表示,PaddlePaddle是国内非常受欢迎的AI的框架,OpenVINO作为一款开源软件工具,需要和更多的合作伙伴、开发者进行生态共建,才能够把开源软件、开源技术更加发扬光大,这是双方进行深度合作的出发点。围绕OpenVINO和PaddlePaddle,百度和英特尔开展了一系列开发者生态构建和生态活动,希望更多开发者进行合作和共建,同时有更多的AI人才助力相关的工作。

 

至于OpenVINO可以为开发者带来的帮助,她认为主要体现在:第一,开发者在编程、进行应用开发的时候,往往是基于某些人工智能框架的,国内最典型的就是PaddlePaddle,国外像TensorFlow、Caffe、PyTorch等人工智能框架。OpenVINO对这些框架做了归一化,开发人员可以在不同的框架上编写人工智能网络模型,利用OpenVINO和Open Model Zoo等能力,可以把这些框架上所编写的网络模型在保证精度的情况下进行优化。

 

第二,对于硬件的适配能力。不同的应用场景有不同的硬件平台,如果让开发者做硬件平台选择的话,有时候是一个很大的挑战。而通过OpenVINO,可以利用不同的硬件插件,也就是Inference Engine,可以把开发者所开发的人工智能网络模型部署在不同的硬件平台之上。这也意味着,在不改变设计的前提下,利用OpenVINO,可以把设计部署在基于CPU的平台之上,或是部署在基于VPU或GPU的平台之上。

 

她强调,OpenVINO给开发者带来的好处是:只需要一次软件开发,就可以实现模型优化和硬件适配,极大降低软件的开发门槛和开发投入。硬件方面,英特尔有XPU战略,可以给用户硬件的多样性选择;软件方面,通过OpenVINO进行框架以及硬件平台的归一化、适配性,通过硬件和软件的配合来帮助开发者更快速地将设计转变成可以部署在一个实际硬件平台上的解决方案。