人工智慧(AI)推论对于效能有重大影响,根据最新的MLPerf基淮测试结果,NVIDIA在使用x86或Arm架构的CPU进行人工智慧(AI)推论方面取得最佳成绩,此为NVIDIA连续第三度在MLCommons的推论测试中,创下效能及能源效率的纪录。

 

NVIDIA平台的推论效能表现

 

搭载NVIDIA AI平台的电脑在最新一轮的七项推论效能测试中均拔得头筹,这些系统由NVIDIA及九个商业生态系合作伙伴所推出,包含阿里巴巴、戴尔科技(Dell Technologies)、富士通(Fujitsu)、技嘉(GIGABYTE)、慧与科技(Hewlett Packard Enterprise)、浪潮(Inspur)、联想(Lenovo)、Nettrix及美超微(Supermicro)。

 

推论是电脑运行AI软体来辨识物体或进行预测时发生的过程。这是一个使用深度学习模型来筛选资料的过程,以找出人类无法取得的结果。MLPerf的推论基淮是基于目前AI作业负载和情境,涵盖电脑视觉、医疗影像、自然语言处理、推荐系统与强化学习等。因此,不论用户部署哪些AI应用程式,皆能透过NVIDIA的技术创下自己的纪录。

 

随著AI的应用从资料中心扩大到边缘和其它地方,AI模型及资料集的规模持续扩大。这正是为什么用户在进行部署时,需要同时兼具可靠性与灵活性的效能的原因。MLPerf让用户有信心地做出购买决策。在包括阿里巴巴、Arm、百度、Google、英特尔(Intel)及NVIDIA等数十家产业的支持下,提出透明且客观的测试结果。

 

Arm架构的推论效能表现


全球各地的资料中心採用Arm架构系统的比例越来越高,部分原因在于其能源效率及效能方面的提升,以及不断扩大的软体生态系。最新的基淮测试结果证明,作为一个GPU加速平台,採用Ampere Altra CPU的Arm架构伺服器在AI推论作业方面,提供与类似配置之x86架构伺服器几乎相同的效能表现。事实上,在其中一项测试中,Arm架构伺服器的表现甚至优于类似的x86架构系统。