加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
    • AI基础设施需要一场变革
    • 解锁大量应用的关键
    • 如何通过NVIDIA测试认证?
    • 写在最后
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

缩短AI落地最后一公里,英伟达掀起一场革命

2021/01/27
308
阅读需 8 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

AI很好,但如何才能深入应用于不同行业?AI落地,当前仍然面临着最后一公里的难题。业界普遍认为:数据结合难、业务价值不佳、数据科学人才稀缺、算力成本负担重,是企业落地AI最常见的四大阻力。缩短最后一公里、实现更大量的合作,核心其实是降低门槛、提高效率。

打个比方,假设企业用AI的最终目标是做一个大蛋糕,他需要从种小麦开始吗?当然不是。让企业找到现成的源头,获取面粉、黄油、鸡蛋、模具这些现成材料,才是更省事省力的选择。

英伟达正在携手生态伙伴提供这些“现成的材料”。英伟达刚刚发起的全球首个NVIDIA认证系统,意在通过坚实的技术基础和广泛的生态合作,进一步推进AI在各行各业的泛化能力。

AI基础设施需要一场变革

根据Gartner数据,目前37%的企业机构在生产中使用了AI,预计到2024年这一比例将翻倍至75%。AI是这个时代最强大的技术,但是,它需要新一代经过调整和测试的计算机来推动其发展,也就是说,来自于基础设施的变革迫在眉睫。

英伟达NGC产品管理总监Adel El-Hallak告诉与非网,AI基础设施的变革主要来自于三大颠覆力:爆发的数据量、更大更复杂的AI模型、以及业界对于更好的产品和服务的追求。

 一方面,企业试图从不断增加的数据中,总结出隐藏的战略洞察。例如,沃尔玛每小时要处理超过2.5PB的数据,阿里巴巴正在利用AI洞察数据、优化搜索排名和产品推荐。另一方面,短短5年内,筛选这些数据的AI模型规模增长了近3万倍,使用这些数据的模型和工作负载的多样性也在不断扩大。

日益增加的数据量、不断扩大的AI数据筛选模型,导致数据中心和网络边缘的网络流量呈指数级增长。企业如何才能获得更好的产品和服务?一个安全、可靠、高速并且能够有效扩展的基础设施是关键。

解锁大量应用的关键

Adel El-Hallak以计算机视觉围绕图像分类、目标检测等应用的兴起谈到,AI模型解锁了各种各样的不同用例,提供了更好的产品和服务,但模型也变得越来越复杂和庞大。不过,这是一个良性循环,当我们在使用这些产品和服务的同时,也正在生成数据,利用这些数据对模型进行再训练,能够进一步改进现有产品和服务。

不论是从端侧到数据中心,还是从智能网络接入的海量应用,AI基础设施的四大支柱始终是:功能、性能、可扩展性、安全性。基本功能是最根本的要素;性能特征取决于具体用例,是系统的重要指标;可扩展性决定了系统应对不同场景的伸缩能力;安全的数据是优势,必须确保从数据、平台到应用层的所有安全。
 

为了让其AI技术广泛落地使用,服务器OEM成为英伟达一个很大的突破口。或者说,服务器OEM生态系统的参与让英伟达更加兴奋。

从早期集中在训练场景,发展到在推理场景的大规模应用阶段,AI最终将成为一种基础能力。在这个过程中,服务器始终是重要环节。一方面,AI 算法需要大量的数据和算力来完成任务,依靠云服务来执行计算;另一方面,在提供智能云体验上,由 AI 驱动的解决方案能帮助企业在 AI 时代快速占领制高点。

据Adel El-Hallak介绍,NVIDIA认证系统提供能够企业部署AI所需的性能、可编程性和安全吞吐量。这些系统既结合了基于NVIDIA Ampere架构的GPU算力,还有安全、高速的NVIDIA Mellanox网络。此外,还有包括英伟达CUDA和NGC Catalog的整个软件堆栈的支持。

NGC被认为是这一认证系统背后真正的宝藏。Adel El-Hallak解释,当一个企业购买了NVIDIA认证系统后,NGC目录能够为他们解锁各种各样的应用程序

NGC目录是适用于深度学习、机器学习和高性能计算的GPU优化型软件中心,包括针对医疗健康的Clara、针对机器人的Isaac等,这些软件套件可以帮助企业快速进入某个垂直细分市场。此外,它还包含帮助企业在推荐系统Merlin和智能视频分析Metropolis等新兴用例中起步的框架。通过NVIDIA认证系统,企业能够使用这些强大的算力硬件和适用范围广泛的软件。

如何通过NVIDIA测试认证?

具体而言,NVIDIA认证系统必须通过四方面测试:深度学习训练和推理、机器学习算法、智能视频分析、网络和存储卸载。

为了通过认证,服务器系统必须接受广泛的工作负载测试,涵盖从需要多个计算节点的工作到只需要使用单个GPU部分性能的任务等。这些测试也都是基于现实世界中的用例,使用的是NGC目录中常用的AI框架和容器。

英伟达这项开创先河的认证计划宣布的同时,全球首批加速服务器通过也通过了这一认证测试:戴尔科技、技嘉、慧与、浪潮和超微的认证服务器均于1月27日开始供货。首批使用NVIDIA A100 Tensor Core GPU的系统包括:

戴尔EMC PowerEdge R7525和R740机架服务器

技嘉R281-G30、R282-Z96、G242-Z11、G482-Z54、G492-Z51系统

慧与 Apollo 6500 Gen10系统和慧与 ProLiant DL380 Gen10服务器

浪潮 NF5488A5

超微A+服务器AS-4124GS-TNR和AS-2124GQ-NART

这些产品都带有NVIDIA认证系统标识,可以处理机器学习、数据分析等领域最棘手的任务。
 

写在最后

在AI深度化、广度化的应用过程中,不止一家企业说“落地难”,一是规模化普及时数据科学人才的短缺,二是多维行业数据、多维融合的困难。更何况,现在还有绝大部分场景需求还未释放出来,人才短缺是主要根源。

英伟达推出认证系统,正是希望举生态之力,推动AI的广泛落地,而背后的深层动力,则是希望在普遍落地的产业端,继续在云端市场的辉煌。对于迫切需要平台支持、让AI应用更便捷的企业来说,也是很大的推动力。
 

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
1217041-1 1 TE Connectivity TAB, POKE IN PCB 020 TPCUBR

ECAD模型

下载ECAD模型
$0.11 查看
PMR209ME6470M047R30 1 KEMET Corporation RC Network, Isolated, 47ohm, 630V, 0.47uF, Through Hole Mount, 2 Pins, RADIAL LEADED, ROHS COMPLIANT
$5.88 查看
2N7002K-7 1 Diodes Incorporated Small Signal Field-Effect Transistor, 0.3A I(D), 60V, 1-Element, N-Channel, Silicon, Metal-oxide Semiconductor FET, GREEN, PLASTIC PACKAGE-3

ECAD模型

下载ECAD模型
$0.22 查看
英伟达

英伟达

为这个时代的达芬奇和爱因斯坦们提供超强计算性能。我们开创性地开发出一种超强计算形式,深受全世界对计算机有超高要求的用户的青睐,包括科学家、设计师、艺术家和游戏玩家。对于他们而言,我们的创造几乎可媲美时间机器。基于对更优质 3D 图形永无止境的需求以及当下庞大的游戏市场,NVIDIA 已在这个虚拟现实、高性能计算和人工智能的交叉口,将 GPU 发展为计算机大脑。

为这个时代的达芬奇和爱因斯坦们提供超强计算性能。我们开创性地开发出一种超强计算形式,深受全世界对计算机有超高要求的用户的青睐,包括科学家、设计师、艺术家和游戏玩家。对于他们而言,我们的创造几乎可媲美时间机器。基于对更优质 3D 图形永无止境的需求以及当下庞大的游戏市场,NVIDIA 已在这个虚拟现实、高性能计算和人工智能的交叉口,将 GPU 发展为计算机大脑。收起

查看更多

相关推荐

电子产业图谱

与非网资深行业分析师。主要关注人工智能、智能消费电子等领域。电子科技领域专业媒体十余载,善于纵深洞悉行业趋势。欢迎交流~