加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

Cloud AI Server需求强劲,促NVIDIA FY2Q24数据中心业务占比首次突破76%

2023/08/25
4864
阅读需 6 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

据NVIDIA最新财报数据(FY2Q24)显示,其数据中心业务达103.2亿美元,季成长率141%,年成长率更高达171%,且NVIDIA看好后续成长力道。TrendForce集邦咨询认为,主要NVIDIA高营收成长动力来自于其数据中心AI服务器相关解决方案业务,主力产品包含AI加速芯片GPU、AI服务器参考架构HGX等,作为大型数据中心的AI 基础设施。

同时,TrendForce集邦咨询预期,NVIDIA将进一步整合其软硬件资源,并更细致地将其高端及中低端GPU AI加速芯片,与各ODM或OEM绑定合作软硬件系统认证模式。除了加速在CSP云端AI服务器基础设施布建之外,也和VMware等合作Private AI Foundation等方案,将其触角延伸至边缘Enterprises AI服务器市场,以支撑其今、明两年数据中心业务稳定成长。

Cloud AI强劲需求驱动,NVIDIA数据中心业务占比超越76%

NVIDIA近年积极布局数据中心业务,FY4Q22当时数据中心业务营收约占42.7%,尚落后于Gaming业务营收约2个百分点,于FY1Q23后正式超越Gaming业务营收,占比逾45%。自2023年起,各大CSP大举投入ChatBOT及公有云各种AI服务基础设施后,NVIDIA更直接受惠,FY2Q24数据中心业务营收占比一举突破76%。 NVIDIA将分攻Cloud及Edge Data Center AI应用市场 TrendForce集邦咨询观察,预估NVIDIA在高端GPU产品销售策略上,将于2023下半年后有所转变,原高端AI服务器以搭载A100及H100为主,在市场需求大好的预期下,将改主攻售价更高的H100,才能有效刺激数据中心相关业务营收向上。

中端GPU方面,以近期主推的L40s为主打方案,其中有几个主要策略意义。首先,高端H100系列受限于目前CoWoS、HBM等产能瓶颈,而L40s则主要搭配GDDR存储器,因不须CoWoS封装,可加速导入中端AI服务器市场,补足原A100 PCIe接口对Enterprises客户需求缺口。

其次,L40s也同时主攻如Enterprises客户,不需使用如ChatGPT数量庞大的参数模型,而是主攻较小型化(约数十billion~百billion参数量以下)各专业领域的AI Training应用,亦或针对边缘AI Inference或影像分析等使用。最后,低阶GPU系列,则以L4或T4系列为主打,主打边缘AI服务器实时AI推论或影像分析使用,并更强调较低价,其高C/P值的产品特性。

HGX及MGX等AI服务器参考架构将是NVIDIA下半年后主攻AI方案的利器

TrendForce集邦咨询观察,近期NVIDIA除针对其核心AI芯片GPU进行更细致化的产品定位外,也积极主推其HGX及MGX等方案,而这并不是服务器产业链首见做法,但NVIDIA有机会在此策略上稳固领先利基。主要是NVIDIA藉由高度整合其GPU加上CUDA建立完整AI生态系下处绝对领先位置,故对既有的服务器供应链有较强议价能力,藉此要求ODM如Inventec、Quanta、FII、Wistron、Wiwynn等,或品牌业者如Dell、Supermicro、Gigabyte等,依据NVIDIA的HGX或MGX参考设计,且需经过NVIDIA于该AI 服务器参考架构的软硬件认证过程。NVIDIA藉此可整合兜售其Arm CPU Grace及NPU或AI Cloud Foundation等软硬件解决方案。

值得注意的是,对ODM或OEM而言,由于预期NVIDIA于2023~2024年在云端服务业者的AI服务器主力市场将大有斩获,有利于拉抬整体AI服务器出货量及营收成长,但随着NVIDIA策略性导入HGX或MGX等标准化AI服务器架构,也使未来ODM等业者将因AI server核心产品架构较趋于同质化而使彼此争取CSPs等订单之竞争态势更趋于白热化。此外,观察大型CSPs如Google、AWS未来有扩大导入自研ASIC AI加速芯片趋势,亦可能侵蚀部分NVIDIA GPU市场,估此亦为NVIDIA持续推展不同定位GPU产品及整体方案,欲进一步将AI业务积极拓展至Tier-2数据中心如CoreWeave等及边缘Enterprises客户的主因之一。

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
BSS138-G 1 WEITRON INTERNATIONAL CO., LTD. Transistor
$3.27 查看
IHLP2525CZER1R0M01 1 Vishay Intertechnologies General Fixed Inductor, 1 ELEMENT, 1 uH, COMPOSITE-CORE, GENERAL PURPOSE INDUCTOR, SMD, CHIP, 2525, GREEN

ECAD模型

下载ECAD模型
$1.15 查看
46014-0404 1 Molex Board Connector, 4 Contact(s), 1 Row(s), Male, Straight, Solder Terminal,

ECAD模型

下载ECAD模型
$0.99 查看
英伟达

英伟达

为这个时代的达芬奇和爱因斯坦们提供超强计算性能。我们开创性地开发出一种超强计算形式,深受全世界对计算机有超高要求的用户的青睐,包括科学家、设计师、艺术家和游戏玩家。对于他们而言,我们的创造几乎可媲美时间机器。基于对更优质 3D 图形永无止境的需求以及当下庞大的游戏市场,NVIDIA 已在这个虚拟现实、高性能计算和人工智能的交叉口,将 GPU 发展为计算机大脑。

为这个时代的达芬奇和爱因斯坦们提供超强计算性能。我们开创性地开发出一种超强计算形式,深受全世界对计算机有超高要求的用户的青睐,包括科学家、设计师、艺术家和游戏玩家。对于他们而言,我们的创造几乎可媲美时间机器。基于对更优质 3D 图形永无止境的需求以及当下庞大的游戏市场,NVIDIA 已在这个虚拟现实、高性能计算和人工智能的交叉口,将 GPU 发展为计算机大脑。收起

查看更多

相关推荐

电子产业图谱