• 正文
  • 相关推荐
申请入驻 产业图谱

Keysight Joachim Peerlings:赋能AI的未来

5小时前
92
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

首席前瞻:深度研判、技术溯源、格局分析、政策解读、趋势预判

娜姐观察:产业热点锐评、一线观察、应用解读光电焦点:每日新闻头条,传播行业具有重要影响的光电资讯光电有约:周二晚八点档(20:00-21:30)视频号直播,分享光通信产业趋势

ICC讯   当AI训练集群从千卡迈向万卡甚至十万卡,基础设施的瓶颈已不再是单一芯片的性能,而是如何让数万个加速器像一台计算机那样协同工作。在Keysight World大会上,是德科技网络与数据中心副总裁兼总经理Joachim Peerlings博士发表主题演讲,并接受了包括ICC讯石在内的多家媒体群访。他在演讲中提出了一个鲜明的判断:AI基础设施正在转变为一台分布式计算机。在随后的交流中,他进一步阐述了这一转变背后的核心挑战、技术路径以及是德科技在其中扮演的角色。

图一:是德科技网络与数据中心副总裁兼总经理Joachim Peerlings博士演讲现场照片

瓶颈在哪儿:GPU有超过一半时间在等待

Joachim Peerlings在演讲中展示了一组令人深思的数据。在计算机视觉模型训练中,GPU有超过60%的时间花费在数据移动和通信上,真正用于计算的时间仅占20%左右。与此同时,在资源最密集的大语言模型训练任务里,因网络问题导致的失败率高达21%。演讲PPT中的一个关键观点指出,每比特增加的每一皮焦能耗,都会被集群规模成倍放大,因此在扩展AI时,Scale-up、Scale-out和Scale-across三个维度的网络效率都至关重要。

在他看来,当前AI基础设施面临的首要瓶颈并非计算本身,而是网络和内存系统。训练任务需要最大化模型质量和规模效率,内存带宽和网络同步是主要限制;推理则更关注吞吐量、利用率和成本效率,内存容量、互连功耗和响应延迟成为关键。两种场景对基础设施的压力方向完全不同,但都指向同一个结论:网络和内存才是系统效率的命门。

从芯片到太空:AI基础设施的五个扩展域

Joachim Peerlings将AI基础设施的扩展归纳为五个维度:芯片级的Scale In,覆盖0.05到2厘米的片上网络和小芯片互连;机架级的Scale Up,涵盖XPU到XPU之间小于1米到30米的连接;数据中心级的Scale Out,实现2公里以内机架到机架的交换;区域级的Scale Across,支撑数据中心之间最长2000公里的互联;以及全球级的Scale Above,将AI触角延伸至5G、6G、非地面网络和边缘,距离超过2000公里。

他传递出一个清晰的思路:AI最终将是一个从晶圆到边缘的分布式系统,而是德科技的工作就是在每一个规模层级上提供验证。是德科技端到端的AI解决方案矩阵,正是在这个框架下铺开的,覆盖从预硅验证、晶圆、芯片、板卡、服务器、机架直到数据中心和边缘的全生命周期。

铜退光进?Scale Up的技术十字路口

在Scale Up领域,铜互连与光互连的路线之争备受关注。Joachim Peerlings指出,224G/通道的电气互连正在全面过渡,现有电互连生态尚可应对信号完整性的挑战,短距离铜缆仍然高效且易于维护。但向448G/通道和3.2T时代迈进时,情况将发生根本变化。更高的波特率会严重收紧通道预算,很可能需要共封装光学、更高阶调制和更强的纠错编码。他预计,448G/通道的部署至少要等到2027年底或2028年,在此之前,行业必须认真对待铜与光学的架构权衡,而非固守某一种技术路线。

他展示的光模块时间线印证了这一判断:800G可插拔光模块已进入规模部署,1.6T有望在2025年下半年上量,而CPO和NPO等共封装方案预计在2026年下半年起逐步走向成熟。Joachim Peerlings强调,可插拔方案在平均修复时间和运维便捷性上依然难以被超越,LPO和NPO将作为桥接架构发挥作用。当前面板密度和电互连距离无法满足需求时,CPO的吸引力会显著上升。“最终胜出的架构不取决于某一种技术理想,而是传输距离、功耗、维护模式和供应链成熟度的综合权衡。”

速度竞赛之下,测试如何卡位

当被问及从112G到224G再到448G的速率跃迁是否正在重塑测试测量市场格局时,Joachim Peerlings表示,这种演进确实对测试设备的带宽和信号完整性分析能力提出了极高要求。是德科技已在AI计算、互连、网络和电源四个领域完成布局,涵盖实时示波器、误码率测试仪、协议分析仪以及电源完整性工具等完整方案。

他解释,公司的能力矩阵横跨组件、模块和系统三个层次,纵贯软件仿真、物理层和协议层,覆盖研发、一致性测试和制造三个环节。在他看来,在系统层面做验证,是公司区别于许多单点测试方案的核心价值。这种全栈能力意味着,当客户在Scale Up或Scale Out上遇到瓶颈时,是德科技可以在同一平台下提供从信号质量到协议分析再到网络性能的综合评估。

不让GPU白等:光通信测试的价值重估

在万卡级集群中,光互连的任何故障都会直接导致昂贵的GPU陷入空闲。Joachim Peerlings给出的饼图直观地显示了这种浪费:训练时间中62%消耗在通信上。他认为,进入1.6T和未来3.2T时代后,端到端的光电协同测试已不再是可选项,而是提升集群有效算力、避免投资浪费的必要手段。

关于AI光模块和CPO测试与传统数据通信测试的区别,Joachim Peerlings指出,关键在于它必须和AI工作负载的特性深度结合,关注的不只是眼图和误码率,还有延迟、功耗以及协议层面的交互。是德科技的AI数据中心构建器和推理构建器等工具,正是为了模拟真实AI流量、验证网络在接近实际运行条件下的表现而设计的。

生态开放:互操作性是规模化基石

是德科技副总裁Joachim Peerlings用了相当长的篇幅阐述生态开放的重要性。“规模化是建立在互操作性之上的,”他说。他特别提到OCI、Open CXP和XPO等新兴多源协议组织。OCI由AMD、Broadcom、Meta、Microsoft、NVIDIAOpenAI等共同发起,为CPO和NPO定义低功耗光SerDes;XPO则聚集了包括Arista、Marvell、Coherent在内的超过34家企业,聚焦液冷可插拔光互连。

是德科技在这些生态中既扮演参与者,也承担独立验证者的角色。当越来越多的芯片厂商、光模块厂商和系统厂商推出各自方案时,产业需要一个中立的第三方在组件、模块和系统各个层级验证互操作性,帮助产业链确保不同厂商的技术能够无缝协同。对于芯片厂商自建测试能力的趋势,Peerlings回应说,这是竞合关系,系统越复杂,越难完全内化所有验证需求,独立测试厂商的系统级视角反而更有价值。

长周期增长:AI采用才刚刚开始

对于市场前景,Joachim Peerlings并未给出具体财务数字,但对AI算力市场的长期增长表达了明确乐观。他展示的AI采用路线图显示,2022年至2024年处于萌芽期,2025至2027年AI数据中心将进入扩展期,1.6T和PCIe 6开始落地,推理负载逐步上量;2027年后,3.2T和UCIe将推动推理大规模向分布式边缘延伸。

他认为,这不会是一个短期爆发然后快速消化的过程,而是一个持续十年以上的渐进式增长。AI采用率的中点可能要等到2030年代末甚至2040年代初才会到来。从训练密集型基础设施,到训练与推理混合,再到推理主导,每一个阶段的切换都会催生新的测试需求和市场机会。

-END-

相关推荐

登录即可解锁
  • 海量技术文章
  • 设计资源下载
  • 产业链客户资源
  • 写文章/发需求
立即登录

讯石光通讯网(www.iccsz.com)为讯石公司旗下关于光通信行业门户网站。作为一家以光通信企业为对象的专业化咨询服务机构,讯石自2001年成立以来,累积为海内外300多家光通信企业提供了行业市场预测、企业规划、产品决策、市场信息等系列前瞻性服务,现已成为国际化的光通信顾问咨询权威机构,并推出“会员服务模式”,给企业提供最新、最准确的市场信息和专项报告,以及市场推广。