• 正文
  • 相关推荐
申请入驻 产业图谱

Zero Latency部署红帽和NVIDIA AI工厂,构建分布式Neocloud网络

05/25 15:58
185
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

全球领先的企业级开源解决方案提供商红帽近日宣布,分布式AI推理网络Zero Latency(0.lat)已采用红帽和NVIDIA AI工厂(Red Hat AI Factory with NVIDIA),作为其全美网络的企业级Kubernetes基础平台。基于红帽和NVIDIA AI工厂,Zero Latency的“neocloud”解决方案能够将其去中心化边缘数据中心的AI推理能力进行聚合、联网并调度至工业中心。其名为Zerogrid的网络由基于NVIDIA Blackwell GPU的可扩展低时延节点驱动。

随着AI从研究实验室走向实际应用,时延、数据引力以及突发高负载带来的系统瓶颈仍然是主要障碍,尤其对于工业自动化或实时交易等对时间敏感的任务而言。实际应用通常需要毫秒级处理才能满足安全需求,而集中式云架构难以满足这一要求。Zero Latency通过分布式的边缘数据中心网络,在更接近数据源头的位置提供标准化、高性能的环境,帮助应对这一时延瓶颈。

Zero Latency的分布式推理网络以红帽AI Enterprise为推理主干,聚焦三大核心支柱:

  • 全球可扩展性:通过在数百个边缘站点实现AI工作负载的标准化,减少站点特定复杂性,实现一键部署和统一管理。
  • 按需高性能计算:通过按需提供的NVIDIA Blackwell GPU,降低专用硬件的获取门槛,使企业无需承担私有推理基础设施的高昂资本支出即可实现扩展。
  • 企业级弹性:依托红帽OpenShift AI(红帽AI Enterprise组件)久经考验的安全能力和稳定性,提供专为满足严苛的工业IT标准和安全协议而设计的可信容器化环境。

红帽AI Enterprise和红帽Kubernetes高级集群管理为Zero Latency的分布式网络提供了企业级容器化底座。这一组合使Zero Latency能够通过单个一致的工作流管理跨多个地点的GPU资源。该平台基于Intel Xeon处理器和NVIDIA Blackwell GPU运行,为密集型AI推理提供了所需的高性能架构。

此次合作标志着neocloud发展的重要一步,neocloud将为下一代AI初创公司提供专业的GPU服务。Zero Latency目前已在首批数据中心投入运营,并计划将覆盖范围扩展至全球数百个地点。

支持证言

红帽AI业务部门副总裁兼总经理Joe Fernandes

“Zero Latency正在改变AI算力触达边缘的方式。通过使用红帽AI Enterprise管理分布式基础设施,Zero Latency展示了混合云技术如何在不依赖大量资源投入的情况下实现规模化创新。我们正与Zero Latency合作,共同定义低时延AI应用的未来架构。”

Zero Latency联合创始人Michael Huerta

“多年来我们一直相信,对于那些最需要算力的工作负载,去中心化的基础设施胜过集中式的基础设施。我们已经在电力市场验证了这一模式。AI推理则是它下一个应当发挥作用的领域:面对机器驱动且受约束限制,集中式云难以满足其需求。红帽AI Enterprise为我们提供了容器化底座,让这一架构能够服务于从工厂车间到城市街道的企业客户。”

相关推荐