致力于构建 AI 原生设计移动网络的软件公司 Mavenir 宣布与全球领先的开源解决方案提供商 Red Hat 展开合作,利用 Red Hat AI 技术,提供对话式 AI 和智能体 AI 服务保障解决方案。 这些运营商级生成式 AI (gen AI) 产品由本地部署的 Red Hat OpenShift AI 赋能,为电信服务提供商打造高度可扩展、聚焦安全、具备弹性且成本优化的网络运营基础。
此次合作聚焦于为服务供应商提供 AI 解决方案,从而变革电信行业。这些方案既能充分利用其现有平台投资,又能提供对实时网络运营至关重要的额外安全性、弹性及低延迟特性。
通过这一举措,Mavenir 为电信行业提供了量身定制的 AI 解决方案。这些解决方案专为实现更高的成本效益和更强的安全性而设计,相比托管式服务型 AI 解决方案更具优势。
Mavenir 执行副总裁兼 IMS 及 RAN 总经理 Sachin Karkala 表示:“在 AI 变现并向自治网络演进的过程中,服务提供商需要掌控用户体验、成本及数据隐私。 我们与 Red Hat 的合作使我们能够开发出实现这一目标的本地部署 AI 解决方案。 生成式 AI 模型可通过服务提供商的数据进行微调,从而构建专用的本地化智能体,助力实现最佳性能。”
借助对话式 AI,该行业正沿着价值链向上攀升——从单纯提供实体间的连接,发展到由 AI 智能体接管关键控制权,根据沟通内容与意图采取行动。
智能体服务保障是当今仅依赖机器学习模型的服务保障解决方案的一次重大演进。 智能体系统拥有更广阔的视角,能够创建工作流程,并在网络不同域和不同数据源之间推动决策制定。 它们可自适应和自我学习,最终能够在问题影响客户之前检测并纠正问题。
作为迈向部署就绪的一步,Mavenir 和 Red Hat 与 Dell Technologies 开放式电信生态系统实验室 (OTEL) 进行了合作。该实验室拥有基于 Dell PowerEdge R760xa 的先进 AI 基础设施——这是一种高性能的风冷服务器,专为包括 AI、机器学习和深度学习训练及推理在内的广泛应用而设计。 Dell OTEL AI 专家携手 Mavenir 和 Red Hat 的工程团队,对大语言模型进行微调,并力求让解决方案能更充分地发挥底层基础设施的性能。
通过使用 Red Hat OpenShift AI 在本地部署这些解决方案,服务提供商可优化其 GPU 资源的效率,完全掌控安全和治理要求,并能更轻松地管理复杂的 AI 生命周期。
Red Hat 全球电信合作伙伴生态系统副总裁 Honoré LaBourdette 评论道:“要使企业 AI 从概念验证走向生产,需要一个经过验证的基础,该基础必须具备防护措施、可观测性和强大的生命周期管理等强制性组件。 Red Hat OpenShift AI 提供了这一必要基础。 与 Mavenir 一起,我们通过 Kueue 和动态加速器切片器 (DAS) 等工具展示了具有成本效益的 GPU 效率,这些工具用于多租户资源共享,有助于优化高价值硬件投资的使用率。 这与使用 vLLM 的低延迟模型服务相结合,有助于确保 AI 语音翻译等实时应用能够实现市场所需的稳定性能,从而证明本地部署模式的切实价值。 这是我们与 Mavenir 利用 Red Hat AI 技术的一系列联合举措中的首次公告。”
148