• 正文
  • 推荐器件
  • 相关推荐
申请入驻 产业图谱

NVIDIA在Microsoft Azure上推出一项AI Foundry 服务

2023/11/16
501
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

SAP、Amdocs、Getty Images 率先使用 NVIDIA AI Foundation Models构建自定义 LLM、在 NVIDIA DGX 云上进行训练,并使用 NVIDIA AI Enterprise 软件进行部署

NVIDIA 于今日推出一项 AI foundry 服务,助力企业和初创公司在 Microsoft Azure 上开发、调优和部署其自定义生成式 AI 应用。

这项 NVIDIA AI foundry 服务整合了 NVIDIA AI Foundation Models、NVIDIA NeMo™ 框架和工具,以及 NVIDIA DGX™ 云 AI 超算服务三大要素,为企业提供创建自定义生成式 AI 模型的端到端解决方案,并且支持企业使用 NVIDIA AI Enterprise 软件部署其定制模型,以支持生成式 AI 应用,包括智能搜索、摘要和内容生成。

行业领导者 SAP SE、Amdocs 和 Getty Images 率先使用了这项服务来构建自定义模型。

NVIDIA 创始人兼首席执行官黄仁勋表示:“企业需要自定义模型来执行基于公司专有 DNA (即数据)训练的专业技能。NVIDIA 的 AI foundry 服务整合了我们的生成式 AI 模型技术、LLM 训练的专业知识和超大型 AI 工厂。我们在 Microsoft Azure 中构建这项服务,使全世界的企业都能够将他们的自定义模型与微软全球领先的云服务进行连接。”

微软公司董事长兼首席执行官 Satya Nadella 表示:“从芯片到软件,我们与 NVIDIA 的合作涵盖了 Copilot 堆栈的每一层,双方正在这个 AI 新时代共同创新。借助 NVIDIA 在 Microsoft Azure 上提供的生成式 AI foundry 服务,我们将为企业和初创公司提供新的功能,方便他们在云上构建和部署 AI 应用。”

行业领导者构建量身定制且响应及时的 LLM

NVIDIA 的 AI foundry 服务可用于为企业软件、电信、媒体等各个行业的生成式 AI 应用定制模型。在部署就绪后,企业就可以使用一种名为检索增强生成(RAG)的技术将其自定义模型与企业数据连接,从而获得新的洞察。

作为 Microsoft Azure 上 NVIDIA DGX 云的首家客户,SAP 计划使用该服务和经过优化的 RAG 工作流,以及在 Azure 上运行的 NVIDIA DGX 云和 NVIDIA AI Enterprise 软件,以帮助自定义和部署其全新的自然语言生成式 AI 智能副驾—— Joule®。

SAP SE 首席执行官兼执行董事会成员 Christian Klein 表示:“Joule 秉承了 SAP 融合业务和技术领域的独有定位,并建立在与之相关、可靠且负责的 Business AI 基础之上。通过与 NVIDIA 合作,Joule 可以通过自动执行耗时的任务并快速分析数据,来提供更智能和个性化的体验,帮助客户从而挖掘生成式 AI 在其业务中的潜力。”

Amdocs 是一家面向电信和媒体公司的领先软件与服务提供商,该公司正在为 Amdocs amAIz 框架优化模型,以加快全球电信公司采用生成式 AI 应用和服务的速度。

Amdocs 总裁兼首席执行官 Shuky Sheffer 表示:“生成式 AI 技术为服务提供商带来了一次绝佳的机会,可以重塑他们与客户互动的方式。在 NVIDIA 和微软技术的加持下,Amdocs amAlz 框架将更快地为客户带来由生成式 AI 驱动的新应用,并提供企业级的安全性、可靠性和性能,使其能够从生成式 AI 的巨大潜力中获益。”

用于自定义生成式 AI 的精选优化模型

使用 NVIDIA Foundry 服务的客户可从多个 NVIDIA AI Foundation 模型中进行选择,包括托管在 Azure AI 模型目录中的全新系列 NVIDIA Nemotron-3 8B 模型。开发者还可以访问 NVIDIA NGC™ 目录中的 Nemotron-3 8B 模型,以及专为 NVIDIA 加速计算优化的各种社区模型(如 Meta 的 Llama 2),这些社区模型也即将被添加到 Azure AI 模型目录中。

Nemotron-3 8B 系列经过 80 亿个参数优化,其包含针对不同用例进行调整的版本,并具有构建自定义企业生成式 AI 应用的多语言功能。

NVIDIA DGX 云现已在 Microsoft Azure Marketplace 上架

NVIDIA DGX 云 AI 超算服务已在 Azure Marketplace 上架。该服务提供客户可租用的实例,可扩展至数千颗 NVIDIA Tensor Core GPU,并附带包括 NeMo 在内的 NVIDIA AI Enterprise 软件以加速 LLM 的定制化。

Azure Marketplace 新上架的 DGX 云还支持 Azure 客户使用其现有的 Microsoft Azure 消费承诺额度,来兑换 NVIDIA AI 超算服务和软件,以加快其模型开发速度。

NVIDIA AI Enterprise 软件现已集成到 Azure 机器学习中,为其添加了 NVIDIA 安全、稳定且具支持性的 AI 和数据科学软件平台。 Azure 的企业级 AI 服务也添加了 NeMo 和 NVIDIA Triton 推理服务器™。

NVIDIA AI Enterprise 也已在 Azure Marketplace 上架,为全球企业提供了广泛的生产就绪型 AI 开发和自定义生成式 AI 应用部署的选择。

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
CGA6M3X7S2A475K200AB 1 TDK Corporation Ceramic Capacitor, Multilayer, Ceramic, 100V, 10% +Tol, 10% -Tol, X7S, 22% TC, 4.7uF, Surface Mount, 1210, CHIP, HALOGEN FREE, ROHS AND REACH COMPLIANT

ECAD模型

下载ECAD模型
$1.73 查看
RCNL25R0F00R5KTT 1 American Technical Ceramics Corp RC Network
$3.98 查看
V130LA10AP 1 Littelfuse Inc Varistor, 175V, 38J, Through Hole Mount, RADIAL LEADED, HALOGEN FREE AND ROHS COMPLIANT

ECAD模型

下载ECAD模型
$0.51 查看
英伟达

英伟达

NVIDIA(中国大陆译名:英伟达,港台译名:辉达),成立于1993年,是一家美国跨国科技公司,总部位于加利福尼亚州圣克拉拉市,由黄仁勋、克里斯·马拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同创立。公司早期专注于图形芯片设计业务,随着公司技术与业务发展,已成长为一家提供全栈计算的人工智能公司,致力于开发CPU、DPU、GPU和AI软件,为建筑工程、金融服务、科学研究、制造业、汽车等领域的计算解决方案提供支持。美国GPU及AI计算巨头,传感器技术应用于自动驾驶及机器人领域。

NVIDIA(中国大陆译名:英伟达,港台译名:辉达),成立于1993年,是一家美国跨国科技公司,总部位于加利福尼亚州圣克拉拉市,由黄仁勋、克里斯·马拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同创立。公司早期专注于图形芯片设计业务,随着公司技术与业务发展,已成长为一家提供全栈计算的人工智能公司,致力于开发CPU、DPU、GPU和AI软件,为建筑工程、金融服务、科学研究、制造业、汽车等领域的计算解决方案提供支持。美国GPU及AI计算巨头,传感器技术应用于自动驾驶及机器人领域。收起

查看更多

相关推荐