AI推理_AI推理是什么意思

类型

新鲜热门

电路方案

人工智能深度学习
 LPC55S69移植TinyMaix实验了一把手写数字识别-轻量级深度学习模型应用

流水源

2024/05/20

1543

文章

对话华为樊杰：AI落地浪潮下的存力革新
华为推出端到端存储解决方案，助力AI行业模型落地，解决数据汇集、训练和推理阶段的瓶颈，通过高性能存储和AI SSD优化算力利用率，提高推理速度并降低应用门槛。

通信世界网

617

11/13 16:05

端到端 AI推理
Altera CEO任后首次访华：独立的FPGA，是AI时代最灵活的“答案”
Altera的独立启航，正为全球半导体产业生态带来深远的变局。这不仅是一家公司的战略转型，更是塑造未来算力格局的重要力量。

张慧娟

1313

11/10 13:38

FPGA 与非观察
基于PCIe 6的下一代推理服务器扩展技术
本文探讨了 PCIe Gen6 在下一代 AI 推理服务器扩展中的应用，重点介绍了其技术背景、核心方案、性能优势及实践建议。文章指出，AI 推理服务器扩展面临三大挑战：推理计算需求激增、信号传输限制和内存需求。PCIe Gen6 和 CXL 3.x 是解决这些问题的关键技术，前者提供高带宽和低延迟，后者则通过内存池化和共享解决了内存瓶颈。此外，文章还介绍了重定时器、Gearbox 和 PCIe 交换机等关键技术组件如何突破扩展限制，并展示了性能验证结果。最后，提出了一种“目的导向型机架级 AI 互联”的设计方案，适用于不同规模的推理集群。

智能计算芯世界

541

11/09 10:25

AI推理 PCIe 6.0
10倍带宽突破、市值暴涨200亿美元，高通能否「分食」千亿级AI推理市场？
高通推出AI推理芯片，迎战英伟达，股价大涨22%，市值单日增加近200亿美元。尽管高通主打低TCO概念，但在实际场景中的竞争力还需验证。高通与沙特AI公司HUMAIN合作，计划部署大量AI200、AI250机架解决方案。高通的AI推理芯片支持更大显存容量和更高内存架构，有助于提高AI推理工作负载效能。高通在软件生态建设上也有所发力，为产品落地铺路。

雷锋网

404

11/03 10:07

AI推理
英特尔18A高能量产在即，凭什么重构AI下半场芯片逻辑？（上篇）
18A作为英特尔技术翻身仗的基石，在性能、功耗和密度上都实现了显著提升，并且正被高效地转化为可量产、有竞争力的产品。

张慧娟

2181

10/12 08:52

与非观察先进封装

热门作者换一换