AI推理

• 对话华为樊杰：AI落地浪潮下的存力革新

  华为推出端到端存储解决方案，助力AI行业模型落地，解决数据汇集、训练和推理阶段的瓶颈，通过高性能存储和AI SSD优化算力利用率，提高推理速度并降低应用门槛。

  通信世界网

  616

  11/13 16:05

  端到端 AI推理

  
• Altera CEO任后首次访华：独立的FPGA，是AI时代最灵活的“答案”

  Altera的独立启航，正为全球半导体产业生态带来深远的变局。这不仅是一家公司的战略转型，更是塑造未来算力格局的重要力量。

  张慧娟

  1311

  11/10 13:38

  FPGA 与非观察
• 基于PCIe 6的下一代推理服务器扩展技术

  本文探讨了 PCIe Gen6 在下一代 AI 推理服务器扩展中的应用，重点介绍了其技术背景、核心方案、性能优势及实践建议。文章指出，AI 推理服务器扩展面临三大挑战：推理计算需求激增、信号传输限制和内存需求。PCIe Gen6 和 CXL 3.x 是解决这些问题的关键技术，前者提供高带宽和低延迟，后者则通过内存池化和共享解决了内存瓶颈。此外，文章还介绍了重定时器、Gearbox 和 PCIe 交换机等关键技术组件如何突破扩展限制，并展示了性能验证结果。最后，提出了一种“目的导向型机架级 AI 互联”的设计方案，适用于不同规模的推理集群。

  智能计算芯世界

  560

  11/09 10:25

  AI推理 PCIe 6.0

  
• 10倍带宽突破、市值暴涨200亿美元，高通能否「分食」千亿级AI推理市场？

  高通推出AI推理芯片，迎战英伟达，股价大涨22%，市值单日增加近200亿美元。尽管高通主打低TCO概念，但在实际场景中的竞争力还需验证。高通与沙特AI公司HUMAIN合作，计划部署大量AI200、AI250机架解决方案。高通的AI推理芯片支持更大显存容量和更高内存架构，有助于提高AI推理工作负载效能。高通在软件生态建设上也有所发力，为产品落地铺路。

  雷锋网

  403

  11/03 10:07

  AI推理

  
• 英特尔18A高能量产在即，凭什么重构AI下半场芯片逻辑？（上篇）

  18A作为英特尔技术翻身仗的基石，在性能、功耗和密度上都实现了显著提升，并且正被高效地转化为可量产、有竞争力的产品。

  张慧娟

  2177

  10/12 08:52

  与非观察 先进封装
• 研报 | AI推理催化大容量储存产品结构性改变，Nearline SSD需求急升

  TrendForce集邦咨询预测，未来两年AI基础设施建设重点将转向高效推理服务，导致传统HDD供不应求，促使NAND Flash供应商推出专为Inference AI设计的Nearline SSD。QLC技术因其低本高容特性，成为解决大容量需求的关键。预计至2026年，Enterprise SSD供应紧张，而NAND Flash应用多元化趋势明显，除Inference AI外，还涉及AI Training。两大阵营分别采用HBM与SCM技术，竞争激烈，推动NAND Flash应用向更深层次AI运算整合迈进。

  TrendForce集邦咨询

  775

  09/23 14:24

  SSD AI推理

  
• 甲骨文大涨，算力疯狂

  甲骨文市值飙升2510亿美元，登顶全球首富，主要得益于巨额订单和云业务预期的暴增。甲骨文深度绑定AI算力服务赛道，与英伟达和AMD形成双供应商战略，计划采购大量GPU和AI芯片。然而，GPU和ASIC的供应瓶颈加剧，引发市场担忧。甲骨文和博通作为“AI时代的卖铲人”，股价大幅上涨，但也面临客户集中度风险和利润低等问题。

  半导体产业纵横

  1658

  09/15 10:45

  AI算力 AI推理

  
• 国产AI推理芯片的双重博弈：围攻4090，谁能卡位成功？

  AI推理市场面临未来格局的不确定性和竞争压力，国产芯片公司正努力通过极致性价比超越英伟达4090，尤其是在信创、交通、能源、通信、消费等领域。尽管泛安防市场趋于饱和，但边缘和端侧市场仍有增长空间，特别是AI玩具、AI眼镜、AI戒指等新兴应用带来的端侧需求。国产芯片公司需抓住机遇，通过优化软件和硬件，提高性价比，争取在未来格局中的有利位置。

  雷锋网

  921

  09/05 09:27

  AI芯片 AI应用

  
• 什么是真正好用的推理模型？阶跃Step 3：开源的，多模态的，低成本的，国产芯片适配的

  推理模型和具身智能，绝对是今年WAIC上最抢眼的存在。一个抢占了现阶段AI发展的话语权，一个是外界给予重望的“下一件有形之物”——尤其是推理模型这条线，逛展刚第二天，我的脑子已经有点“轰炸过载”了。

  量子位

  534

  07/30 10:15

  AI推理 推理芯片

  
• AI推理时代来临，云天励飞携“算力积木”架构破解国产化难题

  近日，云天励飞召开了主题为“智能芯生·推理未来”的媒体沟通会，正式宣布未来将全面聚焦人工智能（AI）推理芯片，并将围绕边缘计算、云端大模型推理、具身智能三大核心布局，打造国产AI推理“加速器”。

  芯智讯

  786

  07/30 09:30

  AI推理 云天励飞

  
• 上海GPU云服务商冲刺港交所！猛吃DeepSeek红利，创始人曾打造PPTV

  AI推理工作负载越来越具有低时延和高并发要求的特点。曾经非常适合大规模AI训练的集中式云端架构，现时已不再适合满足现代推理的需求

  智东西

  698

  06/23 12:43

  GPU 云计算

  
• 【一文看懂】什么是视觉推理？

  上周，OpenAI发布了新款AI模型o3和o4-min。OpenAI官方称，o3和o4-mini是首批能够“图像思维”的AI模型：“这是我们首次推出能够独立使用全部ChatGPT工具的推理模型——包括网页浏览、Python编程、图像理解和图像生成能力。这使得它们在解决复杂的多步骤问题时更加高效，并朝着自主执行任务的方向迈出了真正一步。”

  超算百科

  2545

  04/23 10:50

  AI推理 视觉推理

  
• 从生成式到推理模型：AI应用的未来演进与商业机会

  人工智能技术正在重塑产业格局，大模型作为核心技术引擎，从成本优化到商业模式革新，从智能设备爆发到超级应用雏形初现，已逐步渗透至多个场景。本次爱分析邀请网易数智副总经理、网易云信总经理段毓铮与网易云信音视频技术负责人、流媒体首席架构师吴桐在线对谈，深度交流AI技术在企业级场景的实战经验与未来趋势，为泛IT从业者提供前沿洞察与创新启示。

  爱分析ifenxi

  347

  03/27 10:20

  生成式AI AI应用

  
• Oracle 与 NVIDIA 合作助力企业加速代理式 AI 推理

  Oracle 和 NVIDIA 宣布，NVIDIA 加速计算和推理软件与 Oracle 的 AI 基础设施以及生成式 AI 服务首次实现集成，以帮助全球企业组织加速创建代理式 AI 应用。 此次 Oracle Cloud Infrastructure (OCI) 与 NVIDIA AI Enterprise 软件平台之间的集成，将使 160 多个 AI 工具和 100 多个 NVIDIA NIM™

  与非网编辑

  742

  03/19 10:45

  NVIDIA AI推理

  
• Sequential Thinking MCP 与推理型大模型的功能实现差异分析

  来自用户的提问：sequential thinking MCP 和具有推理能力大模型比如 deepseek r1，cluade 3.7 think 在功能实现上有啥区别。

  二师兄说AI

  4672

  03/18 09:00

  大模型 AI推理

  
• 研报 | 2025年AI服务器出货成长仍有变量，DeepSeek效应将提升AI推理占比

  根据TrendForce集邦咨询最新研究，2024年全球AI服务器（Server）出货量受惠于CSP、OEM的强劲需求，年增幅度为46%。国际形势、DeepSeek效应、英伟达GB200/GB300 Rack供应链整备进度等将成为影响2025年AI Server出货量的变量，TrendForce集邦咨询据此提出三种情境预估。

  TrendForce集邦咨询

  1297

  02/13 12:40

  DeepSeek AI服务器

  
• AI推理内存革命：突破瓶颈，CPU性能飞跃

  AI推理、高性能计算和实时分析等行业，通常需要运行大量的工作负载，内存带宽如果跟不上处理器的提升速度，往往可能会导致计算瓶颈，影响工作负载执行的效率和效果，这就需要对内存技术进行革新。

  张慧娟

  3055

  2024/12/05

  与非观察 CPU
• 夺回数据中心主导权，英特尔新一代CPU“跨越式”升级

  英特尔正式发布至强6性能核处理器（代号Granite Rapids），旨在针对AI、数据分析、科学计算等计算密集型业务提供更佳性能。

  张慧娟

  1670

  2024/09/30

  与非观察 CPU
• 英伟达颠覆传统：NVIDIA NIM正推动企业及开发者部署AI新革命

  对于英伟达来说，卖GPU从来不只是卖GPU，其更大的商业愿景在于让AI的蛋糕更大，让它更易用，更便于规模化，这样一来，销售GPU也好，AI软件服务也好，都是水到渠成，形成完美商业闭环。

  张慧娟

  1664

  2024/09/10

  与非观察 GPU
• 边缘AI推理趋势下，GDDR7内存有望胜出？

  边缘计算在低延迟、高带宽、隐私保护等方面展现出较强优势，使得大模型在边缘端的推理逐渐成为可能，也进一步推动了AI推理向边缘下沉的趋势，以降低对云端计算的依赖、提高系统的响应速度。

  张慧娟

  1455

  2024/07/24

  与非观察 内存

正在努力加载...