AI推理

加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

电路方案

查看更多
  • LPDDR逆袭:AI推理芯片为何集体“换芯”?
    LPDDR正在数据中心、端侧AI、桌面AI等领域迅速普及,因其成本低、容量大、功耗低等特点受到青睐。高通、英特尔、英伟达等厂商纷纷采用LPDDR作为推理芯片的内存方案,推动LPDDR需求急剧增长。随着LPDDR6的发展,单颗芯片容量有望达到512GB,性能大幅提升,进一步满足AI推理对大容量和低功耗的需求。
    LPDDR逆袭:AI推理芯片为何集体“换芯”?
  • 深度对比AI推理芯片企业:Groq、Cerebras、SambaNova、d-Matrix
    存算一体技术在AI推理领域成为新的战略重点,通过消除数据在处理单元与存储器之间的移动成本来提高数据吞吐量。本文介绍了四家AI推理芯片厂商——Groq、Cerebras、SambaNova与d-Matrix——在存储战略上的不同选择,并详细比较了它们的核心芯片架构、解决方案及其市场表现。其中,d-Matrix凭借低TCO、兼容标准服务器和灵活的“性能/容量”双模切换,在企业级推理市场最具竞争力;而Cerebras虽然在极致性能上领先,但其财务契约和工艺依赖使其实现大规模普及面临挑战。未来三年,行业需关注代工锁定、SRAM缩放停滞和算法演进带来的风险。
    深度对比AI推理芯片企业:Groq、Cerebras、SambaNova、d-Matrix
  • 为什么边缘计算终于有了它的杀手级应用?
    边缘计算近年来经历了从理论探讨到实际应用的转变,尤其是在AI推理领域的突破。随着生成式AI的兴起,边缘计算的需求显著增加,特别是对于实时性和低延迟的需求。AI推理被视为边缘计算的“杀手级应用”,促使计算能力从集中式云向分布式边缘迁移。然而,AI推理带来的高能耗挑战使得传统数据中心设计面临重构,液冷技术和现场发电成为必要选择。预计到2028-2029年,AI推理将广泛应用于AR眼镜、机器人等领域,推动边缘基础设施的快速发展。此外,电力供应、人才短缺和高质量数据体系将是未来竞争的关键因素。
    557
    05/25 19:07
  • 研报 | 北美CSP大举购置英伟达 GB/Rubin整柜式方案,2026年AI推理算力将跃升1.2倍
    TrendForce集邦咨询预测,2026年AI训练机种将在AI Server出货中占据约55%的比例,而AI推理机种将成为市场主力。北美五大CSP计划增加对整柜式AI Server的采购,预计AI训练算力增长56%,AI推理算力增长122%。NVIDIA、AMD及CSP自研ASIC平台同步放量,导致五大CSP Server功耗年增116%。北美五大CSP的资本支出预计达到7,700亿美元,年增87%。
    研报 | 北美CSP大举购置英伟达 GB/Rubin整柜式方案,2026年AI推理算力将跃升1.2倍
  • 快Token生意浮出水面:Cerebras上市,华尔街重新给AI硬件定价
    Cerebras上市首日市值飙升至800亿美元以上,主要得益于其晶圆级AI芯片技术和与OpenAI的合作。尽管面临SRAM容量、片外I/O和系统成本等工程约束,Cerebras凭借其独特的晶圆级架构,在AI推理市场获得了高估值。然而,市场对其未来的可持续性和交付风险持谨慎态度,特别是与OpenAI的关系及其潜在影响。
    627
    05/18 17:22