推理芯片

加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论
  • 数亿元Pre-A+ 融资:头部GPU与机器人公司一起投MRAM推理芯片团队
    寒序科技完成数亿元Pre-A+轮融资,引入头部国产GPU与机器人公司产业股东。公司源自北大应用磁学中心,聚焦MRAM推理处理器,面向端侧/边缘AI,提出权重驻留计算以降低存储搬运功耗延迟。已多颗验证芯片流片、测试并24小时稳定运行。产品规划FPGA先行、ASIC跟进,并拓展服务器与云服务。挑战在量产良率、成本、生态与端侧需求,未来1-2年为落地关键。
  • 5个月近20亿,国内稀疏计算“领头羊”墨芯又融资了
    墨芯近期完成近10亿元融资,距上一轮仅5个月,两轮累计近20亿元,资金投向稀疏推理芯片全栈升级、下一代预研与产学研联盟。在大模型推理成本上升背景下,墨芯以稀疏计算降低有效算力消耗,已部署多区域千卡集群并合作运营商;遥感模型实测吞吐最高2.88倍、压缩7.64倍。公司还将推出SP200与SECA软件栈,建设工具链、标准与生态,加速规模化商业化。
    297
    11/04 12:45
  • 五个月两轮近二十亿,推理芯片的账要怎么算
    11月3日,墨芯AI完成近10亿元C+轮融资,距C轮仅5个月,两轮合计近20亿元。东恒石油等能源资本入局,凸显算电协同;资金转向稀疏专用推理芯片全栈升级与下一代芯片预研,说明量产与下一代研发双线吃钱。墨芯押注稀疏计算提升能效,软件兼容是主战场,千卡集群、场景占位和标准联盟构筑壁垒,但核心风险仍是交付节奏、精度无损、TCO与盈亏平衡。
  • 墨芯完成近10亿元C+轮融资,稀疏计算商业化全面提速
    墨芯人工智能完成近10亿元C+轮融资,资金将用于稀疏专用推理芯片全栈升级、下一代芯片预研及稀疏计算产学研联盟建设。公司深耕算法-软件-硬件协同,在MLPerf开放分区连续夺冠,推理集群已在多区域落地,并参与海上算力Token工厂等标杆项目;政策与资本双重加持,将推出SP200板卡和SECA软件栈,加速稀疏计算产业化。
  • 成立4个月融超6亿!前海思鲲鹏总经理创业,押注端侧大算力推理芯片
    九万里未来科技成立四个月累计完成种子与天使轮超1亿美元,获红杉、联想创投等投资,核心在于创始人陈鹏的芯片量产闭环信用与端侧大算力推理赛道共识。文章认为产业链价值正向存储、先进封装、软件生态等瓶颈环节迁移,中国封测、终端与应用市场具备优势,但存储涨价、封装产能及落地节奏仍是不确定因素。
  • 英伟达花200亿美元买回来的推理芯片,一颗HBM都不用?
    英伟达宣布Groq 3 LPX进入量产,这款机柜采用了独特的架构,移除了传统的HBM,将权重直接放置在片上SRAM中,以提高解码过程中的带宽效率。尽管如此,整柜的SRAM容量仅为128GB,远低于传统GPU的内存容量。这种设计使得英伟达能够在高价值、低时延的关键路径上使用更昂贵的片上SRAM,而非传统的HBM。然而,这也带来了额外的成本和复杂性,例如需要更高的芯片间带宽和互联能力。此外,英伟达还面临如何在芯片设计、晶圆制造和设备封装等方面找到合适的解决方案,以满足未来的需求。
    英伟达花200亿美元买回来的推理芯片,一颗HBM都不用?
  • 这家国产推理芯片公司估值已达200亿!
    浙江曦望智能科技股份有限公司完成新一轮20亿元融资,投后估值约200亿元,仅半年内估值几乎翻倍。公司战略转向推理专用架构,放弃训练芯片,专注推理效率。投资方包括产业资本和国家队,显示出推理芯片市场的潜力。曦望的差异化在于大模型场景、明星架构阵容和LPDDR替代HBM的创新选择。尽管估值高涨,但还需通过量产良率、客单价和复购来验证其商业价值。
    1603
    09/01 16:12
  • AI落地,还差一口气
    AI芯片行业从“算力有多大”转向“算力用得好不好”,推理芯片成为新的竞争焦点。随着AI从实验室进入生产环境,评价标准转变为“工作结果”,芯片需求结构也随之改变,云端、视频、端侧等场景对不同类型的专用芯片提出了要求。同时,软件生态成为通往终点的关键路障,芯片的生态壁垒不仅涉及技术问题,还包括开发者习惯问题。国产AI芯片在性能和生态上都不构成当前瓶颈,竞争主阵地逐渐转移到软件层,强调产业协同的重要性。
    AI落地,还差一口气
  • 又一端侧AI推理芯片公司拿下近 5 亿融资
    AI产业竞争逻辑从云端向端侧转移,国内端侧AI推理芯片赛道迎来爆发窗口期。聆思科技完成近5亿元融资,获得国资与产业资本支持,致力于攻克大模型推理芯片技术难题,推动国产化替代进程。
  • 深度对比AI推理芯片企业:Groq、Cerebras、SambaNova、d-Matrix
    存算一体技术在AI推理领域成为新的战略重点,通过消除数据在处理单元与存储器之间的移动成本来提高数据吞吐量。本文介绍了四家AI推理芯片厂商——Groq、Cerebras、SambaNova与d-Matrix——在存储战略上的不同选择,并详细比较了它们的核心芯片架构、解决方案及其市场表现。其中,d-Matrix凭借低TCO、兼容标准服务器和灵活的“性能/容量”双模切换,在企业级推理市场最具竞争力;而Cerebras虽然在极致性能上领先,但其财务契约和工艺依赖使其实现大规模普及面临挑战。未来三年,行业需关注代工锁定、SRAM缩放停滞和算法演进带来的风险。
    深度对比AI推理芯片企业:Groq、Cerebras、SambaNova、d-Matrix
  • 寒武纪可能要爆了
    字节跳动推出的AI视频生成模型Seedance2.0正在全球引发热潮。 随着Seedance2.0的火爆,用户量和调用量急剧增长,AI视频生成正从实验阶段走向规模化应用,这种规模化应用意味着视频推理需求将呈现指数级增长。 推理侧需求井喷 与训练阶段不同,推理侧更强调芯片的能效比、延迟控制和成本优势。尤其是在大规模商业化部署中,企业对芯片的供货稳定性、国产合规性以及生态适配能力提出了更高要求。而当前
    寒武纪可能要爆了
  • 推理专用芯片,火了
    AI推理芯片成为规模化应用的关键,因其性能精准优化、能效比优势、成本效益显著和场景适配性灵活,满足不同应用场景需求。各大厂商纷纷推出创新产品,如LPU、SambaNova SN40L和谷歌TPU v6/v7,争夺市场份额。英伟达通过收购Groq,获得SRAM架构技术,降低成本并强化其在AI推理领域的领先地位。
    推理专用芯片,火了
  • 国产推理芯片,赢了英伟达?
    国产算力逐渐崛起,取代英伟达成为市场新宠。政府补贴高达80%,加上技术迭代和市场需求,推动国产算力商业化进程加快。推理场景成为国产算力的主要突破口,其性价比高于英伟达。随着应用场景成熟,国产芯片需求增加,进入卖方市场。超节点产品兴起,助力国产芯片在系统整体效率和规模化部署上超越英伟达。
    1799
    2025/11/20
    国产推理芯片,赢了英伟达?
  • 国产AI训练与推理芯片破局之战
    在全球人工智能军备竞赛的至暗时刻,一颗芯片的重量,足以压垮一个国家的智能未来。 当OpenAI用ChatGPT惊艳世界,当硅谷巨头们为争夺下一万张H100显卡而豪掷千金,一个冰冷的事实摆在我们面前:没有算力,所有关于大模型的豪言壮语都是空中楼阁。而算力的心脏——高端AI训练与推理芯片,正成为大国博弈中最关键的战略物资。 在这场没有硝烟的战争中,中国的科技产业正上演一场惊心动魄的破局之战。国产AI云
  • 国产AI推理芯片的双重博弈:围攻4090,谁能卡位成功?
    AI推理市场面临未来格局的不确定性和竞争压力,国产芯片公司正努力通过极致性价比超越英伟达4090,尤其是在信创、交通、能源、通信、消费等领域。尽管泛安防市场趋于饱和,但边缘和端侧市场仍有增长空间,特别是AI玩具、AI眼镜、AI戒指等新兴应用带来的端侧需求。国产芯片公司需抓住机遇,通过优化软件和硬件,提高性价比,争取在未来格局中的有利位置。
    国产AI推理芯片的双重博弈:围攻4090,谁能卡位成功?
  • 什么是真正好用的推理模型?阶跃Step 3:开源的,多模态的,低成本的,国产芯片适配的
    推理模型和具身智能,绝对是今年WAIC上最抢眼的存在。一个抢占了现阶段AI发展的话语权,一个是外界给予重望的“下一件有形之物”——尤其是推理模型这条线,逛展刚第二天,我的脑子已经有点“轰炸过载”了。
    什么是真正好用的推理模型?阶跃Step 3:开源的,多模态的,低成本的,国产芯片适配的
  • AI推理时代来临,云天励飞携“算力积木”架构破解国产化难题
    近日,云天励飞召开了主题为“智能芯生·推理未来”的媒体沟通会,正式宣布未来将全面聚焦人工智能(AI)推理芯片,并将围绕边缘计算、云端大模型推理、具身智能三大核心布局,打造国产AI推理“加速器”。
    AI推理时代来临,云天励飞携“算力积木”架构破解国产化难题
  • 英伟达依然坚挺
    DeepSeek并不是英伟达的竞争者,反而是大客户。但它的横空出世像一颗光芒耀眼的信号弹:是时候跟英伟达算算总账了。在英伟达身上栽过跟头的投资机构迅速团结起来,共同酝酿了一场价值5890亿美元的“1·27惨案”。
    英伟达依然坚挺
  • Groq芯片的创新意义
    前一阵子,Groq芯片刷屏了,据说Groq芯片计算速度远远超过英伟达GPU,经网友测试,Groq每秒生成速度接近500 tok/s,碾压GPT-4的40 tok/s。Groq是一家成立于2016年的AI创企,据其官网介绍,LPU是一种专为AI推理所设计的芯片。LPU的工作原理与GPU截然不同。它采用了时序指令集计算机(Temporal Instruction Set Computer)架构,这意味着它无需像使用高带宽存储器(HBM)的GPU那样频繁地从内存中加载数据。
    Groq芯片的创新意义
  • AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
    2月20日消息,美国人工智能初创公司Groq最新推出的面向云端大模型的推理芯片引发了业内的广泛关注。其最具特色之处在于,采用了全新的Tensor Streaming Architecture (TSA) 架构,以及拥有超高带宽的SRAM,从而使得其对于大模型的推理速度提高了10倍以上,甚至超越了英伟达的GPU。
    845
    2024/02/21
    AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?

正在努力加载...